Egy AI bug miatt adathalászat áldozatává váltak egy népszerű üzenetküldő alkalmazás felhasználói
A Slack üzenetküldő szolgáltatás belső működési hibája, pontosabban egy AI bug, következtében adathalászok férkőzhettek az alkalmazás rendszerébe. A gyanútlan felhasználók ebből mit sem sejtve talán önkéntesen adták át személyes adataikat a csalóknak.
A Slack Technologies, a Salesforce leányvállalata, nemrégiben orvosolt egy hibát a Slack AI-ban, amely lehetővé tette a támadók számára, hogy adatokat lopjanak a privát csatornákról vagy másodlagos adathalászatot végezzenek a platformon belül a nagy nyelvi modell (LLM) manipulálásán keresztül, amelyen alapul.
Az adatlopás lehet az AI innovációk veszte?
A PromptArmor biztonsági cég kutatói egy súlyos hibát fedeztek fel a népszerű üzenetküldő platform AI-alapú funkciójában. Az eszköz lehetővé teszi a felhasználók számára, hogy természetes nyelven kérdezzenek le Slack üzeneteket – a hibát feltáró blogbejegyzés szerint a probléma azért áll fenn, mert az LLM nem ismeri fel, ha egy utasítás esetlegesen rosszindulatú és legitimnek tekinti azt.
A kutatók két olyan forgatókönyvet írtak le, amelyben ezt a problémát az adathalászok kihasználhatják – az egyikben egy Slack fiókkal rendelkező támadó képes lehet ellopni bármilyen adatot vagy fájlt az adott interfészen lévő privát Slack csatornákról, míg a másikban maguktól a felhasználóktól próbálhatják még kicsalni az adataikat az alkalmazáson belül.
Mivel a Slack-et a különféle vállalatok és szervezetek előszeretettel használják az együttműködések lebonyolítása során, így gyakran osztanak meg olyan üzeneteket és fájlokat, amelyek bizalmas üzleti adatokat és információkat tartalmaznak – ezért ez a hiba jelentős kockázattal járhat számukra.
A problémát súlyosbítja a Slack AI augusztus 14-i módosítása, amely nemcsak az üzenetekre, hanem többek között a feltöltött dokumentumokra és Google Drive fájlokra is kiterjed, így „növelve a kockázatot”.
Az utóbbi időben sajnos egyre gyakoribbá váltak az efféle támadások, amikor is az adathalászok az AI modellek meghekkelésén keresztül jutnak hozzá diszkrét információkhoz.
A Slack-et használó szervezetek ezek ellen úgy védekezhetnek, hogy a Slack AI beállításain keresztül korlátozzák a dokumentumbeviteli módokat, így meggátolva a támadók hozzáférését a rendszerhez.
Aggódsz az adatlopás miatt? Összegyűjtöttünk néhány egyszerű és hatékony tippet, amelyeket ha szem előtt tartasz elkerülheted, hogy adataid idegen kezekbe kerüljenek.