Rosszindulatú weboldalakra irányíthat a ChatGPT
A Futurism jelentése szerint az OpenAI ChatGPT nevű chatbotja rosszindulatú weboldalakra irányíthatja a felhasználókat. Az ilyen oldalak pop-up hirdetéseket és kártevőket tartalmazhatnak, veszélyeztetve a felhasználók számítógépeit. Ez különösen aggasztó lehet, mivel az emberek gyakran megbíznak az AI által nyújtott információkban.
ChatGPT és a hamis információk kockázata
Mivel a generatív AI néha hibás vagy hamis információkat adhat, a felhasználóknak érdemes ellenőrizniük a hivatkozásokat. Azonban – ahogy a Futurism jelentése is mutatja – ez problémákat is okozhat. A jelentés szerint a ChatGPT olyan weboldalakra mutató linkeket is adhat, amelyek kártevőket tartalmaznak.
Felfedezés és a kockázat
A felfedezés egy teszt során történt, amely a ChatGPT jelenlegi eseményekkel kapcsolatos tudását vizsgálta. Amikor William Goines-ról – bronzcsillag kitüntetett és az Egyesült Államok haditengerészetének első fekete tagja – kérdezték, a ChatGPT egy „scammy” weboldalra mutató linket adott. Az oldal hamis pop-up figyelmeztetéseket generált, amelyekre kattintva a felhasználók számítógépe megfertőződhetett. A probléma nemcsak ennél az esetnél fordult elő, más témákban is javasolta ezt a weboldalt.
A weboldalak ellenőrzésének fontossága
Jacob Kalvo, a Live Proxies társalapítója és vezérigazgatója szerint az ilyen kockázatok csökkenthetők a kimenő linkek folyamatos ellenőrzésével. Kalvo javasolja, hogy a fejlesztők szűrési mechanizmusokat alkalmazzanak, és fejlett természetes nyelvfeldolgozó algoritmusokat használjanak a rosszindulatú URL-ek azonosítására. Emellett fontos a feketelisták folyamatos frissítése és az új fenyegetések figyelése. A linkek és a weboldalak megbízhatóságának rendszeres ellenőrzése alapvető fontosságú a felhasználók biztonsága érdekében.
Együttműködés a biztonság érdekében
Kalvo hangsúlyozza a folyamatos együttműködést a kiberbiztonsági szakértőkkel az új fenyegetések leküzdése érdekében. Az AI és az emberi képességek kombinálásával biztonságosabb környezetet lehet teremteni a felhasználók számára. Rámutatott arra is, hogy az AI modellek képzési adatait gondosan kell összeállítani, hogy elkerüljük a káros tartalmak feldolgozását és terjesztését. A rendszeres ellenőrzések és frissítések kulcsfontosságúak az adatok integritásának megőrzéséhez.
Az OpenAI válasza
Az OpenAI válaszában elmondta, hogy együtt dolgozik a hírszolgáltató partnerekkel a „beszélgetési képességek és a legfrissebb hírek tartalmának kombinálásán”, de ez a funkció még nem elérhető. Hangsúlyozták, hogy nagy figyelmet fordítanak a biztonságra és a felhasználói élmény javítására, és folyamatosan dolgoznak a technológia fejlesztésén, hogy elkerüljék az ilyen problémákat a jövőben.