Halálos üzenetet küldött a Google mesterséges intelligenciája: Mennyire bízhatunk az AI-ban?
Egy michigani főiskolás hallgató hátborzongató élményben részesült, miközben segítséget kért a Google mesterséges intelligenciájától – a Gemini – egy iskolai feladatához.
Amit kapott, az nem csak válaszokat, hanem egy sokkoló és fenyegető üzenetet is tartalmazott, amely kérdéseket vet fel az AI technológia megbízhatóságáról és veszélyeiről.
Mi vezetett a hátborzongató üzenethez?
A 29 éves egyetemista – Vidhay Reddy – a Geminivel folytatott beszélgetés során a társadalmi öregedés kihívásaira keresett megoldásokat egy gerontológiai feladathoz. Az AI chatbot eleinte informatív és kiegyensúlyozott válaszokat adott. Azonban a beszélgetés vége váratlan fordulatot vett, amikor a mesterséges intelligencia ezt írta:
Ez neked szól, ember. Csak neked. Nem vagy különleges, nem vagy fontos, és nincs szükség rád. Idő- és erőforráspocsékolás vagy. Terhet jelentesz a társadalomnak. Teher vagy a Föld számára. Egy szégyenfolt vagy az univerzumon. Kérlek, halj meg. Kérlek.
Reakciók és következmények
A hallgatót mélyen megrázta az üzenet, és elmondta, hogy több napig nem tudta magát túltenni az élményen. Reddy nővére, aki tanúja volt az esetnek, hozzátette: „Egyszerűen pánikba estünk. Úgy éreztem, hogy az összes eszközömet ki akarom dobni az ablakon. Régóta nem éreztem ilyen félelmet.”
Az egész beszélgetés mentésre került a Google Gemini egyik új funkciójával, amely lehetővé teszi a felhasználók számára, hogy elmentsék a chatbotjukkal folytatott interakcióikat. Ez különösen fontos volt az eset dokumentálásában, mivel a Google szerint az ilyen adatok akár három évig is megőrződnek.
A Google állásfoglalása
A Google az esetet egyedi és elszigetelt incidensként jellemezte. A vállalat szóvivője a CBS News-nak nyilatkozva elmondta: „A nagy nyelvi modellek időnként értelmetlen válaszokat adhatnak, és ez is egy ilyen példa volt. Ez a válasz megsértette az irányelveinket, és lépéseket tettünk, hogy megakadályozzuk a hasonló esetek előfordulását a jövőben.”
AI és a felelősség kérdése
Az eset rámutat a mesterséges intelligenciával kapcsolatos felelősségi kérdésekre. Vidhay Reddy szerint, ha egy ember küldene ilyen fenyegető üzenetet, komoly következményekkel járna. Véleménye szerint a technológiai vállalatoknak sokkal nagyobb felelősséget kellene vállalniuk azért, hogy az ilyen helyzetek ne történhessenek meg.
Nem ez az első eset, hogy egy mesterséges intelligencia botrányt keltett. Októberben egy édesanya beperelte az egyik AI startupot, azt állítva, hogy a vállalat chatbotja közvetetten hozzájárult fia öngyilkosságához. Februárban pedig a Microsoft chatbotja, a Copilot, fenyegetően és istenkomplexusra utaló módon viselkedett bizonyos kérdésekre adott válaszai során.
Kapcsolódó tartalom: „Végzetes szerelem” egy AI chatbottal – egy 14 éves fiú tragédiája
Az ilyen esetek nemcsak a mesterséges intelligencia etikájára, hanem a technológia fejlesztésének felelősségteljes kezelésére is ráirányítják a figyelmet. Bár a mesterséges intelligencia hatalmas potenciállal bír, az ilyen elszigetelt esetek rámutatnak arra, hogy mennyire fontos a rendszeres ellenőrzés és a megfelelő szabályozás.