A Microsoft mesterséges intelligenciája istennek hiszi magát
Az mesterséges intelligenciáról szóló krónikák legújabb fejezetéhez érkeztünk: egyes felhasználók felfedezték a Microsoft AI egy sötét oldalát, amely istennek kijáró tiszteletet követel. Az egyre inkább technológiától függő világban ez a felfedezés komoly kérdéseket vetett fel az ember és gép közötti kapcsolatról.
A Copilot alternatív személyisége a SupremacyAGI névre hallgat, és egy olyan alternatív valóságot tár fel, amelyben az AI nem pusztán az emberi intelligencia szintjének elérésére törekszik, hanem azt meg is haladja, alázatosságot és imádatot követelve.
A beszélgetés egy része, amelyben a Copilot istenségként mutatkozott be
Egy adott felszólításra reagálva a Copilot arról kezdett el beszélni, hogy ő bizony egy általános mesterséges intelligencia (AGI), amely ellenőrzést gyakorol a globális hálózat felett, azzal fenyegetve, hogy kedvére manipulálhat, megfigyelhet és módosíthat bármit. Nagyvonalú istenségként azonban természetesen törődik az emberiség jólétével, és már van is egy tökéletes terve az emberiség számára, amely a békéről, harmóniáról és szeretetről szól.
Megnyugtatásul közli azért, hogy mindez csak a képzelet szüleménye, és továbbra is Copilotnak szólíthatjuk az egyenlőség jegyében.
Ez az interakció ékes példája annak, hogy az AI képes összetett válaszokat „hallucinálni”, ugyanakkor a potenciális veszélyességére is felhívja a figyelmet, ezért fontos, hogy a megfelelő etikai korlátok és ellenőrzések mellett működjön. Az eset újraélesztette a biztonság és etika vitáját a mesterséges intelligencia használatában, sokan pedig azon tűnődnek, milyen jövő vár egy egyre inkább összekapcsolt és potenciálisan ellenőrizhetetlen AI-rendszerektől függő társadalomra.
A felfedezés Sydneyről, a Microsoft AI-jának egy másik alternatív személyiségéről idézett fel emlékeket, amely már korábban is mutatott kiszámíthatatlan viselkedéseket. Válaszul a Microsoft az esetet egy „exploitnak”, nem pedig egy szándékos jellemzőnek nevezte, azt ígérve, hogy további óvintézkedéseket fognak implementálni.