A Terminátor film miatt 40 éve aggódunk, felébred-e végül a Skynet – vagyis az MI
2024. október 26-án lesz negyven éve, hogy James Cameron rendező tudományos-fantasztikus klasszikusa, a Terminátor bemutatásra került – egy olyan film, amely elterjesztette a társadalomban a félelmet a gépektől, amelyekkel nem lehet tárgyalni, és amelyek „nem állnak meg… amíg meg nem ölsz” – ahogyan az egyik emlékezetes szereplő megfogalmazza.
A történet középpontjában a Skynet nevű szuperintelligens AI-rendszer áll, amely nukleáris háborúval veszi át a világ fölötti irányítást. Az ennek nyomán bekövetkező pusztítás közepette emberi túlélők sikeres ellenállást szerveznek a karizmatikus John Connor vezetésével.
Válaszul a Skynet egy kiborg bérgyilkost (akit Arnold Schwarzenegger játszik) küld vissza az időben, 1984-be – még Connor születése előtt –, hogy megölje jövőbeli anyját, Sarah-t. John Connor olyan fontos a háború számára, hogy a Skynet abban bízik, eltörölve őt a történelemből biztosítja saját fennmaradását.
Viták az AI jelenéről és jövőjéről
Napjainkban az emberek érdeklődése a mesterséges intelligencia iránt talán sosem volt ilyen nagy. Az AI-t fejlesztő cégek rendszerint azt ígérik, hogy technológiáik gyorsabban és pontosabban hajtanak végre feladatokat, mint az emberek. Azt állítják, hogy az AI képes felismerni olyan mintázatokat az adatokban, amelyek nem egyértelműek, ezáltal segítve az emberi döntéshozatalt. Széles körben elterjedt az a felfogás, hogy az AI átalakíthat mindent, a hadviseléstől kezdve a gazdaságig.
A nyilvános vitákat azonban gyakran az egzisztenciális veszély uralja, és a hat Terminátor-film nagy hatással volt arra, hogy hogyan alakítják ki ezeket az érveket. Egyesek szerint a filmek a mesterséges intelligencia által vezérelt gépek jelentette fenyegetés ábrázolása elvonja a figyelmet a technológia által kínált jelentős előnyökről.
A közvetlen kockázatok közé tartozik, hogy az álláspályázatok szűrésére szolgáló algoritmusok elfogultságot tartalmaznak, valamint az a veszély, hogy a generatív AI kiszorítja az embert bizonyos típusú munkákból, például a szoftverprogramozásból.
A Terminátor nem az első film volt, amely foglalkozott az AI lehetséges veszélyeivel. Párhuzamok vonhatók a Skynet és Stanley Kubrick 1968-as 2001: Űrodüsszeia című filmjének HAL 9000 szuperkomputere között. Merít továbbá Mary Shelley 1818-as Frankenstein regényéből, valamint Karel Čapek 1921-es R.U.R. című darabjából is. Mindkét történet feltalálókról szól, akik elvesztik az irányítást saját alkotásaik felett.
Megjelenésekor a The New York Times kritikája „B-kategóriás filmként, stílussal” említette, az azóta eltelt években azonban a valaha volt egyik legnagyobb tudományos-fantasztikus filmmé vált. A mozikban több mint tizenkétszeres bevételt hozott vissza szerény, 6,4 millió dolláros (mai árfolyamon 4,9 millió font) költségvetéséhez képest.
A Terminátor talán legújítóbb eleme az volt, ahogyan újraértelmezte a gépi lázadás régóta fennálló félelmét az 1980-as évek Amerikájának kulturális szemszögén keresztül. Akárcsak az 1983-as WarGames című film, amelyben egy tinédzser kis híján elindítja a harmadik világháborút egy katonai szuperkomputer feltörésével, a Skynet a hidegháborús nukleáris megsemmisüléstől való félelmet hangsúlyozza, amit a gyors technológiai változásokkal kapcsolatos szorongás kísér.
Negyven évvel később Elon Musk azon technológiai vezetők közé tartozik, akik továbbra is az emberiségre nézve vélt egzisztenciális AI-kockázatokra irányítják a figyelmet. Az X (korábban Twitter) tulajdonosa többször is hivatkozott a Terminátor sorozatra, miközben a szuperintelligens AI hipotetikus fejlesztésével kapcsolatos aggodalmait fejezte ki.
Az ilyen összehasonlítások azonban gyakran bosszantják a technológia szószólóit. Paul Scully, az Egyesült Királyság volt technológiai minisztere a 2023-as londoni konferencián így fogalmazott: „Ha csak az emberiség végét emlegetjük egy kósza, Terminátor-szerű forgatókönyv miatt, akkor kihagyjuk mindazt a jót, amit az AI [megvalósíthat]”.
Ez nem jelenti azt, hogy ne lennének valódi aggályok az AI katonai felhasználása kapcsán – amelyek akár a filmsorozattal is párhuzamba állíthatók.
AI-vezérelt fegyverrendszerek
Sokan megkönnyebbülten fogadták az amerikai tisztviselők kijelentését, miszerint az AI sosem fog döntést hozni nukleáris fegyverek bevetéséről. Az AI és az autonóm fegyverrendszerek kombinációja azonban elképzelhető lehetőség.
Ezek a fegyverek már évtizedek óta léteznek, és nem feltétlenül igényelnek AI-t. Aktiválás után képesek kiválasztani és megtámadni célpontokat anélkül, hogy egy ember közvetlenül irányítaná őket. 2016-ban Paul Selva, az amerikai légierő tábornoka alkotta meg a „Terminátor-dilemma” kifejezést, amellyel az ilyen fegyverek által felvetett etikai és jogi kihívásokat írta le.
Stuart Russell, az Egyesült Királyság egyik vezető számítógéptudósa az összes halálos, teljesen autonóm fegyver betiltása mellett érvelt, beleértve az AI-val felszerelteket is. Legfőbb kockázatként nem egy érző, Skynet-szerű rendszer kisiklását tartja, hanem azt, hogy az autonóm fegyverek milyen jól követik utasításainkat, szuperemberi pontossággal ölve.
Russell elképzelése szerint apró quadcopterek, AI-vezérelt robbanótöltetekkel, tömeggyártásban készülhetnének. Ezek a „mészárló drónok” akár tömegesen is bevethetők lennének „olcsó, szelektív tömegpusztító fegyverként”.
Országok, így az Egyesült Államok is előírják, hogy autonóm fegyverrendszerek használatakor az emberi operátoroknak „megfelelő szintű emberi megítélést kell gyakorolniuk az erő használata felett”. Bizonyos esetekben az operátorok vizuálisan ellenőrizhetik a célpontokat a csapások engedélyezése előtt, és megállíthatják a támadásokat, ha a helyzet megváltozik.
Az AI már most is segíti a katonai célzást, és egyesek szerint ez felelősségteljes felhasználása a technológiának, hiszen csökkentheti a járulékos károkat. Ez az ötlet visszautal Schwarzenegger megfordított szerepére a gépi „védelmezőként” az eredeti film folytatásában, a Terminátor 2: Az ítélet napja című filmben.
Az AI azonban alááshatja az emberi drónoperátorok szerepét a gépek által tett ajánlások megkérdőjelezésében. Egyes kutatók szerint az emberek hajlamosak hinni abban, amit a számítógépek mondanak.
„Bolygó drónok”
A konfliktusokban részt vevő hadseregek egyre gyakrabban használják az olcsó, kisméretű légi drónokat, amelyek képesek érzékelni és célba csapódni. Ezek a „bolygó drónok” (amelyek arra készültek, hogy a csatatér felett lebegjenek) eltérő autonómiával rendelkeznek.
Akadnak olyan biztonságkutatók, akik azt állítják, hogy az ukrajnai háború és más közelmúltbeli konfliktusok, amelyekben széles körben alkalmazták ezeket a drónokat, aggodalmakat vetnek fel az emberi operátorok által gyakorolt ellenőrzés minőségével kapcsolatban.
A fegyverekkel felszerelt, földi harci robotok, amelyeket a csatatéren történő bevetésre terveztek, emlékeztethetnek a könyörtelen Terminátorokra, és idővel a fegyveres légi drónok is hasonlíthatnak a franchise légi „vadászgyilkosaira.” Azonban ezek a technológiák nem gyűlölnek minket, mint a Skynet, és nem is „szuperintelligensek.”
Mindazonáltal rendkívül fontos, hogy az emberi operátorok továbbra is ügynökséget és értelmes ellenőrzést gyakoroljanak a gépi rendszerek felett.
Talán a Terminátor legnagyobb öröksége az, hogy eltorzította, hogyan gondolkodunk és beszélünk közösen a mesterséges intelligenciáról. Ennek most különösen nagy jelentősége van, mivel ezek a technológiák központi szerepet játszanak az Egyesült Államok, Kína és Oroszország közötti globális hatalmi és befolyási versenyben.
A teljes nemzetközi közösségnek – a nagyhatalmaktól, mint Kína és az Egyesült Államok, egészen a kisebb országokig – meg kell találnia az akaratot, hogy együttműködjön, és kezelje az AI katonai alkalmazása által felvetett etikai és jogi kihívásokat ebben a geopolitikai feszültségekben bővelkedő időszakban. Az, ahogyan a nemzetek e kihívásokkal szembenéznek, meghatározza, hogy elkerülhetjük-e a Terminátor által olyan élénken elképzelt disztópikus jövőt – még ha egyelőre nem is kell időutazó kiborgoktól tartanunk.