Az Ethereum alapítója az OpenAI vezetőváltása után az AI kockázatára figyelmeztet
Az Ethereum társalapítója, Vitalik Butertin az OpenAI-nál történt vezetőségi változtatások következtében kockázatosnak nevezte a vállalat további szerepvállalását a mesterséges intelligenciával kapcsolatban.
Az OpenAI korábbi vezetője, Jan Leike nemrég mondott le pozíciójáról, miután a vezetőséggel nem értett egyet a vállalat prioritásaival kapcsolatban. Leike szerint a biztonság háttérbe szorult a látványos termékek mellett a vállalatnál, és többen inkább a mesterséges általános intelligencia (AGI) körüli fejlesztések felé hajlanak.
Az AGI a mesterséges intelligencia egy olyan fejlett formája, amely akár minden alkalmazási területen képes túlszárnyalni az emberi képességeket. Az AI ezen formája egyelőre csak a gondolatunkban létezik, de már ez is aggasztja a szakértőket, akik szerint a világ nincs megfelelően felkészülve az ilyen szuperintelligens mesterséges intelligencia rendszerek kezelésére.
Aggodalmak az OpenAI tervei kapcsán
Az OpenAI vezetőségének jövőbeli terveivel kapcsolatban Buterin is aggodalmát fejezte ki, aki bejegyzésével szintén elsietett cselekedetnek tartja a törekvést.
Forrás: Vitalik Buterin.
Buterin kiemelte a magánhardvereken futó nyílt modellek fontosságát, amelyek egyfajta „fedezetet” jelentenek egy olyan jövő esetén, amelyben a cégek egy kis csoportja képes lesz olvasni a legtöbb emberi gondolatot.
„Az ilyen modellek a végítélet kockázatát tekintve is sokkal kevésbé veszélyesek, mint a vállalati megalománia és a hadseregek” – hangsúlyozta Buterin aggodalmát.
Az Ethereum társalapítója emellett azzal érvelt, hogy az OpenAI GPT-4 modellje már meghaladja a Turing-tesztet, amely egy mesterséges intelligencia modell emberiességét határozza meg. Továbbá egy új kutatásról is jelezte aggályait, amely szerint a legtöbb ember nem képes rájönni, ha éppen egy géppel beszélget.
Egyes csoportok máris megjelentek az interneten, és a decentralizált mesterséges intelligencia mellett kampányolnak, annak biztosítása érdekében, hogy az AI demokratikusabb maradjon, és ne a nagy technológiai vállalatok uralják azt.
Forrás: 6079.ai.
Említésre méltó, hogy az OpenAI vezetőségének egy másik magas rangú tagja, Ilya Sutskever, társalapító és vezető tudós május 14-én szintén bejelentette távozását a vállalattól. Sutskever nem említett az AGI-val kapcsolatos aggályokat. Az X-en közzétett bejegyzésében azonban bizakodását fejezte ki, hogy az OpenAI olyan AGI-t fog kifejleszteni, amely biztonságos és egyben hasznos is lesz.