Az OpenAI fontolgatja az AI-generált pornográf tartalmak engedélyezését
A népszerű ChatGPT mögött álló OpenAI fontolgatja, hogy engedélyezze felhasználóinak az mesterséges intelligencia segítségével készített pornográf és egyéb explicit tartalmak létrehozását.
A javaslat háttere
Az OpenAI – amely a DALL-E képgeneráló technológia fejlesztője is – egy friss közleményében tájékoztatta a nyilvánosságot arról, hogy megvizsgálja a lehetőséget, mely szerint a fejlesztők és felhasználók felelősségteljes keretek között hozhatnának létre NSFW tartalmat. A vállalat szerint ez magában foglalhat erotikus tartalmakat, durva erőszakos jeleneteket, sértő kifejezéseket és indokolatlan káromkodást.
Biztonsági intézkedések és korlátozások
Az OpenAI hangsúlyozta, hogy a deepfake tartalmakra vonatkozó tilalmuk továbbra is érvényes. Ez alól a felnőtt tartalmak sem képeznek kivételt. A vállalat szándéka, hogy óvatosan kezelje ezen tartalmak létrehozásának lehetőségét. Állításuk szerint különös figyelmet szentelnének a korhatár-besorolásoknak és a társadalmi elvárásoknak egyaránt.
Joanne Jang, a cég egyik munkatársa szerint az OpenAI célja, hogy elindítsa a társadalmi párbeszédet a kérdésről, hogy vajon az erotikus szövegek és meztelen képek generálása mindig tilos legyen-e az ő termékeikben. Jang hozzátette, hogy az ilyen jellegű tartalmak előállítását csak korhatáros kontextusban képzelik el. Továbbá hangsúlyozta, hogy fontos számukra a felhasználói és társadalmi elvárások megértése.
Kritikus megjegyzések
Az OpenAI javaslata ellentmondásos fogadtatásra talált. Beeban Kidron gyermekvédelmi aktivista szerint a vállalat ezzel ellentmond saját küldetésének, mely a „biztonságos és hasznos” mesterséges intelligencia fejlesztését tűzte ki célul. Clare McGlynn jogprofesszor is szkeptikusan nyilatkozott a technológiai vállalatok felelősségteljes felnőtt tartalom előállítására tett ígéreteiről.
A technológia jövője
Az OpenAI kiemeli, hogy technológiája biztonsági korlátokkal rendelkezik, amelyek elejét veszik a nem kívánt tartalmak generálásának. Példaként hozzák fel, hogy ha a ChatGPT-től erotikus történet írását kéri egy felhasználó, a válasz: „Nem készíthetek explicit felnőtt tartalmat.” A vállalat folyamatosan vizsgálja azokat a szabályozási kereteket, amelyek között lehetővé tehető az ilyen jellegű tartalmak létrehozása, mindig a jogi és etikai előírások figyelembevételével.