Mesterséges intelligencia, arcfelismerés: korlátozások az új EU-s javaslatban
Az EU a világon az egyik első olyan törvényjavaslatot dolgozta ki, amely szabályozza a mesterséges intelligencia alkalmazását olyan területeken, mint a munkaerő-felvétel és a rendfenntartás.
Az európai tisztviselők korlátozni kívánják az arcfelismerés rendőrségi alkalmazását és be akarják tiltani bizonyos típusú mesterséges intelligencia-rendszerek használatát. Eddig ilyen szabályozási törekvésre még sehol sem volt példa a világon!
A törvényjavaslat
Az Európai Unió végrehajtó szerve szerdán olyan törvényjavaslatot terjesztett elő, amely egy listát hozna létre a mesterséges intelligencia úgynevezett nagy kockázatú felhasználási területeiről, amelyek fejlesztésére és használatára új felügyelet és szabványok vonatkoznának. Ilyen területek például a kritikus infrastruktúrák, a főiskolai felvételik és a hitelkérelmek. A szabályozó hatóságok a legsúlyosabb jogsértések esetén a vállalat éves bevételének akár 6%-át is kiszabhatnák bírságként, bár a gyakorlatban az uniós tisztviselők ritkán vagy egyáltalán nem szabják ki a maximális bírságokat.
A törvényjavaslat az egyik legszélesebb körű, amelyet eddig nyugati kormány javasolt, és része az EU globális technológiai végrehajtó szerepének a kiterjesztésében.
Az elmúlt években az EU igyekezett globális vezető szerepet vállalni a nagy technológiai vállalatok állítólagos túlkapásainak megfékezését és az új technológiák potenciális veszélyeinek minimalizálását célzó új szabályozások kidolgozásában és végrehajtásában a digitális versenytől az online tartalom moderálásáig terjedő területeken. A blokk új adatvédelmi törvénye, az általános adatvédelmi rendelet (GDPR) hozzájárult ahhoz, hogy a szigorú bírságokkal sújtott, széles körűen alkalmazott szabályok mintáját más országok – és néhány amerikai állam – is kövessék.
„Rendeletünk a mesterséges intelligencia konkrét felhasználásával kapcsolatos emberi és társadalmi kockázatokkal foglalkozik” – mondta Margrethe Vestager, az Európai Bizottság, az EU végrehajtó szervének ügyvezető alelnöke. „Úgy gondoljuk, hogy ez sürgős. Mi vagyunk az elsők ezen a bolygón, akik ezt a jogi keretet javasoljuk„.
A javaslat előtt hosszú út áll még, mielőtt jogszabállyá válik. Az EU-ban az ilyen jogszabályokat a 27 nemzeti kormányt képviselő Európai Tanácsnak és a közvetlenül választott Európai Parlamentnek is jóvá kell hagynia, ami évekig is eltarthat.
A digitális jogok aktivistái a javasolt jogszabály egyes részeit üdvözölték, más részek azonban túl homályosnak tűnnek, és túl sok kiskaput kínálnak. Mások azzal érveltek, hogy az EU által javasolt szabályok előnyt biztosítanának a kínai vállalatoknak.
„Ez megfizethetetlenül drágává vagy akár technológiailag kivitelezhetetlenné teszi a mesterséges intelligencia európai kifejlesztését” – mondta Benjamin Mueller, a Center for Data Innovation vezető politikai elemzője. „Az Egyesült Államok és Kína nevetve fogja nézni, ahogy az EU térdre kényszeríti saját startupjait.”
Egyes technológiai lobbisták ugyanakkor megkönnyebbülésüket fejezték ki, hogy a tervezet nem drákóiabb, és üdvözölték azt a megközelítést, hogy a szigorú felügyeletet csak a mesterséges intelligencia bizonyos típusú, úgynevezett magas kockázatú felhasználási módjaira írják elő, például a kritikus infrastruktúrához szükséges szoftverekre és a rendőrség által a bűncselekmények előrejelzésére használt algoritmusokra.
„Pozitív, hogy a Bizottság a kockázatalapú megközelítést alkalmazza” – mondta Christian Borggreen, a számos nagy technológiai vállalatot, köztük az Amazon-t, a Facebook-ot és a Google-t is képviselő Computer & Communications Industry Association alelnöke és brüsszeli irodájának vezetője.
A törvényjavaslatban néhány konkrét gyakorlatot egyenesen betiltanak. A kínai kormány által használt szociális hitelrendszerek mellett a javaslat megtiltaná az olyan mesterséges intelligencia-rendszereket is, amelyek „szubliminális technikákat” alkalmaznak, vagy a fogyatékkal élőket kihasználva „lényegesen eltorzítják egy személy viselkedését” oly módon, hogy az fizikai vagy pszichológiai károkat okozhat.
Míg a rendőrségnek általában tilos lenne az úgynevezett „távoli biometrikus azonosító rendszerek” – például az arcfelismerés – valós idejű használata nyilvános helyeken, a bírák jóváhagyhatnak olyan kivételeket, amelyek az elrabolt gyermekek felkutatására, a közvetlen terrorfenyegetettség megállítására és bizonyos bűncselekmények gyanúsítottjainak felkutatására vonatkoznak, a csalástól a gyilkosságig.
„A kivételek listája hihetetlenül széles” – mondta Sarah Chander, a European Digital Rights, egy nem kormányzati szervezetekből álló hálózat vezető politikai tanácsadója. Egy ilyen lista „meghiúsítja a célját annak, hogy valamit tilalomnak nevezzünk„.
A nagy bankok úttörő munkát végeztek a mesterséges intelligencia algoritmusainak feltárásában a szabályozók előtt, az újabb globális hitelválság megelőzésére irányuló kormányzati erőfeszítések részeként. Andre Franca, a Goldman Sachs modellkockázat-kezelési csoportjának korábbi igazgatója, jelenleg pedig a causaLens nevű AI-startup adattudományi igazgatója szerint az egyes vállalatoknak végül ugyanezt kell majd tenniük.
Az elmúlt évtizedben például a bankoknak komoly létszámú munkaerőt kellett alkalmazniuk, hogy segítsenek bemutatni a szabályozóknak a mesterséges intelligencia modellek alapjául szolgáló matematikai kódokat, amely egyes esetekben modellenként több mint 100 oldalból állt – mondta Dr. Franca.
A magas kockázatúnak ítélt célokra használt AI-rendszerek szolgáltatóinak részletes dokumentációt kellene benyújtaniuk a rendszerük működéséről annak érdekében, hogy az megfeleljen a szabályoknak. Az ilyen rendszereknek „megfelelő szintű emberi felügyelettel” kell rendelkezniük mind a rendszer tervezése, mind a használatba vétel tekintetében, és be kell tartaniuk a mesterséges intelligencia szoftverek képzéséhez használt adatokra vonatkozó minőségi követelményeket – mondta Vestager asszony.
Dr. Franca szerint az EU szabályozói csoportokat is küldhetne a vállalatokhoz, hogy személyesen vizsgálják meg az algoritmusokat, ha azok a szabályozásban meghatározott magas kockázati kategóriákba esnek. Ide tartoznak az emberek biometrikus adatait – például arcát vagy ujjlenyomatát – azonosító rendszerek, valamint az olyan algoritmusok, amelyek hatással lehetnek az emberek biztonságára. Az EKB szabályozói gyakran személyesen vizsgálják meg a bankok számítógépes kódját többnapos workshopok és megbeszélések során – tette hozzá.
Az EU szerint a mesterséges intelligencia legtöbb felhasználási módja, például a videojátékok vagy a spamszűrők esetében a törvényjavaslat nem tartalmazna új szabályokat. Néhány kevésbé kockázatos mesterséges intelligencia-rendszer, például a chatbotok esetében azonban tájékoztatni kellene a felhasználókat arról, hogy nem valódi emberek vesznek részt a kommunikációban.
„A cél az, hogy kristálytisztán tudatosítsuk, hogy felhasználóként egy géppel állunk kapcsolatban” – mondta Vestager asszony.
A mélyhamisítványok, vagyis az olyan szoftverek, amelyek egy videóban egy ember arcát egy másik testére helyezik, hasonló címkéket igényelnek majd. Az ukrajnai székhelyű NeoCortext Inc., amely a Reface nevű népszerű arccserélő alkalmazást készíti, azt mondta, hogy már dolgozik a címkézésen, de megpróbálja majd követni az EU iránymutatásait. „A gyorsan növekvő startupok számára most kihívást jelent a legjobb gyakorlatok kidolgozása és a szabványos gyakorlati kódexek formalizálása” – mondta Dima Shvets, a Neocortext vezérigazgatója.
Julien Cornebise, a University College London informatikai tudományok tiszteletbeli docense, a Google korábbi kutatója szerint az új szabályozásnak nem feltétlenül lesz olyan hatása, mint a GDPR-nak, egyszerűen azért, mert a mesterséges intelligencia fogalma annyira tágan értelmezhető.
„A mesterséges intelligencia egy mozgó céltábla” – mondta. „A telefonjaink mindennap olyan dolgokat csinálnak, amelyek 20 évvel ezelőtt még „mesterséges intelligenciának” számítottak volna. Fennáll annak a veszélye, hogy a rendelet vagy elveszik a meghatározásból, vagy gyorsan elavul„.
A fogadtatás
Egyes vállalati technológiai vezetők szerint az európai szabályozók által a mesterséges intelligencia használatára vonatkozóan javasolt szigorítás növelni fogja a költségeket és elfojtja az innovációt, miközben a vállalatok éppen most kezdik kiaknázni a benne rejlő lehetőségeket.
Mások szerint a szigorúbb felügyelet segíteni fog a közvélemény bizalmának kiépítésében a mesterséges intelligencia rendszerek iránt, amelyek az adatvédelem, a fogyasztóvédelem és a visszaélések miatt feszültségeket gerjesztettek – különösen az olyan területeken, mint az arcfelismerés.
Thomas Donnelly, a BetterCloud Inc. szoftvercég informatikai igazgatója szerint a javasolt korlátozások hosszú távon negatív hatással lesznek az európai technológiai ágazatra, mivel a máshol működő vállalatok versenyelőnyre tesznek szert azáltal, hogy olcsóbb és hatékonyabb AI-alapú alkalmazásokat fejlesztenek.
„Hosszú ideje foglalkozom informatikával” – mondta Donnelly úr egy e-mailben. „Az internet megjelenése óta nem láttam olyan nagyhatású technológiát, mint az AI.”
„Kiábrándító látni, hogy a demokratikus nemzetek vezetői félelemmel tekintenek az AI-ra, tekintve, hogy milyen hatalmas lehetőségek rejlenek a betegségek gyógyítására, a károk elkerülésére, az áruk és szolgáltatások hatékonyabb elosztására és új munkahelyek létrehozására” – mondta Stephen Messer, a Collective[i] társalapítója és alelnöke.
Benjamin Mueller, a Center for Data Innovation vezető politikai elemzője szerint az új irányelvek értelmében egy pénzügyi vállalatnak, amely mesterséges intelligencia alapú hitelbírálati rendszert épít az európai piacra, átfogó kockázatértékelést kell végeznie, biztosítania kell, hogy a képzési adatok megfeleljenek a magas szintű előírásoknak, minden mesterséges intelligencia által generált döntés nyomon követhető legyen, részletes műszaki dokumentációt kell vezetnie, emberi felügyeleti intézkedéseket kell beépítenie stb.
„Ez hatalmas fejfájást okoz bárkinek, aki ilyen céget indít vagy ilyen szoftvert vásárol” – mondta Müller úr egy e-mailben.
Elemzők szerint a mesterséges intelligencia használata a vállalati technológiában egyre inkább terjed. Az AI és más adatigényes szoftvereszközök egyre szélesebb körű alkalmazása miatt a felhőalapú számítástechnikai szolgáltatásokra fordított globális kiadások idén várhatóan elérik a 332 milliárd dollárt, ami 23%-os növekedés 2020-hoz képest – jelentette szerdán a Gartner Inc. informatikai kutató- és tanácsadó cég.
A Szerzőről
Stier Kata vagyok, jogász, digitális alkotó, blogger. A technológia szerelmese. Három évvel ezelőtt a munkám révén kezdtem el foglalkozni kriptovalutákkal és a blokklánc technológiával. 2020 nyara óta vezetem blogomat kifejezetten nőknek, hogy közelebb hozzam a Negyedik Ipari Forradalom vívmányait. Mesterséges intellingencia, a ‘dolgok internete’, jövőbeni és kialakulóban lévő technológiák egy hétköznapi negyvenes nő szemével.
View this post on Instagram
Stier Kata és a Blockchainter további elérhetőségei:
Facebook: https://www.facebook.com/blockchainter
Pinterest: https://www.pinterest.com/blockchainter
LinkedIn: https://mt.linkedin.com/in/kata-stier-1702a498