Az arcfelismerő technológia több sebből vérzik – már a tech óriások is elkezdtek visszatáncolni
Az utóbbi hetekben három amerikai tech óriás – az IBM, a Microsoft és az Amazon – is úgy döntött, hogy vagy teljesen kiszállnak az arcfelismerő „bizniszből”, de legalábbis egyelőre nem engedélyezik, hogy rendészeti szervek használják programjaikat. A döntés erős társadalmi nyomás után érkezett, miután az amerikai rendőrség a technológiát használva be tud azonosítan akár békés tüntetőket is, ezzel megsértve személyiségi és emberi jogokat.
A technológia pontossága minimum megkérdőjelezhető
A legfőbb probléma az, hogy a használatban lévő arcfelismerő szoftverek jelentős része úgy került forgalomba, hogy a pontosságukat nem megfelelően tesztelték. Az algoritmusok bizonyítottan tele vannak faji előítéletekkel és senki sem auditálja őket, mert nincsen olyan jogszabály érvényben, ami ezt kötelezővé tenné. Egy friss amerikai tanulmány szerint az egyes algoritmusok pontossága rendkívül változó: volt olyan szoftver, ami az ázsiaiakat és afroamerikaiakat 100-szor gyakrabban azonosította tévesen, mint a fehér bőrű férfiakat. Az MIT egyik tudósa szerint pedig – aki tesztelte mind a három most visszalépő tech óriás szoftverét- leginkább a sötétbőrű nőket képtelen megfelelő pontossággal felismerni a rendszer. Ez pedig jelentős problémákat vet fel a fals pozitív eredmények tekintetében, különösen, ha arról van szó, hogy valakit emiatt elítélhetnek.
Kapcsolódó: Mit vet be a Google és az Apple a koronavírus ellen? Nyomonkövetést
Visszatáncolnak a tech cégek az értékesítéstől
Eddig számos tech vállalat nagy lelkesedéssel fejlesztette ezeket a programokat és adta el bárkinek, aki hajlandó volt fizetni értük. A mostani események hatására azonban belegondoltak, hogy a hatóságok nem csak a bűnözés hatékony visszaszorítására használhatják a technológiát, hanem bizony akarva-akaratlanul vissza is élhetnek vele.
Arvind Krishna, az IBM ügyvezetője, egy nyílt levélben fordult az amerikai kongresszushoz, melyben többek között kifejti, hogy ideje diskurzust indítani az arcfelismerő technológia szabályozásáról. Az IBM kínálatában ezentúl az általános arcfelismerő szoftver nem található meg.
A Microsoft az IBM-hez hasonlóan addig nem értékesíti a technológiát rendészeti szerveknek, amíg nincs egy emberi jogokon alapuló szabályozás érvényben, az Amazon pedig értékesítési moratóriumot helyezett érvénybe.
Kapcsolódó: Az IBM egyre otthonosabban mozog a vállalati blokklánc területén
Mi a helyzet nálunk?
Idén május 1-jén lépett hatályba Magyarországon a törvény, miszerint a rendőrség már arcfelismerő szoftver segítségével is igazoltathat bárkit. Ez a gyakorlatban azt jelenti, hogy ha valaki megtagadja személyazonosságának igazolását, akkor a rendőrök átfuttatják az illető fényképét egy arcfelismerő rendszeren, majd összevetik a személyi és lakcím adatokkal. Ugyan bizonyos meghatározott esetekben eddig is volt lehetősége a különböző szerveknek (pl.: rendőrség, nemzetbiztonsági szolgálatok, terrorizmust elhárító szerv) arcfelismerő program használatára, eddig azonban ez nagyrészt manuálisan történt. A Nemzeti Szakértői és Kutató Központ (NSZKK) Arcképfelismerő Elemző Osztály két elemzőjének egymástól függetlenül is meg kellett állapítania az egyezést. Ez utóbbi emberi faktor került most ki a képből, ugyanis az informatikai rendszer már automatikusan végzi a felismerést.
(Forrás: Forbes, Last Week Tonight with John Oliver)