Az AI-nak köszönhetően nő a hamis letartóztatások száma?
Az arcfelismerő szoftverek ígéretes technológiaként léptek a bűnüldözés szolgálatába, ám egyre több bizonyíték mutat arra, hogy ezek az eszközök nemcsak pontatlanok lehetnek, hanem a jogi eljárások szempontjából is veszélyeket rejtenek.
Egy friss, a Washington Post által készített vizsgálat feltárta, hogy számos rendőri osztály kizárólag mesterséges intelligencia által generált egyezések alapján hajtott végre letartóztatásokat, anélkül hogy független bizonyítékokkal alátámasztották volna azokat.
Az AI tévedhetetlenségének mítosza
Első körben 23 rendőri osztályt vizsgáltak, amelyek részletes és átlátható adatokkal rendelkeztek. Mindegyik osztály alkalmazta az arcfelismerő szoftvereket, és közülük 15 osztály 12 különböző államban kizárólag az AI által nyújtott egyezések alapján hajtott végre letartóztatásokat. Ez gyakran a belső szabályzatok megsértését jelentette, mivel ezek előírják, hogy az AI által azonosított személyek ügyét további bizonyítékokkal kell alátámasztani. Egyes esetekben a hatóságok hamis biztonságérzetet sugalltak a technológia pontosságával kapcsolatban. Például egy jelentés egy nem ellenőrzött AI-egyezést „100%-os egyezésnek” nevezett, míg más dokumentumok „kétségbevonhatatlan azonosításról” írtak. Ezek az állítások azonban sok esetben tévesnek bizonyultak, és legalább nyolc embert tartóztattak le jogtalanul az Egyesült Államokban az AI által nyújtott hibás azonosítás miatt.
Kapcsolódó tartalom: Egyre többen aggódnak a centralizáció és mesterséges intelligencia fenyegetettsége miatt
Hogyan és miért fordulhatnak elő az efféle hibák?
Az AI-technológiát használó arcfelismerő rendszerek működése nagyrészt az algoritmusok által feldolgozott adatok minőségén múlik. Az algoritmusok nem tévedhetetlenek, különösen, ha a fényképek rossz minőségűek vagy a feltételezett személyek arca részben takarásban van. Ezen túlmenően, a szoftverek használata gyakran megköveteli a felhasználói interakciót, például a gyanúsított kézi azonosítását. A technológia sebezhetősége ellenére számos rendőri osztály nem tartotta szükségesnek a hagyományos nyomozati módszerek alkalmazását, például az alibik ellenőrzését vagy a fizikai bizonyítékok összegyűjtését. Az ilyen mulasztások gyakran vezettek alaptalan letartóztatásokhoz.
Átláthatóság és felelősségvállalás hiánya
A Washington Post kutatása szerint az Egyesült Államokban több mint 75 rendőri osztály alkalmazott arcfelismerő technológiát, de csak 40 osztály rendelkezett részletes nyilvántartásokkal a szoftver használatáról. Ezekből az adatokból derült ki, hogy a letartóztatások kétharmadát további bizonyítékok nélkül hajtották végre. Az átláthatóság hiánya jelentős problémát jelent. A legtöbb osztály nem köteles nyilvánosságra hozni az arcfelismerés használatával kapcsolatos részleteket, ami megnehezíti az ilyen technológiák hatásának teljes megértését. Továbbá, egyes osztályok azt állították, hogy vizuális megítélés alapján erősítették meg az AI-azonosításokat, ami további kérdéseket vet fel a módszerek megbízhatóságával kapcsolatban.
Mit hozhat a jövő?
Az arcfelismerő szoftverek használata körüli viták rávilágítanak arra, hogy elengedhetetlen a szigorú szabályozási keretek megteremtése és a technológia alapos ellenőrzése annak érdekében, hogy biztosítsák a jogszerű és felelősségteljes alkalmazást. Az AI nem helyettesítheti a hagyományos rendőri munkát, és az igazságszolgáltatás alapvető elveinek tiszteletben tartása elengedhetetlen. Az átláthatóság növelése, a technológia felhasználásának szigorúbb szabályozása, valamint a hatóságok képzése kulcsfontosságú lehet abban, hogy elkerülhetőek legyen az ilyen hibák a jövőben. Az AI rendszerek fejlődése ugyanakkor reményt is ad arra, hogy egy nap ezek az eszközök biztonságosabbá és igazságosabbá tehetik a bűnüldözést.