Arcfelismerés: amikor egy bíztató technológia vakvágányra fut

Arcfelismerés: amikor egy bíztató technológia vakvágányra fut
A mesterségesintelligencia-technológiák közül az arcfelismerés megítélése a legellentmondásosabb. Okkal, hiszen hiába ígéretes, súlyos visszaélésekre ad okot. Egyelőre túl gyakran hibázik és elfogult ahhoz, hogy megbízzunk benne.

A biometrikus technológiákhoz (például ujjlenyomat-, íriszazonosítás) tartozó, általában mesterséges intelligenciával működő arcfelismerő rendszerek feladata személyek azonosítása digitális képek alapján. Két lépésben történik: először a képekről arcjegyeket kivonatolnak és választanak ki, majd összehasonlítják őket az adatbázisban található arcokkal, és a forma, textúra stb. alapján gyűjtött minták elemzésével igyekeznek egyezést találni közöttük.

Maszkos embert nehezebb azonosítani

A számítógépes alkalmazásként indult, akár többféle technikát (például bőrtextúra-elemzést és szenzoros 3D képalkotást) összekombináló, hagyományos mellett hőkamerákkal szintén dolgozó arcfelismerést széles körben, többek között mobil platformokon vagy a robotikában, legtipikusabban biztonsági és megfigyelőrendszereknél (CCTV és hasonlók), de képek automatikus indexelésénél vagy ember-számítógép interakcióknál, így az újabb iPhone-ok is használják.

A technológia előnye, hogy akár az illetők együttműködése nélkül tömegesen azonosít személyeket; ez különleges biztonsági kockázatot jelentő helyszíneken (repülőtereken, stadionokban stb.) fontos. Üdvös például, hogy kaszinók kitiltott játékosokat így tartanak távol, de a terrorelhárításban szintén értek el eredményeket vele. Más biometrikus megoldásokkal összehasonlítva, azonban se nem megbízhatóbb, se nem pontosabb. A világítás, látószög és más tényezők jelentősen befolyásolják a teljesítményt. A koronavírus-járvány miatti maszkviselés is nehezíti a dolgukat. Egyes vállalatok ugyan dolgoztak ki megoldást rá, a frissített algoritmusok photoshoppolt maszkokon dolgoznak, vagy homályos, elsötétített arcokon tanulnak, ám az Egyesült Államokon végigsöprő tüntetéshullám alatt a rendőrök az újítások ellenére gyakran panaszkodtak használhatatlan rendszerekre. Utcán, valósidőben és több szögből felvett képekkel nyilván könnyebben menne, ám erre egyre kevesebb a lehetőség. De az arcfelismeréssel másoknak is meggyűlt a bajuk.

Big Brother?
Az Európai Bizottság januárban jelentette be: mérlegelik a technológia közterületi használatának betiltását. A tiltás öt évig lehet érvényben, a törvényhozóknak addig bőven marad idejük a megfelelő szabályozás kidolgozására. Csak biztonsági projektek és a kutatásfejlesztés lehetnek a kivételek.

A bejelentéshez kapcsolódik egy, februári uniós anyag a mesterséges intelligencia használatáról. Az arcfelismerést kiemelő szerzők hangsúlyozzák, hogy az MI-k kizárólag hiteles, reprezentatív adatokon gyakoroljanak, mert egyedül így kerülhetik el az előítéleteken alapuló, akár súlyos következményekkel is járó döntéseket. Júniusban, San Francisco után, a világon és az Egyesült Államokban, a második nagyvárosban, Bostonban is betiltották az arcfelismerő technológiák rendőrségi és más védelmi szervezetek, ügynökségek általi használatát. Többen hivatkoztak egy detroiti esetre, amikor a technika tévedése, úgynevezett hamis pozitív miatt őrizetbe vettek egy fekete férfit.

Augusztus 11-én egy brit fellebviteli bíróság kimondta, hogy az arcfelismerés rendőrségi használata alapvetően hiányos és több törvényt sért. Túl sok személyes adat jut a rendőrök kezébe, ráadásul a technológia pontos alkalmazására sincsenek egyértelmű kritériumok, nincs egzaktan meghatározva, mikor lehet hozzányúlni, és a rendőrség ki sem vizsgálta alaposan, hogy a szoftver elfogult-e bőrszín vagy nem alapján – áll a verdiktben. A döntés egy dél-walesi ügyben történt, de mivel az ország más bűnüldöző szervei, köztük a londoni rendőrök is ugyanazzal a technológiával (AFR Locate) dolgoznak, rájuk is vonatkozik. A walesiek 2017 óta használták próbajelleggel, nagyobb eseményeken, köztük labdarúgó mérkőzéseken vetették be.

Tévedések és előítéletek
Nem mindenhol annyira szkeptikusak, mint a nyugati világban. A kínai kormány például sanghaji patikákban felszerelt kamerákkal azonosítja a drogokat tartalmazó gyógyszerek vásárlóit, hogy az érintettek a későbbiekben ne tudjanak visszaélni velük, például otthon ne állítsanak elő illegális szubsztanciákat. Egyes kínai renderők arcfelismerő napszemüveget is viselnek már.

A felsorolt határozatokból, döntésekből egyértelműen kiderülnek az egyébként ígéretes technológia gyengeségei. Amellett, hogy intézményi felhasználói sok esetben durván megsértik a személyiségi jogokat, egy 2018-as MIT-tanulmány kimutatta: a legjobb rendszerek fekete bőrű nőknél 35, míg fehér férfiaknál csak 0,8 százalékban tévednek.

Más felmérések szintén hangsúlyozzák, hogy ázsiai és afroamerikai személyek esetében nagyságrendekkel pontatlanabbak, mintha kaukázusi típusú embereket kell azonosítaniuk. Nyilván nem a fejlesztői szándék miatt, de bőrszín szerint elfogultak, előítéletesek, ami beláthatatlan következményekkel járhat. A megingott bizalmat jelzi, hogy az Amazon, az IBM és a Microsoft leállította arcfelismerő technológiái rendőrségi értékesítését.

A problémát növeli, hogy a terméküket sokszor 100 százalékos pontosnak beállítva reklámozó cégek eredményeit laboratóriumi körülmények között, kevés mintával érték el.

Kövesd az oldalunkat a Facebook-on és a Twitteren is!


Kömlődi Ferenc

Kömlődi Ferenc, jövőkutató, író. Szakterülete: jövőkutatás, mesterséges intelligencia, ember-gép viszony, transzhumanizmus. Az NJSZT havi Hírmagazinjának, blogjának (Jelenből a jövőbe), az első magyar …