Británie bude skenovat tváře žadatelů o azyl. Ověřování věku technologií je ale plné chyb

Velká Británie se chystá nasadit technologií rozpoznávání obličeje pro ověřování věku migrantů a žadatelů o azyl, přestože testy výrazně prokázaly, jak nespolehlivá tato metoda je a jaké může mít následky pro jednotlivce.

Britská vláda se rozhodla zavést kontroverzní systém na bázi umělé inteligence, který má automaticky určovat věk osob v rámci migračního řízení. Podle dostupných informací by měl být tento systém nasazen v procesu vyřizování žádostí o azyl, kde je věk žadatele kritickou informací pro určení jejich právního statusu a sociálních výhod. Rozhodnutí je tím nápadnější, že ministerstvo samotné disponuje testovacími daty dokazujícími závažné nedostatky této technologie.

Výzkumy a zkoušky age-verification technologií provedené v rámci britského vládního aparátu odhalily znepokojivě vysokou míru chybovosti. Testovací fáze ukázaly, že systém nejen že často chybně určuje věk, ale že tyto chyby mohou být absolutně lifespan-měnící - žadatel může být nesprávně klasifikován jako dospělý, když je ve skutečnosti dítě, nebo naopak. Takové omyly mají bezprostřední dopad na práva, ochranu a sociální podporu, kterou jednotliví žadatelé obdrží.

Podle dostupných zpráv existují konkrétní příklady z testování, kdy se systém spletl v určení věku s překvapivě velkými odchylkami. To vyvolává otázky o odpovědnosti a ochraně práv jednotlivců v asylových řízeních, kde je přesnost věku zásadní. Experti na umělou inteligenci a právníci zabývající se ochranou migrantů upozorňují, že automatické systémy nikdy nemohou být zcela spolehlivé a že jejich nasazení bez důsledných garance představuje vážné riziko.

Rozhodnutí pokračovat v nasazování technologie přestože jsou známé její vady, vyvolalo kritiku jak od organizací zabývajících se právy člověka, tak od technologických odborníků. Argumentují, že v situacích, které mohou zásadně ovlivnit osud jedince, by měly být takové rozhodnutí činěna výhradně kvalifikovanými lidmi, nikoliv algoritmem. Absence dostatečného lidského dohledu a možnosti odvolání proti rozhodnutí AI systému představuje dalšího obavy.

Případ britského věkového ověřování se stal symptomatickým příkladem problému, který zasahuje celý svět: Jak mohou být moderní technologie odpovědně zavedeny v críticích doménách, jako je migrace a ochrana skupin, které potřebují zvláštní péči? Naplnění tohoto cíle bez zbytečného kladení lidí do rizika chybného rozhodnutí zůstává jednou z nejnaléhavějších výzev současnosti.

Zdroj: Ars Technica

Rubrika: AI & Technologie