Technologia FAE, wykorzystująca sztuczną inteligencję do analizy rysów twarzy, staje się coraz powszechniejsza w internecie, służąc m.in. do weryfikacji wieku użytkowników serwisów społecznościowych czy stron z treściami dla dorosłych. Brytyjski rząd zamierza jednak przenieść te rozwiązania do świata rzeczywistego, co czyni ten przypadek precedensowym w skali globalnej.
Problemy z dokładnością i stronniczość algorytmów
Wewnętrzne dokumenty rządowe, do których dotarli dziennikarze, ujawniają, że testowane algorytmy wykazują znaczące różnice w skuteczności w zależności od pochodzenia etnicznego badanych osób. Systemy radziły sobie znacznie gorzej w przypadku osób z Afryki Subsaharyjskiej, które stanowią obecnie największą grupę migrantów przybywających do Wielkiej Brytanii przez kanał La Manche.
Z raportu wynika, że w przypadku kobiet z tego regionu błąd szacowania wieku wynosił średnio 4,6 roku. Oznacza to, że trzynastolatka mogła zostać błędnie oceniona jako osiemnastolatka. Co więcej, testy wykazały, że algorytmy mają tendencję do zawyżania wieku osób siedemnastoletnich, klasyfikując je jako dorosłe.
Dzieci ubiegające się o azyl często doświadczyły niewyobrażalnej traumy. Nie powinny być obiektami testowymi dla eksperymentalnej technologii, która jest obarczona niedokładnością i rasistowskimi uprzedzeniami.
Krytyka ekspertów i brak nadzoru
Wątpliwości budzi nie tylko sama technologia, ale także sposób zarządzania procesem jej wdrażania. W trakcie prac nad systemem Ministerstwo Spraw Wewnętrznych rozwiązało komitet naukowy, który miał doradzać w kwestiach metod szacowania wieku. Tim Cole, emerytowany profesor statystyki medycznej z University College London i były członek komitetu, określił skanowanie twarzy jako rozwiązanie skrajnie niedokładne.
Eksperci wskazują również na wpływ czynników zewnętrznych na wyniki analizy. Stres, zmęczenie oraz trudne warunki podróży, z jakimi mierzą się migranci, mogą negatywnie wpływać na wygląd twarzy, co dodatkowo obniża precyzję algorytmów. Problemem jest także jakość zdjęć wykonywanych w warunkach granicznych – badania amerykańskiego National Institute of Standards and Technology (NIST) potwierdzają, że niska jakość obrazu drastycznie zwiększa margines błędu.
Inwestycje i dalsze plany
Mimo znanych ograniczeń, rząd Wielkiej Brytanii kontynuuje przygotowania do wdrożenia systemu. W maju bieżącego roku resort wydał ponad 400 tysięcy dolarów (około 1,6 miliona złotych) na technologię skanowania twarzy od niemieckiej firmy Cognitec. Analiza danych publicznych dotyczących systemów tego producenta wykazała, że w testach na zdjęciach gorszej jakości, system dwukrotnie częściej błędnie klasyfikował szesnastolatków jako osoby dorosłe w porównaniu do zdjęć wysokiej jakości.
Przedstawiciele Ministerstwa Spraw Wewnętrznych zapewniają, że technologia ma być jedynie narzędziem wspomagającym, a nie zastępującym ludzki osąd. Podkreślają, że w sytuacjach niepewności osoby będą traktowane jako dzieci do czasu przeprowadzenia szczegółowej weryfikacji. Jednak organizacje broniące praw człowieka, w tym grupa Foxglove, apelują o całkowite porzucenie tych planów, argumentując, że ryzyko błędów o tak poważnych konsekwencjach życiowych jest zbyt wysokie, a stosowanie takich metod prowadzi do dehumanizacji osób ubiegających się o azyl.
