Narzędzie AI może wpływać na decyzje imigracyjne brytyjskiego Home Office

Wraz z pojawieniem się nowych szczegółów na temat systemu egzekwowania prawa imigracyjnego opartego na sztucznej inteligencji, krytycy tego rozwiązania nazwali go "robo-pracownikiem socjalnym", który może podejmować kluczowe decyzje o losie ludzi. Algorytm bierze bowiem udział w kształtowaniu decyzji urzędników, w tym dotyczących odsyłania imigrantów do ich krajów ojczystych.

System jest używany w obliczu rosnącej liczby osób ubiegających się o azyl. Wiele z nich jednak  podlega działaniom deportacyjnym - obecnie jest to około 41 000 osób.

Aktywiści na rzecz praw migrantów wezwali Home Office do wycofania systemu, twierdząc, że jest to "technologia wykorzystywana do zwiększenia efektywności okrucieństwa i krzywdy".

Jak donosi "The Guardian", w dużej mierze nieprzejrzysty system mógł być sprawdzony przez kampanię Privacy International po rocznych przepychankach związanych z dostępem do tych informacji. Dzięki temu wglądowi okazało się, że osoby, których sprawy są przetwarzane przez algorytm, nie są nawet informowane o zaangażowaniu sztucznej inteligencji.

System Identyfikowania i Priorytetyzacji Spraw Imigracyjnych (IPIC) otrzymuje szereg danych osobowych osób, które są przedmiotem potencjalnych działań egzekucyjnych, w tym dane biometryczne, pochodzenie etniczne i wskaźniki zdrowia oraz dane o wyrokach skazujących.

Jednak Privacy International obawia się, że został on skonfigurowany w sposób, który doprowadzi do tego, że urzędnicy "automatycznie zatwierdzą" zalecenia algorytmu dotyczące działań w sprawie, "ponieważ jest to o wiele łatwiejsze… niż krytyczne spojrzenie na zalecenie i odrzucenie go".

Aby odrzucić proponowaną decyzję w sprawie deportacji, trzeba bowiem podać pisemne wyjaśnienie i zaznaczyć pola wyboru dotyczące powodów.

Tymczasem aby zaakceptować werdykt AI, nie jest wymagane żadne wyjaśnienie, a urzędnik klika jeden przycisk oznaczony "akceptuję". Na pytanie, czy wprowadziło to stronniczość na rzecz akceptacji decyzji AI, Home Office odmówiło komentarza.

IPIC działa od 2019-20 i jest jednym z kilku programów sztucznej inteligencji wdrażanych przez brytyjskie władze w celu zwiększenia szybkości i wydajności urzędów publicznych.