Zwiększone wykorzystanie AI przez policję w Londynie budzi "poważne obawy"

Szef Metropolitan Police, komisarz Mark Rowley, optymistycznie ocenia możliwości AI, wskazując na pomoc w skanowaniu i przetwarzaniu dowodów. Ma to odciążyć funkcjonariuszy i pozwolić im na bezpośrednią służbę na ulicach.

Nadal jednak istnieją poważne obawy, czy kontrola nad używaniem takich narzędzi przez Met Police jest wystarczająca.

Eksperci biorący udział w zorganizowanym w tym tygodniu w City Hall szczycie "Policja dla Londynu w dobie AI" ostrzegli, że obecnie nie istnieją żadne ramy prawne regulujące ten nadzór. Dodali, że kluczowe jest, aby formacja działała w pełnym porozumieniu z Londyńczykami na każdym etapie technicznego zaawansowania.

"Punktem wyjścia jest zapewnienie sprawiedliwości ludziom, którym te systemy mają służyć" - stwierdziła Ruth Ehrlich z organizacji praw człowieka Liberty.

"W obecnym stanie prawnym nie ma ogólnego planu określającego, jak policja ma korzystać z technologii. Musimy zadbać o wprowadzenie regulacji, które będą działać na korzyść ofiar przestępstw" - dodała.

"Zabezpieczenia powinny obejmować każdy etap, w tym obecność człowieka w całym procesie decyzyjnym (tzw. human in the loop). Problem z uprzedzeniami algorytmów zaczyna się od samych danych. Społeczności historycznie dotknięte nadmierną aktywnością policji są w nich nadreprezentowane. Potrzebujemy silnego, niezależnego regulatora, aby temu zapobiec – stąd tak ważna rola nadzoru" - podsumowała działaczka.

Zdaniem profesor Marion Oswald z Northumbria University, AI całkowicie odmieni metody pracy policji, czego przykładem może być zdalne wykrywanie broni.

"Tradycyjne zatrzymanie i przeszukanie ("stop and search") działa tak, że funkcjonariusz nabiera uzasadnionego podejrzenia i dopiero wtedy przystępuje do fizycznej rewizji. Zdalne wykrywanie broni przez AI odwraca tę kolejność. Przeszukanie następuje, zanim oficer powziął jakiekolwiek podejrzenia. Zmienia to formułę z zatrzymaj i przeszukaj na przeszukaj i zatrzymaj" - wskazała ekspertka.

"Zarządzanie i nadzór są niezbędne, nie są utrudnieniem. Mają gwarantować, że dysponujemy niezawodną, sprawną technologią, która sprawdza się w realiach policyjnych oraz zapewnia przestrzeganie zasad uczciwości, jakich oczekuje Wielka Brytania. Wdrażanie tego typu technologii musi jednak odbywać się w sposób, który budzi zaufanie, chroni prawo do rzetelnego procesu i zapewnia efektywne wydawanie publicznych pieniędzy" - podkreśliła prof. Oswald.

Burmistrz Londynu odniósł się już wcześniej do tych obaw, sugerując, że obok "ekscytujących możliwości" pojawia się również poczucie "niepewności i niepokoju opinii publicznej". 

"W naszym systemie, opartym na policyjnej działalności za zgodą obywateli (tzw. policing by consent), kluczowe jest, aby te postępy były transparentne i zakładały zaufanie Londyńczyków" – przekazał radnym zgromadzenia miejskiego w zeszłym miesiącu. 

Także zastępczyni burmistrza ds. policji, Kaya Comer-Schwartz, zauważyła, że sztuczna inteligencja nie jest już problemem przyszłości, ale "obecną rzeczywistością, z którą mierzy się społeczeństwo – jednak każda nowa technologia rodzi ważne pytania o granice jej stosowania i podmiot nadzorujący".

"Zaufanie można stracić bardzo szybko, jeśli ludzie nie rozumieją, kiedy, gdzie i jak AI jest używane, ani jakie zabezpieczenia wdrożono. Zasady uczciwości, odpowiedzialności i praworządności wymagają dyskusji o tym, jak przejść przez te wyzwania" - podsumowała.