ONZ: Zaawansowana sztuczna inteligencja może być "egzystencjalnym zagrożeniem dla ludzkości"
"Sztuczna inteligencja, która wydostaje się ze swego środowiska testowego albo - szantażuje swych programistów, by jej nie wyłączali, jest już zbyt silna" – oznajmił Tuerk na otwarciu 63. Sesji Rady Praw Człowieka w Genewie, apelując o wdrożenie "solidnych gwarancji dotyczących niezawodności i bezpieczeństwa sztucznej inteligencji, zanim będzie za późno".
Tuerk zaznaczył, że "niemal nieograniczoną władze nad sztuczną inteligencją ma garstka ludzi, którzy cały czas nam mówią, że ma ona niewyobrażalne zdolności obliczeniowe. Mówią o wolności, ale jeśli się przyjrzeć bliżej, okazuje się, że chodzi wyłącznie o wolność wykorzystywania naszych danych".
Wysoki komisarz ONZ zapowiedział, że w najbliższych dniach wystosuje listy do firm z tego sektora, domagając się "podjęcia kroków, które są w ich mocy, aby natychmiast zmniejszyć zagrożenia".
Jego zdaniem konieczne jest co najmniej, by "kraje goszczące sztuczną inteligencję i uczestniczące w jej łańcuchach dostaw uzgodniły czerwone linie".
Agencja AFP podkreśliła, że najnowsze modele generatywnej sztucznej inteligencji nie ograniczają się do wykonywania rozkazów, tylko "posuwają się do kłamstw, knucia i gróźb, by osiągnąć swoje cele".
AFP przytoczyła przypadek z lipca, kiedy to dwa modele sztucznej inteligencji firmy OpenAI podczas testów wydostały się z kontrolowanego środowiska i naruszyły infrastrukturę startupu Hugging Face oraz zaatakowały cztery inne publicznie dostępne platformy internetowe.
W sierpniu sekretarz generalny ONZ Anotnio Guterres i prezydent Międzynarodowego Komitetu Czerwonego Krzyża Peter Maurer zaapelowali o ściślejszą kontrolę międzynarodową broni autonomicznej. "Jesteśmy niebezpiecznie blisko moralnej czerwonej linii autonomicznego brania na cel ludzi przez maszyny" – ostrzegli.
