We need ‘right to intervene’ in AI amid growing threat, says Bank of England boss

Andrew Bailey wskazał, że ryzyka generowane przez błyskawiczny postęp najbardziej zaawansowanych modeli sztucznej inteligencji (tzw. frontier AI) – z których kilka w ostatnich miesiącach wymknęło się spod kontroli – są "realne i coraz bardziej dotkliwe".

Dodał również, że technologia ta ogranicza zdolność społeczeństwa do sprawowania nadzoru i reagowania w sytuacjach kryzysowych.

Niesie to za sobą poważne konsekwencje dla stabilności sektora finansowego, jako że nowe rozwiązania drastycznie zwiększyły "skalę i wyrafinowanie cyberzagrożeń wymierzonych w systemy bankowe". W czarnym scenariuszu mogłoby to sparaliżować codzienne płatności kartami, transakcje bankowe oraz handel akcjami i obligacjami na rynkach światowych.

Ostrzeżenia te zbiegły się w czasie z komunikatem Komitetu Polityki Finansowej (FPC) Banku Anglii. Organ ten zaalarmował, że lawinowo rosnące zadłużenie zaciągane na rozwój AI potęguje ryzyko systemowe w gospodarce.

Bailey przyznał, że potencjalne korzyści płynące ze sztucznej inteligencji "są ogromne", zaznaczył jednak, że instytucje państwowe muszą być gotowe do interwencji w odpowiednim momencie.

"Jeśli chcemy czerpać z tych benefitów w bezpieczny sposób, musimy odpowiedzieć na jedno kluczowe pytanie. Czy społeczeństwo powinno zachować zdolność do interweniowania, wyznaczania granic operacyjnych dla tych systemów oraz modyfikowania owych ram w miarę ewolucji technologii? Moim zdaniem odpowiedź brzmi: jednoznacznie tak" - podkreślił prezes banku centralnego w swoim inauguracyjnym felietonie napisanym dla serii "Insight" Banku Anglii.

Wskazał, że "rozsądnym krokiem początkowym" byłoby poddanie nowych modeli rygorystycznym testom. Pozwoliłoby to zrozumieć mechanizmy behawioralne coraz bardziej skomplikowanych algorytmów i precyzyjnie określić "wiarygodne punkty zwrotne", w których interwencja organów nadzorczych byłaby uzasadniona.