Report: Artificial intelligence can destroy the global financial system

Zdaniem ekspertów WEF, głównym problemem jest coraz szersze użycie systemów uczenia maszynowego i sztucznej inteligencji przez światowe banki i inne instytucje finansowe.

"Dynamika zastosowania uczenia maszynowego i pokrewnych technologii sprawia, że rośnie pokusa usieciowienia działania takich instytucji. Usieciowienie z kolei to rosnące ryzyko cyberataków" - ocenia związany z WEF Jesse McWaters. "W wypadku instytucji finansowych, istotne jest również ryzyko rosnącej koncentracji" - dodaje.

Instytucje finansowe coraz częściej korzystają z systemów sztucznej inteligencji i uczenia maszynowego, które działają w oparciu o technologię chmury obliczeniowej. Zdaniem ekspertów, z usług jednego dostawcy korzystają dziś dziesiątki, a nawet setki podmiotów, co wiąże się z ogromnym ryzykiem niebezpieczeństwa w przypadku ukierunkowanego ataku hakerskiego.

Innym ryzykiem, na które wskazują z kolei naukowcy z Massachusetts Institute of Technology (MIT), jest zbyt duża złożoność tego rodzaju systemów, które w pewnym momencie mogą załamać się pod własnym ciężarem i stać się dysfunkcjonalne. Jak ocenia związany z MIT profesor zarządzania Andrew Lo, system zbyt złożony, korzystający z ogromnej mocy obliczeniowej o dużym zapotrzebowaniu na energię elektryczną, może w pewnym momencie zachować się jak domek z kart i zapaść - na przykład ze względu na zaburzenia działania sieci energetycznej.

Raport WEF zwraca również uwagę na zagrożenia płynące z rosnącej obecności firm technologicznych w sektorze finansowym. Podmioty z tego sektora mają dostęp do danych bardzo często pożądanych przez gigantów technologii. Firmy technologiczne z kolei dysponują technologią sztucznej inteligencji i uczenia maszynowego, której poszukuje sektor finansowy.

WEF podkreśla jednak, że firmy te to twórcy tych samych algorytmów, które bardzo często działają w nieprawidłowy sposób, np. podając wyniki analiz dyskryminujące określone grupy społeczne, bądź przyczyniają się do szerzenia dezinformacji w mediach internetowych. Ryzyko symbiozy firm technologicznych i finansowych eksperci WEF widzą również w wymianie danych pomiędzy tymi podmiotami, która może doprowadzić do jeszcze większej erozji prywatności korzystających z ich usług osób.