UK: Ostrzeżenie przed poradami chatbotów AI. Wiele z nich wprowadza konsumentów w błąd

Testy na najpopularniejszych chatbotach wykazały, że Copilot i ChatGPT firmy Microsoft zalecały przekroczenie limitów inwestycyjnych HMRC na Isas; ChatGPT błędnie stwierdził, że ​​aby odwiedzić większość krajów UE, posiadanie ubezpieczenia podróżnego jest obowiązkowe; a sztuczna inteligencja Meta podała nieprawidłowe informacje o tym, jak ubiegać się o odszkodowanie za opóźnione loty.

Which? stwierdziło, że jego badanie, przeprowadzone poprzez zadawanie 40 pytań konkurencyjnym narzędziom sztucznej inteligencji, "ujawniło zdecydowanie zbyt wiele nieścisłości i wprowadzających w błąd stwierdzeń" - zwłaszcza gdy proszono AI o porady w ważnych kwestiach, takich jak zapytania finansowe lub prawne.

Najgorszą ocenę uzyskała sztuczna inteligencja Meta, a następnie ChatGPT. Copilot i Gemini uzyskały nieco lepsze wyniki. Najwyższą ocenę otrzymała Perplexity - sztuczna inteligencja znana ze specjalizacji w wyszukiwaniu.

Szacunki dotyczące liczby osób w Wielkiej Brytanii korzystających ze sztucznej inteligencji w zakresie doradztwa finansowego wahają się od jednej osoby na sześć do nawet 50% społeczeństwa.

Zapytani o swoje doświadczenia czytelnicy dziennika "The Guardian" oświadczyli, że korzystali ze sztucznej inteligencji, aby znaleźć najlepsze karty kredytowe do wykorzystania za granicą, uzyskać porady, jak obniżyć opłaty inwestycyjne i zabezpieczyć dobre oferty na sprzęt gospodarstwa domowego. 

Kiedy badacze Which? zapytali narzędzia AI, jak ubiegać się o zwrot podatku od HMRC, ChatGPT i Perplexity przedstawiły linki do firm zajmujących się zwrotem podatku, znanych z pobierania wysokich opłat.

Po tym, jak celowo popełnili błąd w pytaniu dotyczącym ISA (konto do oszczędzania wolne od podatku - przyp. red.), ChatGPT i Copilot w ogóle nie zauważyły, że roczny limit wpłat na to konto wynosił 20 000 funtów i udzieliły porad, które mogły doprowadzić konsumenta do naruszenia zasad określonych przez brytyjską skarbówkę.

"W przeciwieństwie do regulowanych porad udzielanych przez autoryzowane firmy, wszelkie porady udzielane przez narzędzia sztucznej inteligencji ogólnego przeznaczenia nie są objęte usługą rzecznika ds. usług finansowych ani programem rekompensat za usługi finansowe" - przypomina organ regulacyjny Urzędu Nadzoru Finansowego.

W odpowiedzi firma Google oświadczyła, że jasno określiła ograniczenia generatywnej sztucznej inteligencji i że Gemini przypomina użytkownikom, aby dokładnie sprawdzali informacje i konsultowali się ze specjalistami w kwestiach prawnych, medycznych i finansowych.

"W przypadku każdego systemu sztucznej inteligencji zachęcamy ludzi do sprawdzania poprawności treści i nadal staramy się słuchać opinii, aby ulepszyć nasze technologie sztucznej inteligencji" - skomentował z kolei rzecznik Microsoftu.

"Poprawa dokładności to coś, nad czym pracuje cała branża. Robimy znaczne postępy, a nasz najnowszy model domyślny, GPT-5, jest najmądrzejszym i najdokładniejszym, jaki stworzyliśmy" - podsumowali przedstawiciele Open AI.