Pionier sztucznej inteligencji odszedł z Google. Ostrzega przed zagrożeniami związanymi z AI
"Rozwój modeli sztucznej inteligencji, takich jak związany z Microsoftem ChatGPT czy konkurencyjnego oprogramowania opracowywanego przez Google, jest coraz bardziej niebezpieczny" - ostrzega naukowiec.
Internet może zostać zalany przez fałszywe grafiki, nagrania i teksty, tak że przeciętny odbiorca "nie będzie już w stanie odróżnić, co jest prawdą" - uważa Hinton.
Technologia AI może też wywrócić do góry nogami dotychczasowy rynek pracy, na razie jest w stanie zastąpić przede wszystkim pracowników zajmujących się żmudnymi zadaniami, takich jak asystenci, tłumacze czy sekretarki, ale to się może zmienić - zaznacza rozmówca "NYT" w opublikowanym na początku tygodnia wywiadzie.
"Przyszłe wersje AI mogą być ostatecznie zagrożeniem dla ludzkości, ponieważ analizują ogromne ilości danych i często uczą się zupełnie nieoczekiwanego zachowania" - podkreśla Hinton. "To ma znaczenie, ponieważ ludzie i firmy pozwalają sztucznej inteligencji nie tylko na pisanie oprogramowania, ale również na uruchamianie go, co pewnego dnia może doprowadzić do powstania autonomicznej broni"- dodaje.
"Trudno jest także zapobiec temu, by AI nie była wykorzystywana przez złych ludzi do złych celów" - ocenia Hinton. Wyścig między koncernami technologicznymi może przerodzić się w wyścig między państwami, którego mogą nie być w stanie kontrolować międzynarodowe regulacje, jak udało się to zrobić z bronią jądrową - ostrzega.
"Największą nadzieją jest porozumienie naukowców dotyczące sposobów panowania nad AI. Sądzę, że ta technologia nie powinna być rozwijana do czasu, gdy uda się zrozumieć, czy możemy ją kontrolować" - konkluduje badacz.
In the NYT today, Cade Metz implies that I left Google so that I could criticize Google. Actually, I left so that I could talk about the dangers of AI without considering how this impacts Google. Google has acted very responsibly.
— Geoffrey Hinton (@geoffreyhinton) May 1, 2023
Urodzony w Wielkiej Brytanii Hinton przez wiele lat pracował na uniwersytecie w kanadyjskim Toronto. Przez całą karierę akademicką i zawodową zajmował się sztuczną inteligencją, w szczególności sieciami neuronowymi.
Jak podkreśla, nie odszedł z Google, by krytykować poczynania tej konkretnej firmy, ale by mówić o zagrożeniach związanych z rozwojem sztucznej inteligencji bez zwracania uwagi na to, jak może to wpłynąć na koncern.
"Google zachowuje się bardzo odpowiedzialnie" - zaznaczył Hinton.
Czytaj więcej:
Szef Google'a: Źle wdrożona sztuczna inteligencja może być bardzo szkodliwa
Centrum Cyberbezpieczeństwa UK: Chiny dążą do dominacji technologicznej na świecie
Eksperci: Przez sztuczną inteligencję ocena prac uczniów staje się niemożliwa
Arabia Saudyjska buduje miasto przyszłości ze sztucznym księżycem i latającymi taksówkami
USA: IBM może wstrzymać zatrudnianie ludzi, zastępując ich sztuczną inteligencją
Niestety to prawda. Zmierzamy w kierunku gdzie może się okazać ze film terminator był oparty na faktach i stanie się nasza wizja przyszłości. Zniszczymy siebie, ziemię albo to co stworzyliśmy zniszczy nas
Sztuczna inteligencja może być zagrożeniem bo tworzy i wykorzystuje ją człowiek, który uważa się za inteligentnego wykorzystując zło do osiągania celów. Budujemy sztuczną, ale nie rozwijamy prawidłowo własnej. Rozumiemy że mieszkamy na wspólnej Planecie, ale wspólnego prawa nie mamy i własnego nie przestrzegamy. Wiemy że razem w uczciwej współpracy odniesiemy sukces, ale często dla własnej korzyści wybieramy zło. W prawie każdy ma karę za morderstwo, ale gdy Putin morduje ludzie chcą tylko na tym coś zyskać, gdzie w tym jest rozum?. Nasza przyszłość jest wspólna.