UK: Regulator medialny wszczął śledztwo ws. seksualizacji treści przez chatbota Grok

"Pojawiły się bardzo niepokojące doniesienia o tym, że chatbot Grok w serwisie X jest używany do tworzenia i rozpowszechniania obrazów rozebranych ludzi - co może być uznane za naruszenie intymności lub pornografię - oraz grafik seksualizujących dzieci, co może być uznane za materiały wykorzystujące seksualnie dzieci" - napisano w oświadczeniu Ofcom.

Urząd podkreślił, że nie "nie jest cenzorem", ale zajmuje się badaniem, czy firmy i aplikacje stosują się do brytyjskiego przepisów dotyczących m.in. zamieszczania niezgodnych z prawem treści, ochrony prywatności czy ochrony dzieci.

Regulator przeanalizuje teraz materiały w sprawie i zdecyduje, czy chatbot naruszył zasady. Przed ostateczną decyzją xAI ma mieć szansę na obronę swojego stanowiska.

Jeżeli Ofcom potwierdzi naruszenia, może zobowiązać firmę do dostosowania swojego produktu do brytyjskich przepisów i nałożyć grzywnę do 18 mln funtów lub 10 proc. globalnego przychodu.

xAI spotkał się w ostatnim czasie z krytyką po tym, gdy Grok był wykorzystywany przez użytkowników serwisu X do generowania lub edytowania obrazów skąpo ubranych lub nagich osób (w tym dzieci), które nie wyrażały na to zgody. Media informowały o setkach poszkodowanych kobiet i nastolatek.

Działania Groka zaczęły być badane przez regulatorów z Europy i Azji. Wielu polityków krytykowało brak odpowiednich zabezpieczeń i adekwatnej reakcji ze strony xAI. Indonezja i Malezja zablokowały dostęp do chatbota.

Musk powiedział wcześniej, że krytycy jego platformy szukają "jakiegokolwiek pretekstu do wprowadzania cenzury".