Być moderatorem Facebooka. "Skutki pracy są katastrofalne"

Konto na Facebooku posiada obecnie 2,7 mld ludzi. Wśród setek milionów nauczycieli, sąsiadów, ojców, mężów czy osób publicznych kryje się jednak mnóstwo zła - takiego, którego nie sposób zapomnieć, a z którym na co dzień muszą zmagać się moderatorzy portalu.

Dziennikarzom "The Guardian" udało się porozmawiać anonimowo z pracownikami jednego z centrum moderacyjnych w Berlinie. To jeden z wielu takich punktów, które zatrudniają setki pracowników do moderacji podejrzanych treści - 24 godziny na dobę.

Niektórzy pracownicy wskazują, że praca tego typu może uzależnić. Regularnie dochodzi do sytuacji, kiedy zatrudniani moderatorzy kolekcjonują moralnie dyskusyjne treści na prywatny użytek. Po tysiącach codziennie przeglądanych fake newsów i mowie nienawiści, wielu zaczyna tracić własną tożsamość i trafia w objęcia skrajnej prawicy. Są też przypadki uzależnienia się od pornografii.

Moderatorzy, z którymi rozmawiał "Guardian" wskazują, że mają zdecydowanie zbyt dużo pracy. Dzień w dzień, godzina po godzinie obcują z dziecięcą pornografią, przemocą i nękaniem w sieci - a wszystko to za wynagrodzenie, które sami określili jako "praktycznie minimalne".

Aspekt moderacji Facebooka jest szczególnie niepokojący dla niektórych użytkowników dbających o prywatność. Automatyczny system sam oznacza podejrzane rozmowy na czatach, które następnie przeglądają moderatorzy. Algorytm wyczulony jest zwłaszcza na treści o charakterze seksualnym.

Jak oceniają sami moderatorzy, "w 90 proc. przypadków algorytm się nie myli" i pracownicy mierzą się z "obrzydliwymi i przerażającymi przypadkami".

"Zaczynasz rozumieć, że nie znasz tak naprawdę nikogo, a społeczeństwo nie jest takie, jak myślisz. Codziennie widzimy bogatych mężczyzn z Europy czy USA, którzy piszą do biednych dzieci na Filipinach. Proponują im 10 lub 20 dolarów za pokazanie intymnego zdjęcia" - informuje jeden z pracowników.

"Uważam, że to, z czym się mierzymy, to naruszanie naszych praw, jako ludzi. Nie można kazać komuś pracować szybko i wydajnie, gdy musi przeglądać przerażające i chore treści" - zwróciła uwagę Gina. Jej imię zostało zmienione na potrzeby artykułu, ponieważ Facebook nie zezwala pracownikom na dzielenie sie jakąkolwiek wiedzą na temat działań moderacyjnych.

"Ta praca to eksperyment. To zupełnie nowa kategoria pracowników, która nigdy nie istniała" - przekazał Daniel, były moderator Facebooka.

Inny moderator, John, przekazał na łamach "The Guardian", że chciał udzielić wywiadu, aby ostrzec innych przed podjęciem tego rodzaju pracy. "Nie chcę, aby ktoś wpadł w to bagno" - wskazał.

"Jako współczesne społeczeństwo napotkaliśmy nową rzecz - internet. Teraz trwa czas ustalania zasad, aby nie dopuścić do nadużyć i przestępstw nowymi metodami" - zauważa John.

"Praca naszego zespołu jest ważna, aby chronić ludzi przed przestępcami, pornografią, oszustwami, mową nienawiści czy uprzedzeniami. Ale potrzebna jest również debata na temat tego, jak to robimy. Ludzie powinni wiedzieć, z czym mamy codziennie do czynienia. Co robimy, aby zarabiać na życie" - informuje John, dodając, że "ludzie nawet nie podejrzewają, co chorego kryje się w umysłach ludzi".

Niektóre historie moderatorów Facebooka z Niemiec opisane przez "The Guardian" są podobne do problemów napotykanych w innych krajach. "Kiedyś zauważyłem, że mój kolega z pracy chciał kupić paralizator, bo zaczął bać się innych. Wyznał, że nie jest w stanie przejść nocą sam po ulicy, ani nawet przebywać w towarzystwie obcych osób" - przekazał.

"Być może dlatego, że cała ta mowa nienawiści, z którą musimy się zmagać każdego dnia, w jakiś sposób wpływa na nasz pogląd polityczny. Tak więc normalna osoba, osoba liberalna, a może także postępowa, może stać się bardziej konserwatywna, bardziej zaniepokojona takimi kwestiami jak na przykład imigranci. Oczywiście większość treści nawołujących do nienawiści, które otrzymujemy na co dzień, są fake newsami, które pojawiły się celowo na newsfeedach ludzi o konkretnych poglądach" - dodał.

W lutym portal technologiczny Verge wydał jeden z pierwszych zakulisowych raportów o pracy moderatorów Facebooka w USA. Podobnie jak ich berlińscy koledzy, amerykańscy moderatorzy donosili, że "spiskowe filmy i memy, które oglądają każdego dnia, stopniowo doprowadziły ich do przyjęcia marginalnych poglądów". Podano również przypadek moderatora, który "zaczął spać z bronią w ręku, ponieważ doznał traumy pod wpływem przemocy, którą widział".

Inni radzili sobie z traumą "na własną rękę". "Podobno moderatorzy z Arizony sięgali po alkohol i leki uspokajające. W Niemczech jest to samo, widziałem na biurkach mnóstwo leków" - zauważa Daniel na łamach "The Guardian".

"Nie ma żadnego innego sposobu, aby odstresować się. Sam Facebook natomiast, w swojej polityce pracowniczej, odcina się od tych metod" - dodaje.

Amerykańscy moderatorzy skarżyli się również na brak profesjonalnej pomocy psychologicznej. "Doradcy od zdrowia psychicznego, którzy byli na miejscu, byli bierni w swojej pracy" - przekazał portal "The Verge". "Oczekiwali, że pracownicy samodzielnie zdiagnozują u siebie zaburzenia" - dodał.

Podobnie sytuacja miała wyglądać w Berlinie. Jak wspomina Daniel, "na miejscu nie było odpowiednio dobrego wsparcia psychologicznego". "Jeśli ktoś zaczynał mieć problemy, doradcy w miejscu pracy odsyłali go za drzwi z zaleceniem, aby poszukał sobie dobrego psychologa" - zauważył.

Raport "The Verge" doprowadził do pewnych zmian na całym świecie. Pracownicy centrali Facebooka zainteresowali się głównie zbyt dużą ilością pracy. Przed publikacją artykułu, każdy moderator musiał zmoderować nie mniej niż 1 000 zgłoszeń dziennie - to dawało ok. 30 sekund na wydanie decyzji.

Obecnie limit ten wynosi 400 - 500, w zależności od kraju. To wciąż jednak daje tylko minutę na dokonanie analizy zgłoszenia, ocenienie jego szkodliwości, wydanie decyzji i zgłoszenie dalej, jeśli jest taka potrzeba.

Moderatorzy w Berlinie obecnie dyskutują o tym, czy nie szukać pomocy w związkach zawodowych. Charakter pracy powoduje jednak, że jest to trudne. "To nie tak, że nikt nie jest zainteresowany pomysłem. Chodzi o to, że nikt nie ma możliwości zrobienia czegokolwiek w tym kierunku" - zauważa moderatorka Gina.

"Wszyscy są zmęczeni" - wtóruje jej John.

Moderatorzy zgodzili się jednak, że ich praca jest bardzo potrzebna, choć zatrudnia się zdecydowanie za małą liczbę osób. Uważają także, że powinno się rozpocząć debatę o tym, jak wygląda ciemna strona portalu społecznościowego i ludzkości.

Do problemów związanych z moderowaniem ekstremalnych treści odniósł się sam Facebook. Na łamach "The Guardian" wskazał, że "moderatorzy wykonują ważną pracę, aby zapewnić bezpieczeństwo społeczności, a my bierzemy odpowiedzialność za ich dobrobyt".

"Ściśle współpracujemy z naszymi pracownikami, aby zapewnić im wsparcie, którego potrzebują. Oferujemy szkolenia, pomoc psychologiczną, a nawet specjalną technologię, która ogranicza kontakt z niewłaściwymi treściami graficznymi" - zapewnił Facebook.

"Moderacja treści jest nową i wymagającą branżą, dlatego ciągle się uczymy i staramy się poprawić sposób zarządzania. Wszelkie doniesienia o problemach traktujemy niezwykle poważnie" - dodał portal społecznościowy.