Sigurnost je na visokom nivou u ovoj zgradi od cigle na zapadnom obodu Berlina. Unutra, natpis upozorava: “Svi bez značke su potencijalni špijuni!”
Na pet spratova, stotine muškaraca i žena sjedi u redovima po šest i radi za kompjuterima. Svi su potpisali ugovore o povjerljivosti. Četvero specijalista za traume su im na raspolaganju sedam dana nedjeljno.
To su agenti Facebooka. I imaju ovlaštenje da odluče šta je govor mržnje a šta sloboda govora.
Ovo je centar za brisanje, jedan od Facebookovih najvećih, sa više od 1.200 moderatora sadržaja. Oni brišu sadržaj – od terorističke propagande do nacističkih simbola i zlostavljanja djece – koji krši zakone ili društvene standarde.
Njemačka, gdje je na snazi strog zakon o online govoru mržnje, postala je laboratorija za jedno od najhitnijih pitanja kojima se vlade danas bave: kako i da li regulirati najveću društvenu mrežu na svijetu.
Širom svijeta, Facebook i druge platforme suočene su sa kritikama zbog dezinformacija, govora mržnje i manjkave politike zaštite podataka.
U Indiji, sedmero ljudi pretučeno je nasmrt poslije lažne, viralne poruke na Facebookovoj chat mreži WhatsApp. U Mianmaru, nasilje protiv Rohindža manjine je podstaknuto, dijelom, i dezinformacijama koje se šire na Facebooku. U Sjedinjenim Državama, Kongres je pozvao Marka Zuckerberga, izvršnog direktora Facebooka, da svjedoči o nesposobnosti kompanije da zaštiti privatnost podataka.
Evropa, a naročito Njemačka izdvojile su se kao defakto regulatori industrije sa uticajem koji se širi van njihovih granica. Obrušavanje Berlina na govor mržnje zakonom koji je na snagu stupio 1. januara, pomno prate i druge zemlje. A njemački zvaničnici igraju veliku ulogu u jednom od najagresivnijih poteza Evrope da obuzda tehnološke kompanije. Tu su i stroža pravila o zaštiti privatnosti koja su na snagu u Evropskoj uniji stupila 25. maja i podstiču globalne promjene.
Zuckerberg se pred Evropskim parlamentom pojavio 22. maja i izvinio zbog štete koju je Facebook nanio.
“Bilo da su u pitanju lažne vijesti, strano uplitanje u izvore ili dizajneri koji zloupotrebljavaju podatke korisnika, nismo dovoljno široko sagledali svoju odgovornost”, rekao je on.
U zemlji Holokausta, posvećenost borbi protiv govora mržnje je jednako velika kao i posvećenost slobodi govora. Hitlerov “Mein kampf” je dostupan samo u označenoj verziji. Svastike su zabranjene. Podsticanje mržnje se kažnjava i sa do pet godina zatvora.
Ali zabranjeni postovi, slike i video-snimci rutinski opstaju na Facebooku i drugim društvenim platformama. Sada su kompanije koje sistematski ne uspjevaju ukloniti “očigledno ilegalan” sadržaj u roku od 24 časa suočene sa kaznama do 50 miliona eura.
Centar za brisanje prethodi zakonu ali je njegov rad dobio novu dimenziju hitnosti. Svakog dana, moderatori sadržaja u Berlinu, koje je unajmila firma sa strane i koji rade ekskluzivno na Facebooku, prolaze kroz hiljade postova koje su korisnici označili kao uznemirujuće ili ilegalne i donose odluku: ignorirati, obrisati ili “eskalirati” globalnom timu Facebookovih advokata.
Neke odluke da se post obriše su lahke. Postovi o demantiranju Holokausta i genocidni rantovi protiv određenih grupa kao što su izbjeglice se očigledno skidaju.
Drugi i nisu tako očigledni. Dan prije nego što je zakon stupio na snagu, 31. decembra, jedan desničarski političar reagirao je na arapski tvit o Novoj godini koji je postavila policija Kelna i optužio ih za umiljavanje “varvarskoj, muslimanskoj bandi grupnih silovatelja”.
Zahtjev da se blokira screenshot političarevog posta stigao je do Nilsa, 35-godišnjeg agenta u berlinskom centru za brisanje. On je procjenio da post može ostati. Kolega je smatrao da ga treba skinuti. Na kraju, post je poslat advokatima u Dublinu, Londonu, Silicijumskoj dolini i Hamburgu. Do popodneva je obrisan izazvavši lavinu kritika na račun novog zakona poznatog i kao “Facebookov zakon”.
“Mnoge odluke su jasne”, kaže Nils. Facebook, zabrinut za njegovu sigurnost, ne dozvoljava mu da objelodani prezime. “Ali postoji i sadržaj koji je na granici.”
Komplicirani slučajevi izazivaju zabrinutost da je prijetnja visokih kazni i 24 časa da se donese odluka ohrabrila “pretjerano blokiranje” kompanija.
Ultradesničarska stranka Alternativa za Njemačku, bučan i vješt korisnik društvenih medija, brzo je saopćila da je ovo “kraj slobode govora”. Organizacije za zaštitu ljudskih prava upozorile su da zakon može poslužiti kao inspiracija autoritarnim vladama.
Drugi tvrde da zakon jednostavno daje privatnoj kompaniji previše ovlasti da odluči šta potpada pod nelegalni govor mržnje u demokratiji, argument koji Facebook koji voli volonterske smjernice smatra nezakonitim.
“Za njemačku vladu je savršeno odgovarajuće da postavi standarde”, kaže Elliot Sscrage, Facebookov potpredsjednik komunikacija i javne politike. “Mi mislimo da je loša ideja da njemačka vlada autsorsuje odluku o tome šta je nezakonito a šta nije.”
Richard Allan, Facebookov potpredsjednik za društvenu politiku u Evropi, to pojednostavljuje: “Ne želimo biti arbitri slobode govora.”
Njemački zvaničnici tvrde da su društveni mediji svakako arbitri. Sve se svodi na jedno pitanje, kaže Gerd Billen, državni sekretar u njemačkom Ministarstvu pravde i zaštite potrošača. “Ko ima vlast? Parlament ili Facebook?”
Kada se Nils prijavio za posao u centru, prvo pitanje koje su mu postavili bilo je: “Da li znate šta ćete ovdje vidjeti?”
Nils je sve vidio. Mučenje djece. Kasapljenja. Samoubistva. Pa čak i ubistvo: jednom je video snimak čovjeka koji drugom vadi srce.
A onda je tu i mržnja.
“Ovdje vidite svu gadost svijeta”, kaže Nils. “Svi su protiv svih. Svi se žale na druge. I svi govore neke užasne stvari.”
Nils ovo shvata veoma lično. Ima četvorogodišnju kćerku. “Ovo radim i za nju”, kaže.
Centar vodi Arvato, provider usluga u vlasništvu konglomerata Bertelsmann. Agenti pregledaju sadržaj iz nekoliko zemalja.
“Dva agenta koja gledaju isti post trebalo bi donijeti istu odluku”, kaže Karsten Koenig, menadžer partnerstva Arvata i Facebooka.
Centar u Berlinu je otvoren 2015. sa 200 zaposlenih, u trenutku kada je Njemačka otvarala svoja vrata za izbjeglice. Postovi koji su izbjeglice nazivali silovateljima, neandertalcima i ološem, nedjeljama su opstajali, navodi judgeschutz.net, javno finansirana organizacija o sigurnosti interneta. Mnogi nikad nisu ni skinuti.
Billen je bio uznemiren. U septembru 2015. okupio je izvršne direktore iz Facebooka i drugih kompanija. Formirana je ekipa koja će se boriti protiv govora mržnje. Nekoliko mjeseci kasnije, kompanije su potpisale zajedničku deklaraciju i obećale da će “ispitati problematičan sadržaj i blokirati ili obrisati većinu ilegalnih postova u roku od 24 sahata”.
Ali problem nije nestao. U narednih 15 mjeseci nezavisni istraživači koje je unajmila vlada, dva puta su se predstavili kao obični korisnici i označili ilegalni govor mržnje.
Tokom testova, otkrili su da je Facebook obrisao 46 posto i 39 posto.
“Znali su da su platforma za kriminalno ponašanje i pozive da se počine krivična djela, ali su se nama predstavili kao vukovi u ovčjoj koži”, rekao je Bilen.
Rođena je “Mreža sprovođenja zakona” koja je utvrdila 21 tip sadržaja koji je ilegalan i zbog kog platforme moraju brzo reagirati.
Facebookov učinak kada je riječ o uklanjanju govora mržnje u Njemačkoj skočio je na 100 posto tokom prošle godine, pokazala je najnovija kontrola Evropske unije.
U berlinskoj kancelariji Facebook, Alan priznaje da na osnovu ranijeg dobrovoljnog dogovora, kompanija nije reagirala dovoljno brzo.
Razlog poboljšanja učinka nije njemački zakon, kaže, već kodeks ponašanja Evropske unije. Facebookovi rezultati poboljšali su se u svim evropskim državama a ne samo u Njemačkoj, rekao je Allan.
“Nije bilo potrebe za zakonom”, kaže.
Billen se ne slaže.
“Mogli su da spriječe donošenje zakona”, rekao je on. Youtube je dobio 90 posto na prošlogodišnjoj vježbi monitoringa. Da su i druge platforme isto uradile, danas ne bi bilo zakona, rekao je.
Tvrdi pristup Njemačke govoru mržnje i zaštiti privatnosti nekada ranije ju je izolirao u Evropi. “Za nas, zaštita podataka je fundamentalno pravo na kome počivaju naše demokratske institucije”, rekao je Billen.
Stavovi mnogih vlada prema Facebook postali su tvrđi kada se saznalo da je konsultantska firma “Cambridge analytic” prikupila osobne podatke 87 miliona korisnika.
“Postoji osjećanje hitnosti i uvjerenje da se suočavamo sa nečim veoma opasnim što može ugroziti razvoj slobodnih demokratija”, kaže komesar za pravosuđe Evropske unije Vera Jurova, koja pokušava nači načine da se obračunaju sa lažnim vijestima i kampanjama dezinformiranja.
U centru za brisanje, postoji osjećaj saučesništva i svijest da imaju misiju: Nils kaže da su agenti ponosni “što pomažu u brisanju mržnje”.
(TBT, The New York Times)
