Poglavar je bio jasan šta treba da se uradi. „Želim da eliminiram muslimane i islam sa lica Zemlje“, izjavio je. Njegovi sljedbenici su slušali, oduševljeni. Govor Yatija Narsinghananda, poglavara hrama Dasna Devi u sjevernoj indijskoj državi Utar Pradeš, održan u oktobru 2019. godine, snimljen je i objavljen na Facebooku. Do trenutka kada ga je Facebook uklonio, tirada je pogledana više od 32 miliona puta.
Sveštenik je svoju viziju jasnije iznio u govoru objavljenom na Facebooku istog mjeseca, koji je imao više od 59 miliona pregleda. „Sve dok sam živ“, obećao je, „koristit ću oružje. Poručujem svakom muslimanu, islam će jednog dana biti iskorijenjen iz zemlje…”
Tri godine nakon što je održan, govor se još uvijek može pogledati na Facebooku. Meta, kao matična kompanija Facebooka poznata od oktobra 2021. godine, nije uspjela objasniti zašto. U martu 2021. u Indiji je izbila kontroverza nakon što je 14-godišnji muslimanski dječak ušao u Narsinghanandov hram da se napije vode kad su ga brutalno napali njegovi sljedbenici.
Nakon bijesa javnosti, The London Story, holandska organizacija koja se bori protiv dezinformacija i govora mržnje, izvijestila je da su interakcije na stranicama obožavatelja propovjednika naglo porasle.
Narsinghanand je učinio malo da se predstavi kao miroljubiv i tolerantan: nasilne i šovinističke slike su centralne za njegov brend, kao i za mnoge koji dijele njegove stavove. Fotografije na Facebooku u decembru 2019. prikazuju njega i njegove pratioce kako mašu mačetama i mačevima. Njegove mete nikada nisu upitne: 200 miliona muslimana u Indiji.
Govor mržnje prema muslimanima
Govor mržnje usmjeren prema vjerskim manjinama postao je rutinska karakteristika javnog života u Indiji. Od 2009. do 2014. bilo je 19 slučajeva neprijateljske retorike prema manjinama od strane visokorangiranih političara. Ali od 2014. godine, kada je Bharatiya Janata Partija (BJP) premijera Narendre Modija ušla u vladu, do početka 2022. bilo je 348 takvih slučajeva – porast od 1.130 posto.
Danas neki stručnjaci za genocid govore o mogućem genocidu nad indijskim muslimanima.
U ovom članku ćemo ispitati kako je Meta, jedna od najvećih medijskih organizacija na svijetu, postala emiter genocidnog govora mržnje putem Facebooka, sa potencijalno košmarnim posljedicama.
Facebook ima skoro 350 miliona korisnika u Indiji. To je najveće tržište platforme po korisnicima, kao i za Instagram i WhatsApp, koji su također u vlasništvu Meta. Na primjer, uoči izbora za Skupštinu Karnatake 2018., BJP je stvorio između 23.000 i 25.000 WhatsApp grupa za širenje političke propagande.
The London Story tvrdi da je Facebook “osigurao megafon za političku i vjersku mobilizaciju u razmjerima koji dosad nisu viđeni”.
Fuzail Ahmad Ayyubi, pravnik na indijskom Vrhovnom sudu koji je radio na slučajevima visokog profila u vezi s mržnjom, rekao je za Middle East Eye kako platforme društvenih medija otrov za politiku.
“Internet je vrlo jeftin, gotovo besplatan, a jeftini su i pametni telefoni. Ranije je šteta koju je govor mržnje mogao učiniti bila ograničena. Preko društvenih medija može ići u cijelu zemlju. Facebook nije samo sredstvo za govor mržnje, već se koristi i kao razglas.”
Meta negira takve kritike. Rečeno je za Middle East Eye: “Nemamo nikakve tolerancije prema govoru mržnje na Facebooku i Instagramu i uklanjamo ga kada nam to bude poznato.”
No, poučno je ispitati ulogu Facebooka u indijskom nasilju u februaru 2020., kada je u muslimanske četvrti sjeveroistočnog Delhija upala rulja koja je devastirala džamije, trgovine, kuće i automobile. Poginule su 53 osobe, od kojih 40 muslimana. Mnogo ih je više izgubilo svoje domove i dućane.
U mjesecima koji su prethodili pokolju, Narsinghanand je isporučivao sve intenzivniju bujicu antimuslimanske retorike, od koje su neke prikazane na Facebooku. Muslimani koji prosvjeduju protiv diskriminatornih zakona o državljanstvu koji prijete lišavanjem prava na milione ljudi “trebali bi saznati što će im se dogoditi onog dana kad izađemo”, izjavio je manje od dva mjeseca prije masakra.
Narsinghanandova istaknutost na društvenim mrežama učinila ga je slavnom osobom. I on je više od običnog propovjednika mržnje – on je eksplicitno poticao nasilje protiv muslimana.
U decembru 2021., na okupljanju u sjevernom gradu Haridwaru, Narsinghanand je okupljenima rekao da “ažuriraju svoje oružje… Sve više i više potomaka i bolje oružje, samo vas oni mogu zaštititi.” Na istom događaju, kolega govornik je izjavio: “Čak i ako samo stotinu nas postane vojnik i ubije dva miliona njih, bit ćemo pobjednici.” Video snimke ovog govora pogledale su tisuće na Facebooku prije nego što su uklonjene.Narsinghanand je uhapšen zbog govora mržnje nakon događaja, prije nego što je pušten uz jamčevinu. Ali Facebook je nastavio dopuštati gledanje snimaka njegovih govora na svojoj platformi.
Nakon nasilja u Delhiju 2020., Facebook se našao pod lupom. Skupštinski odbor Delhija za mir i harmoniju, koji je imenovala Delhijska zakonodavna skupština za rješavanje pitanja između vjerskih i društvenih skupina, istražio je umiješanost Facebooka u nasilje. Ali Facebook se odbio pojaviti pred odborom: Ajit Mohan, šef Facebook India, rekao je da se skupština ne bi trebala miješati u pitanje reda i zakona. Odgovor Raghava Chadhe, predsjednika odbora, bio je slab. Optužio je Mohana za “pokušaj prikrivanja ključnih činjenica u vezi s ulogom Facebooka u javnom nasilju u Delhiju u veljači 2020.”, a sam Facebook je optužio da “bježi” od nadzora. U rujnu 2020., odbor je “prima facie utvrdio da je Facebook suučesnik” u neredima, navodeći da je kompanija “skrivala uvredljive sadržaje pune mržnje na svojoj platformi”.
Facebook ima sramotan dosije korištenja protiv manjina u osjetljivim političkim okruženjima. Godine 2017. gotovo milion Rohingya muslimana počelo je bježati iz mjanmarske države Rakhine nakon što su bili izloženi kampanji masovnog nasilja i silovanja. Krajem 2021. Rohingya izbjeglice tužile su Facebook za 150 milijardi dolara, optužujući ga da nije poduzeo mjere protiv govora mržnje. Sama firma je rekla da je “prespora da spriječi dezinformacije i mržnju” u Mijanmaru.
Glasnogovornik Mete rekao je za Middle East Eye da je uložio značajne napore u poboljšanje situacije u Mjanmaru: “Meta stoji uz međunarodnu zajednicu i podupire napore da se počinitelji ovih zločina protiv Rohingya pozovu na odgovornost. Tokom godina, mi smo izgradili smo predani tim burmanskih govornika, zabranili Tatmadaw [mjanmarske oružane snage], poremetili mreže koje pokušavaju manipulirati javnom raspravom i uložili u tehnologiju burmanskog jezika kako bismo smanjili prevalenciju štetnog sadržaja.”
Gregory Stanton, predsjednik Genocide Watcha, predvidio je genocid u Ruandi 1994. pet godina prije nego što se dogodio. Ranije ove godine, Stanton je rekao da su “u Indiji prisutni rani znakovi upozorenja na genocid”. Također je istaknuo sličnosti između situacije u Indiji i klime u Myanmaru prije tamošnjih ubojstava.
Mnogi indijski muslimani strahuju za svoju budućnost. Novinar Asim Ali u aprilu je zabrinuto napisao da vlada nesvjesno “prepušta svoj monopol nasilja” “desničarskim osvetnicima”, koji sve više postaju “autonomni centri moći”. Indijska povijest pokazuje da su demagozi sposobni dignuti rulju i izazvati nasilje, dok lokalne vlasti i policija bespomoćno gledaju.
Zabrana Facebooka jov uvijek na Vrhovnom sudu
RSS (Rashtriya Swayamsevak Sangh) je paravojna organizacija koja među svojih gotovo 600.000 članova uključuje i premijera Narendru Modija. Osnovan 1925. godine i po uzoru na europske fašističke pokrete, glavni je zagovornik onoga što se naširoko opisuje kao Hindutva, ili hinduistička nacionalistička politika. Njegovi pristaše na muslimane i kršćane u Indiji gledaju kao na strance i odbacuju vjersku raznolikost zemlje za koju su se zalagali utemeljitelji moderne indijske države.
Vinayak Damodar Savarkar bio je jedan od njegovih najranijih ideologa. Godine 1944., tri godine prije indijske neovisnosti, jedan ga je američki novinar upitao: “Kako planirate postupati s muhamedancima [muslimanima]?”
Savarkar je odgovorio: “Kao sa manjinom koaj ima položaj vaših crnaca.”
Još jedan istaknuti mislilac RSS-a, Madhav Sadashivrao Golwalkar, odobravao je Hitlera, pišući 1939. da je njemačko “čišćenje zemlje od semitske rase – Židova” bila “dobra lekcija za nas u Hindustanu [Indiji] da naučimo i iz nje možemo profitirati”. I Savarkar i Golwalkar naširoko su cijenjene osobe među sljedbenicima RSS-a. Tako je, sve više, Nathuram Godse, koji je ubio Mahatmu Gandhija u januaru 1948., i koji je jedno vrijeme bio član RSS-a i učenik Savarkara.
Danas je RSS utjecajniji nego ikad – a Facebook dopušta svojim najratobornijim ideolozima da šire svoje ideje dalje nego što bi inače mogli.
Suresh Chavhanke član je RSS-a i direktor Sudarshan Newsa. Dvije epizode njegove emisije, Bindas Bol, emitirane na televiziji i online, zabranio je Vrhovni sud Indije zbog napada na muslimane. No Chavhanke svoju poruku može širiti i na drugi način – na Facebooku. U videu na svojoj službenoj Facebook stranici, pregledanom više od 200.000 puta prije nego što je uklonjen, dao je zakletvu pred gomilom: “Zaklinjemo se, do dana kada umremo, kako bismo ovu zemlju učinili Hindu Rashtra [nacijom] … borit ćemo se, umrijet ćemo i ako treba, ubit ćemo.” Chavhankeova službena Facebook stranica tek treba biti uklonjena.
Na vrhuncu kontroverze o muslimanskom tinejdžeru koji je pretučen u Narsinghanandovom hramu, obožavatelji Sudarshan News Channela streamali su video uživo na Facebooku koji prikazuje Chavhankea kako podržava Narsinghananda. Chavhanke je okupljenima rekao da je “s toliko Hindusa okolo vrijeme da se odredi ratna strategija”. Događaj tada postaje sve jezovitiji. “Spremna sam dati svoj život i oduzeti živote”, viče gospođa u masi. Ona daje dva mača Chavhankeu i Narsinghanandu dok gomila urliče s odobravanjem.
Pushpendra Kulshrestha, istaknuti novinar i još jedna RSS medijska osoba, bavi se antimuslimanskim govorom mržnje. U trenutku objave još je imao verificiranu stranicu na Facebooku te brojne fan stranice. Kulshrestha koristi svoj utjecaj za promicanje antimuslimanskih teorija zavjere. U jednom, koji ima četiri miliona pregleda na Facebooku, kaže: “Oni muslimani koje smatrate samo vlasnicima malih vulkanizerskih radionica imaju na umu 1000 godina staru agendu kada odlučuju postaviti svoje radnje na državne autoceste.” U trenutku objave, ovaj govor, kao i njegova verificirana stranica i brojne fan stranice, još uvijek su bile dostupne na Facebooku.
Teorije zavjere poput Kulshresthine često se temelje na ideji da su čak i bezazlene aktivnosti dio muslimanskog “džihada” protiv Indije.
Između ostalih pitanja postavljamo Shamshadove kritike Meti. Nije odgovorilo na ovu konkretnu tvrdnju.
Zaštitne mjere ‘neadekvatne’
Pa zašto Meta, najveća svjetska tvrtka za društvene medije, daje platformu takvoj retorici?
Govor mržnje, mora se naglasiti, u suprotnosti je s pravilima Facebooka. Meta to definira kao napad na ljude na temelju “zaštićenih karakteristika”, uključujući rasu, vjersku pripadnost i kastu. Govor mržnje na Facebooku nije dopušten: “sloboda izražavanja zahtijeva sigurnost tijela, zaštitu od nediskriminacije i privatnost”, stoji u Metinom općem izvještaju o ljudskim pravima, objavljenom u srpnju 2022.
Dio problema je uporni neuspjeh identificiranja ubilačke retorike na platformi. Facebook se u velikoj mjeri oslanja na moderiranje sadržaja putem umjetne inteligencije (AI), koju neki od njegovih bivših zaposlenika smatraju neučinkovitom. Izazovi prepoznavanja govora mržnje u nizu regionalnih indijskih jezika i dijalekata čine ovaj zadatak još težim.
U maju 2021. Meta je Komitetu za energiju i trgovinu Sjedinjenih Država rekla da frima ima više od 80 tvrtki trećih strana za provjeru činjenica širom svijeta, koje rade na više od 60 jezika. Meta je za Middle East Eye rekao da se sadržaj na 20 indijskih jezika pregledava na Facebooku: “Imamo mrežu od 11 osoba za provjeru činjenica u zemlji koji imaju mogućnost provjere činjenica na 15 indijskih jezika plus engleski.”
Frances Haugen, bivša voditeljica proizvoda u Facebooku koja je postala zviždačica, rekla je 2021. da su resursi tvrtke u praksi neadekvatni: govor mržnje – posebno na regionalnim indijskim jezicima – ne bilježi Facebookova umjetna inteligencija i redovito prolazi ispod radara.
Ritumbra Manuvie, viši istraživač u grupi za sigurnost, tehnologiju i e-privatnost na Sveučilištu u Groningenu i izvršni direktor The London Story, analizirao je Facebookovu upotrebu umjetne inteligencije za moderiranje sadržaja. Otkrila je da tehnologija ne može otkriti slabo prikriveni sadržaj unutar svog konteksta i okoline. “Većina onoga što je uklonjeno je vulgarnost i neželjena pošta”, rekla je.
Problem moderiranja također je dublji od svih navodnih tehničkih problema. Facebookov poslovni model čini platformu inherentno pogodnom za govor mržnje. Radi na maksimalnom povećanju angažmana korisnika, što povećava prihod od oglašavanja. To znači da Facebookovi algoritmi favoriziraju sadržaj koji izaziva komentare, lajkove i druge reakcije. Takav sadržaj često može biti kontroverzan, senzacionalistički i pun mržnje.
Facebook je dugo znao za problem: interna prezentacija iz 2016. pokazala je da je “64 posto svih pridruživanja ekstremističkim grupama posljedica naših alata za preporuku”.
U 2018. Facebookova radna skupina pronašla je vezu između maksimiziranja angažmana korisnika i povećanja političke polarizacije. Radna skupina predložila je nekoliko radnji za ispravljanje političke polarizacije, uključujući promjenu algoritama preporuka tako da se korisnici Facebooka usmjeravaju prema raznolikijem rasponu skupina. Ali također je priznao da bi ova strategija naštetila rastu Facebooka. Na kraju većina prijedloga nije usvojena.
Čini se da je od 2019. Facebook ozbiljnije shvatio pitanje nediskriminacije, osiguravajući da se njegovim korisnicima ne prikazuju određeni oglasi zbog njihovog etničkog podrijetla, kao i suprotstavljajući se optužbama o antikonzervativnoj pristranosti u Sjedinjenim Državama. Ali kritičari kažu da unatoč ovim reformama, Facebookovi algoritmi i dalje potiču angažiranje s govorom mržnje i teorijama zavjere.
Middle East Eye pitao je Metu promovira li Facebook govor mržnje. Firma je ukazala na komentare osnivača i izvršnog direktora Marka Zuckerberga 6. oktobra 2021., kada je rekao da moralni, poslovni i proizvodni poticaji ukazuju na suprotno. “Argument da namjerno forsiramo sadržaj koji ljuti ljude zbog zarade duboko je nelogičan”, rekao je Zuckerberg. “Zarađujemo od oglasa, a oglašivači nam stalno govore da ne žele svoje oglase pored štetnog ili ljutitog sadržaja.”
Ali Meta je ranije sporo djelovala protiv islamofobije na svojim platformama. Godine 2021., časopis Time kontaktirao je Facebook u vezi videa u kojem je propovjednik pozvao Hinduse da ubijaju muslimane. Zatim je uklonjen – ali je do tada već privukao 1,4 miliona pregleda.
To je u suprotnosti s iskustvom Manuvie i njezinog tima. Pratili su Facebook u Indiji i prijavili više od 600 stranica koje uporno šire mržnju: samo 16 od tih stranica je uklonjeno.
Meta nije odgovorila na zahtjev Middle East Eye-a za odgovor na ova otkrića.
Drugom prilikom, izvijestio je Time, Facebook je zabranio antimuslimansku grupu s gotovo tri milijuna sljedbenika, ali je ostavio svoje stranice online nekoliko mjeseci. Neki od njih prikazivali su muslimane kao zelena čudovišta s groteskno dugim noktima.
Meta je za Middle East Eye rekao: “Iako znamo da imamo još posla, stvarno napredujemo. Uklanjamo 10 puta više govora mržnje na Facebooku nego 2017., a količina govora mržnje koju ljudi stvarno vide na našim uslugama pala je za više od 50 posto u posljednje dvije godine.”
No, interni dokumenti koji su procurili 2021. pokazali su da Facebook briše manje od pet posto govora mržnje objavljenog na njegovoj platformi.
Kako je to dopušteno?
U septembru 2021. Haugen je američkoj Komisiji za vrijednosne papire i burzu predstavio dokaze da je “Facebook svjesno odlučio dopustiti političke dezinformacije i nasilne sadržaje/grupe” kako bi zaštitio svoje poslovne interese. Zapravo, objasnila je, firma se morala prilagoditi indijskom političkom okruženju kako bi povećala svoj profit.
Premijer Modi već dugo pokazuje interes za Facebook – i obrnuto. Zuckerberg ga je ugostio u Facebookovom sjedištu u Kaliforniji u rujnu 2015., upoznavši Modija s njegovim roditeljima i čak promijenivši mu profilnu sliku kako bi podržao program Digital India u New Delhiju za povećanje pristupa internetu diljem zemlje.
Tokom proteklih nekoliko godina odnos između BJP-a i Mete samo je ojačao. Godine 2020. Wall Street Journal objavio je zaključak Facebookovog sigurnosnog tima da je Bajrang Dal, hinduistička nacionalistička skupina, podržavala napade na manjine. To je uslijedilo nakon incidenta u lipnju te godine kada je napadnuta pentekostna crkva u blizini New Delhija i napadnut njezin pastor. Bajrang Dal je preuzeo odgovornost za video koji je skupio gotovo 250.000 pregleda na Facebooku.
No, izvijestio je Wall Street Journal, Facebookov tim za sigurnost usprotivio se zabrani pristupa grupi s platforme, upozoravajući da bi se zaposlenici u Indiji mogli suočiti s nasiljem od strane Bajranga Dala ako se to dogodi. Dok je Middle East Eye pripremao ovaj članak za objavljivanje, stranica grupe ostala je na Facebooku. Značajno je da je sigurnosni tim također upozorio da bi zabrana militantne skupine mogla naštetiti poslovanju Facebooka razljutivši političare u BJP-u.
MEE je pitao Metu zašto nije zabranio Bajrang Dal. Nije dobio nikakav odgovor.
U rujnu 2020., nakon izvješća u časopisu Wall Street Journal i Time o govoru mržnje na Facebooku, indijski ministar za informacije i tehnologiju, Ravi Shankar Prasad, pisao je Zuckerbergu. Prasad je kritizirao “dosluh skupine zaposlenika Facebooka s međunarodnim medijima”, opisujući kao “neprihvatljivo” da “političke pristranosti pojedinaca ugrožavaju slobodu govora milijuna ljudi”. Poruka je bila jasna: nemojte djelovati protiv interesa BJP-a.
Manje od mjesec dana kasnije, Ajit Mohan, šef Facebook India, ispitan je od strane parlamentarnog odbora. Tokom saslušanja opoziocioni političari kritizirali su Facebook jer nije uklonio huškački sadržaj koji su objavili računi povezani sa strankom.
Od tada su se pojavili dodatni dokazi o bliskoj vezi između Facebooka i BJP-a. U martu 2022., na primjer, zajednička analiza The Reporters Collective i ad.watch 536.070 političkih oglasa u Indiji zaključila je da je između februaru 2019. i neovmbra 2020. Facebook naplaćivao BJP-u manje za izborne oglase od drugih političkih stranaka. U prosjeku, Kongres, najveća oporbena stranka u Indiji, platio je gotovo 29 posto više za prikazivanje oglasa milion puta od BJP-a.
U izvještaju se također navodi da je Facebook dopustio zamjenskim oglašivačima da promoviraju BJP na izborima – dok je blokirao gotovo sve zamjenske oglašivače suparničke Kongresne stranke.
Middle East Eye pitao je Metu igra li partijsku ulogu u indijskoj politici. Odgovorio je: “Primjenjujemo naše politike jedinstveno bez obzira na bilo čije političke pozicije ili stranačku pripadnost. Odluke o radu na integritetu ili eskalaciji sadržaja ne može i ne donosi jednostrano samo jedna osoba; naprotiv, uključuju različite poglede iz cijele tvrtke, proces koji je ključan za osiguravanje da uzmemo u obzir, razumijemo i uzmemo u obzir lokalni i globalni kontekst.”
Hindutva i teorije zavjere
Prošlogodišnja istraga The Intercepta izvijestila je da je Facebook globalno zabranio samo jednu Hindutva grupu, za razliku od stotina muslimanskih grupa. Pro-RSS Facebook stranice redovito promoviraju rastuću teoriju zavjere Love Jihad, koja tvrdi da muslimanski muškarci zavode hinduističke žene kao dio islamske zavjere.
Godine 2021. Time je izvijestio o internoj prezentaciji na Facebooku koja je priznala da RSS dijeli “zastrašujuće, antimuslimanske narative” ciljajući na “prohinduističku populaciju s V&I [nasiljem i huškačkim] sadržajem”. Takvo ponašanje je u suprotnosti s Facebookovim pravilima – ali RSS nije zabranjen na Facebooku.
Prema Timeu, “Facebook je svjestan opasnosti i prevalencije teorije zavjere Love Jihad na svojoj platformi, ali je učinio malo da djeluje u vezi s njom, prema internim dokumentima Facebooka u koje je Time imao uvid, kao i intervjuima s bivšim zaposlenicima. Dokumenti sugeriraju da su ‘političke osjetljivosti’ dio razloga zašto je tvrtka odlučila ne zabraniti hinduističke nacionalističke skupine koje su bliske vladajućoj indijskoj Bharatiya Janata stranci (BJP).”
U izjavi za Middle East Eye, Meta je osporila da svoja pravila provodi selektivno, rekavši: “Zabranjujemo pojedince ili subjekte nakon pažljivog, rigoroznog i multidisciplinarnog procesa. Globalno provodimo našu politiku opasnih organizacija i pojedinaca bez obzira na politički položaj ili stranačku pripadnost.”
No ova je izjava u suprotnosti s izvješćem Wall Street Journala iz septembar 2021., u kojem se navodi da tvrtka izuzima milijune svojih visokoprofiliranih korisnika od svojih uobičajenih pravila putem programa poznatog kao “XCheck”. Mnogi od tih korisnika, uključujući političke i medijske ličnosti, “zlorabe privilegiju, objavljujući materijale uključujući uznemiravanje i poticanje na nasilje koje bi obično dovelo do sankcija”, izvijestio je WSJ.
WSJ je također otkrio da se Ankhi Das, direktor javne politike Facebooka za južnu i središnju Aziju, usprotivio zabrani pristupa platformi političaru T Raja Singhu, iako je muslimane nazivao izdajicama i prijetio da će srušiti džamije. Das je rekao osoblju da bi primjena pravila govora mržnje na političare bliske BJP-u “naštetila poslovnim izgledima tvrtke u zemlji”. Nakon negodovanja, Facebook je zabranio Singha, a Das je podnio ostavku.
Godine 2019. Facebook je naručio procjenu utjecaja na ljudska prava (HRIA) u Indiji. Provela ga je Foley Hoag LLP, američka odvjetnička tvrtka. U siječnju ove godine više od 20 skupina za ljudska prava pozvalo je Metu da objavi cijelo izvješće. Još uvijek nije objavljen.
U srpnju ove godine Meta je objavila svoje prvo opće izvješće o ljudskim pravima, koje je uključivalo kratki sažetak HRIA-e. Rečeno je Human Rights Watchu da “ne planira objavljivati ništa dalje o indijskom HRIA-i”.
Human Rights Watch je u izjavi odgovorio da nas sažetak “ne približava razumijevanju Metine odgovornosti, a time i njezine predanosti rješavanju problema širenja štetnog sadržaja u Indiji”.
Manuvie iz The London Story nazvao je sažetak “zataškavanjem njegovih [Metinih] akutnih nedostataka u Indiji”, što je pokazalo da je Metina “predanost ljudskim pravima prilično ograničena”. Prodemokratska aktivistica Alaphia Zoyab također nije bila impresionirana. “Nikad nisam pročitala toliko sranja na četiri kratke stranice”, rekla je.
U izjavi za MEE, glasnogovornik Mete rekao je: “Mi balansiramo između potrebe za objavljivanjem ovih izvješća i razmatranja legitimnih sigurnosnih zabrinutosti. Iako se ne slažemo sa svakim nalazom, vjerujemo da ova izvješća vode Metu da identificira i riješi najistaknutije probleme povezane s platformom.”
Pažljivo smo proučili Metino opće izvješće o ljudskim pravima. Rečeno je da je Procjena utjecaja na ljudska prava utvrdila da je Meta napravila “znatna ulaganja u nove resurse za otkrivanje i ublažavanje govora mržnje i diskriminacije”.
Ali HRIA, navodi se u općem izvješću, napominje da bi “ljudske rizike” mogli stvoriti korisnici Facebooka u Indiji, te da se “Meta suočila s kritikama i potencijalnim reputacijskim rizicima” kao rezultat toga. Zapanjujuće, izvješće navodi da HRIA “nije procijenila” nikakve “navode o pristranosti u moderiranju sadržaja”. Rečeno je da je “u razdoblju 2020.-2022. Meta značajno povećala svoju radnu snagu za moderiranje sadržaja vezanu uz Indiju i jezičnu podršku”, tako da sada ima recenzente “na 21 indijskom jeziku” (ustav priznaje 22, iako se govori mnogo više).
Sve ovo sugerira da bi trebalo identificirati više govora mržnje na Facebooku – ali ne govori ništa o neuspjehu uklanjanja govora mržnje nakon što je identificiran; ili slučajevi izuzeća korisnika od pravila.
Metin izvještaj o ljudskim pravima također kaže da će tvrtka “proširiti sudjelovanje u našoj inicijativi otpornosti, koja osnažuje lokalne zajednice digitalnim alatima za borbu protiv mržnje, nasilja i sukoba”.
Pogledali smo Resiliency Initiative: čini se da ima za cilj educirati korisnika o nenamjernom sudjelovanju u govoru mržnje. “Oslanjate li se na uobičajene stereotipe ili netočne pretpostavke?” pita se njegov Korak-po-poredni vodič kroz društvene medije, upozoravajući da bi to “moglo ojačati, a ne srušiti prepreke”.
Facebookove smjernice su, naravno, irelevantne za svakoga tko je odlučan širiti mržnju prema manjinama
Korisnici se također potiču da se zapitaju: “Kako će vaša publika reagirati na ovu poruku?” i “Ako niste sigurni, isprobajte!” Ova smjernica je, naravno, irelevantna za bilo koga tko želi širiti mržnju prema manjinama. Doista, utjecaj osoba poput Narsinghananda ovisi o prkošenju politici.
Opći izvještaj o ljudskim pravima također obećava proširenje Metinog “programa preusmjeravanja pretraživanja”, za koji kaže da je inicijativa za “suprotstavljanje nasilnom ekstremizmu” koja usmjerava pojmove za pretraživanje vezane uz mržnju i nasilje prema “resursima, obrazovanju i skupinama za kontakt koje mogu pomoći”.
Ali problem je u tome što je u Modijevoj Indiji ekstremni govor mržnje postao dio normalnog političkog diskursa. Nijedno od Metinih obećanja nije ni blizu zaustavljanja sve većeg širenja dezinformacija i govora mržnje.Haugen vjeruje da, bez obzira na tvrdnje da radi na poboljšanjima, još uvijek postoje ozbiljni problemi s politikom tvrtke. Govoreći na webinaru koji je organiziralo nekoliko američkih skupina za ljudska prava i civilno društvo o općem izvješću o ljudskim pravima, rekla je: “Facebookovo izvješće ističe [da] imaju nadzorni odbor kojem se ljudi mogu žaliti, da su transparentni u pogledu onoga što skidaju… Ali stvarnost je takva da nam neće dati čak ni vrlo osnovne podatke o tome koji sustavi za moderiranje sadržaja postoje na kojim jezicima i (o) izvedbi tih sustema.”
U izjavi za Middle East Eye, glasnogovornik Mete rekao je: “Svake godine ulažemo milijarde dolara u ljude i tehnologiju kako bismo očuvali sigurnost naših platformi. Učetverostručili smo – na više od 40.000 – broj ljudi koji rade na sigurnosti i pioniri smo u tehnologiji umjetne inteligencije za uklanjanje sadržaja koji izaziva mržnju u velikom broju.”
Prijetnja demokratiji
Meta je sada pod većim nadzorom u Indiji nego ikad prije. Zakonodavna skupština Delhija osudila je tvrtku nakon ubojstava u Delhiju 2020. Kada je Ajit Mohan, šef Facebook India, odbio pojaviti se pred skupštinom, podnio je peticiju Vrhovnom sudu osporivši poziv.
Presuda suda iz septembra 2021., godinu dana nakon nereda, ukorila je Facebook. Indija ima “povijest onoga što se sada obično naziva ‘jedinstvo u različitosti'”, primijetio je. “Ovo ne može biti poremećeno ni pod koju cijenu ili uz ikakvu deklariranu slobodu od strane diva poput Facebooka koji tvrdi da ne zna ili nema nikakvu ključnu ulogu.”
Sud je također osudio utjecaj Facebooka u Indiji. “Izborni i glasački procesi, sami temelji demokratske vlade, ugroženi su manipulacijom društvenih medija”, navodi se.
Kada je zakonodavna skupština u Delhiju konačno osudila Shivnatha Thukrala, direktora javne politike Facebooka u novembra 2021., on je odbio odgovoriti je li Facebook poduzeo hitnu akciju u vezi sa sadržajem mržnje tokom nasilja 2020., držeći se linije da se upit odnosio na pitanje reda i zakona. “Odbijanjem mojih pitanja ili zadržavanjem prava na odgovor, frustrirate cilj ovog odbora”, rekao mu je predsjednik odbora.
MEE je Meti dostavio i izjave Vrhovnog suda i predsjednika odbora Delhijske zakonodavne skupštine, ali nije dobio odgovor.
Indijski zakon zabranjuje “riječi, bilo izgovorene ili napisane” koje izazivaju “osjećaje neprijateljstva, mržnje ili zle volje” između vjerskih (i drugih) zajednica. Mnogi pravni stručnjaci stoga tvrde da je problem antimuslimanskog govora mržnje u tome što se postojeći zakoni ne provode. Ovo sugerira da će se, kako stvari stoje, Meta i Facebook promijeniti samo ako div društvenih medija to sam odluči učiniti.
Pitali smo Fuzaila Ahmada Ayyubija, avokata Vrhovnog suda koji je radio na slučajevima koji se odnose na govor mržnje, što bi trebalo učiniti.
“Moj zahtjev nije da Facebook treba podlijegati dodatnim zakonima”, rekao je. “Interno [unutar Mete] trebao bi postojati mehanizam za rješavanje problema. Mora postojati više mjera opreza kako bi se spriječila zlouporaba medija. Naš problem je što se tiče namjera Facebooka.”
Mohammad Rafat Shamshad, također advokat Vrhovnog suda, vjeruje da “ako se postojeći zakon bude jednako primjenjivao onda će se vjerojatno stvari poboljšati… diskriminirajuća primjena zakona je veliki problem.” Poput Ayyubija, Shamshad tvrdi da je Facebookov problem njegova namjera, nije njegova nadležnost.”Facebook može stvoriti mehanizam”, rekao je, “kroz koji mogu identificirati skupine koje propagiraju mržnju i staviti ih na skener. Ako je grupa ili pojedinac uključen u stvaranje govora mržnje, zašto ne možete zabraniti ih?” Ali to, kaže on, nije visoko na Facebookovoj listi prioriteta. “Ako je prihod tako visok, Facebooku možda nije važno zaustaviti govor mržnje.”
Drugim riječima, rizik za Facebook je potencijalna šteta za njegovo poslovanje ako ozbiljno pokuša ukloniti govor mržnje.
Sve je to komplicirano time što je govor mržnje sada dio svakodnevnog razgovora u indijskoj politici. Razmotrite RSS: unatoč svom fašističkom podrijetlu, postao je mainstream u Indiji koliko je to moguće biti. Promiče antimuslimanski govor mržnje i dezinformacije, ali također obrazuje milijune mladih Indijaca u svojim školama; ima svoje sindikate; i otvorio je školu za obuku ljudi koji žele ići u vojsku. Vladajući BJP zapravo je njegovo političko krilo. Kako je Facebook može zabraniti kao “opasnu organizaciju” i još uvijek očekivati da će maksimizirati svoj profit u Indiji?
Iznijeli smo kritike Ayyubija i Shamshada Meti. Nije izravno odgovorilo na njih.
Pitali smo Shamshada za mišljenje o tome koji su ulozi za indijske muslimane: on je, na kraju krajeva, istaknuti indijski muslimanski odvjetnik suočen s posljedicama eskalacije islamofobične politike.
“Postoji mogućnost”, rekao je, “da u sporadičnim neredima veliki broj ljudi bude ubijen u raznim dijelovima zemlje. Taj rizik stalno postoji.”
Može li biti genocida?
“Genocid u cijeloj zemlji trenutno nije neposredan rizik. Ali te platforme [društvenih medija] pridonose slabljenju demokratskih normi. Oni povećavaju mržnju među zajednicama. Ako se ovo nastavi, stvari će se pogoršati.” Ako mržnja i nasilje prema muslimanima u Indiji eskaliraju u nadolazećim mjesecima i godinama, onda se Facebook i Meta mogu okriviti za stvaranje klime mržnje u zemlji s dobro dokumentiranim naslijeđem užasnog nasilja u zajednici.
Mark Zuckerberg bi mogao razmisliti o tome.
(TBT, MEE)
