Piše: Jennifer Cobbe, thebosniatimes.ba
Način na koji je kompanija Cambridge Analytica iskoristila Facebook da prikupi podatke o desetinama miliona korisnika samo je jedan od problema vezanih za ovu društvenu mrežu i njen uticaj na društveni i politički život. Na izvjestan način ovaj skandal je skrenuo pažnju sa važnijih pitanja koja proističu iz modela poslovanja giganata interneta: Google, Facebook, Amazon i druge velike tehnološke kompanije izgradile su najobuhvatniji i najbezobzirniji aparat nadzora i praćenja koji je svijet ikada vidio. Svi smo pod njihovom prismotrom.
Poslovni model internet kompanija može se opisati kao kapitalizam nadziranja – što je prva učinila harvardska profesorica Shoshana Zuboff 2015. godine. Izgrađen na tehnologijama prikupljanja informacija i manipulisanja ponašanjem korisnika, kapitalizam nadziranja nastao je onog trenutka kada su inženjeri iz Googla shvatili da prateći šta korisnici unose u pretraživač mogu anticipirati njihove želje. Razvijanje tehnika za predviđanje želja korisnika omogućilo im je da plasiraju prilagođene oglase koji će uvećati prihode kompanije.
Danas praktično svaki aspekt svakodnevnog života ostavlja trag u korporativnim bazama podataka koji se koriste za predviđanje i oblikovanje svih oblika ponašanja. Ali korporacije koje se bave biznisom nadziranja ne zadovoljavaju se samo praćenjem želja korisnika; one aktivno oblikuju i usmjeravaju te želje u skladu sa svojim ciljevima. To obično znači da se od nas očekuje da kliknemo na reklamu, posjetimo web-stranicu ili konačno nešto kupimo. Da bi to postigli, koriste se sve poznate prečice i predubjeđenja koja utiču na ljude prilikom donošenja odluka, čime se bavi disciplina poznata kao „heuristika“. To često podrazumijeva da se linkovi i drugi sadržaji moraju prikazati na način koji ih čini atraktivnijim, a u nekim slučajevima kao što su takozvani „mračni šabloni“ – trikovi za privlačenje pažnje i prodaju ili prikupljanje ličnih podataka koji uključuju element prevare – koriste se arhitekture izbora koje korisnike proračunato dovode u zabludu.
Opsežni eksperimenti omogućuju dalje usavršavanje oglasa i poziva na interakciju. Google je na primjer do 2014. godišnje izvodio oko 10.000 eksperimenata u oblasti pretrage i plasiranja oglasa, a u bilo kom trenutku u toku je bar 1.000 eksperimenata. Eksperimentima se testiraju korisnički interfejsi, algoritmi i drugi elementi servisa da bi se ustanovilo koje kombinacije su najefikasnije za angažovanje korisnika. Oglasi vas prate sa jedne web-stranice na drugu, svaki put suptilno izmijenjeni, jer kompanija pokušava da na osnovu vašeg ponašanja i reakcija otkrije koja varijacija će vas natjerati da konačno kliknete na oglas.
Otuda, ako koristite Chrome pretraživač ili Google aplikacije gotovo je sigurno da ste dio uzorka u desetinama psiholoških eksperimenata koji treba da ustanove profil vaših navika i slabe tačke koje kompanijama mogu donijeti korist. Taj personalizovani i dinamički oblik podsticanja određenih oblika ponašanja pruža kompanijama mnoštvo prilika da manipulišu korisnicima na načine nezamislive prije nastanka interneta. A budući da se saznanja o vašim slabim tačkama dalje primjenjuju za što efikasniji uticaj na ostale korisnike, vi ste praktično saučesnik, ne samo u sopstvenoj već i u manipulaciji vaših prijatelja i članova porodice, susjeda i kolega, praktično svakog korisnika ovih usluga.
Većina ljudi ne shvata koliko inače nedostupnih informacija možete otkriti samo analizom relativno depersonalizovanih podataka o ponašanju neke osobe. Istraživanje iz 2013. koje je sproveo Centar za psihometriju Univerziteta u Cambridgeu pokazalo je da i bez činjeničnih podataka o nekoj osobi analiza „likeova“ na Facebooku može precizno pokazati njenu seksualnu orijentaciju, etničku pripadnost, nivo zadovoljstva životom, politička i vjerska ubjeđenja, da li su joj roditelji razvedeni i da li koristi droge. U nastavku istraživanja 2015. pokazalo se da kroz analizu „likeova“ kompjuter može procijeniti karakteristike vaše ličnosti – koliko ste naklonjeni umjetnicima, koliko ste stidljivi ili kooperativni – bolje nego članovi vaše porodice i prijatelji. Zamislite sad koliko se podataka, čak i onih koje smatrate ličnim i povjerljivim, može izvući iz mora drugih informacija koje korporacije prikupljaju o vama i svakom drugom korisniku. Onda zamislite eksponencijalni rast količine takvih podataka koji će uslijediti sa širenjem takozvanog interneta stvari (Internet of Things, IoT) – što je praktično mreža senzora, kamera i mikrofona koji će se kriti u vašim domovima, kancelarijama i na javnim mjestima i vrijedno prikupljati i slati podatke u baze podataka kapitalizma nadziranja.
Oni koji su pratili saslušanje Marka Zuckerberga pred Kongresom prošle nedjelje su u zabludi ako misle da ne treba da se brinu jer ne koriste Facebook. Tehnike praćenja koje kompanija koristi – uključujući alat Facebook Pixel namijenjen oglašivačima i dugmad „like“ i „share“ – utkane su u sam internet i mnoštvo web stranica. Na taj način se prate korisnici širom interneta, stiču predstavu o njihovim interesovanjima i upućuju im se prilagođeni oglasi. Zeynep Tufekci, profesor sociologije na Univerzitetu Sjeverne Karoline, napisao je nedavno u New York Timesu da čak i ako nemate otvoren nalog, Facebook može dedukovati informacije o vama na osnovu onoga što zna o vašim prijateljima koji ga imaju. Čak i ako niste registrovani korisnik, Facebook vjerovatno sastavlja „skriveni dosije“ o vama, isto kao za svoje korisnike. U Americi nema načina da to spriječite. Koristili Facebook ili ne, on vas posmatra.
Često se tvrdi da su lični podaci cijena koju plaćamo da bismo besplatno koristili ponuđene usluge. Ali to nije sasvim tačno. Prava cijena koju plaćamo da bismo koristili Google i Facebook jeste naša privatnost. Odustajanje od prava na privatnost omogućuje kompanijama da istražuju vaše psihološke slabe tačke i naplaćuju oglašivačima mogućnost da ih koriste. Da bi to prikrile, ove kompanije se skrivaju iza dokumenata o politici privatnosti koji su često dugački, komplikovani i pisani nerazumljivim pravnim jezikom. Prije desetak godina jedno istraživanje je pokazalo da bi prosječnom korisniku godišnje trebalo oko 25 dana (i noći) da pročita sve politike privatnosti koje je primoran da prihvati. Ko ima vremena i volje da to čita? Pozivanje na privatnost da bi se opravdale takve prakse liči na prevaru – Federalna komisija za trgovinu je osudila politiku privatnosti koju nudi Google jer korisnike dovodi u zabludu – naročito kada se ima u vidu da korporacije u biznisu nadziranja koriste heurističke metode da otkriju najbolji način prezentacije politika privatnosti tako da navedu korisnike da ih prihvate.
Možda vam se čini da je to razumna cijena za održavanje kontakta sa prijateljima i rođacima. Ali ono što dobijate zauzvrat nije vjerna slika vašeg socijalnog kruga, već prilagođena verzija kojom upravljaju algoritmi inženjera iz Facebooka. To što vidite nije stvarnost, već slika stvarnosti koju je za vas filtrirao Facebook. U tu prilagođenu sliku enkodirani su različiti sudovi o tome šta je po mišljenju Facebooka vrijedno vaše pažnje. Na primjer, algoritam za prikazivanje novih objava smanjuje vidljivost onih korisnika koji prema kriterijumima kompanije nisu dovoljno aktivni – to jest, prikazuje manji broj njihovih objava drugim korisnicima – i uvećava vidljivost onih koji su aktivniji. To je nov oblik kontrole: radite ono što Facebook od vas želi i bit ćete nagrađeni; ako ne ispunite kvotu, bit ćete kažnjeni socijalnom nevidljivošću. To može proizvesti teške posljedice. Zamislite, na primer, da ste se u trenutku teške bolesti okrenuli Facebooku u pokušaju da doprete do prijatelja koji će vas podržati i utješiti, ali niko od vaših prijatelja ne reaguje i vi umirete u uvjerenju da nikome nije stalo do vas – samo zato što niste bili dovoljno aktivni da bi Facebook smatrao da je vaša bolest vrijedna pažnje vaših prijatelja. To nije distopija iz budućnosti – to se navodno dogodilo prošle godine.
Kada Mark Zuckerberg govori o povezivanju ljudi, kao što često čini, on uvijek zaboravlja da naglasi da je to povezivanje ljudi sa Facebookom. Koliko god da Zuckerberg priča o zajednici i povezanosti, Facebook ne postoji da bi doprinio održavanju društvenih veza i istinskih prijateljstava. On zarađuje od oglašavanja i zato želi da što više surfujete, skrolujete i klikćete i tako ustupate detalje o svom životu za dalju obradu. Da bi to postigao, Facebook se mora pozicionirati kao centar vašeg društvenog života i posrednik vaše stvarnosti.
Tako posredovana stvarnost daje kompaniji kao što je Zuckerbergova značajan uticaj na globalni protok informacija. Sa tim uticajem ide i odgovornost. Ipak, zahvaljujući nedavno procurjelim internim dokumentima znamo da Facebook ne razmišlja mnogo o posljedicama svog djelanja i da toleriše globalni procvat lažnih vijesti i dezinformacija. U Mianmaru na primjer, gdje je Facebook toliko dominantan da mnogi vjeruju da su Facebook i internet jedna ista stvar, brisani su sadržaji kojima se skreće pažnja na etničko čišćenje Rohingya muslimana i zabranjivani sadržaji njihovih grupa, dok pozive na nasilje protiv njih niko nije cenzurisao. Uticaj Facebooka u Mianmaru je tako veliki da ga Ujedinjene nacije i grupe za zaštitu ljudskih prava optužuju za pomaganje u genocidu.
Da ne bude zabune, takvo ponašanje nije ograničeno samo na Facebook; to je endemski oblik ponašanja u kapitalizmu nadziranja. Poznato je da je Google preporučivao linkove koji vode do stranica o teorijama zavjere; u članku u Timesu objavljeno je da je Google čak postavljao oglase za lažne vijesti na stranice posvećene provjeri činjenica u vijestima. U pokušaju da uveća broj klikova i prihod, YouTube, jedan od servisa pod kontrolom Googla, usmjerava korisnike na sve ekstremnije video snimke i postaje vodeći generator radikalizacije u 21. vijeku.
Svijet upravo otkriva da stvarnost posredovana Facebookom olakšava nadziranje glasača od strane političkih partija i kampanja. Facebook alati „prilagođena publika“ i „slična publika“ omogućuju oglašivačima, uključujući i političke organizacije, da dostave spiskove ljudi na koje ciljaju i povežu ih sa njihovim profilima. Oglašivači onda mogu izabrati slične ljude koji nisu bili na njihovim spiskovima i usmjeriti političke poruke na sve njih, što znatno pojačava efekte kampanje. Pomoću takvih alata za mikrociljanje organizatori kampanja mogu precizno plasirati različite poruke različitim grupama glasača. Prema članku iz magazina Wired, tokom američkih predsjedničkih izbora 2016. Trumpova kampanja je svakog dana koristila oglase u 40-50 hiljada različitih varijacija pažljivo osmišljenih da djeluju na ciljane grupe i prethodno testiranih eksperimentima. Na dan treće predsjedničke debate, takvih prilagođenih varijacija bilo je 175.000. Menadžer Trumpove digitalne kampanje tvrdi da je Trump pobijedio zahvaljujući Facebooku i Twitteru.
Za vrijeme izbora za Kongres 2010. godine Facebook je organizovao sopstveno istraživanje efekata političkih poruka upućenih preko online platformi. Istraživanje je pokazalo da je moguće uvećati vjerovatnoću izlaska birača na glasanje za oko 0,4 odsto plasiranjem obavještenja da su njihovi prijatelji već glasali i ohrabrivanjem da učine isto (nešto drugačiji eksperiment izveden 2012. dao je sličan rezultat). To ne zvuči kao mnogo, ali na nivou zemlje to je oko 340.000 glasova. George W. Bush je pobijedio sa razlikom od nekoliko stotina glasova u Floridi; Donald Trump je 2016. pobijedio zahvaljujući tome što je uspio da privuče oko 80.000 glasova više u samo tri države. Pažljivo dizajnirane mikro-kampanje pod parolom „izađi i glasaj“ imaju veliki značaj u slučajevima kada je trka izjednačena. Također, u kampanji 2016. Trump je koristio alatku „prilagođena publika“ za vođenje tri kampanje za odvraćanje onih grupa birača koji bi mogli glasati za Hillary: ciljali su na demokrate koji podržavaju Sandersa porukama o njenim vezama sa finansijskom elitom; na mlade žene porukama o njenoj podršci suprugu uprkos optužbama za seksualno neprimjereno ponašanje; i na Afroamerikance porukama o njenim komentarima o „supergrabljivcima“ iz 1996. Negativne kampanje nisu ništa novo, ali precizno ciljanje mikro-kampanjama danas ih čini efikasnijim nego ikada – po cijenu potkopavanja povjerenja u političare i vjere u demokratski proces.
Kao što primjećuje profesor Tufekci: „Ako su inženjeri konsenzusa 20. vijeka imali na raspolaganju lupe i bejzbol palice, njihove kolege u 21. vijeku imaju teleskope, mikroskope i skalpele u obliku algoritama i analitike“. Moguće je da ne postoji dvoje ljudi koji su vidjeli isti skup oglasa, jer se u svakom sukobljavanju argumenata i dezinformacija vrše precizna prilagođavanja za različite grupe, pa glasači i ne znaju šta je servirano drugima. Dok su se političke kampanje u prošlosti odvijale pred očima javnosti, a tvrdnje i argumenti kandidata su stavljani pod lupu, mikro-ciljanje znači da se izborni proces danas pomjerio ka privatnoj i personalnoj sferi, bez mnogo prilika za unakrsno ispitivanje i osporavanje dezinformacija. Po mišljenju stručnjaka za digitalne medije Justina Hendrixa i Davida Carolla, to je „noćna mora za demokratiju“.
Kao društvo polako dolazimo sebi i uočavamo probleme koje stvara Facebook. Poštovanje privatnosti nikada nije bilo dio njihove misije. Zuckerberg je više puta podsjećao senatore da je Facebook izrastao iz ideje grupe studenata za web-stranicu – ali nije pomenuo da su na toj stranici birali najzgodnije studentkinje bez njihove saglasnosti. U prvoj deceniji razvoja ovog sitea, njegov moto je bio „kreći se brzo i ruši sve što ti se nađe na putu“. Sa takvim poslovnim etosom nije neobično što nas skandali povezani sa Facebookom više ne iznenađuju.
Ponekad neko primijeti sumnjive postupke ove kompanije i digne prašinu. Kao i posljednjih dana, onda se obično pojavi Zuckerberg, izjavi da mu je veoma žao i da nije mogao da predvidi problem (uprkos upozorenjima stručnjaka i grupa za zaštitu privatnosti), izgovori nekoliko rečenica o „zajednici“ i planiranim „poboljšanjima“ i obeća da će se Facebook promijeniti. Ali poslije svih izvinjenja i obećanja da će biti pažljiviji i da će korisnicima osigurati više privatnosti – a bilo ih je dosta – neke stvari ostaju iste: nadziranje je ugrađeno u gene Facebooka, a svrha njegovog postojanja je kapitalizam nadziranja. Rješenje koje se nudi je predvidivo i pogrešno: dajte Facebooku još veću moć.
Zuckerbergovo saslušanje pred Kongresom jasno je pokazalo nekoliko stvari. Facebook i dalje odbija da prizna koliko malo korisnici znaju o onome što Facebook radi. Zuckerberg tvrdi da je većina korisnika upoznata sa aktivnostima praćenja koje se sprovode i da im to ne smeta, ali istraživanja pokazuju da se većina korisnika ne bi saglasila sa takvim praksama. Također, da bi opravdao svoj poslovni model, Facebook insistira na tvrdnji da korisnici preferiraju ciljano oglašavanje, uprkos tome što istraživanja pokazuju da 41 odsto njihovih korisnika više voli tradicionalno oglašavanje, dok se svega 21 odsto opredjeljuje za ciljane oglase (63 odsto bi voljelo da vidi manje oglasa bilo koje vrste). Sada se zna da desetine hiljada aplikacija imaju pristup velikim količinama podataka o korisnicima prikupljenim do 2015, baš kao i Cambridge Analytica. Tek sada, kad se našao pod reflektorima javnosti, Facebook pokušava da revidira odobrenja za korištenje podataka.
Konačno, ni Facebook ni Google niti bilo koja od kompanija za nadziranje i praćenje ne mogu se same od sebe reformisati na iole smislen način, jer su zavisne od naših podataka. Posljednji patenti koje je Facebook zaštitio ne obećavaju ništa dobro. Kapitalizam nadziranja se često prikazuje kao prirodan poredak stvari u digitalnom svijetu, ali to je rezultat izbora koje su pravili ljudi u trci za profitom. Kao poslovni model on nije ni neizbježan ni nepromjenjiv.
Korak u dobrom smjeru bi bio prelazak na kontekstualno oglašavanje. To znači da biste oglase dobijali na osnovu sadržaja stranice koju posjećujete, a ne na osnovu analize podataka prikupljenih praćenjem ponašanja korisnika. Najavljena Opšta uredba o zaštiti podataka o ličnosti (GDPR) u Evropskoj uniji, kojom se štite prava korisnika, zahtijeva nove pristupe. I Facebook i Google su imali teškoća da ispune zahtjeve već postojećih zakona o zaštiti podataka koji su u Evropi stroži. Sudovi u Belgiji i Njemačkoj nedavno su objavili da su neke od praksi koje primjenjuje Facebook (uključujući praćenje ljudi koji nemaju Facebook nalog) protuzakonite, a Google je već bio kritikovan i plaćao velike kazne zbog prikupljanja podataka bez saglasnosti i obavještavanja korisnika o tome šta radi sa njima.
Ispunjavanje uslova koje postavlja GDPR vjerovatno će biti veliki izazov za kompanije koje se bave biznisom nadziranja. Ali uz zaprijećene kazne i do 4 odsto globalnog prometa za ozbiljna kršenja pravila EU, tehnološke kompanije će morati ozbiljnije da shvate svoju odgovornost i sprovedu reforme. Pošto će već morati da primijene nova pravila da bi nastavile da rade u Evropi, mogle bi – relativno lako – da primijene ista pravila na korisnike u Sjevernoj Americi i ostatku svijeta. I zaista, Facebook je pod sve većim pritiskom da tako i postupi – a i Zuckerberg je natuknuo da bi kompanija mogla poći u tom smjeru. To bi bio veliki korak naprijed; zaštitnica prava potrošača Jessica Rich u članku objavljenom u magazinu Wired primjećuje da bilo još bolje kad bi i Sjedinjene Države usvojile zakone slične onima u Evropi.
Problematična praksa kompanija za nadziranje i njihovo uporno odbijanje da odgovorno postupaju doveli su nas do prekretnice. Možemo se usprotiviti visokom nivou korporativnog nadziranja, kakvo prije dolaska interneta svakako ne bismo prihvatili, tako što ćemo izvršiti pritisak na Facebook i zakonodavce da nešto promijene i tako što ćemo koristiti alternativne servise sa drugačijim poslovnim modelima. Također možemo zahtijevati pozivanje na odgovornost čitavog digitalnog oligopola i bolju zaštitu naše privatnosti i podataka. Ovo je trenutak odluke: da li će internet pripasti njima ili nama?
(TBT; The New York Review of Books)
