Piše: Kenan Malik, thebosniatimes.ba
Prošlog novembra, državna policija u Georgiji zaustavila je mladog Afroamerikanca, Rendala Qurana Reida, na putu za Atlantu. Uhapšen je po poternici koju je raspisala policija Luizijane zbog dva slučaja krađe u New Orleansu. Reid nikada nije kročio u Louisijanu, a kamoli u Nju Orleans. Njegovi argumenti nisu uzeti u obzir, pa je u zatvoru proveo šest dana dok je njegova porodica trošila hiljade dolara na advokate u Georiji i Louisijani ne bi li ga izvukla.
Ispostavilo se da je nalog za hapšenje bio zasnovan isključivo na softverskom poređenju lica, iako se to ne spominje ni u jednom policijskom dokumentu: pisalo je samo da je Reida kao počinioca identificirao „vjerodostojan izvor“. Kada je utvrđeno da je rezultat programa za prepoznavanje lica bio netačan, slučaj je propao i Reid je pušten na slobodu.
Njemu se posrećilo da ima porodicu i resurse da stvar istjera na čistac. Milioni Amerikanaca ne bi mogli da računaju na društvenu i finansijsku podršku u takvoj situaciji. Reid, međutim, nije jedina žrtva pogrešnog prepoznavanja lica. Brojke su male, ali do sada su svi uhapšeni u SAD usljed netačnog poređenja lica bili crnci. To ne iznenađuje, budući da znamo ne samo da sâm dizajn softvera za prepoznavanje lica otežava ispravnu identifikaciju ljudi obojene kože, već i da algoritmi repliciraju predrasude ljudskog svijeta.
Reidov i slični slučajevi bi trebalo da budu u središtu jedne od najurgentnijih savremenih diskusija – o vještačkoj inteligenciji i rizicima koje ta tehnologija donosi. Međutim, takve priče su skrajnute i malo ko ih smatra naročito značajnim, što pokazuje koliko je rasprava o vještačkoj inteligenciji izobličena i koliko joj je potrebno resetiranje. Nasledili smo strah od svijeta koji bi vještačka inteligencija mogla stvoriti i unijeti ga u razgovor o pametnim tehnologijama. Pojava nove generacije chatbota prošle godine, a zatim i njegove posljednje verzije u martu, izazvali su strahopoštovanje i paniku: strahopoštovanje zbog usavršenog oponašanja ljudskog jezika, a paniku zbog mogućeg lažiranja, od školskih zadataka do novinskih izvještaja.
Prije dvije nedjelje, istaknuti pripadnici tehnološke zajednice podigli su ljestvicu strijepnje. Između ostalih, Sam Altman, generalni direktor kompanije OpenAI koja pravi ChatGPT, Demis Hassabis, generalni direktor Googleovog programa Deep Mind, Gefefrey Hinton i Joshua Bengio, koje često nazivaju očevima savremene vještačke inteligencije, oglasili su se zajedničkim saopćenjem u kom tvrde da bi vještačka inteligencija mogla da najavi kraj čovječanstva. „Pitanje kako umanjiti rizik od izumiranja zbog vještačke inteligencije“, upozorili su, „trebalo bi da bude globalni prioritet, uz ostale općedruštvene rizike kao što su pandemije i nuklearni rat“.
Ako toliko ljudi iz Silicijumske doline stvarno vjeruje da proizvode jako opasne stvari, kao što tvrde, zašto i dalje troše milijarde dolara na konstrukciju, razvoj i usavršavanje tih proizvoda? Zvuči kao kad zavisnik od teških droga moli da ga silom pošalju na odvikavanje. Promocija tih proizvoda kao super-pametnih i super-moćnih sigurno prija egu tehnoloških poduzetnika, bar koliko i njihovom profitu. Pa ipak, vještačka inteligencija nije toliko ni pametna ni moćna. ChatGPT jeste izuzetno vješt u kopiranju teksta tako da sliči na ljudski, ali posjeduje zanemarljivo razumjevanje stvarnog svijeta. Novi chatbot je, kako se navodi u jednoj analizi, jedva nešto više od „stohastičkog papagaja“.
Daleko smo od svetog grala „vještačke opće inteligencije“, mašine koja je u stanju razumjeti ili naučiti bilo koji umni zadatak, da ispolji bar osnovni, a kamoli superiorni oblik ljudske inteligencije.
Opsesija izmaštanim strahovima prikriva neke trivijalne, ali mnogo važnije probleme sa vještačkom inteligencijom – one zbog kojih se Reid našao u nevolji i koji bi sve nas mogli zadesiti. Govore nam da već živimo u svijetu koji oblikuje vještačka inteligencija, od nadzora do dezinformacija. Ključna odlika „novog sveta ambijentalnog nadzora“, primjetio je tehnološki preduzetnik Maciej Ceglowski na raspravi u komitetu američkog Senata, jeste to što „nemamo opciju da ne pristanemo, kao što nemamo mogućnost da se izuzmemo iz automobilske kulture time što ćemo odbiti da vozimo“. Upali smo u digitalni panoptikum, a da toga gotovo nismo ni bili svjesni. Ipak, sugestija da živimo u svijetu koji oblikuje vještačka inteligencija pogrešna je postavka problema. Nema mašine bez čovjeka, niti je vjerovatno da će je biti.
Razlog zbog kojeg je Reid nepravdeno zatvoren ima manje veze sa vještačkom inteligencijom, nego sa odlukama koje su donijeli ljudi. Ljudi koji su kreirali softver i trenirali ga. Ljudi koji su ga primjenili. Ljudi koji su bez pogovora prihvatili rezultat prepoznavanja lica. Ljudi kojima je odobren nalog za hapšenje jer su tvrdili da je Reida identificirao „kredibilan izvor“. Ljudi koji su odbili preispitati identifikaciju dok ih je Reid ubjeđivao da su pogriješili. I tako dalje.
Kada govorimo o „problemu“ vještačke inteligencije, suviše često izostavljamo čovjeka. Prakticiramo neku vrstu „moralnog autsorsinga“, kako to kaže sociološkinja i programerka Rumman Chowdhury: krivimo mašine za odluke ljudi. Brinemo se da će AI „eliminirati radna mjesta“ i milione radnika učiniti viškom, umjesto da priznamo da odluke donose vlade i korporacije i ljudi koji njima upravljaju. Naslovi nas panično upozoravaju na „rasističke i seksističke algoritme“, dok ljudi koji su ih napravili i oni koji ih koriste ostaju gotovo skriveni.
Drugim riječima, počeli smo tretirati mašinu kao činioca, a ljude kao žrtve mašinskog rada. Ironično, upravo naši strahovi od distopije, a ne sama vještačka inteligencija, doprinose stvaranju svijeta u kom su ljudi marginalni, a mašine u središtu. Takvi strahovi iskrivljuju i mogućnost pravnog reguliranja. Umjesto da regulaciju vidimo kao sredstvo kojim zajednički možemo oblikovati svoj odnos prema vještačkoj inteligenciji i novim tehnologijama, zakon postaje nešto što se nameće sa vrha kao sredstvo zaštite ljudi od mašina. Ne treba toliko da nas zabrinjava vještačka inteligencija, već naš fatalizam i sljepilo za način na koji ljudska društva već koriste mašinsku inteligenciju u političke svrhe.
(TBT, The Guardian)
