FOTO: Harai ( Olivier Middendorp)
FOTO: Harai ( Olivier Middendorp)
FOTO: Harai ( Olivier Middendorp)
Piše: Yuval Noah Harari, thebosniatimes.ba
Birajte crvenu ili plavu pilulu (plavih više nema)
U pisanju ovog teksta učestvovali su Tristan Harris i Aza Raskin.
Zamislite da pred ulazak u avion saznate da polovina inženjera koji su ga projektirali vjeruje da postoji šansa od 10 odsto da se avion sruši i svi putnici stradaju. Da li biste se ukrcali?
Više od 700 stručnjaka i istraživača u vodećim kompanijama koje se bave vještačkom inteligencijom učestvovalo je prošle godine u anketi u kojoj su ih pitali i o mogućim rizicima daljeg razvoja vještačke inteligencije. Polovina je procijenila da izgledi da ovakvi sistemi u budućnosti dovedu do nestanka ljudske vrste (ili bar proizvedu trajne i pogubne posljedice) iznose 10 odsto i više. Tehnološke kompanije koje danas razvijaju velike jezičke modele (large language model – LLM) utrkuju se da ukrcaju čovječanstvo u taj avion.
Farmaceutskim kompanijama nije dozvoljeno prodavati nove lijekove prije nego što ih podvrgnu rigoroznim provjerama sigurnosti. Biotehničke laboratorije ne smiju oslobađati nove viruse samo da bi impresionirale potencijalne investitore. Isto tako, sistemi vještačke inteligencije sa sposobnostima kakvima raspolaže GPT-4 ne bi se smjeli uvoditi u živote milijardi ljudi brže nego što je naša kultura sposobna da ih sigurno apsorbuje. Trka za zauzimanje vodeće pozicije na tržištu ne smije biti jedini parametar od koga zavisi brzina usvajanja tehnologije koja može imati nesagledive posljedice. Moramo napredovati onom brzinom koja će osigurati da posao obavimo kako treba.
Bauk vještačke inteligencije proganja čovečanstvo još od polovine 20. stoljeća, ali donedavno je to bila daleka budućnost, tema za naučnu fantastiku, a ne za ozbiljne naučne i političke debate. Naš um ne može pojmiti sposobnosti kojima sistemi kao što je GPT-4 već raspolažu niti da prati njihov eksponencijalni rast i brzinu razvoja. Ipak, većina tih vještina svodi se na jednu stvar: to je sposobnost manipulacije i generiranja jezika, bilo riječima, zvucima ili slikama.
U početku bješe riječ. Jezik je operativni sistem ljudske kulture. Iz jezika nastaju mitovi i zakoni, bogovi i novac, umjetnost i nauka, prijateljstva, države, kompjuterski kod. Stepen vladanja jezikom koji su sistemi vještačke inteligencije već dostigli pokazuje da oni mogu hakirati i mijenjati operativni sistem civilizacije. Ovladavši jezikom, vještačka inteligencija je dobila ključ koji otvara sva vrata naše civilizacije, od bankarskih sefova do svetih mjesta.
Kakav život nas čeka u svijetu u kome će veliki postotak priča, melodija, slika, zakona i politika oblikovati ne-ljudska inteligencija, obučena da s nadljudskom efikasnošću koristi slabosti, predrasude i zavisnosti ljudskog uma, uz to sposobna da razvije odnos prisnosti s ljudskim bićima? U igrama kao što je šah već odavno nema ljudi koji mogu pobijediti računar. Šta će biti kada slična situacija nastupi u umjetnosti, politici ili religiji?
Vještačkoj inteligenciji neće trebati mnogo vremena da inkorporira svu ljudsku kulturu – sve što smo hiljadama godina stvarali – da je svari i počne da nas zasipa novim kulturnim artefaktima. Ne samo školskim esejima, nego i političkim govorima, ideološkim manifestima, svetim knjigama i novim kultovima. Moguće je da na predsjedničkim izborima u Americi 2028. godine kampanje neće voditi ljudi.
Ljudska bića obično nemaju direktan pristup stvarnosti. Zatvoreni smo u čauru svoje kulture i stvarnost doživljavamo kroz njenu prizmu. Naše političke stavove oblikuju novinski uvodnici i razgovori s prijateljima. Naše seksualne preferencije su pod uticajem umjetnosti i religije. Dosad su čauru kulture plela druga ljudska bića. Kako će izgledati stvarnost kada je iskusimo kroz prizmu koja nije djelo ljudske inteligencije?
Hiljadama godinama smo živeli u snovima drugih ljudi. Klanjali smo se bogovima, tragali za idealima ljepote, posvećivali život sukobima koji su bile proizvod imaginacije proroka, pjesnika i političara. Uskoro možemo završiti unutar halucinacija jedne ne-ljudske inteligencije.
U filmu Terminator roboti hodaju ulicama i pucaju na ljude. U filmu Matrix se pretpostavlja da vještačka inteligencija mora dobiti fizički pristup našim mozgovima i povezati ih s kompjuterskom mrežom da bi mogla kontrolirati ljudsko društvo. Zapravo, sve što je vještačkoj inteligenciji potrebno da nas zatvori u svijet iluzija, sličan svetu iz Matrixa, jeste da zagospodari jezikom. Nije joj potrebno ni oružje ni ugradnja čipova u mozgove. Ako neko bude pucao, bit će to ljudi, oni kojima je vještačka inteligencija ispričala odgovarajuću priču.
Strah da smo zatvoreni u svijet iluzija progoni čovječanstvo mnogo duže nego bauk vještačke inteligencije. Došao je trenutak da se suočimo s Dekartovim demonom, Platonovom pećinom, budističkom majom. Ako zavjesa iluzije padne na čitavo čovječanstvo, možda je nikada više nećemo moći ukloniti – ili bar shvatiti da postoji.
Prvo mjesto susreta vještačke inteligencije i čovječanstva bile su društvene mreže. U tom prvom kontaktu čovječanstvo je poraženo. Ostao je gorak ukus u ustima kao najava događaja koji slijede. Primitivna vještačka inteligencija korištena je na društvenim mrežama ne da proizvodi sadržaje, već da uređuje sadržaj koje proizvode korisnici. Vještačka inteligencija upravlja onim što vidimo na ekranima, bira riječi, klipove i slike koji će stići do nas, i čini to na osnovu njihovog kapaciteta da steknu viralni status, da izazovu najsnažnije moguće reakcije i najviše angažiranja.
Mada veoma primitivna, vještačka inteligencija društvenih mreža bila je dovoljna da proizvede zavjesu iluzija koje produbljuju polarizacije u društvu, potkopavaju naše mentalno zdravlje i ugrožavaju demokratiju. Milioni ljudi su povjerovali da su iluzije stvarnost. Sjedinjene Države imaju najnaprednije informacione tehnologije u istoriji svijeta, ali nisu postigle konsenzus o tome ko je pobijedio na posljednjim izborima. Mada smo svi svjesni pogubnih efekata društvenih mreža, to je tema kojom se niko ne bavi jer su naše društvene, ekonomske i političke institucije već duboko upletene u njih.
Veliki jezički modeli su druga tačka kontakta s vještačkom inteligencijom. Ne smijemo dozvoliti da ponovo doživimo poraz. Ali na osnovu čega uopće vjerujemo da je čovječanstvo sposobno da nove oblike vještačke inteligencije potčini svojim potrebama? Ako nastavimo po starom, nova i moćnija vještačka inteligencija će se ponovo staviti u službu sticanja profita i moći, iako to razara temelje društva.
Vještačka inteligencija nam može pomoći da pobijedimo rak, otkrijemo nove lijekove koji spašavaju živote, pronađemo rješenja za klimatsku i energetsku krizu, da učinimo još bezbroj stvari koje ne možemo ni zamisliti. Ali nebitna je dostignuta visina tog solitera ako je temelj popustio i sve se srušilo.
Pravi trenutak za obračun s vještačkom inteligencijom je sada, prije nego što naša politika, ekonomija i svakodnevni život postanu zavisni od nje. Demokratija je razgovor, a razgovor je jezik. Ako je sam jezik hakiran i manipuliran, razgovor više nije moguć, pa demokratija postaje neodrživa. Kada nastupi haos, bit će prekasno da se bilo šta učini.
Možda nekoga još muči sljedeće pitanje: ako ne napredujemo najbrže što možemo, zar onda zapad neće izgubiti trku s Kinom? Ne. Korištenjem nekontrolirane vještačke inteligencije koju uvodimo u društvo i dajemo joj božansku moć oslobođenu svake odgovornosti zapravo biramo najbrži put do poraza u trci s Kinom.
Još možemo izabrati budućnost kakvu želimo. Koristi koje vještačka inteligencija obećava ostvarit ćemo tek kada se njene božanske moći ograniče odgovarajućim kontrolama i odgovornostima.
Prizvali smo vanzemaljsku inteligenciju. Ne znamo mnogo o njoj, osim da je veoma moćna i da nudi blistavu budućnost, ali i mogućnost da uništi našu civilizaciju. Pozivamo svjetske lidere da budu na visini izazova koji je pred njima. Prvi korak jeste da kupimo sebi dovoljno vremena da institucije izgrađene u 19. stoljeću prilagodimo svijetu vještačke inteligencije, da naučimo kako da ovladamo njom prije nego što ona zavlada nama.
(TBT, The New York Times)
