Marc Zuckerberg je mislio da njegov kolega milijarder iz Silicijske doline Elon Musk paniči bez razloga.
Musk, preduzetnik koji stoji iza kompanija SpaceX i Tesla, upozoravao je svijet da je veštačka inteligencija (AI) “potencijalno opasnija od nuklearki”.
Zbog toga je 19. novembra 2014. Zuckerberg, izvršni direktor Facebooka, pozvao Muska na večeru u svom domu u Palo Altu u Californiji. Pridružila su im se dva glavna istraživača iz Facebookove nove laboratorije za vještačku inteligenciju i još dvojica šefova iz Facebooka.
Facebookov tim je pokušao ubijediti Muska da nije u pravu. Ali on nije popuštao. “Ja zaista vjerujem da je opasna”, rekao je Musk okupljenima, tvrdi jedan od učesnika večere Yan Lekun koji vodi Facebookovu AI laboratoriju.
Muskova strahovanja od AI su jednostavna: ako stvorimo mašine koje su pametnije od ljudi, one bi se mogle okrenuti protiv nas. Moramo razmotriti posljedice onoga što stvaramo.
Stvaranje “superinteligencije” – naziv za superpametan tehnološki proboj koji je AI prenio na naredni nivo i stvorio mašine koje ne samo što ispunjavaju zadatke koji tipično zahtijevaju inteligenciju (poput automobila bez vozača) već su i pametnije od ljudi – i dalje djeluje kao naučna fantastika.
Ali borba za budućnost AI proširila se tehnološkom industrijom. Istraživanje vještačke inteligencije ima ogroman potencijal ali i ogromne implikacije i kao ekonomski motor i kao izvor vojne nadmoći.
Peking je saopćio da je spreman potrošiti milijarde kako bi Kinu učinio svjetskim AI liderom, dok Ministarstvo odbrane SAD agresivno traži pomoć njihove tehnološke industrije. Nova vrsta autonomnog oružja ne može biti daleko.
Razni mislioci su se uključili u debatu organiziranu kroz okupljanja filozofa i naučnika u centralnoj Californiji do godišnje konferencije koju je u Palm Springsu organizovao izvršni direktor Amazona Jeff Bezos.
A javna kritika Facebooka i drugih tehnoloških kompanija u posljednjih nekoliko mjeseci je pomogla da se priča o nenamjernim posljedicama tehnologije.
U aprilu, Zuckerberg je dva dana odgovarao na pitanja članova američkog Kongresa o privatnosti podataka i Facebookovoj ulozi u širenju dezinformacija prije američkih predsjedničkih izbora 2016. Slično ispitivanje je preživio i u Evropi.
Priznanje Facebooka da nije dovoljno brzo shvatio šta se dešava bio je rijedak trenutak samopromatranja u industriji koja je do sada vjerovala da čini svijet boljim.
Čak i utjecajne figure poput Microsoftovog osnivača Billa Gatesa i pokojnog Stephena Hawkinga izrazile su zabrinutost u vezi sa stvaranjem mašina koje su inteligentnije od nas. Iako superinteligencija djeluje kao da je decenijama daleko od nas, oni i drugi su upozorili da bi već sada trebalo razmišljati o posljedicama prije nego što bude kasno. “Sistemi koje stvaramo su veoma moćni”, rekao je Bars Selman, profesor kompjuterske nauke na Univerzitetu Cornell u Ithaci, New York. “A mi ne možemo razumjeti njihov utjecaj.”
Pacific Grove je mali grad u Californiji. Genetičari su se tamo okupili 1975. kako bi razmotrili da li njihov posao – genetski inženjering – može na kraju naškoditi svijetu.
AI zajednica je u tom mjestu organizovala sličan samit 2017.
Privatno okupljanje u hotelu “Asilomar” organizovao je Institut Budućnost života, koji se bavi razmatranjem rizika vještačke inteligencije.
Lideri u domenu AI su bili prisutni – a među njima i Lekun, šef Facebookove laboratorije koji je bio na večeri u Palo Altu i koji je pomogao u razvoju neuralne mreže, jednog od najvažnijih oruđa vještačke inteligencije danas. Tu je bio i Nick Bostrom čija je knjiga iz 2014 Superintelligence: Paths, Dangers, Strategies imala veliki utjecaj – a neki bi rekli i unijela strah u kosti – na diskusiju o AI; Oren Ecioni, bivši profesor kompjuterske nauke na Univerzitetu u Washingtonu koji je preuzeo vodstvo Allenovog instituta za vještačku inteligenciju u Seattlu, i Demis Hasabis, koji predvodi DeepMind, utjecajnu Googleovu AI istraživačku laboratoriju u Londonu.
A tu je bio i Musk koji je 2015. pomogao u stvaranju nezavisne laboratorije za vještačku inteligenciju OpenAI sa jasnim ciljem: stvaranje superinteligencije uz sigurnosne mjere kako se ne bi otela kontroli. Time se svrstao na Bostromovu stranu.
Musk je tom prilikom rekao: “Idemo ili ka superinteligenciji ili ka kraju civilizacije.”
Musk je pitao kako društvo može najbolje živjeti uz superinteligenciju. Ono što nam je potrebno, rekao je on, jeste direktna veza između naših mozgova i mašina. Nekoliko mjeseci kasnije predstavio je startup Neuraling koji bi stvarao takozvani neuralni interfejs, umrežavanje kompjutera sa ljudskim mozgovima. Postoji izreka u Silicijskoj dolini: “Mi precjenjujemo šta se može uraditi za tri godine a potcjenjujemo šta može za deset.”
Googleova laboratorija DeepMind je 27. januara 2016. predstavila mašinu koja može pobijediti profesionalnog igrača u staroj društvenoj igri “go”. U meču koji je ubrzo potom organiziran, mašina AlphaGo je pobijedila evropskog šampiona Fana Huia pet puta zaredom.
Čak su i eminentni AI istraživači mislili da će proći decenija prije nego što mašina ovlada igrom. “Go” je kompleksna igra sa više mogućih pozicija na tabli od atoma u univerzumu a najbolji igrači ne pobjeđuju zahvaljujući pukim proračunima već intuicijom. Dvije sedmice prije nego što je AlphaGo predstavljen, Lekun je rekao da je postojanje takve mašine nemoguće.
Nekoliko mjeseci kasnije. AlphaGo je pobijedila najboljeg “go” igrača protekle decenije Lija Sedola. Mašina je povlačila poteze koji su zbunjivali ljudske stručnjake i tako izvojevala pobjedu.
Od te večere prije tri godine, debata Zuckerberga i Muska je postala neprijateljska. Prošlog ljeta Facebook je Muskove poglede na AI nazvao “prilično neodgovornim”.
Paničenje u vezi sa AI koja je tek u povoju moglo bi ugroziti mnoge projekte poput automobila bez vozača ili AI zdravstvene njege, rekao je on.
Musk je odgovorio preko Twittera: “Pričao sam sa Markom o ovome. Njegovo razumijevanje ove teme je ograničeno.”
U svjedočenju pred Kongresom, Zuckerberg je objasnio kako će Facebook riješiti probleme u čijem je stvaranju pomogao: oslanjanjem na vještačku inteligenciju. Ali je priznao da naučnici još nisu shvatili kako neki tipovi vještačke inteligencije uče.
Stručnjaci upozoravaju da će AI sistemi koji automatski generiraju slike i snimke uskoro učiniti da sumnjamo u istinitost svega što vidimo online. Ali i DeepMind i OpenAI sada imaju operativne grupe posvećene “AI sigurnosti”.
Hasabis, osnivač DeepMinda, kaže da prijetnja od superinteligencije ne postoji. Bar ne još. Ali Facebookovi problemi su upozorenje.
“Moramo iskoristiti ovo zatišje da se pripremimo za ozbiljna pitanja koja će uslijediti u narednim decenijama”, rekao je Hasabis.
(TBT, NYT)