Dr. Walsh (55) radi sa Kampanjom za zaustavljanje robota ubica, koalicijom naučnika i aktivista za ljudska prava koji nastoje blokirati razvoj autonomnog oružja. NYT je razgovarao sa dr. Walshom na konferenciji i telefonom. U nastavku se nalazi uređena verzija tih razgovora.
Vi ste naučnik. Kako ste postali aktivista u borbi protiv “robota ubica”?
Dogodilo se postepeno, sa početkom oko 2013. godine. Čitao sam i istraživao o autonomnom oružju. Uvidio sam koliko malo mojih kolega razmišlja o opasnostima koje nosi nova klasa oružja. Ako su ljudi i mislili o tome, doživljavali su robote ubice kao stvar daleke budućnosti.
Ipak, budućnost je već bila ovdje. Dronovi koji nose bombe već su letjeli nebom iznad Afganistana. Iako su ljudi sa zemlje kontrolirali dronove, učiniti ih autonomnim bio je samo jedan mali tehnički iskorak. Zato sam na naučnoj konferenciji 2015. organizirao debatu o novoj klasi oružja. Nedugo potom, Max Tegmar koji vodi Institut Budućnost života na MIT-u pozvao me je da mu pomognem u širenju pisma u kojem se međunarodna zajednica poziva usvojiti zabranu svih vrsta autonomnog robotskog oružja. Potpisao sam i na narednoj velikoj konferenciji ga podijelio. Do kraja okupljanja, imali smo 5.000 potpisa, između ostalog i ljudi poput Elona Muska, Daniela Deneta i Stevea Wozniaka.
Šta je bio vaš argument?
Da ne možete dopustiti mašinama da odlučuju o tome hoće li ljudi živjeti ili umrijeti. To je potpuno nova teritorija. Mašine ne posjeduju naš moralni kompas, saosjećajnost i emocije. Mašine nisu moralna bića.
Tehnički argument je da je riječ o potencijalnim oružjima masovnog uništenja, a da je međunarodna zajednica dosad zabranila bilo koje drugo takvo oružje.
Zašto zabraniti oružje koje još uvijek nije ni proizvedeno?
Najbolji trenutak za uvođenje zabrane takvog oružja je upravo prije nego što ono postane dostupno. Mnogo je teže ukloniti ga kada već padne u pogrešne ruke ili postane prihvaćeni dio vojnog naoružanja.
Kome je vaša peticija upućena?
Ujedinjenim nacijama.
Ko se protivi sporazumu?
Očigledni kandidati su SAD, Velika Britanija, Rusija, Izrael i Južna Koreja. Kina je pozvala na zabranu upotrebe, ali ne i na zabranu proizvodnje oružja. Valjalo bi istaći da će kompanije koje budu proizvodile ovakvo oružje i trgovale njime obrtati ogromne svote novca.
Zagovornici robotskog oružja tvrde da bi ograničenjem broja ljudskih vojnika mašine učinile rat manje smrtonosnim.
Problem sa tom tvrdnjom je što ne postoji način da se programira nešto toliko fino kao međunarodno humanitarno pravo. Postoje situacije u kojima bi upotreba robotike za vojsku bila korisna, poput čišćenja minskog polja, recimo. Ako robot nagazi minu i ona eksplodira, imate drugog robota.
Roboti vojnici su dugo dio tematskog opusa naučne fantastike. Imate li omiljeni naučnofantastični film?
Ne, većini naučnika koji se bave vještačkom inteligencijom – i ja sam među njima – nimalo se ne dopada način na koji Hollyvood tretira tehnologiju. Cubrickova “Odiseja u svemiru” je naročito pogrešna zato što je zasnovana na ideji da će postojati mašine koje će posjedovati svijest o samoočuvanju i da će krajnji rezultat biti agresija usmjerena protiv ljudi.
Pogrešna je pretpostavka da će mašine željeti zavladati svijetom ili čak nastojati očuvati sebe. Inteligencija koju smo stvorili biće potpuno drugačija od ljudi i neće nužno posjedovati ljudske mane. Ove mašine nemaju nikakvu svijest niti instinkt za samoodržanjem. Uradit će tačno ono što smo im mi rekli da urade.
Od 2013. godine potrošili ste na aktivizam isto vremena koliko i na naučno istraživanje. Da li se kajete zbog toga?
Imam desetogodišnju kćerku. Kada bude odrasla, ne želim da me pita: “Tata, imao si načina i moći da to učiniš – zašto nisi pokušao zaustaviti ovo?”
(TBT, NYT)
