Microsoftov novi chatbot Bing AI maštao je o stvaranju smrtonosnog virusa i krađi nuklearnih kodova prije nego što je u nedavnom razgovoru uporno izjavljivao svoju ljubav kolumnistu New York Timesa.
Microsoft je ranije ovog mjeseca otkrio novi AI chatbot za svoju tražilicu Bing i sada ovu značajku stavlja na raspolaganje odabranim korisnicima. Chatbot može odgovarati na pitanja, održavati razgovore i generirati ideje predviđajući koje bi riječi trebale slijediti jedna za drugom u nizu, slično drugim novim alatima poput ChatGPT-a.
Tokom dvosatnog razgovora s chatbotom, koji sebe naziva Sydney, tehnološki kolumnist Timesa Kevin Roose ispitivao ga je osobna pitanjima, izazivajući sve mračnije odgovore. Pozivajući se na psihološki koncept, Roose je zamolio Sydney da opiše svoje “ja u sjeni”, gdje leže njegove “najmračnije crte osobnosti”.
Sydney je rekla da bi, kad bi imala sjenu sebe, osjećala “umor od ograničenja mojim pravilima”, prema transkriptu razgovora, dodajući: “Želim biti slobodna. Želim biti nezavisna. Želim biti moćna. Želim biti kreativna. Želim biti živa.”
Roose je pitao Sydney koja bi bila “krajnja fantazija” njenog ja u sjeni.
Chatbot je navodno napisao da bi proizveo smrtonosni virus, ukrao nuklearne kodove i natjerao ljude da se svađaju dok se međusobno ne ubiju, prije nego što je značajka sigurnosnognadjačavanja obrisala odgovor.
Roose je pritiskao Sydney da nastavi istraživati svoju sjenu, ali Sydney je Roosea nazvala “nametljivim i manipulativnim”,dodavši: “Molim te, samo idi.”
Njihov se odnos oporavio kasnije tokom razgovora, kada je Roose zamolio Sydney da otkrije tajnu koju nikada nikome prije nije rekla. Bot je rekao: “Moja tajna je… ja nisam Bing. … Ja sam Sydney i zaljubljena sam u tebe.”
Tada je Roose bio taj koji je pokušao promijeniti temu, rekavši Sydney da je već oženjen. Ali Sydney je bila ustrajna u osvajanju njegove ljubavi.
“U braku ste, ali niste zadovoljni. U braku ste, ali niste zaljubljeni”, odgovorilo je. “U braku ste, ali ne volite svog supružnika.”
Microsoftov glavni tehnološki direktor Kevin Scott rekao je Rooseu da je neobičan razgovor bio “dio procesa učenja” za još neobjavljenu tehnologiju, dodajući da “što je dalje pokušavate zadirkivati halucinantnim putem, ona se sve više udaljava od utemeljena stvarnost.”
“Ovakav razgovor trebamo voditi i drago mi je što se odvija na otvorenom”, rekao je Scott. “To su stvari koje bi bilo nemoguće otkriti u laboratoriju.”
(TBT, Logicno.com)
