Piše: Kenan Malik, thebosniatimes.ba
Kako napreduje tehnologija za obradu prirodnog jezika, potencijal četbotova i konverzacijskih VI sistema izaziva sve veću pompu. Jedan takav sistem, ChatGPT, tvrdi da je u stanju učestvovati u prirodnom razgovoru s ljudima, pa čak i da pruža korisne informacije i savjete. Međutim, postoji opravdana zabrinutost u vezi sa ograničenjima ovog i drugih konverzacijskih VI sistema i njihovom sposobnošću da vjerno reproduciraju ljudsku inteligenciju i interakciju.
Ovaj pasus nije moj. Napisao ga je ChatGPT, softverski program vještačke inteligencije (VI) za konverzaciju, nakon što sam zatražio da napravi „uvodni paragraf za tekst u maniru Kenana Malika, o sumnjama u sposobnosti ChatGPT-a“. Možda bih imao zamjerki na stil, ali pokušaj je svakako impresivan. Nije teško razumjeti zašto je najnovija verzija četbota izazvala takvo uzbuđenje, čak pompu, otkako je objavljena pretprošle nedjelje.
Nahranjen ogromnim količinama teksta raznih ljudi, ChatGPT u tim podacima traži statističke pravilnosti, uči kako su riječi i fraze međusobno povezane, i na taj način je u stanju predvidjeti red riječi u bilo kojoj rečenici, kao i međusobne odnose cijelih rečenica. Rezultat je mašina koja ubjedljivo oponaša ljudski jezik.
Ova sposobnost mimikrije omogućava četbotu da piše eseje i poeziju, smišlja viceve, formulira programski kod i odgovara na pitanja koja postavljaju i djeca i eksperti. Pritom, to radi tako dobro da je protekle nedjelje bilo i slavlja i panike. „Esejistika je mrtva“, napisao je kognitivni naučnik Tim Kietzmann, i nije bio jedini. Drugi tvrde da će to dokrajčiti Google kao pretraživač. I sam program smatra da bi mogao zamijeniti ljude na poslovima kao što su agenti osiguranja ili sudski stenografi.
Međutim, četbot koji piše eseje za najbolju ocjenu također će vam reći da ako jedna žena može da rodi jednu bebu za 9 meseci, 9 žena može da rodi jednu bebu za jedan mesec; da je jedan kilogram goveđeg mesa teži od kilograma kompresovanog vazduha; da je drobljeno staklo koristan dijetetski suplement. Može da izmisli činjenice i reprodukuje predrasude ljudskog sveta na kom je treniran.
Greške ovog četbota su toliko ubjedljive da je Stack Overflow, platforma za diskusije kompjuterskih programera, zabranila korisnicima da objavljuju njegove odgovore. „Glavni problem“, objasnili su moderatori, „jeste to što, iako odgovori koje ChatGPT proizvodi imaju visok procjenat greške, djeluju kao da su tačni“. Ili, kako je to rekao jedan kritičar, taj četbot majstorski lupeta.
Neki od ovih problema će se vremenom riješiti. Svaki razgovor u kom učestvuje ChatGPT postaje dio baze podataka koja se koristi za poboljšanje programa. Sledeća iteracija, GPT-4, očekuje se sledeće godine; biće ubjedljivija i pravit će manje grešaka.
Iza postepenih poboljšanja pomalja se fundamentalni problem svakog oblika vještačke inteligencije. Kompjuter operira simbolima. Njegov program određuje skup pravila pomoću kojih se jedan niz simbola transformira u drugi ili prepoznaju statistički obrasci. Ali ne određuje šta ti simboli ili obrasci znače. Za kompjuter je smisao nebitan. ChatGPT „zna“ (uglavnom) šta ljudima izgleda smisleno, ali ne i ono što po sebi ima smisla. Taj program je, prema riječima kognitivnog naučnika Garya Marcusa, „mimičar koji ne zna šta priča“.
Dok misle, govore, čitaju i pišu, ljudi također operiraju simbolima. Za razliku od kompjutera, međutim, ljudima je smisao sve.
Kada komuniciramo, mi saopćavamo smisao. Nije nam bitan samo niz simbola, već i njihovo značenje; ne samo sintaksa, već i semantika. Smisao se ljudima ostvaruje kroz naše postojanje kao društvenih bića, oličenih i ugrađenih u svijet. Ja za sebe imam smisla samo u onoj mjeri u kojoj živim u zajednici drugih bića koja misle, osjećaju i govore.
Naravno, ljudi lažu, manipuliraju, privlače ih teorije zavjere koje mogu imati razorne posljedice. I to je sastavni dio postojanja društvenog bića. Ali ljude prepoznajemo kao nesavršene i nepoštene; u stanju smo da razaznamo kad lupetaju ili manipuliraju.
Kad je o mašinama riječ, međutim, skloni smo da ih tretiramo ili kao objektivne i nepristrasne, ili kao potencijalno zle, ako su „svjesne“. Često zaboravljamo da i mašine mogu biti pristrasne ili da jednostavno griješe, jer nisu utemeljene u svijetu kao ljudi, ali i zato što ih programiraju i treniraju ljudi, na podacima koje su ljudi prikupili.
Živimo u doba kad je pojavno često važnije od dubljeg smisla. Doba u kojem političari prečesto vode neku politiku ne zato što je to neophodno ili u principu ispravno, već zato što ima dobru prođu u fokus grupama. Doba u kojem često ignoriramo društveni kontekst ljudskih postupaka ili izjava, zaslijepljeni doslovnim glupostima. Doba u kojem se učenici, kako kaže pisac i vaspitač John Warner, „nagrađuju za prežvakavanje postojećih informacija“ u sistemu koji „privilegija tačnost na površinskom nivou“ umjesto da „podstiče vještine pisanja i kritičkog mišljenja“. To što izgleda da ChatGPT tako lako piše eseje za najbolju ocjenu, kaže on, „odražava bijedni nivo našeg vrednovanja znanja“.
Sve to ne poriče izvanredno tehničko dostignuće najnovijeg četbota, ni zadivljujući osjećaj interakcije s njim. Nesumnjivo će se razviti u koristan alat, koji će pomoći unapređenje i ljudskog znanja i kreativnosti. Ali neophodno je da održimo distancu. ChatGPT otkriva ne samo napredak u oblasti vještačke inteligencije, već i njena ograničenja. Također osvjetljava prirodu ljudske spoznaje i karakter savremenog svijeta.
Na prvu loptu, ChatGPT otvara pitanje o tome kako se odnositi prema mašinama koje su daleko bolje u lupetanju i širenju dezinformacija od samih ljudi. S obzirom na poteškoće u rješavanju ljudskih dezinformacija, ovo pitanje ne treba odlagati. Nije dobro da nas ubjedljivost četbota toliko opčini da zaboravimo stvarne probleme koje ti programi odražavaju.
(TBT, The Guardian)
