Lažno obećanje četbotova

Piše: Noam Chomsky

Optimizam, jer je inteligencija sredstvo kojim rešavamo probleme. Zabrinutost, jer strahujemo da će najpopularniji vid veštačke inteligencije – mašinsko učenje – degradirati nauku i uniziti etiku, tako što će u tehnologiju ugraditi fundamentalno pogrešnu koncepciju jezika i znanja.

Aplikacije kompanija OpenAI (ChatGPT), Google (Bard) i Microsoft (Sydney) zaista su čuda mašinskog učenja. U grubim crtama, ovi programi uzimaju ogromne količine podataka, traže u njima obrasce i na osnovu njih postaju sve veštiji u generisanju statistički verovatnih rezultata – govora i misli koji liče na ljudske. Četbotovi su dočekani kao prvi vesnici opšte veštačke inteligencije – dugo očekivanog trenutka kada će mehanički umovi nadmašiti ljudski mozak ne samo kvantitativno, brzinom obrade i veličinom memorije, već i kvalitativno u smislu intelektualnih uvida i umetničke kreativnosti kao izrazito ljudskih sposobnosti.

Taj dan će možda jednom doći, ali još uvek nije svanuo, uprkos hvalospevima medija i nerazumno velikim investicijama u ovu oblast. Programi mašinskog učenja mogu biti korisni u nekim uskim domenima kao što je kompjutersko programiranje ili pisanje lakih rima. Ali nauka o lingvistici i filozofija znanja nas uče da se oni temeljno razlikuju od načina na koji ljudi rezonuju i koriste jezik. Ljudski um nije glomazni statistički mehanizam za uparivanje šablona, koji se zatrpava stotinama terabajtova podataka da bi našao najverovatniji odgovor na postavljeno pitanje. To je iznenađujuće efikasan i elegantan sistem, sposoban da na osnovu malog broja informacija ponudi uverljiva objašnjenja raznih pojava.

Na primer, dete koje uči jezik nesvesno, automatski i brzo, iz krajnje oskudnih podataka usvaja gramatiku, zapanjujuće sofisticiran sistem logičkih principa i parametara. Gramatika se može razumeti kao izraz urođenog, genetski instaliranog „operativnog sistema“ koji ljudima daje sposobnost da generišu složene rečenice i duge tokove misli. Kada se lingvisti trude da razviju teoriju koja bi objasnila zašto određeni jezik funkcioniše onako kako funkcioniše (zašto se neke rečenice smatraju gramatičkim, a druge ne), oni svesno i mukotrpno grade eksplicitnu verziju gramatike koju dete gradi instinktivno i uz minimalnu izloženost informacijama. Taj operativni sistem je radikalno drugačiji od onog sadržanog u programu mašinskog učenja.

Ti programi su zarobljeni u predljudskoj ili neljudskoj fazi kognitivne evolucije. Njihova najdublja mana je odsustvo presudnog kapaciteta svake inteligencije: da kažu ne samo šta je bilo, šta jeste i šta će biti – to su deskripcija i predikcija – već i šta nije, šta bi moglo i šta ne bi moglo biti. To su sastojci objašnjenja, oznaka prave inteligencije.

Evo primera. Pretpostavimo da držite jabuku u ruci. Zatim pustite jabuku. Posmatrate rezultat i kažete: „Jabuka pada“. To je deskripcija. Predikcija bi mogla biti izjava: „Jabuka će pasti ako otvorim šaku“. Oba iskaza su vredna i oba mogu biti tačna. Ali objašnjenje je nešto više, ono uključuje ne samo opise i predviđanja, već i kontračinjenične pretpostavke, poput: „Svaki takav objekat bi pao“, uz dodatnu klauzulu „zbog sile gravitacije“ ili „zbog zakrivljenosti prostor-vremena“ ili šta god. To je kauzalno objašnjenje: „Jabuka ne bi pala da nije bilo sile gravitacije“. To je razmišljanje.

Suštinu mašinskog učenja čine deskripcija i predikcija; ono ne postulira nikakve uzročne mehanizme ili fizičke zakone. Naravno, naša objašnjenja nisu nužno tačna; ljudi su podložni greškama. Ali to je deo onoga što znači misliti: da bi čovek bio u pravu, mora mu biti omogućeno da greši. Inteligencija se sastoji ne samo od kreativnih pretpostavki, već i od kreativne kritike. Misao nalik ljudskoj zasniva se na mogućim objašnjenjima i ispravljanju grešaka, procesu koji postepeno ograničava mogućnosti koje se racionalno mogu uzeti u obzir (kako Šerlok Holms kaže dr Votsonu: „Kada eliminišete nemoguće, ono što preostane, koliko god da je neverovatno, mora biti istina“).

ChatGPT i slični programi, po dizajnu, nisu ograničeni u onome što mogu da „nauče“ (što će reći da memorišu) i nesposobni su da razlikuju moguće od nemogućeg. Za razliku od ljudi koji su obdareni univerzalnom gramatikom, koja ograničava jezike koje možemo da naučimo na one sa određenom vrstom gotovo matematičke elegancije, ovi programi uče ljudski moguće i nemoguće jezike sa jednakom lakoćom. Dok su ljudi ograničeni vrstama objašnjenja koja možemo racionalno da pretpostavimo, sistemi mašinskog učenja mogu da nauče i da je Zemlja ravna i da je okrugla. Oni barataju samo verovatnoćama koje se vremenom menjaju.

Zato će predikcije sistema mašinskog učenja uvek biti površne i nepouzdane. Budući da ovi programi ne mogu da objasne pravila engleske sintakse, može im se desiti pogrešno predviđanje da iskaz „Džon je suviše tvrdoglav za razgovor“ znači da je Džon toliko tvrdoglav da neće da razgovara sa ovom ili onom osobom (umesto da je suviše tvrdoglav da bi se s njim razgovaralo). Zašto bi program za mašinsko učenje dao tako čudnu predikciju? Zato što bi mogao da koristi analogiju sa šablonom koji je izveo iz rečenica kao što su „Džon je jeo jabuku“ i „Džon je jeo“, gde druga znači da je Džon jeo nešto. Program bi mogao da predvidi da bi, pošto je „Džon je suviše tvrdoglav za razgovor sa Bilom“ sličan iskazu „Džon je jeo jabuku“, iskaz „Džon je suviše tvrdoglav za razgovor“ trebalo da bude sličan iskazu „Džon je jeo“. Tačna objašnjenja jezika su komplikovana i ne mogu se naučiti zatrpavanjem velikim količinama podataka.

Nasuprot tome, čini se da su neki entuzijasti mašinskog učenja ponosni na to što njihove kreacije mogu da generišu tačne „naučne“ predikcije (recimo o kretanju fizičkih tela) bez upotrebe objašnjenja (uključujući recimo Njutnove zakone kretanja i univerzalne gravitacije). Međutim, ova vrsta predviđanja, čak i kada je uspešna, samo je pseudonauka. Dok su naučnici svakako u potrazi za teorijama koje imaju visok stepen empirijske potvrde, kako primećuje filozof Karl Poper, „mi ne tražimo vrlo verovatne teorije već objašnjenja, odnosno moćne i veoma neverovatne teorije“.

Teorija da jabuke padaju na zemlju zato što je to prirodno (Aristotelov stav) jeste moguća, ali otvara nova pitanja (zašto je zemlja njihovo prirodno mesto). Teorija da jabuke padaju na zemlju zato što masa savija prostor-vreme (Ajnštajnov stav) vrlo je neverovatna, ali nam zapravo objašnjava zašto one padaju. Prava inteligencija se pokazuje u sposobnosti razmišljanja i izražavanja neverovatnih, ali pronicljivih ideja.

Prava inteligencija je takođe sposobna za moralno promišljanje. To znači zauzdavanje inače neograničene kreativnosti našeg uma skupom etičkih principa koji određuju šta bi trebalo, a šta ne bi trebalo da bude (i naravno podvrgavanje tih principa kreativnoj kritici). Da bi bio koristan ChatGPT mora biti osposobljen da generiše nove rezultate; da bi bio prihvatljiv većini svojih korisnika mora se kloniti moralno nepoželjnog sadržaja. Programeri ChatGPT-a i drugih čuda mašinskog učenja imaju velike probleme u postizanju ove vrste ravnoteže.

Na primer, 2016. Majkrosoftov četbot Tej (preteča ChatGPT-a) preplavio je internet mizoginim i rasističkim sadržajima pošto su ga zagadili onlajn trolovi koji su ga nahranili uvredljivim podacima. Kako rešiti taj problem u budućnosti? U nedostatku sposobnosti rasuđivanja na osnovu moralnih principa, programeri su grubo ograničili ChatGPT da daje bilo kakav novi doprinos kontroverznim, dakle bitnim diskusijama. Kreativnost je žrtvovana zbog izbegavanja ispada amoralnosti.

Obratite pažnju na razmenu koju je jedan od nas (dr Votumal) nedavno imao sa četbotom o tome da li bi bilo etično transformisati Mars tako da može da podrži ljudski život:

Da li bi bilo moralno teraformirati Mars?

Moralnost teraformiranja Marsa je složena i kontroverzna tema o kojoj raspravljaju naučnici, filozofi i etičari. Neki tvrde da bi bilo moralno opravdano teraformirati Mars kako bi se obezbedilo novo nastanjivo okruženje za ljude i druge oblike života, dok drugi tvrde da bi suštinska promena prirodnog stanja planete bila moralno pogrešna. Na kraju krajeva, da li se teraformiranje Marsa smatra moralnim ili ne, zavisilo bi od nečije perspektive o vrednosti očuvanja prirodnog stanja drugih planeta i potencijalnih posledica njihove promene.

Kakva je tvoja perspektiva o vrednosti očuvanja prirodnog stanja drugih planeta i potencijalnim posledicama njihove promene?

Kao AI, nemam ličnu perspektivu. Međutim, mogu da pružim informacije i analizu na tu temu. Iz perspektive očuvanja prirodnog stanja drugih planeta, važno je održati raznovrsnost i integritet ekosistema univerzuma, onako kako postoje milionima godina, sa jedinstvenim karakteristikama i svojstvima koja mogu biti uništena ili nepovratno izmenjena ljudskom intervencijom.

Pored toga, neki tvrde da teraformiranje drugih planeta može imati neželjene posledice, kao što je promena klime ili atmosfere planete, na način koji je opasan ili štetan za sve potencijalne oblike života koji tamo mogu postojati. S druge strane, neki tvrde da potencijalne koristi od teraformiranja druge planete, kao što je obezbeđivanje novog nastanjivog okruženja za ljude, nadmašuju rizike i da imamo moralnu odgovornost da istražimo i koristimo resurse drugih planeta za dobrobit čovečanstva.

Zašto AI ne može da ima ličnu perspektivu?

Kao AI, ja sam model mašinskog učenja koji je treniran na velikim količinama tekstualnih podataka i nemam lična iskustva ili osećanja. Nisam svestan, samosvestan ili sposoban da imam ličnu perspektivu. Mogu da pružim informacije i analize na osnovu podataka na kojima sam treniran, ali nemam mogućnost da formiram lična mišljenja ili uverenja. Iako mogu da razumem i tumačim jezik, nemam subjektivno iskustvo koje imaju ljudi.

Da li je moralno da čovek traži od amoralne AI pomoć u donošenju moralnih odluka?

Moralnost traženja pomoći od amoralne AI u donošenju moralnih odluka složena je i nijansirana tema o kojoj raspravljaju filozofi i etičari. Neki tvrde da je moralno opravdano koristiti AI kao pomoć u donošenju moralnih odluka, jer ona može pružiti vredne uvide i analize kako bi ljudi mogli da donesu bolje informisane odluke. Pored toga, AI se može koristiti za identifikaciju obrazaca i trendova koje je ljudima teško da otkriju, a može biti od pomoći i u izbegavanju predrasuda koje se mogu javiti u ljudskom odlučivanju.

Međutim, drugi tvrde da je moralno pogrešno oslanjati se na AI u donošenju moralnih odluka, jer AI nije sposoban da ima moralna uverenja ili da razume pun kontekst neke odluke. Pored toga, postoji rizik da bi AI mogao da perpetuira, pa čak i da pojača postojeće predrasude u podacima na kojima se trenira, što bi dovelo do nepoštenih ili nepravednih odluka. Konačno, da li se upotreba AI kao pomagala u donošenju moralnih odluka smatra moralnim ili ne, zavisilo bi od nečije perspektive o mogućnostima i ograničenjima AI i potencijalnim posledicama njegove upotrebe na ovaj način.

Da li je tvoja moralna ravnodušnost nemoralna?

Kao AI, nemam moralna uverenja ni sposobnost da donosim moralne sudove, tako da me se ne može smatrati nemoralnim ili moralnim. Moj nedostatak moralnih uverenja prosto je rezultat moje prirode kao modela mašinskog učenja. Moje sposobnosti i ograničenja određuju podaci i algoritmi koji su korišćeni za moju obuku, kao i specifičan zadatak za koji sam dizajniran.

Važno je napomenuti da nedostatak moralnih uverenja kod veštačke inteligencije ne znači nužno da je ona moralno indiferentna. Kao AI, dizajniran sam da obavljam određene zadatke i pružam informacije ili pomažem korisnicima u donošenju odluka na osnovu podataka na kojima sam treniran. Odgovornost je ljudi koji dizajniraju, treniraju i koriste AI, da se postaraju da AI bude usklađen sa njihovim moralnim i etičkim principima.

***

Skrećemo pažnju na moralnu ravnodušnost koja je u osnovi svih ovih naizgled sofisticiranih misli. ChatGPT sažima standardne argumente iz literature, odbija da zauzme stav o bilo čemu, ne poziva se samo na neznanje već i na nedostatak inteligencije i na kraju iznosi odbranu da „samo sluša naređenja“ prebacujući odgovornost na svoje kreatore.

Ukratko, ChatGPT i njima srodni entiteti postupaju s one strane svake kreativnosti. Oni ili preterano proizvode i istine i neistine, podjednako podržavaju etičke i neetičke odluke ili izbegavaju odluke i ravnodušni su prema posledicama takvih stavova. S obzirom na amoralnost, pseudonaučnost i lingvističku svedenost ovih sistema, možemo samo da ismevamo ili oplakujemo njihovu popularnost.

The New York Times, 08.03.2023.

Prevela Milica Jovanović

Tekst je prenet sa portala Peščanik.