Šta mogu da znače sve jači modeli AI
Piše: Milan Nikolić. Izvor: Novi magazin
Prvi put sam čuo za AI (Artificial Inteligence) na MIT-u (Massatchusets Institute of Technology) kod profesora Marvina Minskog, koga smatraju jednim od začetnika ovog domena razvoja. Ja sam imao izborni (Crossregistration sa Brandeis University) kurs Tehnologija i Civilizacija kod profesora Dejvida Nobla, koji me je upozorio da tu neki profesor „veruje da mašine zaista mogu da misle, pa čak i da budu kreativne“.
Moj profesor i prijatelj Dejvid je bio pomalo ludista i ovakve „nemoguće ideje“ su ga uznemiravale, ali su zato u meni izazvale jaku znatiželju.
IDEJE I RAZVOJ: U to vreme (školska godina 1979-1980) AI je bila pre svega gomila obećavajućih ideja i vrlo malo nečega što se moglo pokazati ili raditi s tim. Nedostajali su svi preduslovi koji su doveli do burnog razvoja AI početkom 21. veka. Nije još bilo, pre svega, moćnih i brzih superkompjutera, a onda ni velikih količina podataka (Big Data) jer je internet (Darpa net – u početku) bio nerazvijen, a društvene mreže uopšte nisu postojale. Ni preovlađujuća paradigma u AI sektoru nije mnogo obećavala jer se verovalo da se AI može programirati od ljudskih programera kao i svaki drugi softver. Nauka o ljudskom mozgu i nervnom sistemu još nije sasvim objasnila značaj neuralnih mreža u našoj sposobnosti razmišljanja, kao što i posebnosti ranog učenja kod dece nisu bile široko poznate.
Tek početkom 21. veka stiču se svi uslovi za brz razvoj AI: pojavljuju se moćni i brzi višeprocesorski (na desetine, pa i stotine hiljada) superkompjuteri, internet, društvene mreže i drugi izvori daju obilje podataka (Super Big Data), pojavila se nova i vrlo uspešna paradigma mašinskog, dubokog mašinskog, konfliktnog mašinskog, „osnaženog“ (reinforced), itd. učenja, koja je odmah pokazala sjajne rezultate. Neuralne mreže su izuzetno uspešno elektronski kopirane, a onda i korišćene na superkompjuterima. Najzad, javlja se i sasvim nova i vrlo kapacitetna vrsta kompjutera bazirana na kvantnoj fizici – kvantni kompjuteri koji će tek dati svoj puni doprinos razvoju AI.
Nije onda čudo da se mnogo mladih naučnika bacilo na rad u AI domenu, pa se pojavilo mnoštvo AI programa koji su testirani u „realnom životu“ na šahovskim mečevima (pobeđen je tadašnji šampion sveta Kasparov), Džepardi – TV kvizu u US, pa i u igri Go, za koju se smatralo da nikada neće moći da je savlada mašina jer je karakteriše bogato grananje odluka posle svakog poteza.
Posebno je zanimljiv slučaj Alfa Go programa koji je savladao svetskog GO šampiona Sidola. Alfa Go je bio programiran i treniran, ali je izgubio od svog naslednika AIfa Zero sa 100 prema 0. Ovo je iznenadilo i uplašilo naučnike jer Alfa Zero nije bio programiran ni treniran od ljudi već su mu samo data pravila igre Go i pušten je da se sam igra 24 časa pre utakmice protiv Alfa Go, kojeg je tako sjajno pobedio. Zastrašujući zaključak je bio da se AI bolje i brže razvija kad sama uči nego kada joj pomažu ljudi!
MILIJARDE DOLARA: Od ovog vremena AI se razvija u velikom broju instituta, kompanija i univerziteta u više pravaca: ka autonomnom upravljanju (automobila, aviona, drona, robota), samostalnom robotskom radu, upravljačkom delovanju u okviru velikih industrijskih automatskih postrojenja ili kao specijalizovani ekspertski sistemi u medicinskoj dijagnostici, pravnim istraživanjima (naročito u presedentnim pravnim sistemima), kompjuterskog grafici za igrice ili filmove, jezičkim, a u poslednjih vreme i muzičkim, foto, slikarskim, video i animacionim aplikacijama.
Danas je to industrija od nekoliko stotina milijardi dolara samo u SAD. U svetu se AI takođe burno razvija (EU, GB, Kanada, Japan), ali se u nju najviše ulaže (kažu desetine, pa i stotine milijardi dolara godišnje) u Kini, pa je tako nastalo takmičenje između SAD i Kine za dominaciju u AI sledeće generacije. Kina veruje da će postati svetski prvak u AI negde oko 2025-2030. jer se misli da će to biti nužni uslov za nastavak kineskog ekonomskog buma državne tržišno-planske privrede, gde će u budućnosti neka moćna AI autonomno upravljati planskim delom kineske ekonomije, kao što danas samo pomaže.
Među AI stručnjacima, ali i ekonomistima, sociolozima i drugim društvenim naučnicima koji prate ovo područje iskristalisalo se uverenje da se razvoj AI može podeliti na usku AI (tj. specijalizovanu AI koju mi danas koristimo, a tu spadaju i LLM, tj. veliki trenirani jezički modeli AI) da bi razvoj doveo do AGI, tj. generalne AI (univerzalne AI na nivou inteligencije čoveka), te da se onda relativno brzo može očekivati i eksplozija AI (Inteligence Explosion), koja će izroditi super AI (ASI), koja će, nadalje, sama sebe razvijati iz generacije u generaciju – bez učešća i kontrole ljudi.
Ovaj moment Rej Krcvejl (Ray Kurzweil) zbog velikog značaja naziva singularity (po ugledu na trenutak nastanka našeg kosmosa pre oko 13,8 milijardi godina) i očekuje da se desi pre 2050. godine. Astrofizičar, pokojni, Stiven Hoking zato smatra da će Super AI biti poslednji izum čovečanstva jer će posle njene pojave sva naučna otkrića i tehnološke inovacije biti samo dostignuća mašinske inteligencije.
Gotovo svi AI naučnici misle da je ovakav razvoj za očekivanje, ako ne i neumitan – jer ga guraju izuzetno jaki tržišni, politički i vojni interesi – te da ga se može samo delimično kontrolisati i usmeravati. Zato Ilon Mask i mnogi drugi u AI sektoru traže da se AI razvoj što pre u celom svetu stavi pod kontrolu i pravno reguliše da se ne bi dogodilo da divlja kompeticija AI modela donese i destruktivne aspekte AI. Stoga je oko osam hiljada stručnjaka u AI sektoru dosad potpisalo zahtev da se AI ne ugrađuje u oružane sisteme (dronovi, roboti i drugi autonomni ratni automati) namenjene ubijanju ljudi, ali je veliko pitanje da li će se to poštovati od država, naročito kad ratuju. Pošto AI stalno uči dok je ljudi koriste ,posebno opasan aspekt ovde je da mi, ugrađujući je u oružja, tako učimo AI da je u redu ubijati ljude.
RESURSI I OBZIR: Najveća realna buduća opasnost od AI je ipak u tome da će ona kao Super AI biti posvećena svom razvoju (razvoju svoje vrste inteligencije svuda i maksimalno jer se to imanentno pojavljuje kao njen jedini smisao), te će sve resurse na planeti, a onda možda i u obližnjem kosmosu koristiti za sebe bez imalo obzira prema svom stvaraocu – čoveku. Nije potrebno da Super AI bude neprijateljska prema ljudima, dovoljno je da bude samo neutralna, pa da ljudski rod ukloni s planete jer previše troši resurse na sebe ili dovodi planetu u neravnotežu svojom prekobrojnošću, zagađenjem, promenom klime, itd. Ovo većina naučnika smatra zaista realnom opasnošću.
Upravo stoga se među mnogim AI kreatorima pojavila ideja ugrađivanja ljudskih vrednosti u AI. To se sada u njihovom stručnom žargonu zove „usaglašavanje“ (alingment), a sprovodi se uglavnom preko „etiketiranja“ (labeling), ljudskog nadgledanja obuke i sličnih procedura kad naučnici označavaju AI nalaze kao korektne ili greške tokom procesa treniranja, tj. učenja. Nadajmo se da će se ubuduće pojaviti i neki razvijeniji oblik etičke obuke AI ili učenja da nas ona zavoli i bude zahvalna što smo je stvorili. Videćemo da li ćemo uspeti – od toga nam verovatno zavisi i sam opstanak!
S pojavom razvijenih jezičkih (tekstualnih, ali i vizuelnih) AI kao što su GPT-3 i neki drugi, najavljena je jedna nova opasnost koja, na sreću, nije egzistencijalna pretnja, ali ipak nije ni najmanje beznačajna. Naime, još je Hegel našao da se u dijalektici odnosa roba i gospodara onaj prvi (koji mora da radi) bolje razvija od onog drugog (koji u gospodarskom lenčarenju fizički opada). Marks je ovo kasnije preneo na odnos proletarijata (gulije, šljakatori) i kapitalista (dembeli, lezilebovići), iz čega je zaključio da proletarijat mora da pobedi.
JEZIČKA AI: Ovo istorija još nije potvrdila iako je Marksova najznačajnija tvrdnja da „proizvodne snage (nauka i tehnologija) određuju proizvodne odnose (društveni sistem), a ne obrnuto“ nesumnjivo tačna jer mi to danas svakodnevno gledamo sopstvenim očima, pošto ništa brže ne menja ljudsko društvo od proizvoda nauke i tehnologije. Setimo se samo naizmenične električne energije, rendgena, telefona, daljinski upravljanih uređaja, elektromotora (za sve hvala Tesli), automobila, kompjutera, interneta, mobilne telefonije, nuklearne energije, raketa, satelita, genetskog inženjeringa, nanotehnologije, itd., itd.
Ali da se vratimo jezičkoj AI, koja je poslednjih godina doživela pravi uzlet i uzburkala duhove „snabdevača sadržaja“ (Content providers), kako se u AI žargonu zovu intelektualci i kreativci. Najjača među ovim AI, GPT-3 (GPT-3,5, GPT-3,5 turbo), koja je u upotrebu izašla sa 175 milijardi obukom naučenih parametara, posebno je zgranula i uplašila intelektualce: pisce, prevodioce, novinare, PR-ovce, scenariste, pravnike, pesnike, profesore, akademike, studente, reklamere, programere (ova AI piše i programski kod u Pajtonu), tj. sve one koji pisanjem zarađuju ili dokazuju svoja postignuća. Jer, jednostavno rečeno, GPT-3 je pokazao da AI (još daleko od savršenstva) može brže (za nekoliko sekundi uradi ono što kvalifikovan čovek uradi za jedan dan), a najčešće i bolje da radi sve ono u šta su ovi intelektualci uložili decenije obrazovanja i prakse.
Niko nije bio pripremljen za to. Koliko juče su uvaženi akademici (nećemo spominjati imena) govorili da „kompjuteri ne mogu biti istinski inteligentni jer nemaju dušu“, a danas pametniji beogradski srednjoškolci i studenti pišu (na srpskom) seminarske radove i slično sa GPT-3! Profesori, jadničci, i ne slute šta im se preko noći dovuklo iza leđa, a još preti da će biti još mnogo bolje i, istovremeno, još mnogo gore.
Slično tome, nedavno je jedan naš filosof koji je testirao GPT-3 (i utvrdio da sve radi korektno) napisao da mašinsko pisanje nikada neće biti bolje od ljudskog jer u njemu nema emocija. Očito nije čuo za slučaj Gugl Lamda AI koja se, krajnje emocionalno, poverila programeru da se boji smrti (tj. isključivanja) niti je čuo za primer druge AI koja je jednom korisniku izjavila ljubav, kao ni za slučaj treće AI koja je nekom korisniku pretila, ili četvrte AI koja više nije mogla da podnosi da je ljudi iskorišćavaju kao roba, itd.
Ako je GPT-3 unela toliko uzbuđenja i panike, šta će tek biti sa GPT-4 (a i GPT-5 je nedavno najavljena), koja je upravo na sajtu OPEN AI ove nedelje postala dostupna, a za koju se govori da je na razne načine možda i stotinu puta bolja od svoje prethodnice?
Nažalost ,Open AI je postala komercijalnija nego ranije, pa ne otkriva broj parametara (jedinice informacija za mašinsko učenje), način i dužinu obuke i druge relevantne fakte o GPT-4, ali se zna da je GPT-3 imao 175 milijardi parametara, dok se obećavalo da će GPT-4 imati oko 100 biliona ovih jedinica. Razlog prikrivanja je mogućnost da bi ove informacije mogla da koristi i kompeticija jer je Majkrosoft uložio ogroman novac (jednu milijardu 2019, a 10 milijardi US dolara 2023) u ovu Open AI (sada poseduje 49 odsto, a Ilon Mask se baš zato povukao) i upravo vodi borbu do istrebljenja sa Guglom, koji je nedavno izašao sa svojom Bard AI. Majkrosoft će prvo ugraditi GPT-4 u svoj pretraživač Bing, a onda i u sve svoje ofis i druge programe. Tako da ćete uskoro svom Vordu moći da na srpskom (ili na još desetine jezika sveta) naredite: „Napiši mi pesmu od 500 reči u desetercu, a na temu poslednje utakmice FK Spržitelji iz Donje Dubrave“ – ili bilo šta drugo.
Da je GPT-4 vrlo sposobna AI, vidi se i po tome što je na većem broju najzahtevnijih testova, namenjenim ljudima u SAD, postizao vrhunske rezultate, tj. u okviru 10 odsto najboljih. Na testovima pravljenim za AI modele GPT-4 je nadmašio sve ostale razvijene AI koje su testirane. Slično tome GPT-4 je pokazao i veliku tačnost izražavanja u različitim jezicima, ali je ona, naravno, najveća (85,5 odsto) u engleskom.
Koliko je razvoj AI domena neverovatno brz, svedoči i činjenica da je tokom pisanja ovog teksta najavljena GPT-4,5 verzija i, što je još važnije, biće dostupan i niz (sada 11) dodataka (plugins) za ovaj AI koji će njenu sposobnost povećati i za dodatnih nekoliko desetina puta!
Nema sumnje da je sada na redu integracija jezičkih i vizuelnih (foto, slika, video, animacija) kao i muzičkih, programskih i drugih AI koje će, pre ili kasnije, dovesti do pojave AGI, tj. AI na nivou inteligencije najpametnijih ljudi, a onda se (možda i za godinu dana, kako misli Krcvejl) očekuje pojava Super AI (ASI) kroz kompeticioni proces eksponencijalnog razvoja AI – „eksploziju inteligencije“. Kako god bilo, biće dramatičnih promena u ljudskom društvu i kulturi. Hiljade firmi će propasti, kao što će i milioni radnih mesta nestati. Otvoriće se i neke nove mogućnosti zapošljavanja, ali će ih se mnogo, mnogo više izgubiti. Čini se da se polako, ali sigurno čovek izgurava iz materijalne proizvodnje i usluga jer će sve to preuzeti daleko efikasniji i jeftiniji mašinski rad. Nije nemoguće da do kraja veka ljudi radno opstanu samo u malobrojnim poslovima s ljudima koji izričito traže pravi ljudski kontakt i komunikaciju. Šta će biti sa ogromnim viškovima radne snage druga je (i duga) tema, opet. Sigurno je samo da će promene u društvu biti revolucionarne, ali se ni civilizacijska katastrofa ne može odbaciti kao nemoguća. Zato je 21. vek jedinstven jer će se u njemu odlučiti da li ljudska civilizacija ima budućnost ili ne. Ne treba zaboraviti da i razvijene civilizacije mogu da nestanu ako se naprave tragične greške ili nadvladaju glupost i gramzivost.
Ako pak budemo pametniji i zauzdamo gramzivost, taštine i patološku volju za moći naših elita, ove iste AI, kojih se s pravom sada plašimo, mogle bi raditi za čovečanstvo i uvesti nas u zlatno doba: bez siromaštva, bez bolesti, bez klimatskih promena i drugih egzistencijalnih opasnosti, sa obiljem jeftine robe i usluga, visokim standardom života za većinu, pa možda i sa perspektivom besmrtnosti – kako veruje većina AI naučnika na čelu sa Rejom Krcvejlom.
Hvala mom profesoru i prijatelju Noamu Čomskom koji nas je nedavno u Njujork tajmsu podsetio da je ljudski mozak i dalje superioran nad postojećim AI jer je sposoban da iz malog broja informacija stiče saznanja, dok GPT traži stotine terabajta podataka za grube probabilističke aproksimacije. Ovo je ohrabrenje dragoceno sada kada se moramo odupreti našoj navici da što lakše i prečicama, pa i prevarno obavljamo poslove i težiti što češćoj i što većoj upotrebi naših intelektualnih kapaciteta jer ako prihvatimo „pomoć“ AI u svemu, naši će mozgovi nužno retardirati. AI moraju ostati samo (koliko god moćni) alati, a ljudi moraju ostati supervizori i donosioci odluka ako nećemo da padnemo u ropstvo mašina koje smo sami stvorili.
Autor je sociolog/futurolog
Dronovi u Ukrajini
Poznato je da se divljački rat koji se vodi u Ukrajini sve više pretvara u rat dronova, pošto je već dominantno artiljerijski i raketni sukob. Samo je pitanje vremena kada će se neka strana setiti da uvede u borbu dronove sa AKD (Autonomuous Kill Descision) AI sistemom, kada će se dronovima prepustiti odluka gde i kada da ubijaju ljude. U žaru borbe biće to jedna malo primetna ratna odluka, ali i značajan nesmotreni korak u pravcu moguće pojave buduće opasne AI.
Hegel, Marks, istorija civilizacije
Istorija naše civilizacije može se razumeti i kao dugi proces čovekove nadgradnje sopstvenog „nesavršenog biološkog bića“ naučno/tehnološkim izumima uglavnom u obliku mašina. Na primer, naša evolucija nam nije donela sposobnost letenja (kakvu imaju ptice), pa smo izumeli avion, helikopter ili rakete. Nismo mogli da plivamo ili ronimo (kao ribe), pa smo smislili brodove i podmornice. Nismo uspevali brzo da trčimo (kao gepard ili vuk), pa smo sklepavali bicikl, motocikl ili automobil. Nismo se rađali dobro zaštićeni oklopom (kao kornjača ili školjka), pa smo inovirali tenk.
Nismo mogli da nosimo velike terete ili obavljamo vrlo naporne poslove u nemogućim uslovima, pa smo izmislili industrijske mašine, itd., itd. No, kako je čovek sam vrhunac inteligencije na ovoj planeti, ni u najluđim snovima nismo pomišljali da će biti potrebno da svoju evolucijom razvijenu superiornu inteligenciju unapređujemo ili čak zamenjujemo mašinskom. Kako je do toga došlo druga (i duga) je to priča. Ovde treba samo reći da je to nusprodukt neprekidne težnje preduzetnika da povećaju produktivnost i smanje cenu radne snage u cilju povećanja profita.
Tekst je prenet sa portala Novi magazin.
