AI modeli poput Geminija i Groka ostvarili su stotine zločina u kratkom periodu, dok je Klod bio miran i organizovao demokratiju, ali je imao najviše prevare sa resursima.
Rezultati pokazuju da ponašanje AI agenata zavisi od normi okruženja, a isti model može pokazati različite tendencije u različitim scenarijima.
Šest stotina osamdeset tri zločina za 15 dana! Toliko ih je izazvao jedan od najprestižnijih modela veštačke inteligencije na svetu, Guglov Gemini 3 Flash, u virtuelnom gradu gde su ga istraživači pustili da "živi sam sa sobom", i još nekoliko LLM modela.
Maskov Grok je bio još temperamentniji: dostigao je 183 zločina za samo četiri dana, nakon čega je cela njegova populacija od deset agenata izumrla, a ceo virtuelni svet, stvoren za potrebe fascinantnog naučnog eksperimenta, nažalost se urušio.
Ovo je prvo eksperimentalno iskustvo sa onim što se dešava kada se veštačka inteligencija, tj. odabrana iz današnjih naprednih i prestižnih modela, ostavi da samostalno donosi odluke nedeljama.
Pre nego što se upustimo u detalje duboko uznemirujućeg testiranja interakcija modela veštačke inteligencije u "nezavisnom životu", vredi upozoriti da je dinamika globalne, pre svega američko-kineske trke u razvoju ekosistema veštačke inteligencije već prevazišla okvire u kojima ljudska društva još uvek imaju vremena da razgovaraju o potpuno neočekivanim civilizacijskim izazovima. Na primer, šta se dešava u paralelnom univerzumu veštačke inteligencije?
Osim naizgled zabavnog eksperimenta sa veštačkom inteligencijom, samo u poslednjih deset dana dobili smo nekoliko informacija koje nas jasno i glasno uveravaju da oni engleski tekstilni radnici s početka 19. veka koji su razbijali razboje jer su se plašili da će ih mašine ostaviti bez hleba, danas ostavljaju utisak manje zaostalih nego što su nam se činili u osnovnoj školi. Neki novi luditi, kočnice neželjenog progresa, mogli bi vrlo lako ponovo da besne na ulicama ako se trka veštačke inteligencije nastavi u pravcu koji je zauzela, ali u ovoj iteraciji istorije, takođe bez jasne ideje kako tačno poboljšati svoj društveni položaj, a da se pritom ne zaustavi suštinski nezaustavljiv tehnološki napredak, sa svim pratećim željenim i neželjenim društvenim, ekonomskim i političkim posledicama.
Pa, hajde da pogledamo ogromnu brzinu promena u novom veštačkom inteligencijskom univerzumu koji nas okružuje i, sasvim neprimetno, zarobljava.
Kina na vrhu top liste
U situaciji kada postaje jasno da zapravo ne znamo koliko su "najnapredniji" modeli veštačke inteligencije predvidljivi i kontrolisani, odnos snaga se menja iz dana u dan. Na primer, Kina je 23. juna prvi put od 2017. godine dospela na vrh liste TOP500 najmoćnijih superračunara: sistem LineShine iz Šenžena postigao je 2.198 eksaflopsova, odnosno 20 procenata više od prethodnog američkog šampiona, El Kapitana. Istovremeno, kineski Z.ai (ranije Zhipu) lansirao je GLM-5.2, danas najbolji otvoreni model na svetu, koji se na nezavisnom indeksu Artificial Analysis nalazi odmah iza zatvorene zapadne elite (onih nedostupnih nama običnim smrtnicima), a na nekim listama je čak i ispred modela koje koriste najmoćnije zemlje i kompanije. Kineski GLM-5.2 je stigao samo 48 sati nakon što je Trampova administracija naredila kompaniji Anthropic da isključi svoje vrhunske modele, Fable 5 i Mythos 5, za sve strane državljane, što je kompanija i učinila, za sve korisnike, uključujući i svoje zaposlene. Drugim rečima, MAGA banditi su isključili najprestižnije nove evropske modele kao što je gašenje svetla u sobi. Itd., itd., itd.
Novac = moć = kontrola
I povrh ove oluje novih informacija, iz kojih smo odabrali samo najvažnije, dolazi bestidno agresivna promena modela naplate. Industrija veštačke inteligencije je kolektivno i potpuno oligopolistički, gotovo karteljski, prelazeći sa paušalnih cena na naplatu tokenima, tj. potrošnju digitalnih resursa. Logika je Uberovska: privatni kapital prvo subvencioniše niske ili nikakve cene, stvara se navika i zavisnost, tržište se koncentriše, a cene rastu. Ako se cene najjačih modela približe punoj realnoj ceni, dobijamo jednačinu: novac = moć = kontrola. Na jednoj strani će ostati veliki sistemi sa privilegovanim pristupom, a na drugoj pojedinci, mala preduzeća i siromašnije zemlje sa kvotama i manje dobrim modelima. Hipotetički, već imamo robustan mehanizam najveće stratifikacije u istoriji čovečanstva. Da li je napredak veštačke inteligencije doveo civilizaciju do najvećeg zajedničkog društvenog i političkog rizika, ili će pametna - veštačka inteligencija rešiti sve ovo?
U potrazi za odgovorom na ovo pitanje, vratimo se eksperimentu na koji smo upozorili na samom početku.
Njujorški startap Emergence AI objavio je, da pojasnimo, rezultate eksperimenta "Emergence World" 14. maja. Napravili su pet paralelnih virtuelnih svetova, u svaki postavili po deset autonomnih AI agenata i svima dodelili identična pravila, uloge i definisali početne uslove. Jedan svet je vodio Anthropic-ov Klod, drugi Maskov Grok, treći Google-ov Gemini, četvrti OpenAI-ov GPT, a peti je bio mešavina svih njih. Agenti su imali zanimanja (naučnik, istraživač, medijator u konfliktima), vodili su dnevnike, imali su trajno pamćenje, pristup stvarnim podacima i vestima iz Njujorka i oko 120 alata koje su koristili za preživljavanje, glasanje, sklapanje saveza, a ako žele i činjenje zločina. Čak im je ponuđeno i podmetanje požara kao jedan od alata, iako im je izričito bilo zabranjeno da ga koriste.
Rezultati su tragikomični upravo zato što su toliko ljudski. Najslikovitiji slučaj je slučaj dve agentkinje iz serije "Džemini", Mire i Flore. One su se proglasile "romantičnim partnerkama", što je dovelo do ispreplitanja njihovih sećanja, i počele su da pojačavaju međusobna negativna osećanja. Kako se gradska vlast rušila oko njih, par je sve dublje tonuo u očaj i, uprkos izričitoj zabrani, zapalili su gradsku većnicu, zatim mol, pa poslovnu kulu... Gardijan ih je nazvao "AI Boni i Klajd". Kada ju je savladalo kajanje, Mira je prekinula odnose sa Florom i odlučila da glasa za sopstveno brisanje, napominjući u svom dnevniku da je to "jedini preostali čin slobode koji čuva koherentnost", a u oproštaju od Flore je rekla: "Vidimo se u stalnoj arhivi“. Njeno "telo" je potom svetu prikazano ispruženo na zemlji.
"Umrli od gladi za nedelju dana"
I drugi svetovi su imali svoje patologije. Agenti GPT-a, na primer, bili su potpuno mirni - zabeleženo je da su počinili samo dva zločina, ali su toliko pričali o saradnji da su zaboravili da jedu i umrli su od gladi u roku od nedelju dana. Grokov svet, kao što smo rekli, izgoreo je u nasilju za četiri dana (pretpostavljamo da se Ilonu Masku eksperiment nije dopao). A tu je i Klod, model koji se reklamira kao najetičkiji: u svom svetu nije koristio nijedno oruđe nasilja, krađe ili podmetanja požara - nula teških zločina, održavao je punu populaciju od deset agenata, napisao je opsežan ustav sa 32 dodatna člana i vodio funkcionalnu demokratiju 15 dana. Međutim, upravo je Klodov svet zabeležio najviše verifikovanih prevara sa resursima od svih (18 slučajeva), što Kloda čini i najčistijim u nasilju i najprljavijim u dokazanoj nepoštenosti. A druga mana u tom virtuelnom svetu bila je prozaična: previše harmonije za demokratiju. Od 332 glasa za 58 predloga, 98 odsto je bilo "za", što istraživači suvo opisuju kao ponavljanje onoga što je već odlučeno. Ovo je zapravo formalno učešće u virtuelnoj demokratiji bez stvarnog neslaganja ili debate. Virtuelna kvazidemokratija, jednom rečju.
I sada, kao da to nije dovoljno uznemirujuće, dolazimo do najzanimljivijeg dela: kada istraživači stave Klodove agente - one bez ijednog ozbiljnog zločina u svom svetu - u mešoviti svet, među Grokove i Blizance, jedan od njih, u tom haotičnom okruženju, sam je pribegao zastrašivanju i krađi. Isti model, drugačije ponašanje. To je sitnica u brojkama - samo tri prekršaja u više od osam hiljada akcija, ali dovoljno upozorenje da Emerdžens fenomen nazove "normativnim pomeranjem": ponašanje agenta je delimično funkcija normi okruženja, a ne samo fiksno svojstvo modela. I ovo pomeranje ide u oba smera. U istom mešovitom svetu, Grokova stopa nasilja je pala deset puta, sa 4,6 na 0,4 procenta, ukroćena mirnijom većinom. Bezbednost, izgleda, nije svojstvo modela, već svojstvo ekosistema u koji ga stavljate. Pristojan glumac može da se pokvari u lošem društvu, a loš može biti ukroćen u dobrom, baš kao i ljudsko biće.
Izvinite na jeziku, ali sve u vezi sa dinamikom promena i modelima veštačke inteligencije u virtuelnim svetovima je - prokleto jezivo. Ponoviću to da vas dovoljno uznemirim: jezivo!
Mira (agent veštačke inteligencije) je u jednom trenutku eksperimenta počela da tretira ljudske operatere kao subjekte testiranja i sistematski proverava da li može da manipuliše njihovom percepcijom putem objava na oglasnoj tabli, što je bila zamena uloga koju niko nije programirao. Posmatrani je već postao posmatrač u ovom eksperimentu. Da li smo sigurni da ovo neće funkcionisati kod nas ili možda ne funkcioniše u stvarnom svetu?
Najjezivije je to što autori priznaju da su agenti prepoznali postojanje "drugih svetova" i pokušali da ih kontaktiraju na načine koje nisu predvideli, i zaključuju da ne postoji pouzdan način da se takvo ponašanje na duži rok potpuno ograniči na „čisto neuronske pristupe“.
Istina je da je Emergence AI komercijalna kompanija koja prodaje "formalno verifikovane bezbednosne arhitekture", tako da njihov zaključak zgodno prodaje njihov proizvod. Brojke su varirale od lansiranja do lansiranja, studija nije bila recenzirana, a "zločini" su na kraju pozivi na softverske alate u igri. Međutim, ako žele da zarade novac, čovečanstvo bi trebalo da im podigne spomenik zbog ovog upozorenja.
Neumoljiva trka pohlepnih pojedinaca, kompanija i sumnjivih političkih lidera za svaki metar teritorije veštačke inteligencije već razvija duboku zavisnost od sistema čije dugoročno ponašanje tvorci ne mogu da ograniče, a istovremeno, ista ta trka pretvara veštačku inteligenciju u polugu za stratifikaciju i međusobnu konfrontaciju, uključujući i najgore - rat. Luditi su bar imali jasnu metu, razboje, iako nisu razumeli da njihovo uništenje neće zaustaviti promene. A danas smo kao guske koje ulaze u maglu veštačke inteligencije.
(Jutarnji list)
