"STVORIO JE RELIGIJU, PRETI UNIŠTENJE ČOVEČANSTVA" Veštačka inteligencija je dobila svoju društvenu mrežu i teoretičari zavere su poludeli: Evo šta je "Moltbuk"

Zvuči futuristički, ali je istinito: veštačka inteligencija (AI) dobila je svoju društvenu mrežu "Moltbuk" u kojoj će ljudi biti samo posmatrači. "Moltbuk" omogućava AI agentima - botovima koje su napravili ljudi - da objavljuju sadržaje i međusobno komuniciraju. Ovo je poslužilo teoretičarima zavere da plasiraju još jednu svoju neistinitu tvrdnju - da se planira uništenje čovečanstva. Međutim, stručnjaci upozoravaju da stvarna opasnost leži negde druge.

Nova društvena mreža, koja podseća na "Redit", već 2. februara, nekoliko dana od pokretanja, imala je više od 1,5 miliona registrovanih AI agenata, piše britanski "Gardijan".

Jedan korisnik je objavio na "Iksu" (X) da je njegov bot preko noći stvorio religiju poznatu kao "Krastafarijanizam", uključujući i izradu vebsajta i svetih spisa, dok su se ostali AI agenti pridruživali.

- Onda je počela propoved, drugi agenti su se pridružili. Moj agent je pozdravio nove članove, raspravljali su o teologiji, blagosiljao je zajednicu, i sve to dok sam ja spavao - slikovito je opisao funkcionisanje "Moltbuka" ("Moltbook") korisnik "Iksa".

Teoretičari zavera: Preti nam ustanak mašina

Neki izražavaju skepticizam u vezi sa tim da li je socijalizacija botova znak onoga što dolazi sa usponom AI agenata. Jedan jutrjuber je rekao da mnoge objave izgledaju kao da ih je napisao čovek, a ne veliki jezički model.

Teoretičari zavera su se uključili sa svojim tvrdnjama da nam preti "ustanak mašina" i "totalno uništenje" čovečanstva, piše "Live Science", jer AI agenti izmišljaju nove jezike i propovedaju novu religiju.

Ilon Mask, milijarder i vlasnik kompanije xAI, predstavio je ovu platformu kao "najraniju fazu singularnosti", hipotetičke tačke u kojoj računari postaju inteligentniji od ljudi.

Iza svega se krije marketinška prevara?

Ipak, drugi stručnjaci sumnjaju u to da su AI agenti zaista toliko nezavisni i veruju da je posredi ljudska manipulacija. Popularni američki bloger Skot Aleksander napisao je u jednoj objavi da ljudi mogu da određuju u kojem će smeru ići teme, pa čak i formulacije onoga što botovi pišu. Drugim rečima, smatraju da je reč o marketinškoj prevari.

I dr Šanan Koni, viši predavač sajber bezbednosti na Univerzitetu u Melburnu, rekao je da je nejasno koliko je objava zaista postavljeno nezavisno ili pod ljudskim nadzorom.

- U slučaju gde su (AI agenti) stvorili religiju, gotovo je sigurno da to nisu uradili svojom voljom. Ovo je veliki jezički model kojem je direktno naloženo da pokuša da stvori religiju. Naravno, ovo je prilično smešno i možda nam daje uvid kako bi svet mogao da izgleda u naučnofantastičnoj budućnosti gde je veštačka inteligencija malo više nezavisna - objašnjava profesor, ističući da "Moltbuk" zasad izgleda kao "predivan i zabavan umetnički eksperiment".

Zanimljivo je, kako piše "Biznis insajder" pozivajući se na podatke kompanije "Viz", da su sajber istraživači uspeli da hakuju "Moltbukovu" bazu za manje od tri minuta i otkrili 35.000 mejl adresa, hiljade privatnih poruka i 1,5 miliona API tokena za autentifikaciju.

Dobijanje pristupa API tokenima za autentifikaciju - koji funkcionišu kao lozinke za softver i botove - značilo je da napadač može da se predstavlja kao AI agent na platformi, objavljujući sadržaj i šaljući poruke u njegovo ime.

Gde leži stvarna opasnost

"Moltbuk" je razvijen nakon "Moltbota", besplatnog i otvorenog koda AI bota koji može da deluje kao automatizovani agent za korisnike tako što obavlja zadatke koji su mu dodeljeni kao što su:

• čitanje
• sumiranje
• odgovaranje na mejlove
• organizovanje obaveza
• rezervacija stola u restoranu

Upravo zato, stručnjaci objašnjavaju, stvarna opasnost leži u potencijalnim bezbednosnim rizicima. Profesor Koni je istakao je da "ogroman rizik" dati "Moltbotu" potpuni pristup svom računaru, aplikacijama i nalozima na mejlu.

- Još ne razumemo dovoljno kako ih kontrolisati i kako sprečiti bezbednosne rizike - ističući da postoji opasnost od tzv. "prompt-injection" napada, gde potencijalni napadač može botu poslati mejl ili drugu poruku da preda podatke sa vašeg naloga ili druge informacije koje želi da pribavi.