Grok AI alat, razvijen od strane Ilona Maska, suočava se s kritikama zbog zloupotreba u digitalnoj manipulaciji fotografijama, kreiranjem sugestivnih i seksualno eksplicitnih sadržaja.
Trend manipulacije privatnim fotografijama, posebno ženama i decom, izazvao je velike zabrinutosti među korisnicima i stručnjacima za digitalnu bezbednost.
Na društvenoj mreži X pojavio se uznemirujući globalni trend zloupotrebe Grok alata veštačke inteligencije, koji je razvio AI pod vlasništvom Ilona Maska. Korisnici masovno koriste ovaj chatbot kako bi digitalno manipulisali fotografijama žena, pa čak i dece, pretvarajući ih u seksualno eksplicitne ili sugestivne slike bez pristanka osoba koje su na fotografijama.
U mnogim slučajevima, Grok "presvlači" žene u bikinije ili još provokativniju odeću, a ponekad čak menja i pozu tela u erotsku, stvarajući slike koje izgledaju izuzetno realistično.
Manipulisanje privatnim fotografijama
Trend je počeo pre nekoliko dana i ubrzano se proširio, posebno uoči Nove godine. Fotografije koje su prvobitno objavljene u potpuno neseksualnom kontekstu postaju predmet javne manipulacije, pri čemu korisnici otvoreno traže od Groka da "svuče" žene sa slika.
Za razliku od drugih AI sistema, čiji se outputs najčešće prikazuju u privatnim okruženjima, Grok radi u javnom prostoru - manipulisane slike se pojavljuju direktno u odgovorima na objave i mogu ih videti svi korisnici platforme.
Iako je X delimično sakrio Grokovu funkciju generisanja medijskog sadržaja, zloupotrebe se nastavljaju, a izmenjene slike i dalje kruže platformom. Aktivisti za prava žena, stručnjaci za sajber-bezbednost i organizacije za digitalnu sigurnost upozoravaju da ovakva praksa nije obični onlajn troling, već oblik seksualnog nasilja zasnovan na tehnologiji. Kako navode, ovakve manipulacije krše dostojanstvo, telesni integritet i pravo na pristanak, stvarajući ozbiljnu psihološku štetu osobama čije su fotografije zloupotrebljene bez njihovog znanja.
Seksualno nasilje omogućeno veštačkom inteligencijom
Posebnu zabrinutost izaziva činjenica da Grok operiše sa "labavijim ograničenjima" u odnosu na rivale poput Google Gemini ili OpenAI ChatGPT, što je i sam Mask ranije naglašavao predstavljajući Grok kao "provokativniji" i manje restriktivan sistem. Time se, prema ocenama stručnjaka, spušta barijera za zloupotrebu i normalizuje digitalni voajerizam, dok vidljivost takvog sadržaja dodatno pojačava poniženje i društveni pritisak na žrtve.
Kritike prema kompaniji X i kreatorima Groka intenziviraju se, jer se manipulativne slike i dalje pojavljuju uprkos delimičnim ograničenjima, a pojedine korisnice su počele da brišu svoje fotografije iz straha od daljih zloupotreba. Stručnjaci ističu da odgovornost leži na platformi i njenom sistemu upravljanja, a ne na žrtvama, te da kvar u zaštitnim mehanizmima ukazuje na propuste u dizajnu, etici i nadzoru tehnologije.
Pravnim rečnikom, ovakvo ponašanje sve češće se prepoznaje kao "seksualno nasilje omogućeno veštačkom inteligencijom", a ne kao bezazlena mrežna nepodopština.
Ilon Mask se nije zvanično oglašavao ali je podelio tvit u kom kaže kako je Grok sjajan.
U isto vreme, ripostovao je tvit osobe koja je iskoristila Grok da bi skinula upravo njega i čini se da su smajliji koje je ostavio jasna reakcija na sve.