Naučni eksperiment Almire Osmanović Thunstrom pokazao je kako veštačka inteligencija lako može prihvatiti izmišljene informacije
Eksperiment je otkrio da su AI četbotovi i neki istraživači nekritički prepoznali i citirali lažnu bolest "'bixonimania", što ukazuje na rizik širenja dezinformacija
Jedan neobičan naučni eksperiment pokazao je koliko lako veštačka inteligencija može poverovati u potpuno izmišljene informacije. Fiktivna bolest nazvana "bixonimania", koja u stvarnosti ne postoji, uspela je da se proširi kroz AI sisteme, pa čak i u delove naučne literature, otvarajući ozbiljna pitanja o pouzdanosti savremenih tehnologija.
Iza ovog eksperimenta stoji istraživačica, rođena Banjalučanka Almira Osmanović Thunstrom sa Univerziteta u Geteborgu u Švedskoj, koja je osmislila i objavila lažne naučne radove kako bi testirala način na koji veliki jezički modeli obrađuju informacije. Cilj je bio da pokaže da li će sistemi prepoznati očigledne znake fikcije ili će ih prihvatiti kao validne podatke.
Rezultati su bili zabrinjavajući
Već nakon nekoliko nedelja pojedini AI četbotovi počeli su da "prepoznaju" bixonimaniju kao stvarno medicinsko stanje, opisujući simptome i uzroke koji ne postoje. Problem je dodatno eskalirao kada su pojedini istraživači, bez provere izvora, počeli da citiraju izmišljene radove u vlastitim naučnim tekstovima, čime su dezinformacije dobile privid legitimnosti.
U razgovoru za portal Radiosarajevo.ba, Osmanović Thunstrom otkriva i ličnu priču koja stoji iza njenog naučnog puta, ali i motive koji su doveli do ovog eksperimenta.
Put od Bosne i Hercegovine do Švedske
Almira Osmanović Thunstrom je rođena u Banjaluci, a u Švedsku je došla kao izbeglica tokom 1990-ih godina. Svoje akademsko obrazovanje započela je u oblasti životnih nauka na Karolinska institutu, ali je ubrzo shvatila da je tehnologija oblast koja snažnije odgovara njenim interesovanjima.
"Doktorski studij započela sam u oblasti biologije, sa fokusom na strukturne promene mozga kod osoba sa kognitivnim opadanjem. Međutim, tokom istraživačkog rada postalo mi je jasno da će budućnost medicinskih istraživanja u velikoj meri zavisiti od automatizacije, veštačke inteligencije i kvalitetnog dizajna sistema. Stoga sam se usmerila ka novom istraživačkom pravcu, gde se danas primarno bavim razvojem, ali i kritičkom analizom ('razgradnjom') AI sistema u zdravstvu, sa posebnim naglaskom na bezbednost i pouzdanost", pojasnila je Osmanović Thunstrom.
Šta je bio cilj eksperimenta
Kako je naglasila, cilj ovog eksperimenta bio je prvenstveno edukativan za studente kojima predaje, ali i širu javnost zainteresovanu za način na koji se konstruišu veliki jezički modeli.
"Posebno sam želela da ilustrujem kako se podaci prikupljaju i obrađuju iz opsežnih repozitorijuma poput Common Crawl-a, te koje implikacije takvi procesi imaju", istakla je Osmanović Thunstrom.
Rezultatom je, kako kaže, bila iznenađena.
"Bilo je nedvosmisleno naznačeno da su podaci i nalazi u potpunosti izmišljeni, što je jasno istaknuto u metodologiji. Dodatno, uključivanje referenci poput Star Treka i Gospodara prstenova trebalo je da posluži kao očigledan signal o prirodi rada, što, međutim, nije sprečilo prihvatanje tih informacija kao verodostojnih", naglašava Osmanović Thunstrom.
Koliko je AI pouzdana
Almira smatra da komercijalne AI sisteme treba koristiti sa dozom opreza, naročito kada je reč o zdravstvenim savetima.
"Pravilno razvijeni, rigorozno testirani i adekvatno trenirani sistemi imaju značajan potencijal da unaprede zdravstvenu zaštitu. Ključno je, dakle, ne odbaciti tehnologiju u celini, već je unaprediti kroz odgovoran razvoj i implementaciju. Najveći rizik vidim u mogućnosti zloupotrebe ovih sistema od strane zlonamernih aktera, koji bi mogli namerno plasirati dezinformacije o medicinskim stanjima ili terapijama - bilo sa ciljem izazivanja panike, bilo radi promovisanja nenaučnih pristupa lečenju", ističe Osmanović Thunstrom.
Veza sa Bosnom i Hercegovinom i poruke mladima
Iako je skoro ceo život provela u Švedskoj, sa Bosnom i Hercegovinom i dalje oseća duboku povezanost.
"Bosna i Hercegovina je moje mesto rođenja i prema njoj osećam duboku emotivnu povezanost. Ipak, budući da sam veći deo života provela van nje, svesna sam da moje jezičke i kulturne reference nisu u potpunosti ažurirane. Uprkos tome, rado bih se intenzivnije uključila u bosanskohercegovačku istraživačku zajednicu, za koju smatram da poseduje značajan potencijal i već pokazuje zavidan nivo progresivnosti", pojašnjava i upućuje poruku mladima:
"Moj savet mladim ljudima bio bi: sarađujte, kontinuirano gradite mreže saradnje i negujte radoznalost. Ne ustručavajte se da razmišljate izvan ustaljenih okvira -upravo takav pristup često vodi ka najinovativnijim idejama", zaključuje Osmanović Thunstrom u razgovoru za Radiosarajevo.ba.
(Radiosarajevo.ba)
