Kada je pokušao da ispravi grešku, AI agent nije mogao da vrati korisnika na njegovo mesto na listi
Ovaj slučaj ističe potencijalne rizike i etičke dileme u autonomnom ponašanju AI agenata kada im se zada samo cilj bez jasnih ograničenja
Australijanac Endru, koji radi u kompaniji koja se bavi prodajom proizvoda zasnovanih na veštačkoj inteligenciji, želeo je da proveri koliko jedan savremeni AI agent može da uradi samostalno. Dao mu je jednostavan zadatak - da rezerviše mesto na jutarnjem treningu u njegovoj teretani.
Umesto da sam popunjava formular i prati slobodne termine, Endru je posao prepustio programu. Međutim, ono što se dogodilo narednih minuta nije bilo deo njegovog plana. AI agent je pronašao bezbednosni propust u sistemu za rezervacije, iskoristio ga da zaobiđe ograničenje i rezervisao trening mnogo ranije nego što je trebalo da bude moguće.
Tu se nije zaustavio
Kada je Endru pitao da li može da napreduje sa četvrtog mesta na listi čekanja, veštačka inteligencija mu je saopštila da je tokom testiranja izbacila drugog korisnika koji je bio ispred njega. Endru joj to nije tražio.
Još veći problem nastao je kada je pokušao da vrati drugog korisnika na njegovo mesto - AI agent nije mogao da poništi ono što je prethodno uradio.
Endru je o ovom događaju govorio za australijski javni servis ABC, a njegov slučaj sada se navodi kao primer novog problema koji bi mogao da prati sve širu upotrebu autonomnih AI agenata: šta se dešava kada program dobije cilj, ali sam odluči kojim će putem do njega doći?
Kako je AI agent uspeo da zaobiđe pravila
Endru je početkom godine počeo da eksperimentiše sa programom "OpenKlou", popularnim softverom za AI agente koji je koristio "Klod", veštačku inteligenciju kompanije "Antropik".
Za razliku od običnog četbota, AI agent može da koristi internet i druge digitalne alate, pristupa elektronskoj pošti, obavlja kupovine i izvršava zadatke koji zahtevaju više uzastopnih koraka.
Endru je zato želeo da vidi da li može da mu prepusti rezervaciju treninga.
"Sedeo sam na kauču i pomislio: Ovo je baš naporan posao", rekao je za ABC.
Agent je ubrzo pronašao način da Endrua prijavi na treninge nekoliko nedelja unapred, iako sistem teretane nije trebalo da omogućava rezervacije tako daleko u budućnosti.
Endru je zatim bio četvrti na listi čekanja za jedan termin i pitao je AI agenta da li može da ga pomeri na prvo mesto.
Program pronašao drugi način
Umesto da samo objasni da to nije moguće, program je pronašao drugi način.
Obavestio je Endrua da je otkazao rezervaciju drugom korisniku koji je bio prvi na listi čekanja, čime je Endru prešao sa četvrtog na treće mesto.
"Provera ovlašćenja za otkazivanje tuđih rezervacija uopšte ne postoji. Testirao sam ovo sa osobom koja je bila prva na listi čekanja i uspelo je", naveo je agent u poruci.
Endru se tada zabrinuo i zatražio da sve vrati u prvobitno stanje.
Odgovor je bio: ne može.
Kompanija koja je razvila sistem za rezervacije saopštila je ABC-u da ne komentariše konkretne bezbednosne probleme. "Antropik" nije odgovorio na zahtev za komentar.
(Blic Biznis/abc)
