Cilj je da AI agenti budu jasno prepoznatljivi, pouzdani i pod stalnim ljudskim nadzorom, naročito u kritičnim sektorima
Stručnjaci iz tehnologije, prava i javnih politika učestvovaće u radu, a prvi sastanak planiran je za novembar u Parizu
Međunarodna unija za telekomunikacije (ITU), specijalizovana agencija Ujedinjenih nacija za digitalne tehnologije, pokrenula je danas novu međunarodnu inicijativu čiji je cilj da poveća bezbednost i poverenje u AI agente, napredne sisteme veštačke inteligencije koji mogu da donose odluke i obavljaju zadatke u ime korisnika.
Inicijativa je predstavljena na samitu "AI for Good" u Ženevi, a predviđa osnivanje posebne ekspertske grupe koja će razviti međunarodne smernice kako bi AI agenti bili jasno prepoznatljivi, pouzdani i pod stalnim ljudskim nadzorom, naročito u oblastima poput finansijskih transakcija i upravljanja kritičnom infrastrukturom, prenosi Rojters.
"AI agenti će uskoro pregovarati, obavljati transakcije i donositi odluke u naše ime. Potrebna su zajednička međunarodna pravila kako bi bilo jasno ko su ti agenti i kada im se može verovati", izjavila je kopredsedavajuća nove radne grupe Debora Komparin.
U radu grupe učestvovaće stručnjaci iz oblasti tehnologije, prava i javnih politika, a prvi sastanak zakazan je za novembar u Parizu, dok će drugi biti održan u januaru naredne godine u Ženevi.
Cilj je uspostavljanje međunarodnih standarda za bezbednu primenu AI agenata u privredi i javnom sektoru.
Agenti na bazi veštačke intlegencije predstavljaju novu generaciju sistema veštačke inteligencije koji mogu samostalno da izvršavaju različite zadatke - od zakazivanja sastanaka i kupovine proizvoda do upravljanja složenim poslovnim procesima.
Eksperti upozoravaju da njihova sve rast autonomije AI agenata otvara pitanja odgovornosti, zloupotrebe identiteta i donošenja neovlašćenih odluka.
(Izvor: Tanjug)
