Američka vlada je naložila kompaniji Anthropic da suspenduje pristup svojim najnaprednijim AI modelima za strane državljane zbog bezbednosnih rizika
Anthropic je postupio po nalogu, ali smatra da takva odluka može negativno uticati na razvoj veštačke inteligencije u čitavoj industriji
Američka vlada naredila je kompaniji Anthropic da suspenduje pristup svojim najnaprednijim modelima veštačke inteligencije za strane državljane zbog zabrinutosti za nacionalnu bezbednost i potencijalnih sajber bezbednosnih rizika.
Kompanija je potvrdila da je postupila po nalogu Ministarstva trgovine SAD, ali je istovremeno osporila odluku, upozoravajući da bi primena takvog standarda mogla praktično da zaustavi lansiranje novih generacija AI modela širom industrije.
Reč je o modelima Mythos 5 i Fable 5, koji spadaju među najnaprednije sisteme veštačke inteligencije razvijene do sada.
Vlada reagovala zbog mogućnosti zaobilaženja zaštitnih mehanizama
Anthropic navodi da nije dobio detaljno obrazloženje razloga za intervenciju, ali veruje da je američka administracija saznala za tehniku takozvanog „jailbreaka“, odnosno zaobilaženja ugrađenih bezbednosnih ograničenja modela Fable 5.
Prema tvrdnjama kompanije, demonstracija te metode pokazala je samo mali broj već poznatih i relativno beznačajnih ranjivosti.
„Utvrdili smo da su te ranjivosti jednostavne prirode i da ih mogu identifikovati i drugi javno dostupni modeli bez potrebe za zaobilaženjem zaštite“, saopštio je Anthropic.
Kompanija ističe da je u najnovije modele već ugradila dodatne bezbednosne mehanizme kako bi se smanjila mogućnost zloupotrebe u sajber napadima, iako su se pojedini korisnici žalili da su ta ograničenja previše stroga.
Anthropic upozorava na posledice za celu industriju
Iako poštuje nalog američkih vlasti i privremeno ukida pristup modelima, Anthropic smatra da odluka predstavlja opasan presedan.
„Ne slažemo se da bi otkrivanje uske mogućnosti zaobilaženja zaštite trebalo da bude razlog za povlačenje komercijalnog modela koji koriste stotine miliona ljudi“, navela je kompanija.
Dodaje se da bi, ukoliko bi isti kriterijumi važili za sve proizvođače, razvoj i objavljivanje novih generacija AI modela praktično bilo zaustavljeno.
Ograničenje će pogoditi i veliki broj stranih stručnjaka zaposlenih u samoj kompaniji, koji više neće moći da rade na tim sistemima.
Model koji je uznemirio i Volstrit i Vašington
Najviše pažnje privukao je model Mythos, za koji stručnjaci tvrde da može da pronalazi i iskorišćava sajber bezbednosne ranjivosti brzinom kakva do sada nije viđena.
Zbog tih sposobnosti Anthropic je prvobitno ograničio pristup modelu samo odabranim partnerima kako bi, kako navodi, pomogao u zaštiti najkritičnijih softverskih sistema na svetu.
Prošle nedelje kompanija je predstavila Fable 5, verziju modela prilagođenu široj javnosti i sa dodatnim bezbednosnim ograničenjima.
Upravo je razvoj ovakvih sistema podstakao administraciju predsednika Donalda Trampa da donese novu izvršnu uredbu o veštačkoj inteligenciji. Dokument predviđa da kompanije dobrovoljno dele informacije o novim modelima sa naprednim sajber mogućnostima sa američkom vladom i do 30 dana pre njihovog komercijalnog puštanja.
Zategnuti odnosi između Trampove administracije i Anthropic-a
Ovo nije prvi sukob između američkih vlasti i kompanije Anthropic.
Početkom godine Trampova administracija stavila je kompaniju na crnu listu i označila je kao rizik za lance snabdevanja u vojnim projektima, nakon što je Anthropic insistirao da Pentagon prihvati dodatne bezbednosne mehanizme za korišćenje veštačke inteligencije u vojne svrhe.
Kompanija je zbog toga pokrenula sudski postupak protiv američke vlade, ocenjujući odluku kao nezakonitu i bez presedana.
Ipak, uprkos javnim nesuglasicama, Bela kuća je nastavila intenzivnu komunikaciju sa kompanijom, dok su pojedini delovi federalne administracije pronašli načine da nastave korišćenje Anthropic modela, posebno nakon predstavljanja sistema Mythos.
Prema navodima CNN-a, predstavnici kompanije učestvovali su i u izradi najnovije izvršne uredbe o veštačkoj inteligenciji, a rukovodioci Anthropic-a bili su pozvani na ceremoniju potpisivanja u Beloj kući, koja je u poslednjem trenutku otkazana.
