Cilj napada je otkrivanje i implementacija logike modela radi stvaranja jeftinijih konkurenata
Kompanija Gugl je usavršila svoje zaštitne mere kao odgovor na ove pretnje
Američka tehnološka kompanija Gugl objavila je danas da se njen najnapredniji sistem veštačke inteligencije Džeminaj (Gemini) našao na meti digitalnih napadača koji su koristili desetine hiljada pažljivo osmišljenih upita kako bi otkrili način na koji model funkcioniše.
U jednom zabeleženom slučaju, napadači su uputili više od 100.000 upita pre nego što je Gugl shvatio šta se dešava i postavio bolju zaštitu, prenosi NBC njuz.
Suština ovog problema je u tome što konkurencija želi da iskopira način na koji Džeminaj razmišlja i donosi zaključke, a da pritom ne potroši milijarde dolara na sopstveni razvoj.
Umesto toga, oni koriste odgovore koje im Džeminaj daje kako bi otkrili njegovu unutrašnju logiku i napravili sopstvene, jeftinije verzije istog programa, što Gugl označava za krađu intelektualne svojine.
Kompanija je navela da su mnogi napadi bili usmereni na razotkrivanje algoritama koji omogućavaju AI modelu Džeminaj da odluči kako da obradi i poveže informacije.
Portparol Gugla rekao je za NBC da iza napada verovatno stoje privatne firme i istraživači koji pokušavaju da steknu prednost na tržištu, ali nije otkrio detalje o identitetu aktera i zemljama iz kojih dolaze napadi.
Problem je u tome što se ovi napadi veoma teško razlikuju od običnih korisnika koji su samo veoma znatiželjni ili koriste veštačku inteligenciju za ozbiljan posao.
Napadači su postali veoma vešti u maskiranju svojih namera, tako da šalju upite sa različitih lokacija i u različito vreme kako ne bi skrenuli pažnju na sebe.
Zbog toga inženjeri moraju stalno da nadograđuju zaštitne sisteme i koriste još naprednije alate kako bi prepoznali trenutak kada neko pokušava da prevari mašinu, a ne samo da dobije koristan odgovor.
(Izvor: Blic Biznis/Tanjug)
