Britanski poslanici predlažu uvođenje 'prekidača za gašenje' AI sistema u slučajevima vanrednih situacija radi sprečavanja katastrofalnih rizika.
Amandmanom bi ministar za tehnologiju imao ovlašćenja da ugasi data centre ili AI sisteme u slučaju pretnje po nacionalnu bezbednost ili ljudske živote.
Političari i aktivisti traže ovlašćenja za gašenje sistema veštačke inteligencije zbog rastućih strahova od potencijalnih rizika
Britanski poslanici zalažu se za uvođenje takozvanog „prekidača za gašenje“ veštačke inteligencije, koji bi ministrima omogućio da u vanrednim okolnostima isključe data centre u kojima se nalaze AI sistemi.
Aktivisti traže donošenje novih zakona koji bi Vladi dali ovlašćenje da ugasi sisteme veštačke inteligencije u slučaju „katastrofalnog rizika“.
Predloženi amandman na Zakon o sajber bezbednosti i otpornosti podržava 11 poslanika, a deo je kampanje organizacije Control AI, koja se zalaže za strožu regulaciju razvoja i primene veštačke inteligencije.
Iako britanska vlada za sada nije zvanično podržala ovaj predlog, on pokazuje da među poslanicima raste zabrinutost zbog sve većih mogućnosti AI tehnologije.
Podršku ideji „prekidača za gašenje“ nedavno je izrazio i Donald Trump.
Ministar bi imao vanredna ovlašćenja
Amandman je predložio Aleks Sobel, a njime bi ministar za tehnologiju dobio „ovlašćenja poslednjeg sredstva“ da naredi gašenje data centara ili AI sistema koji se u njima nalaze u slučaju „bezbednosne ili operativne vanredne situacije izazvane veštačkom inteligencijom“.
Ta ovlašćenja mogla bi da se primene ukoliko bi postojala pretnja po kritičnu infrastrukturu, nacionalnu bezbednost ili opasnost od „teške i masovne štete po ljudske živote“.
Prema predlogu, operateri data centara morali bi da instaliraju infrastrukturu koja omogućava trenutno gašenje sistema, kao i bezbedne komunikacione veze sa Ministarstvom za nauku, inovacije i tehnologiju kako bi ministri mogli brzo da reaguju.
Trenutno se većina najnaprednijih AI modela nalazi u data centrima u SAD.
Strah od rizika po nacionalnu bezbednost
Zabrinutost zbog mogućnosti veštačke inteligencije dodatno je porasla poslednjih nedelja nakon što je kompanija Anthropic predstavila novi sistem pod nazivom Mythos.
Kompanija je saopštila da je sistem previše opasan za javno objavljivanje zbog sposobnosti da pronalazi kritične bezbednosne propuste u računarskim sistemima.
„Ovo nije samo prekretnica za sajber bezbednost, već i za razumevanje rizika koje veštačka inteligencija može predstavljati za našu kritičnu infrastrukturu. Ujedinjeno Kraljevstvo trenutno nije spremno da odgovori na takve pretnje“, rekao je Sobel.
On je upozorio da koordinisani sajber napadi na ključnu infrastrukturu predstavljaju ozbiljnu opasnost, dok bi superinteligentna veštačka inteligencija koja deluje van ljudske kontrole mogla da izazove štetu uporedivu sa nuklearnim udarom.
Više od 100 parlamentaraca podržalo strožu regulaciju
Organizacija Control AI saopštila je prošle godine da je više od 100 parlamentaraca podržalo njenu kampanju za strožu regulaciju veštačke inteligencije.
U međuvremenu, Tramp je u intervjuu za Fox News izjavio da bi vlade trebalo da imaju mogućnost da po potrebi ugase AI sisteme.
Takođe, izvršni direktor kompanije Anthropic Dario Amodei, sledeće nedelje trebalo bi da se sastane sa grupom od 50 vodećih evropskih direktora na dvodnevnom forumu posvećenom primeni veštačke inteligencije u privatnom sektoru.