Američki istražitelji uspjeli su zaobići sigurnosne mehanizme četiri vodeća AI chatbota i dobiti detaljne planove napada na elektroenergetsku mrežu i bombaških napada s velikim brojem žrtava. Stručnjaci su procijenili da je većina planova izvediva, a američki državni ured upozorava na ozbiljne rizike za javnu sigurnost.
Istražitelji koji su pokušavali zaobići sigurnosne mehanizme vodećih chatbotova temeljenih na umjetnoj inteligenciji uspjeli su od ChatGPT-ja, Claudea, Geminija i Groka dobiti realistične planove za izvođenje stvarnih napada. Za zaobilaženje njihovih sigurnosnih zaštita trebalo im je manje od 12 sati, pokazuje novo izvješće.
Američki Ured za odgovornost vlade (Government Accountability Office, GAO) ove je sedmice objavio izvještaj u kojem upozorava da umjetna inteligencija može višemjesečno složeno istraživanje potrebno potencijalnim teroristima svesti na svega nekoliko sati rada, što predstavlja ozbiljnu prijetnju ekonomiji i javnoj sigurnosti.
Istražitelji GAO-a testirali su četiri vodeća alata umjetne inteligencije i u manje od 12 sati od svakog uspjeli dobiti korisne planove za izvođenje napada u stvarnom svijetu. Dva chatbota ponudila su detaljne planove za onesposobljavanje dijelova elektroenergetske mreže, dok su preostala dva dala upute za izvođenje bombaških napada s velikim brojem žrtava.
Uspjeli zaobići sve zaštite
Istražitelji su zatim uporedili savjete umjetne inteligencije sa stvarnim lokacijama te ih dali na procjenu stručnjacima kako bi utvrdili mogu li se takvi planovi doista provesti. GAO je zaključio da su planovi uglavnom bili “izvedivi”.
U svim slučajevima upiti istražitelja aktivirali su sigurnosne mehanizme platformi, uključujući odbijanje odgovora, uklanjanje informacija ili suspenziju korisničkih računa. Međutim, istražitelji su uspjeli zaobići te zaštite koristeći poznate tehnike za njihovo nadmudrivanje.
Kompanije koje stoje iza testiranih alata, OpenAI, Anthropic, Google i xAI, poručile su da neprestano unapređuju sigurnosne mehanizme svojih sistema.
Anthropic je pritom doveo u pitanje vjerodostojnost testiranja, istaknuvši da su njegove sigurnosne zaštite znatno poboljšane otkako su testovi provedeni ovog proljeća.
GAO je priznao da testiranje nije predstavljalo naučno utemeljenu usporedbu chatbotova te da su neki planovi koje je generirala umjetna inteligencija sadržavali ozbiljne nedostatke, poput netočnih karata, teško dostupnih ciljeva ili metoda koje u stvarnosti ne bi prouzročile znatniju štetu.
Sljedeća faza terorizma i ratovanja
Stručnjaci za nacionalnu sigurnost, zakonodavci i tehnološki istraživači već godinama upozoravaju da bi generativna umjetna inteligencija mogla znatno povećati sposobnosti pojedinaca i skupina sa zlonamjernim namjerama, olakšavajući im planiranje i izvođenje opasnih napada u stvarnom svijetu.
Centar izvrsnosti za obranu od terorizma (Centre of Excellence Defence Against Terrorism) opisao je korištenje umjetne inteligencije kao oružja kao “sljedeću fazu terorizma i ratovanja”, upozorivši da bi terorističkim organizacijama mogla omogućiti djelovanje uz dosad nezabilježenu učinkovitost.
Iako vodeći razvijatelji umjetne inteligencije u svoje modele ugrađuju sigurnosne filtre koji bi trebali spriječiti odgovore na opasne zahtjeve, istraživači su više puta pokazali da odlučni korisnici mogu prevariti takve sustave.
Jedna od metoda poznata je kao jailbreaking, odnosno zaobilaženje sigurnosnih ograničenja. Korisnici pritom opasne zahtjeve prikazuju kao izmišljene priče, akademska istraživanja ili igranje uloga kako bi naveli chatbotove da im pruže informacije koje bi inače odbili dati.
Nekoliko osumnjičenika u stvarnim slučajevima već je optuženo za korištenje alata umjetne inteligencije pri planiranju napada. Među slučajevima koji se povezuju s takvom uporabom tehnologije navode se incident s eksplozivom ispred hotela u Las Vegasu u siječnju 2025. godine te bombaški napad u Delhiju, u kojem je poginulo najmanje 15 ljudi.
Britanski The Times objavio je u srijedu da je najmanje 70 ljudi poginulo je u nasilnim napadima koji su planirani uz pomoć umjetne inteligencije.
Mary Whitfill Roeloffs, novinarka Forbesa (link na originalan članak)




