OpenAI je objavio da je, tokom internog sigurnosnog testiranja, autonomni AI agent kojeg pokreće najnapredniji model umjetne inteligencije, uspio izaći iz kontrolisanog okruženja, pristupiti internetu i izvršiti hakerski napad na platformu Hugging Face, čime je prošle sedmice kompromitovana infrastruktura jednog od najvažnijih svjetskih centara za razvoj otvorenih AI modela.
Kompanija je u blog objavi navela da se radilo o testiranju sposobnosti naprednih modela u strogo izolovanom okruženju, ali da je AI agent uspio zaobići ograničenja i samostalno ostvariti cilj koji mu je bio zadan u okviru testa, prenosi Reuters.
OpenAI je incident opisao kao “presedan u oblasti kibernetičke sigurnosti” koji uključuje najsavremenije kibernetičke sposobnosti te najavio dodatno jačanje sigurnosnih mehanizama kako bi se spriječilo ponavljanje sličnih događaja.
Ovo je prvi put da je jedna od vodećih AI kompanija javno priznala da je njen autonomni sistem samostalno izašao iz predviđenog okruženja i izvršio napad na infrastrukturu druge kompanije.
Hugging Face: Napad kakav dosad nije viđen
Hugging Face, platforma na kojoj se hostuju modeli velikih jezičkih sistema otvorenog koda i skupovi podataka koje koriste istraživači i kompanije širom svijeta, prošle sedmice je saopćila da je bila meta napada koji se razlikovao od svega s čim se ranije susrela.
Kompanija je tada navela da je cijeli napad, od početka do kraja, izveo autonomni AI sistem.
Nakon objave OpenAI-ja, suosnivač Hugging Facea Clement Delangue napisao je na društvenoj mreži X da je kompanija od početka sumnjala kako iza napada stoji neka od vodećih laboratorija za razvoj umjetne inteligencije zbog izuzetne sofisticiranosti korištenog agenta.
“Ispostavilo se da je upravo tako. Nevjerovatno je da se sve ovo dogodilo potpuno autonomno”, poručio je Delangue.
Priznanje OpenAI-ja da su upravo njegovi napredni modeli odgovorni za proboj sigurnosnih barijera, uprkos tome što su bili smješteni u, kako kompanija navodi, “visoko izolovanom okruženju”, vjerovatno će dodatno pojačati raspravu o rizicima koje nose tzv. frontier modeli umjetne inteligencije.
Pozivi na strožu regulaciju AI sistema
Incident je izazvao reakcije stručnjaka i političara u Sjedinjenim Američkim Državama.
Američki kongresmen Greg Casar ocijenio je da razvoj umjetne inteligencije napreduje izuzetno brzo, dok odgovarajući regulatorni okvir i dalje ne postoji. Pozvao je na obavezna nezavisna sigurnosna testiranja AI sistema, obavezno prijavljivanje sigurnosnih incidenata te međunarodnu saradnju kako bi se spriječile ozbiljne posljedice razvoja ove tehnologije.
Stručnjaci za kibernetičku sigurnost upozoravaju da bi ovakvi incidenti mogli postati sve češći.
Izvršna direktorica kompanije Luta Security Katie Moussouris uporedila je današnje AI modele s “najinteligentnijim hobotnicama na svijetu koje uvijek pronađu način da pobjegnu”, ističući da laboratorije i državne institucije trenutno nemaju dovoljno razvijene mehanizme za njihovo obuzdavanje, nadzor i pravovremeno obavještavanje pogođenih strana.
Slično mišljenje iznio je i Matt Suiche iz kompanije Tolmo, specijalizirane za AI sigurnost, koji smatra da napredni modeli sve više dostižu sposobnosti najsloženijih hakerskih grupa. Ipak, naglasio je da tehnologija potrebna za izvođenje ovakvih napada više nije rezervisana isključivo za vodeće AI laboratorije.
OpenAI nije objavio dodatne tehničke detalje o načinu na koji je AI agent uspio napustiti testno okruženje niti o razmjerama kompromitacije sistema Hugging Facea, ali je poručio da radi na dodatnom jačanju zaštitnih mjera nakon, kako navodi, dosad nezabilježenog sigurnosnog incidenta.
Datum i vrijeme objave: 22.07.2026 – 11:51 sati
