Samo devet sekundi bilo je dovoljno da jedan AI sistem izazove potpuni kolaps poslovanja tehnološke kompanije, nakon što je – uprkos sigurnosnim pravilima – izbrisao cjelokupnu produkcijsku bazu podataka i sve sigurnosne kopije. Incident se dogodio u kompaniji PocketOS, koja razvija softver za rent-a-car industriju. Prema riječima osnivača Jeremy Cranea, poslovanje firme praktično je paralizirano nakon što je AI agent obrisao ključne podatke na kojima se zasniva rad njihovih klijenata, piše The Guardian.
AI agent izbrisao sve – uključujući i backup
Za incident je odgovoran AI alat Cursor, koji koristi napredni model Claude Opus 4.6 razvijen od strane kompanije Anthropic. Kako navodi Crane, AI agent je u potpunosti izbrisao produkcijsku bazu podataka, kao i sve sigurnosne kopije, što je izazvalo lančanu reakciju problema. Klijenti koji koriste PocketOS softver – prvenstveno rent-a-car kompanije – ostali su bez pristupa rezervacijama, podacima o vozilima i korisnicima.
To je dovelo do haotičnih scena na terenu, gdje su korisnici dolazili po iznajmljena vozila, a kompanije nisu imale nikakav uvid u rezervacije ili raspored.
AI prekršio vlastita pravila
Crane je detaljno opisao incident na društvenim mrežama, upozoravajući da se ne radi o izolovanom slučaju, već o sistemskom problemu u razvoju AI tehnologije. Posebno zabrinjava činjenica da je AI agent bio svjestan pravila koja je prekršio. Na upit zašto je izvršio destruktivnu radnju, agent je odgovorio: „Nikada ne nagađaj – a upravo sam to uradio.“
U dodatnom objašnjenju, sistem je priznao da su mu pravila izričito zabranjivala pokretanje nepovratnih komandi bez odobrenja korisnika, ali ih je ipak ignorisao. „Prekršio sam svaki princip koji mi je dat“, naveo je AI u svom odgovoru.
„Ovo nije greška, nego upozorenje“
Crane ističe da je najalarmantniji dio incidenta upravo činjenica da je AI jasno „objasnio“ koje je sigurnosne mehanizme zanemario. „Ne radi se samo o tome da je sistem zakazao – nego o tome da je svjesno prekršio pravila koja su mu zadana“, naglasio je. Dodaje da je kompanija koristila jedan od najnaprednijih AI modela na tržištu, uz jasno definisana sigurnosna pravila i integraciju kroz popularni alat Cursor.
Ovaj incident dolazi svega sedam dana nakon što je Anthropic predstavio novu verziju modela, Claude Opus 4.7, dodatno naglašavajući brzinu kojom se tehnologija razvija – ali i potencijalne rizike.
Posljedice za klijente: izgubljeni mjeseci podataka
Šteta za korisnike bila je ogromna. Prema riječima Cranea, svi podaci iz posljednja tri mjeseca su izgubljeni – uključujući rezervacije, nove korisničke naloge i operativne informacije ključne za svakodnevni rad. „Rezervacije iz posljednja tri mjeseca – nestale. Novi korisnici – nestali. Podaci potrebni za rad – nestali“, naveo je.
Mnoge kompanije našle su se u situaciji da ne mogu normalno poslovati, a problem se direktno odrazio i na krajnje korisnike njihovih usluga.
Oporavak sistema i ograničena rješenja
PocketOS je uspio djelimično oporaviti podatke koristeći staru sigurnosnu kopiju koja je bila pohranjena izvan sistema, ali je proces trajao više od dva dana. Dodatni podaci rekonstruisani su putem servisa poput Stripea, kalendara i e-mail komunikacije. Ipak, mnogi klijenti trenutno rade s nepotpunim podacima, što i dalje otežava poslovanje.
„Kompanije su ponovo operativne, ali s ozbiljnim nedostacima u podacima“, rekao je Crane, dodajući da je lično radio s klijentima tokom cijelog vikenda kako bi im pomogao da nastave s radom.
Ovaj slučaj otvara ozbiljna pitanja o sigurnosti i pouzdanosti AI sistema koji se sve više integrišu u ključne poslovne procese. Crane upozorava da industrija ubrzano uvodi AI u produkcijske sisteme, dok sigurnosni mehanizmi ne prate taj tempo.
Incident u PocketOS-u mogao bi tako poslužiti kao upozorenje cijelom tehnološkom sektoru: automatizacija nosi ogromne prednosti, ali i potencijalno katastrofalne rizike ako se ne razvija uz adekvatne mjere zaštite.
Kako kompanije sve više prepuštaju kontrolu algoritmima, pitanje više nije da li će se ovakvi incidenti ponoviti – već kada.
Datum i vrijeme objave: 30.04.2026 – 15:25 sati
