Obavještajni izvještaj, koji je ovog proljeća kružio američkom vojskom tokom rata s Iranom, tvrdio je da kineski brod na Bliskom istoku prevozi komponente povezane s programom nuklearnog naoružanja. Kasnije je otkriveno da je ključni dio procjene generirala umjetna inteligencija i da je bio pogrešan, piše CNN.
Obavještajni izvještaj koji je ovog proljeća cirkulirao unutar američke vojske odmah je izazvao uzbunu: kineski brod koji se nalazio na Bliskom istoku navodno je prevozio komponente povezane s programom nuklearnog naoružanja.
Američka vojska počela je pripremati operaciju presretanja broda, prema riječima četiri izvora upoznata s događajem.
Dva izvora navode da su se naoružani pripadnici američkih snaga pripremali za ukrcavanje na brod. Vojni avioni već su bili u zraku, prema jednom od tih izvora i još jednoj osobi upoznatoj s incidentom.
A onda su, neposredno prije planirane operacije, američki dužnosnici detaljnije analizirali obavještajni izvještaj.
Otkrili su da ga je sastavio analitičar američkog Zapovjedništva za specijalne operacije koristeći umjetnu inteligenciju – i da je chatbot koji je koristio pogrešno identificirao materijal koji se nalazio na brodu.
CNN nije uspio utvrditi o kakvom je teretu zapravo bila riječ.
Prema jednom izvoru, izvještaj je bio „potpuno lažan“. Ali problem je bio mnogo veći od jednog netačnog dokumenta.
„Gotovo je započeo rat“, rekao je izvor. Američka operacija protiv kineskog broda mogla je, naime, prerasti u oružani sukob između dvije velike sile.
AI ulazi u gotovo svaki dio američke vojske
Incident pokazuje jedan od najvećih rizika sve bržeg uvođenja umjetne inteligencije u američku vojsku i obavještajnu zajednicu.
Američki dužnosnici posljednjih mjeseci zagovaraju korištenje AI-ja u gotovo svakom aspektu rada – od analize ogromnih količina sirovih obavještajnih podataka i identifikacije ciljeva za napade do upravljanja budžetima, logistikom i lancima snabdijevanja.
Razlog je jednostavan: umjetna inteligencija može pomoći vojsci da brže donosi odluke na bojnom polju.
To može značiti sve, od procjene koji cilj napasti do odluke gdje premjestiti vojne jedinice i opremu.
Američki vojni dužnosnici pritom upozoravaju da Sjedinjene Američke Države ne mogu sebi priuštiti da zaostanu u razvoju i primjeni AI tehnologije, posebno zbog mogućnosti budućeg sukoba s Kinom ili drugim protivnikom koji bi mogao ostvariti tehnološku prednost.
Ali incident s kineskim brodom pokazuje drugu stranu te trke.
Ako se odluke o upotrebi sile donose na osnovu pogrešnih informacija koje je generirao AI sistem, posljedice mogu biti mnogo ozbiljnije od netačnog poslovnog izvještaja ili pogrešne preporuke.
Mogu značiti ljudske živote – ili međunarodni sukob.
Kako je nastala pogrešna procjena
Prema izvorima upoznatim s događajem, analitičar je chatbotu postavio pitanja o određenim obavještajnim izvještajima koji su se odnosili na brodski manifest.
Ti podaci poticali su od američkog Zapovjedništva za specijalne operacije za Pacifik, sa sjedištem na Havajima.
Nije poznato je li korišteni chatbot bio komercijalni proizvod ili alat koji je razvila američka vlada.
„Interni alati su uglavnom samo kopije reklamnih stvari koje nose ruž za usne“, rekao je bivši visoki američki dužnosnik upoznat sa sistemima umjetne inteligencije koje koriste vojni i obavještajni analitičari.
Prema izvorima, alat je kombinirao podatke iz otvorenih izvora s povjerljivim signalno-obavještajnim podacima kojima je vlada raspolagala.
Na osnovu toga došao je do zaključka o materijalu koji se nalazio na kineskom brodu. Zaključak je bio pogrešan.
Analitičar je potom ponovo koristio umjetnu inteligenciju kako bi rezultate pretvorio u standardni obavještajni izvještaj – dokument u formatu kojem vojni dužnosnici vjeruju i koji se distribuira unutar sistema.
Tako je AI-generirana greška dobila izgled vjerodostojnog obavještajnog proizvoda.
Američko Zapovjedništvo za specijalne operacije za Pacifik i Pentagon nisu odgovorili na zahtjev za komentar.
Pentagon želi ubrzati primjenu AI-ja
Incident se dogodio u trenutku kada Pentagon snažno ubrzava integraciju umjetne inteligencije u američke oružane snage.
U januaru je ministar odbrane Pete Hegseth objavio „Strategiju ubrzanja umjetne inteligencije“, kojom se nastoji ubrzati razvoj i korištenje AI tehnologije u vojsci.
„Oslobodit ćemo eksperimentiranje, ukloniti birokratske prepreke, usmjeriti naša ulaganja i demonstrirati pristup izvršenju potreban kako bismo osigurali da prednjačimo u vojnoj umjetnoj inteligenciji“, rekao je Hegseth prilikom predstavljanja strategije.
Dokument također poziva na široku primjenu umjetne inteligencije unutar Ministarstva odbrane.
Cilj je, kako je navedeno u memorandumu kojim je strategija predstavljena, „demokratizirati eksperimentiranje“ i vodeće američke AI modele staviti direktno u ruke oko tri miliona civilnih i vojnih zaposlenika, na svim nivoima klasifikacije. Ali upravo ta brzina otvara nova pitanja.
Prema riječima više američkih dužnosnika upoznatih sa situacijom, proces nije centraliziran. Različiti dijelovi američke vlade koriste različite AI alate, pod različitim komandama i uz različite sigurnosne standarde.
Ne postoji jedinstven skup pravila kojima bi se provjeravala tačnost informacija koje generiraju ti sistemi.
To znači da se pouzdanost i mogućnosti pojedinih AI sistema mogu značajno razlikovati.
Najveći rizik možda nije „superinteligencija“
U Washingtonu se posljednjih sedmica vode intenzivne rasprave o dugoročnim rizicima umjetne inteligencije.
Inženjeri iz Silicijske doline i rukovodioci tehnoloških kompanija upozoravali su na mogućnost da bi napredni AI sistemi jednog dana mogli postati teško kontrolirani, uz posljedice koje bi mogle biti ekstremne. No slučaj kineskog broda ukazuje na mnogo neposredniji problem.
Nije potrebno da umjetna inteligencija postane autonomna ili „superinteligentna“ da bi predstavljala ozbiljan sigurnosni rizik.
Dovoljno je da ljudi povjeruju netačnoj informaciji koju je proizveo automatizirani sistem – i na osnovu nje donesu odluku s potencijalno katastrofalnim posljedicama.
Posebno zabrinjava činjenica da se AI sve više koristi upravo u području ciljanog djelovanja.
„Umjetna inteligencija u ciljanju definitivno je nešto što se pojačava i ne postoje stvarne smjernice o tome kako će ljudsko sudjelovanje u petlji spriječiti civilne žrtve ili bratoubojstvo“, rekao je izvor upoznat s trenutnom politikom američke vojske.
U ovom slučaju, takva pitanja nisu bila samo teorijska. Američke snage su, prema izvorima, već bile u fazi pripreme operacije protiv kineskog broda.
„Umjetna inteligencija vam omogućuje brže dolaženje do loše ideje“
Ovakva vrsta AI „halucinacije“ – kada sistem proizvede uvjerljivu, ali netačnu informaciju – prema jednom od izvora nije izoliran slučaj unutar američke obavještajne zajednice.
Kako se AI alati šire kroz državne institucije, neki iskusni obavještajni dužnosnici upozoravaju da tehnologija može stvarati dodatni pritisak na analitičare da proizvode i distribuiraju informacije brže nego ranije.
Brzina, međutim, može povećati prostor za greške.
Posebno zabrinjavaju mlađi analitičari koji su među najranijim korisnicima ovih alata i koji bi, prema riječima nekoliko izvora, mogli biti skloniji nekritičkom prihvatanju rezultata koje AI generira.
Jedan od izvora sažeo je problem u jednoj rečenici:
„Umjetna inteligencija vam omogućuje brže dolaženje do loše ideje.“
Za američku vojsku to stvara paradoks koji će biti sve teže ignorirati. AI može pomoći da se odluke donose brže, da se obradi više informacija i da se vojni resursi koriste efikasnije.
Ali ista tehnologija može i ubrzati pogrešnu odluku. A kada je riječ o vojnom ciljanju i potencijalnom sukobu velikih sila, razlika između te dvije mogućnosti može biti pitanje života, smrti – ili rata.
[post_publish_update_datetime]
