- Američka vojska je umalo presrela kineski brod na Bliskom istoku, jer je izveštaj tvrdio da prevozi komponente za nuklearno oružje.
- Kasnije je otkriveno da je izveštaj generisala veštačka inteligencija i da je pogrešno identifikovala teret, pa je operacija zaustavljena u poslednjem trenutku.
Jedan obaveštajni izveštaj je ovog proleća, usred tenzija sa Iranom, upalio alarm u američkoj vojsci, jer je prijavljeno da kineski brod na Bliskom istoku prevozi komponente programa za razvoj nuklearnog oružja.
Vojska je odmah preduzela korake za presretanje tog broda, rekla su za CNN četiri izvora upoznata sa tim dešavanjima. Prema rečima dva izvora, naoružani pripadnici američke vojske pripremali su se za ulazak na brod, a vojni avioni su već bili u vazduhu.
Tek neposredno pred operaciju, zvaničnici su detaljnije analizirali izveštaj koji je sastavio analitičar komande za specijalne operacije i otkrili da je on generisan uz pomoć veštačke inteligencije i da je čet-bot koji je analitičar koristio pogrešno identifikovao teret koji je brod prevozio.
Taj izveštaj je, prema rečima jednog od izvora, bio "potpuno netačan", ali je "umalo izazvao rat", jer je svaka operacija protiv kineskog broda nosila rizik od izbijanja oružanog sukoba.
Ispostavilo se da je analitičar od čet-bota zatražio analizu obaveštajnih podataka o tovarnom listu broda, koji su stigli iz Komande za specijalne operacije SAD za Pacifik, sa sedištem na Havajima. Nije bilo jasno da li je reč o komercijalno dostupnom čet-botu ili o proizvodu američke vlade.
"Interni alati su uglavnom samo kopije komercijalnih rešenja, koja su malo ušminkana", izjavio je bivši visoki američki zvaničnik, upoznat sa sistemima veštačke inteligencije koje koriste vojni i obaveštajni analitičari.
Softver je povezao javno dostupne informacije sa tajnim podacima iz vladinih baza i izveo pogrešan zaključak o teretu. Analitičar je zatim ponovo upotrebio veštačku inteligenciju kako bi te nalaze oblikovao u standardni obaveštajni izveštaj u koji vojni zvaničnici imaju poverenja i prosledio ga nadležnima.
Dok političari u Vašingtonu raspravljaju o dugoročnim egzistencijalnim pretnjama veštačke inteligencije, incident s kineskim brodom ukazuje na neuporedivo veću opasnost. Reč je o ljudima koji donose kritične odluke na osnovu netačnih ili zavaravajućih informacija koje generišu automatizovani sistemi.
Izvori upozoravaju da se vojska sve više oslanja na AI za pomoć pri odabiru meta, što nosi očigledan rizik od kobnih grešaka.
"Veštačka inteligencija nam omogućava da brže dođemo do loše ideje", zaključio je sagovornik CNN-a.
BONUS VIDEO:
