Sjedinjene Američke Države ovog proleća našle su se na samo nekoliko koraka od direktne vojne akcije protiv kineskog broda, a razlog je bio – pogrešan zaključak veštačke inteligencije.

CNN je, pozivajući se na četiri izvora upoznata sa incidentom, objavio da je američkom vojskom počeo da kruži obaveštajni izveštaj prema kojem je kineski brod na Bliskom istoku prevozio komponente povezane sa nuklearnim programom.

Alarm je momentalno upaljen.

Američke snage počele su pripreme za presretanje broda, naoružani pripadnici vojske bili su spremni da se ukrcaju na plovilo, dok su vojni avioni već bili podignuti.

Sve bilo spremno, a onda je neko proverio izveštaj

Tek neposredno pre početka operacije zvaničnici su odlučili da još jednom detaljno provere dokument.

Tada je usledio šok.

Izveštaj je sastavio analitičar Komande za specijalne operacije koristeći alat zasnovan na veštačkoj inteligenciji, a četbot je pogrešno identifikovao teret kineskog broda. CNN nije uspeo da utvrdi šta se zapravo nalazilo na plovilu.

Jedan od izvora opisao je izveštaj kao „potpuno lažan“, dodajući da je incident „umalo izazvao rat“.

Bilo kakav pokušaj američke vojske da nasilno zaustavi i pretraži kinesko plovilo mogao je da izazove ozbiljnu diplomatsku i vojnu krizu između dve nuklearne sile.

Četbot spojio tajne podatke i internet – i došao do pogrešnog zaključka

Prema informacijama CNN-a, analitičar je od četbota zatražio da obradi obaveštajne podatke o brodskom manifestu koji su poticali iz američke Komande za specijalne operacije za Pacifik sa Havaja.

Nije poznato da li je korišćen komercijalni četbot ili alat koji je razvila američka vlada.

AI je potom spojio javno dostupne informacije sa tajnim signalno-obaveštajnim podacima iz vladinih baza i izveo pogrešan zaključak da brod prevozi materijal povezan sa nuklearnim oružjem.

Tu se greška nije završila.

Isti AI alat iskorišćen je i da zaključke upakuje u standardizovani format obaveštajnog izveštaja, nakon čega je dokument prosleđen dalje kroz vojni sistem.

Izgledalo kao pravi vojni izveštaj

Upravo tu krije se jedan od najvećih problema.

Kada je pogrešna informacija dobila formu zvaničnog obaveštajnog dokumenta, ljudi koji su je dalje dobijali nisu imali očigledan razlog da odmah posumnjaju u njen sadržaj.

Američki zvaničnici upozorili su CNN da različiti delovi Pentagona i obaveštajne zajednice koriste različite AI sisteme i da ne postoji jedinstven standard za proveravanje svih informacija koje ti alati proizvedu.

Jedan bivši visoki američki zvaničnik opisao je interne AI sisteme prilično slikovito, rekavši da su mnogi od njih u suštini samo kopije komercijalnih proizvoda sa drugačijim pakovanjem.

„AI vam omogućava da brže dođete do loše ideje“

Incident dolazi u trenutku kada Pentagon ubrzano uvodi veštačku inteligenciju u gotovo svaki deo vojnog sistema – od analize obaveštajnih podataka i logistike do izbora ciljeva na bojnom polju.

Američki ministar odbrane Pit Hegset početkom godine predstavio je strategiju ubrzane primene AI-ja, čiji je cilj da najnapredniji modeli postanu dostupni milionima civilnih i vojnih zaposlenih Ministarstva odbrane.

Međutim, upravo slučaj kineskog broda pokazao je šta može da se dogodi kada brzina potisne proveru.

Jedan od izvora CNN-a sve je sažeo u jednu rečenicu:

– AI vam omogućava da brže dođete do loše ideje.

U ovom slučaju dodatna ljudska provera stigla je na vreme.

Da nije, američki vojnici mogli su da se ukrcaju na kineski brod na osnovu obaveštajne informacije koja je, prema izvorima CNN-a, bila potpuno pogrešna.

Izvor: CNN