USA boli kúsok od rozpútania ďalšej vojny. Lietadlá už boli vo vzduchu
Americká armáda sa na jar tohto roka chystala zasiahnuť proti čínskej lodi, ktorá mala podľa spravodajských informácií prevážať materiál na výrobu jadrových zbraní. Krátko pred začiatkom operácie sa ukázalo, že ide o falošný poplach spôsobený chybou umelej inteligencie.
Krátko po vypuknutí vojny s Iránom dostala americká armáda spravodajskú informáciu, že sa na Blízkom východe pohybuje čínska loď prevážajúca materiál na vývoj jadrových zbraní. Podľa zdrojov CNN začali ozbrojené sily v reakcii na varovanie pripravovať operáciu na zadržanie plavidla. Vojaci sa pripravovali na nalodenie a vo vzduchu už operovali americké vojenské lietadlá.
Kde sa stala chyba?
Až krátko pred spustením akcie začali americkí úradníci správu preverovať podrobnejšie a zistili, že vychádza z chybného vyhodnotenia. Vojenský analytik pri jej príprave použil umelú inteligenciu, ktorá informácie o náklade lode nesprávne interpretovala, a jej záver viedol k falošnému poplachu.
Čo loď v skutočnosti viezla, sa nepodarilo zistiť. Podľa jedného zo zdrojov však bola správa úplne nepravdivá. „Takmer rozpútala vojnu,“ uviedol s tým, že akýkoľvek zásah proti čínskemu plavidlu mohol vyvolať priamy ozbrojený stret medzi oboma veľmocami.
Podľa CNN zadal analytik do chatbota otázku týkajúcu sa spravodajských informácií o náklade lode. Nástroj umelej inteligencie následne skombinoval informácie z otvorených zdrojov so spravodajskými informáciami z odpočúvania, ktoré mala vláda k dispozícii, a dospel k chybnému záveru o povahe nákladu. Analytik použil umelú inteligenciu ešte raz – na vytvorenie spravodajskej správy, ktorú následne poslal ďalej.
Nie je jasné, aký chatbot použil, ani či išlo o komerčný nástroj alebo systém vytvorený pre americkú vládu. „Interné nástroje sú väčšinou len kópie komerčných systémov, ktoré dostali nový náter,“ uviedol zdroj americkej televízie.
Prečo je AI potrebná?
Americká armáda dnes využíva umelú inteligenciu v takmer všetkých oblastiach – od analýzy spravodajských informácií a výberu cieľov až po správu rozpočtu, logistiku či riadenie dodávateľských reťazcov.
Podľa Pentagónu si Spojené štáty nemôžu dovoliť zaostávať v oblasti AI. Ak by technologický náskok získala Čína alebo iný protivník, mohol by to využiť v potenciálnom konflikte. Minister obrany Pete Hegseth preto v januári predstavil stratégiu na zrýchlenie integrácie AI (Artificial Intelligence Acceleration Strategy), ktorej cieľom je výrazné posilnenie využitia týchto technológií v armáde.
Spravodajcovia však varujú, že rýchle zavádzanie tejto novej a relatívne málo preskúmanej technológie vytvára tlak na analytikov, aby informácie spracúvali a overovali rýchlejšie, čo zvyšuje riziko chýb. Niekoľko zdrojov CNN zároveň uviedlo, že mladší analytici sú voči týmto nástrojom dôverčivejší a pracujú s nimi bez dostatočného overovania.
Takzvané „halucinovanie“ – teda stav, keď si umelá inteligencia presvedčivo vymýšľa neexistujúce fakty – pritom v spravodajských systémoch nie je ojedinelé. Zavádzanie je navyše decentralizované a neexistujú jednotné pravidlá ani postupy na overovanie dát, ktoré AI vygeneruje. Rôzne zložky armády preto používajú odlišné nástroje a štandardy.
