Armata SUA a fost la un pas de a declanșa o operațiune militară împotriva unei nave chineze, bazându-se pe informații eronate generate de inteligența artificială. Potrivit unor surse familiarizate cu incidentul, autoritățile americane pregăteau planuri concrete pentru interceptarea vesselului, în condițiile în care avioanele militare se aflau deja în aer pentru misiunea planificată. Situația a fost oarecare de critică, deoarece orice acțiune directă împotriva unei nave chineze ar fi putut duce la o escaladare militară majoră între cele două puteri.
Incidentul a fost descoperit abia în ultimele momente înainte de lansarea operațiunii, după ce oficialii au analizat cu o atenție sporită raportul întocmit de un analist al Comandamentului pentru Operațiuni Speciale. S-a constatat că documentul fusese realizat cu ajutorul unui chatbot, care identificase în mod greșit natura materialelor transportate de nava chineză. Deși raportul a fost descris de o sursă ca fiind „complet fals”, acesta a fost distribuit ca un document standard de informații în care oficialii militari depind de încredere.
Analistul implicat a utilizat un chatbot pentru a procesa documentele privind încărcătura navei, date provenite de la Comandamentul pentru Operațiuni Speciale al SUA din Pacific, cu sediul în Hawaii. Tehnologia a combinat informații din surse deschise cu date secrete obținute prin interceptarea semnalelor din bazele de date guvernamentale, ajungând la o concluzie decisivă, dar eronată. Nu a fost clarificat dacă instrumentul utilizat era un produs comercial sau unul dezvoltat specific de guvernul american pentru uz militar.
Un fost oficial american de rang înalt a observat că instrumentele interne utilizate de armată sunt, în mare parte, doar copii cosmetizate ale celor comerciale disponibile pe piață. Această eroare subliniază riscurile majore ale integrării AI în procesele de luare a deciziilor strategice, de la analiza volumelor uriașe de date până la selectarea țintelor pentru atacuri. Analiștii avertizează că utilizarea datelor de slabă calitate poate conduce la erori de calcul catastrofale în timpul unui conflict armat.
În prezent, întreaga comunitate de informații și armata americană încearcă să integreze inteligența artificială în aproape toate ramurile activității lor operaționale. Tehnologia este utilizată pentru gestionarea bugetelor, logistica și lanțurile de aprovizionare, dar și pentru procesarea informațiilor brute colectate global. Totuși, acest episod evidențiază cât de puțin înțelese rămân riscurile acestor tehnologii noi atunci când sunt aplicate în contextul selectării țintelor militare în timpul unor crize geopolitice.
Integrarea inteligenței artificiale în sistemele de apărare reprezintă o evoluție tehnologică majoră, dar și un punct de vulnerabilitate pentru marile puteri. Pe măsură ce statele depind tot mai mult de algoritmi pentru procesarea datelor de intelligence, capacitatea de a verifica manual acuratețea acestora devine esențială. Erorile de identificare a încărcăturilor sau a intențiilor pot transforma un incident de navigație într-o criză diplomatică sau într-un conflict armat neintenționat.
