O eroare cauzată de utilizarea inteligenței artificiale a pus SUA în pragul unei operațiuni militare împotriva unei nave chineze. Membri înarmați ai armatei americane se pregăteau să urce la bordul navei, în timp ce avioane militare erau deja în aer, înainte ca oficialii să descopere că raportul de analiză era eronat. Documentul, generat de un analist din cadrul Comandamentului SUA pentru Operațiuni Speciale din Pacific, fusese produs cu ajutorul unui chatbot care a identificat greșit natura încărcăturii transportate de navă.
Conform informațiilor furnizate de CNN, raportul a fost descris de o sursă drept fiind „complet fals”, un document care „aproape a declanșat un război”. Incidentul a creat un risc major de escaladare a tensiunilor, deoarece orice acțiune militară americană împotriva navei chineze ar fi putut declanșa un conflict armat între cele două națiuni. Analistul a interogat un chatbot cu privire la manifestul navei, utilizând date de la Comandamentul SUA pentru Operațiuni Speciale din Pacific, cu sediul în Hawaii.
Instrumentul de inteligență artificială a combinat informații din surse deschise cu date secrete obținute prin interceptarea comunicațiilor din bazele de date ale guvernului. După ce botul a ajuns la o concluzie falsă privind materialul transportat, analistul a folosit din nou AI pentru a transforma aceste informații într-un raport standard de informații. Un fost oficial american a menționat că instrumentele interne sunt, în mare parte, copii ale celor comerciale, dar cu un strat de vopsea deasupra, subliniind natura procesului de procesare a datelor.
Integrarea tehnologiei AI în armata americană este motivată de dorința de a lua decizii mai rapide pe câmpul de luptă, atât în ceea ce privește stabilirea țintelor, cât și gestionarea resurselor. Oficialii susțin că SUA nu își permit să rămână în urmă în integrarea AI, în cazul în care ar trebui să se confrunte cu un adversar precum China. Totuși, fenomenul de „halucinație” al instrumentelor este considerat un risc real, deoarece AI permite procesarea și distribuția de informații într-un ritm accelerat, dar potențial eronat.
Există îngrijorări că presiunea de a produce informații rapid pune o povară pe analiști, deschizând calea către greșeli de interpretare. Unii oficiali din serviciile de informații au observat că noile tehnologii pot duce la rezultate defectuoase, un fenomen rezumat de o sursă prin afirmația că „AI îți permite să ajungi mai repede la o idee proastă”. Analiștii tineri sunt menționați ca fiind mai predispuși să acorde o încredere nejustificată acestor instrumente digitale în procesul de luare a deciziilor.
Utilizarea inteligenței artificiale în procesele de decizie și analiză este o tendință globală care afectează atât sectorul militar, cât și cel de informații. În cadrul structurilor de apărare, AI este utilizată pentru a gestiona volume uriașe de date brute, de la logistica lanțurilor de aprovizionare până la selectarea țintelor strategice. Această evoluție tehnologică necesită o supraveghere atentă pentru a evita incidentele precum cel care a pus SUA în pragul unui conflict cu China.
