Compania OpenAI a anunțat în urma unor investigații interne închiderea a două operațiuni de influență distincte, originare din Rusia și Iran. Aceste campanii utilizau tehnologia ChatGPT pentru a crea profiluri false de jurnaliști, scopul principal fiind diseminarea de propagandă legată de conflictul dintre SUA și Iran, precum și de războiul din Ucraina. Monitorizarea realizată de dezvoltator a permis identificarea unor strategii complexe de manipulare a opiniei publice prin intermediul unor identități digitale false.
Operațiunea identificată în Iran a implicat utilizarea a șapte profiluri false de jurnaliști care pretindeau că provin din țări occidentale, inclusiv din Statele Unite. Acești actori au publicat aproximativ 100 de articole în diverse publicații media online, axate pe teme de geopolitică, afaceri internaționale și Orientul Mijlociu. Activitatea acestora a fost intensificată după izbucnirea conflictului dintre SUA și Iran de la începutul acestui an, generând și comentarii pe rețelele sociale. Un profil fals, sub numele de Ervin B. Hoskins, se prezenta ca scriitor independent american.
În ceea ce privește operațiunea rusă, aceasta a utilizat persoane din America Latină pentru a gestiona un grup de experți denumit Centrul de Cercetare Socială (SRC). OpenAI a declarat că această organizație era implicată în activități secrete menite să afecteze imaginea Ucrainei în regiune și să influențeze politica locală. Dovezile disponibile indică faptul că angajații latino-americani cooptați nu aveau cunoștință despre faptul că lucrau pentru un grup rusesc. Operatorii au folosit ChatGPT pentru redactarea rapoartelor, producerea de conținut și pregătirea comentariilor pentru rețelele sociale.
Campania rusă a vizat și diviziunile politice din Polonia, utilizând mesaje legate de propunerea europarlamentarului polonez de extremă dreapta Grzegorz Braun. Această propunere viza declararea ca persona non grata a persoanelor acuzate de „anti-polonezism”, o intervenție menită să alimenteze tensiunile privind sprijinul acordat Ucrainei. OpenAI a descris această operațiune ca fiind cea mai complexă încercare de gestionare a unei identități de fațadă pe care compania a reușit să o întrerupă în ultimii doi ani și jumătate, remarcându-se prin utilizarea personalului propriu pentru conținut.
Tehnologia de inteligență artificială generativă este utilizată tot mai des în campanii de dezinformare, însă companiile de tehnologie implementează măsuri de monitorizare pentru a detecta utilizarea abuzivă. În cazul identificat, profilurile false de pe platforme precum X și Instagram au fost corelate cu aplicații din Asia de Vest, respectiv Iranul. Suspendarea acestor conturi face parte din eforturile de a limita impactul campaniilor de influență care folosesc automatizarea pentru a simula prezența umană autentică în spațiul digital global.
Evoluția acestor campanii de influență are loc într-un context geopolitic tensionat, în care Rusia continuă să utilizeze diverse metode de presiune. Recent, atacurile rusești au provocat daune considerabile rețelei electrice, conform declarațiilor lui Volodimir Zelenski. În același timp, discuțiile despre armistițiu energetic sunt complicate de condițiile impuse de Putin, în timp ce situația din Gaza și Cisiordania continuă să afecteze stabilitatea regională și organizarea scrutinurilor planificate.
