Sam Altman a intervenit la o reuniune de nivel înalt a Consiliului de Securitate al ONU pentru a avertiza asupra riscurilor generate de inteligența artificială. Într-un eveniment convocat de Franța, care deține președinția Consiliului în septembrie, liderul OpenAI a subliniat necesitatea ca dezvoltarea tehnologiei să rămână sub controlul uman. Altman a insistat că industria nu trebuie să accepte riscuri tehnologice excesive doar pentru că beneficiile sunt prea importante pentru a încetini procesul de inovare.
Unul dintre principalele pericole identificate de Altman este pierderea controlului uman asupra tehnologiei pe măsură ce progresul este accelerat. El a argumentat că tehnicile de aliniere și de siguranță trebuie să evolueze cel puțin la fel de rapid ca capacitățile modelelor de AI. În plus, șeful OpenAI a semnalat concentrarea excesivă a puterii ca fiind un al doilea risc major care necesită atenție imediată din partea autorităților globale.
Sam Altman a pus accent pe rolul esențial al guvernelor în stabilirea regulilor de funcționare pentru inteligența artificială. El a declarat că deciziile fundamentale nu pot fi luate exclusiv în laboratoarele din San Francisco, ci trebuie stabilite prin procese democratice de către guverne responsabile în fața cetățenilor. Pentru a asigura o guvernare democratică, Altman a cerut cooperare internațională, amintind că statele aflate în competiție au reușit în trecut să colaboreze pentru interese comune.
La aceeași reuniune, directorul executiv al Anthropic, Dario Amodei, a avertizat că AI ar putea reprezenta un risc pentru întreaga umanitate dacă este gestionată necorespunzător. Amodei a solicitat Consiliului de Securitate sprijinul pentru măsuri concrete, precum interzicerea utilizării AI pentru fabricarea armelor biologice. El a subliniat că niciun lider, nicio companie sau nicio țară nu poate gestiona singură riscurile generate de sistemele de inteligență artificială tot mai puternice.
Discuțiile au fost prezidate de ministrul francez de Externe, Jean-Noël Barrot, și au vizat riscurile atacurilor cibernetice autonome. Yoshua Bengio, copreședinte al panelului științific internațional independent al ONU pentru AI, a afirmat că pericolele sunt reale și iminente, avertizând că amenințarea nu respectă granițele naționale. Altman a prezentat trei principii pentru OpenAI: menținerea oamenilor în centrul decizional, orientarea progresului spre oameni și creșterea capacității de acțiune a fiecărei persoane.
Această dezbatere are loc într-un context în care guvernele mondiale încearcă să construiască cadre de reglementare pentru o tehnologie care evoluează mult mai rapid decât mecanismele tradiționale de guvernare. În timp ce liderii de la ONU cer coordonare, există și divergențe politice majore, precum poziția președintelui american Donald Trump, care s-a pronunțat împotriva unui cadru global ce ar putea limita dezvoltarea inteligenței artificiale.
