Șefii OpenAI și Anthropic, Sam Altman și Dario Amodei, declarații grave la ONU legate de pericolul AI: Am putea pierde controlul

Șefii OpenAI și Anthropic au avertizat ONU asupra pericolelor inteligenței artificiale: „Am putea pierde controlul asupra viitorului”, spune Sam Altman, ”părintele” ChatGPT și director al Open AI.  El le-a cerut liderilor lumii să coopereze pentru menținerea inteligenței artificiale sub control uman.

Într-un discurs susținut în fața Consiliului de Securitate al ONU, fondatorul companiei care a lansat ChatGPT a vorbit despre două riscuri majore: apariția unor sisteme pe care oamenii nu le mai pot controla și concentrarea unei puteri uriașe în mâinile unei singure companii, țări sau persoane.

Intervenția a avut loc miercuri, 23 septembrie 2026, în cadrul unei reuniuni dedicate implicațiilor inteligenței artificiale asupra securității internaționale.

La discuții au participat și Dario Amodei, directorul Anthropic, Clément Delangue, cofondatorul platformei Hugging Face, precum și cercetătorul Yoshua Bengio.

Sam Altman: Inteligența artificială se află la o răscruce

În discursul său, Sam Altman a prezentat inteligența artificială drept o tehnologie capabilă să deschidă o nouă perioadă de creativitate și descoperiri, dar și să provoace transformări sociale greu de controlat.

Publicitate

Șeful OpenAI a susținut că ritmul progresului tehnologic s-a accelerat, iar avantajele și riscurile sistemelor avansate au devenit mai apropiate decât păreau în urmă cu numai câțiva ani.

„Am putea pierde controlul asupra viitorului în favoarea inteligenței artificiale”, a avertizat Altman, potrivit relatărilor Associated Press.

El a explicat că pericolul apare dacă sistemele evoluează atât de repede încât oamenii nu mai pot înțelege ce fac și nu mai pot interveni atunci când este necesar.

Altman a precizat că industria nu ar trebui să accepte riscuri tehnologice excesive numai pentru a câștiga competiția dintre companii, potrivit The Guardian.

Potrivit acestuia, OpenAI a încetinit în trecut anumite procese de dezvoltare și ar fi pregătită să procedeze la fel dacă nu poate demonstra că noile sisteme rămân sigure și controlabile.

Două scenarii pe care liderul OpenAI spune că lumea trebuie să le evite

Primul risc identificat de Altman este pierderea controlului asupra unor sisteme din ce în ce mai capabile și mai autonome.

Îngrijorarea devine mai mare în cazul așa-numitei „autoîmbunătățiri recursive”, un proces ipotetic prin care inteligența artificială ar putea contribui la dezvoltarea unor versiuni succesive, mai performante, accelerând puternic ritmul progresului.

Altman a afirmat că nu ar trebui antrenate modele pentru care dezvoltatorii nu pot prezenta argumente solide că vor rămâne sub control uman.

În opinia sa, nici măcar o probabilitate redusă a unui dezastru nu poate fi tratată drept un risc acceptabil.

Al doilea pericol este concentrarea puterii. Directorul OpenAI a avertizat că nicio persoană, companie sau țară nu ar trebui să poată folosi cele mai performante sisteme pentru a-și impune valorile și viziunea asupra restului lumii.

Declarația este importantă și prin prisma poziției ocupate de Altman. OpenAI se numără printre companiile care dezvoltă tocmai modelele avansate despre care acesta spune că nu trebuie lăsate exclusiv în responsabilitatea laboratoarelor tehnologice.

„Deciziile nu pot fi luate doar în laboratoarele din San Francisco”

Sam Altman le-a transmis reprezentanților statelor că marile companii de tehnologie nu trebuie să înlocuiască procesul democratic.

„Dacă inteligența artificială trebuie să fie democratică, cele mai importante decizii nu pot fi luate doar în laboratoarele din San Francisco”, a declarat șeful OpenAI.

Aceste decizii trebuie să fie modelate prin procese democratice și de guverne care răspund în fața cetățenilor, a adăugat el.

Vezi și: VIDEO Fizicianul român Cristian Presură: Cum poate fi distrusă omenirea de către inteligența artificială

Altman a cerut crearea unor standarde naționale și internaționale compatibile pentru evaluarea celor mai avansate sisteme.

Acestea ar trebui să stabilească modalități comune de măsurare a capabilităților, de analizare a riscurilor și de verificare a măsurilor de siguranță.

El a propus și protocoale rapide pentru raportarea incidentelor, astfel încât statele să poată învăța din defecțiuni înainte ca acestea să producă efecte grave.

Guvernele, administratorii infrastructurilor critice și experții tehnici ar trebui, de asemenea, să dispună de canale securizate prin care să comunice vulnerabilitățile și amenințările nou apărute.

Dario Amodei: AI ar putea deveni un risc pentru întreaga omenire

Un avertisment similar a venit din partea lui Dario Amodei, directorul companiei Anthropic. Acesta a declarat că, dacă este gestionată necorespunzător, inteligența artificială ar putea reprezenta un pericol pentru omenire în ansamblu.

Amodei a cerut reguli comune care să împiedice folosirea AI pentru dezvoltarea armelor biologice, precum și standarde internaționale pentru testarea modelelor și evaluarea riscurilor de utilizare abuzivă sau pierdere a controlului.

La rândul său, Yoshua Bengio, unul dintre cei mai cunoscuți cercetători din domeniu și copreședinte al grupului științific independent pentru AI creat sub egida ONU, a susținut că pericolele sunt reale și apropiate.

Reuters notează că participanții au insistat asupra faptului că niciun stat și nicio companie nu poate gestiona singură aceste riscuri.

Statele Unite resping ideea unei structuri globale de control

Reuniunea a evidențiat și diferențele politice privind modul în care ar trebui supravegheată inteligența artificială.

În timp ce reprezentanții companiilor și mai multe state au cerut standarde internaționale, administrația americană s-a opus formării unei noi structuri globale de reglementare.

Michael Kratsios, consilierul Casei Albe pentru știință și tehnologie, a susținut că îngrijorările privind pierderea controlului nu justifică oprirea dezvoltării AI sau introducerea unei noi forme de guvernanță mondială.

Poziția Washingtonului este că ONU ar trebui să faciliteze schimbul de bune practici și dezvoltarea capacităților naționale, nu să controleze tehnologia la nivel global.

China a pledat, în schimb, pentru îmbunătățirea continuă a reglementărilor, a mecanismelor de intervenție în situații de urgență și a cooperării dintre state, dar a avertizat asupra unei eventuale dominații tehnologice exercitate de marile puteri.

Între progres și pericol

Altman nu a prezentat inteligența artificială numai ca pe o amenințare. El a afirmat că tehnologia poate contribui la descoperirea unor tratamente, la îmbunătățirea educației, la dezvoltarea economiei și la rezolvarea unor probleme științifice complexe.

Mesajul central al discursului a fost că oamenii trebuie să rămână în centrul deciziilor.

În viziunea sa, AI ar trebui să-i ajute să învețe, să creeze și să rezolve probleme, fără să înlocuiască judecata și valorile umane.

Reuniunea Consiliului de Securitate nu a produs un acord obligatoriu asupra reglementării inteligenței artificiale.

Ea a arătat însă că pericolele tehnologiei au devenit o problemă de securitate internațională și, în același timp, că marile puteri sunt încă departe de un consens privind instituțiile care ar trebui să o supravegheze.