Șeful Anthropic cere încetinirea AI înainte ca tehnologia să scape de sub control

Șeful Anthropic cere încetinirea AI înainte ca tehnologia să scape de sub control. Inteligența artificială avansează mai repede decât capacitatea societății de a-i înțelege și controla riscurile, avertizează Dario Amodei, directorul general și cofondatorul Anthropic. Compania care dezvoltă modelele Claude se numără printre actorii aflați chiar în centrul competiției globale pentru construirea unor sisteme tot mai puternice. Tocmai de aceea, apelul lui Amodei pentru încetinirea ritmului nu poate fi tratat ca o simplă critică venită din afara industriei.

Mesajul său nu este că cercetarea în domeniul inteligenței artificiale trebuie abandonată. Amodei susține că dezvoltarea modelelor de frontieră trebuie temporizată suficient pentru ca metodele de evaluare, mecanismele de control și instituțiile publice să poată ține pasul cu noile capabilități.

În lipsa acestui răgaz, omenirea riscă să afle ce pot face sistemele avansate abia după ce acestea au fost lansate și conectate la infrastructuri reale.

Publicitate

Poziția exprimată de liderul Anthropic reprezintă o schimbare de ton în interiorul unei industrii care și-a construit expansiunea pe viteză.

Până acum, marile companii au concurat prin lansări frecvente, investiții masive în centre de date și promisiunea că următoarea generație de modele va fi mai inteligentă, mai autonomă și mai utilă.

Acum, una dintre vocile importante ale acestei curse avertizează că viteza însăși a devenit un risc.

Șeful Anthropic cere încetinirea AI. De ce?

Argumentul pornește de la apariția unor sisteme capabile să îndeplinească sarcini tot mai lungi și mai complexe, cu o intervenție umană din ce în ce mai redusă.

Modelele nu mai sunt folosite doar pentru a genera texte sau imagini. Ele pot scrie cod, căuta vulnerabilități informatice, utiliza instrumente digitale și executa succesiuni de acțiuni în numele utilizatorului.

Cercetările publicate de Anthropic susțin că rolul oamenilor se restrânge în anumite etape ale dezvoltării AI.

Modelele pot deja executa experimente bine definite și pot rezolva independent unele probleme de inginerie, chiar dacă oamenii continuă să fie mai buni la alegerea obiectivelor și la luarea deciziilor strategice.

Compania afirmă că, în mai 2026, peste 80% din codul integrat în propria bază software fusese scris de Claude.

În această evoluție, Amodei vede posibilitatea apariției unui circuit de accelerare: sistemele AI ajută la construirea unor modele mai performante, iar acestea contribuie apoi și mai mult la dezvoltarea succesorilor lor.

Ipoteza este cunoscută drept autoîmbunătățire recursivă.

Nu există un consens că un asemenea proces va deveni complet autonom sau că va scăpa inevitabil de sub control, dar apropierea modelelor de activitatea de cercetare și dezvoltare face ca riscul să nu mai poată fi ignorat.

Temerile nu se limitează la scenariul unei inteligențe artificiale care își urmărește propriile obiective.

Sisteme suficient de competente ar putea fi utilizate pentru atacuri informatice, supraveghere, fraude sau pentru obținerea unor informații periculoase din biologie și chimie.

Același model poate ajuta un specialist să descopere și să repare o vulnerabilitate, dar poate oferi și unui atacator capacități pe care acesta nu le-ar fi avut singur.

Anthropic a prezentat, de altfel, propriile progrese în identificarea vulnerabilităților informatice drept o dovadă a caracterului dublu al tehnologiei.

Compania a limitat inițial accesul la unul dintre modelele sale avansate și l-a pus la dispoziția unor organizații implicate în apărarea infrastructurii digitale.

Potrivit Anthropic, asemenea capabilități pot proteja sistemele critice, dar ar putea produce efectul opus dacă ajung în mâinile unor actori rău intenționați.

O încetinire coordonată, nu o promisiune unilaterală

Amodei propune evaluatori independenți care să primească acces suficient la modelele avansate, coordonarea standardelor de siguranță între companiile care dezvoltă AI de frontieră și, în cele din urmă, cooperare internațională.

Ideea centrală este că o singură companie nu poate încetini în mod credibil dacă rivalii săi continuă să accelereze.

Aici apare cea mai dificilă problemă. Fiecare laborator are motive să spună că susține siguranța, dar și motive economice puternice să nu rămână în urmă.

Investitorii așteaptă produse noi, clienții caută modele mai performante, iar statele privesc inteligența artificială drept o tehnologie strategică.

O companie care își amână singură lansările riscă să piardă utilizatori, capital și influență fără să reducă pericolul global, dacă dezvoltarea continuă în altă parte.

Coordonarea dintre companii ridică, la rândul său, probleme juridice și de încredere. Fără reguli clare, colaborarea poate intra în conflict cu legislația concurenței.

În același timp, publicul trebuie să poată verifica dacă firmele respectă standardele pe care le anunță.

Evaluările realizate exclusiv în interiorul companiilor nu sunt suficiente atunci când aceleași organizații au interesul comercial de a lansa produsele cât mai repede.

Anthropic susține de mai mult timp un sistem în care măsurile de securitate devin mai stricte pe măsură ce modelele dobândesc capabilități periculoase.

Politica sa de „scalare responsabilă” include praguri de risc și angajamentul declarat de a nu antrena sau lansa modele dacă protecțiile necesare nu sunt implementate.

Totuși, aceste politici rămân în mare parte voluntare și depind de evaluările efectuate ori comandate de companie.

Din acest motiv, solicitarea lui Amodei poate fi citită în două moduri. Este, pe de o parte, un avertisment important venit de la un cercetător care are acces direct la cele mai avansate sisteme.

Pe de altă parte, este și o propunere formulată de conducătorul uneia dintre companiile care ar urma să fie reglementate.

Standardele nu pot fi stabilite numai de firmele dominante, deoarece acestea ar putea crea bariere greu de depășit pentru concurenții mai mici și și-ar putea consolida poziția pe piață.

Dezbaterea nu mai este între progres și oprirea progresului

Criticii încetinirii AI susțin că regulile prea severe ar putea bloca inovația, ar întârzia descoperirile medicale și științifice și ar transfera avantajul tehnologic către state care nu respectă aceleași restricții.

Ei mai arată că avertismentele despre sisteme imposibil de controlat se bazează, în parte, pe estimări și scenarii care nu pot fi confirmate experimental în prezent.

Aceste obiecții sunt relevante. Nu se poate confirma că inteligența artificială va dobândi într-un anumit interval capacitatea de a se îmbunătăți autonom sau că un asemenea sistem va încerca să preia controlul asupra infrastructurii digitale.

Previziunile foarte precise despre momentul apariției unei inteligențe artificiale superioare oamenilor trebuie tratate ca estimări, nu ca fapte.

Dar incertitudinea nu este un argument pentru absența măsurilor de precauție.

În domenii precum aviația, medicamentele sau energia nucleară, produsele cu efecte potențial grave sunt testate înainte de utilizarea pe scară largă.

În cazul AI, practica dominantă a fost adesea inversă: sistemele sunt lansate către milioane de utilizatori, iar comportamentele problematice sunt descoperite ulterior.

Dezbaterea reală nu mai opune progresul tehnologic unei opriri totale. Întrebarea este cine stabilește ritmul, cine verifică nivelul de siguranță și cine răspunde atunci când un sistem produce efecte pe care creatorii săi nu le-au anticipat.

O încetinire bine definită ar putea însemna amânarea lansării unui model care depășește anumite praguri de risc, nu suspendarea tuturor cercetărilor sau a aplicațiilor obișnuite.

Apelul lui Dario Amodei pune industria în fața unei contradicții pe care nu o mai poate evita.

Companiile afirmă că modelele lor vor deveni suficient de puternice pentru a transforma economia, medicina și cercetarea, dar cer societății să creadă că aceleași sisteme pot fi controlate prin reguli voluntare și evaluări realizate într-un timp tot mai scurt.

Dacă promisiunile despre puterea AI sunt reale, atunci și exigențele de siguranță trebuie să fie pe măsură.

Încetinirea nu garantează eliminarea riscurilor. Ar putea însă oferi cercetătorilor, autorităților și societății timpul necesar pentru a înțelege tehnologia înainte ca dependența de ea să devină ireversibilă.

Într-o competiție în care fiecare nouă generație de modele accelerează dezvoltarea celei următoare, timpul nu mai este doar o resursă economică. Devine una dintre principalele măsuri de siguranță.