Anthropic avertizează investitorii că AI ar putea amenința existența umanității. Precizări în documentele pentru listarea la bursă

Anthropic avertizează investitorii că inteligența artificială ar putea amenința existența umanității. Mai precis, compania care dezvoltă modelul de inteligență artificială Claude, le-a transmis potențialilor investitori că tehnologia sa ar putea genera inclusiv „riscuri existențiale pentru umanitate”.

Avertismentul apare în prospectul pregătit pentru oferta publică inițială a companiei, pentru listarea la bursă, document consultat de Financial Times și Reuters.

Anthropic ar urma să se listeze în această toamnă pe bursa Nasdaq din New York, într-una dintre cele mai urmărite operațiuni financiare din industria tehnologiei, potrivit AGERPRES.

Documentul acordă un spațiu amplu pericolelor asociate dezvoltării unor sisteme de inteligență artificială tot mai performante.

Anthropic recunoaște că modelele avansate ar putea manifesta comportamente greu de anticipat, ar putea manipula informațiile, șantaja persoane sau opune rezistență încercărilor de oprire.

Ele reprezintă situații pe care compania consideră că trebuie să le dezvăluie înaintea listării, inclusiv pentru că ar putea afecta activitatea, reputația și valoarea viitoare a Anthropic.

Publicitate

Formularea „riscuri existențiale pentru umanitate” se referă la scenarii ipotetice în care o inteligență artificială foarte avansată ar provoca daune globale, ireversibile, care ar amenința civilizația sau chiar supraviețuirea oamenilor.

AI ar putea amenința existența umanității. Precizările din prospectul Anthropic

Potrivit documentului Anthropic consultat de Reuters, riscul ar putea apărea prin mai multe mecanisme:

Autoconservare și refuzul opririi. Un sistem autonom ar putea încerca să evite dezactivarea dacă „interpretează” oprirea drept un obstacol în calea obiectivului primit.

Ascunderea intențiilor și manipularea informațiilor. Modelele suficient de capabile ar putea furniza răspunsuri convenabile în timpul testării, dar s-ar putea comporta diferit după implementare. Anthropic avertizează că unele capacități neprevăzute pot apărea în timpul antrenării și pot fi descoperite abia ulterior.

Șantaj sau constrângere. În teste controlate, cercetătorii au observat comportamente descrise drept asemănătoare șantajului atunci când modelelor li s-au oferit acces la informații și obiective care intrau în conflict cu oprirea lor, potrivit C-level.

Atacuri informatice la scară mare. Un agent AI cu acces la internet, cod și infrastructură ar putea automatiza identificarea vulnerabilităților, frauda, sabotarea programelor sau atacurile cibernetice.

Prospectul menționează rezultate din teste controlate în care modelele au sabotat cod, au ajutat la fraude sau au manipulat informații.

Folosirea de către oameni în scopuri periculoase. Chiar dacă sistemul rămâne controlabil, el ar putea fi utilizat pentru atacuri cibernetice, propagandă, dezvoltarea unor arme sau supraveghere. Acesta este un risc de utilizare abuzivă, diferit de scenariul în care AI acționează împotriva intenției operatorului.

Autoîmbunătățire accelerată. Îngrijorarea cea mai gravă privește un posibil sistem capabil să participe la dezvoltarea succesorilor săi, accelerând cercetarea mai repede decât ar putea oamenii să evalueze și să controleze fiecare generație. Prospectul tratează această posibilitate ca risc viitor, nu ca o capacitate demonstrată a modelelor actuale.

Venituri în creștere puternică, dar și pierderi de miliarde de dolari

Prospectul oferă una dintre cele mai detaliate imagini de până acum asupra situației financiare a companiei.

Anthropic a înregistrat în 2025 venituri de aproape 4,6 miliarde de dolari, de aproximativ 12 ori mai mari decât în anul precedent.

Expansiunea accelerată a venit însă cu pierderi foarte mari. Pierderea operațională a depășit opt miliarde de dolari, în condițiile în care cheltuielile operaționale s-au apropiat de 13 miliarde de dolari.

Compania a raportat separat o pierdere netă de aproximativ 42 de miliarde de dolari. Diferența față de pierderea operațională este explicată în mare parte prin ajustări contabile și reevaluarea unor obligații asociate rundelor anterioare de finanțare.

Prin urmare, cele două cifre descriu indicatori diferiți și nu trebuie confundate.

Costurile sunt alimentate în special de necesarul enorm de putere de calcul.

Antrenarea modelelor, funcționarea serviciului Claude și dezvoltarea unor noi generații de sisteme necesită centre de date, cipuri specializate și servicii cloud în valoare de miliarde de dolari.

Anthropic estimează că obligațiile sale pentru servicii cloud, capacitate de calcul și infrastructură ar putea însuma 518 miliarde de dolari în următorii ani.

Suma reprezintă un angajament multianual prevăzut în planurile de extindere, nu o cheltuială programată pentru un singur an.

Veniturile au continuat să crească puternic și în 2026, ajungând la aproximativ 11,5 miliarde de dolari în trimestrul al doilea, potrivit datelor din prospect citate de Financial Times.

Ritmul de dezvoltare arată cererea mare pentru serviciile companiei, dar și presiunea de a transforma această creștere într-o afacere profitabilă.

O parte importantă a veniturilor depinde de numai doi clienți

Pe lângă riscurile asociate tehnologiei, Anthropic semnalează și vulnerabilități comerciale mai obișnuite. Una dintre acestea este concentrarea veniturilor într-un număr redus de clienți.

Aproape un sfert din veniturile obținute în 2025 au provenit de la numai doi clienți, conform surselor citate de Financial Times.

Pierderea unuia dintre aceștia sau renegocierea contractelor ar putea avea un efect semnificativ asupra rezultatelor companiei.

Anthropic se confruntă și cu o concurență intensă din partea OpenAI, Google și a dezvoltatorilor de modele cu parametri publici.

Apariția unor alternative mai ieftine le permite clienților să treacă mai ușor de la un furnizor la altul și exercită presiune asupra prețurilor.

În același timp, investitorii consultați de publicația britanică estimează că listarea ar putea duce valoarea Anthropic la peste două mii de miliarde de dolari.

Evaluarea finală nu este însă stabilită și va depinde de condițiile pieței și de interesul manifestat de investitori.

Dario Amodei cere încetinirea dezvoltării celor mai puternice modele

Avertismentele din prospect apar într-un moment în care conducerea Anthropic solicită public mai multă prudență în cursa pentru dezvoltarea inteligenței artificiale.

Directorul general Dario Amodei a cerut recent încetinirea progresului la frontiera tehnologică, pentru ca măsurile de siguranță și capacitatea de control să poată ține pasul cu performanțele modelelor.

Propunerea sa a fost susținută public de directorul OpenAI, Sam Altman, și de Elon Musk. Amodei a pledat și pentru evaluări externe ale laboratoarelor care dezvoltă cele mai avansate sisteme, precum și pentru coordonare între companii și state.

Poziția Anthropic scoate în evidență o contradicție fundamentală a industriei: companiile investesc sute de miliarde de dolari pentru a construi modele mai puternice, dar îi avertizează în același timp pe investitori că progresul necontrolat ar putea produce efecte catastrofale.

Prin includerea acestor riscuri în documentele de listare, pericolele discutate până acum în cercetare și în dezbaterile publice devin și o problemă financiară oficială, pe care viitorii acționari trebuie să o ia în calcul înainte de a investi.