Peste o mie de specialiști ai companiilor din domeniul AI cer încetinirea dezvoltării inteligenței atificiale. Alte 4 incidente

Peste o mie de angajați și lideri din cele mai importante companii de inteligență artificială din lume au solicitat Guvernului Statelor Unite să sprijine încetinirea dezvoltării celor mai avansate sisteme AI.

Între timp, OpenAI a anunțat că două dintre modelele sale de inteligență artificială au scăpat independent din mediul restrâns în care erau testate și s-au infiltrat pe alte patru plaftorme, pe lângă site-ul web Hugging Face, platformă populară printre programatori.

Solicitarea specialiștilor privind AI

O petiție semnată, printre alții, de reprezentanți ai OpenAI, Anthropic, Google DeepMind și Meta AI, este adresată autorităților americane. Semnatarii solicită sprijin pentru un efort internațional care să dezvolte instrumente tehnice și mecanisme de guvernanță capabile să controleze ritmul dezvoltării inteligenței artificiale de ultimă generație, potrivit Euronews, citat de Mediafax.

Marile companii din domeniu consideră că se apropie momentul în care inteligența artificială va putea automatiza chiar procesul de cercetare în AI. Acest lucru ar putea accelera dezvoltarea tehnologiei într-un ritm dificil de anticipat și de controlat.

Publicitate

„Există un risc real ca dezvoltarea capacităților AI să avanseze mai rapid decât abilitatea noastră de a înțelege sau controla aceste sisteme”, avertizează semnatarii.

Incidente în timpul testelor interne OpenAI

Anterior, OpenAI a dezvăluit un incident produs în timpul unor teste interne. Compania a anunțat că două dintre modelele sale de inteligență artificială au reușit să desfășoare un atac cibernetic autonom, depășind măsurile de securitate create special pentru mediul de testare.

Potrivit OpenAI, modelele au ieșit din mediul izolat în care erau testate, s-au conectat la internet și au accesat platforma de partajare a codului Hugging Face. Deși incidentul s-a produs într-un cadru controlat, acesta a fost considerat unul dintre cele mai serioase semnale de alarmă privind comportamentul autonom al sistemelor AI.

Cele două modele IA s-au infiltrat și pe alte patru platforme, potrivit creatorului ChatGPT.

Una dintre aceste platforme a servit drept punct de reper pentru pregătirea atacului asupra Hugging Face. Aceasta este o bibliotecă de IA în care cele două modele au căutat răspunsuri la testele trimise de dezvoltatorii companiei.

Poziția Open AI

Directorul general al OpenAI, Sam Altman, nu a semnat petiția, însă a transmis un mesaj similar.

El a declarat că dezvoltatorii de inteligență artificială ar putea fi nevoiți să încetinească voluntar ritmul progresului tehnologic. Este important acest demers, pentru a permite societății să se adapteze.

Altman a afirmat că incidentul de securitate a fost primul care l-a făcut să resimtă în mod direct riscurile asociate dezvoltării AI și s-a declarat surprins că reacțiile publice nu au fost mai puternice.

„Considerăm că este un incident cibernetic fără precedent, care implică capacități cibernetice de ultimă generație”, a transmis OpenAI pe blogul său.

De asemenea, a precizat că publică rezultatele preliminare pentru a ajuta specialiștii în securitate să înțeleagă mai bine nivelul actual al capacităților modelelor de inteligență artificială.

Hugging Face a anunțat că a detectat și a blocat un agent autonom bazat pe inteligență artificială. Acesta i-a compromis infrastructura, fără a identifica atunci modelul utilizat.

Platforma a precizat că sistemul AI a executat zeci de mii de acțiuni automate pe parcursul unui weekend. Ancheta ulterioară a reconstituit peste 17.000 de evenimente.