Raport îngrijorător pe tema AI: SUA trebuie să acționeze „decisiv” pentru a preveni amenințarea de extincție pentru specia umană

Raport îngrijorător pe tema AI: SUA trebuie să acționeze „decisiv” pentru a preveni amenințarea “la nivel de extincție” pentru specia umană pe care o reprezintă inteligența artificială (AI). Concluzia apare într-un raport comandat de guvernul de la Washington.

Guvernul SUA trebuie să acționeze „rapid și decisiv” pentru a evita riscurile substanțiale la adresa securității naționale care decurg din inteligența artificială (AI) și care ar putea, în cel mai rău caz, să provoace o „amenințare la nivel de extincție pentru specia umană”, se arată într-un raport comandat de guvernul SUA citat de time.com.

„Dezvoltarea actuală a AI (…) prezintă riscuri urgente și în creștere pentru securitatea națională”, se arată în raportul pe care TIME l-a obținut înainte de publicare.

„Ascensiunea AI avansată și AGI [inteligența artificială generativă] au potențialul de a destabiliza securitatea globală în moduri care amintesc de introducerea armelor nucleare”.

AGI este o tehnologie ipotetică care ar putea îndeplini majoritatea sarcinilor la nivelul sau peste nivelul unui om.

Astfel de sisteme nu există în prezent, dar cele mai importante laboratoare de inteligență artificială lucrează la ele și mulți se așteaptă ca AGI să apară în următorii cinci ani sau mai puțin.

Cei trei autori ai raportului au lucrat la acesta timp de mai bine de un an, discutând cu peste 200 de angajați guvernamentali, experți și angajați de la companii de AI de ultimă generație – precum OpenAI, Google DeepMind, Anthropic și Meta – în cadrul cercetării lor.

Relatările din unele dintre aceste conversații conturează o imagine îngrijorătoare, sugerând că mulți lucrători din domeniul siguranței AI din cadrul laboratoarelor de ultimă oră sunt îngrijorați de stimulentele perverse care conduc luarea deciziilor de către directorii care controlează companiile lor.

Vezi și VIDEO: DOZA DE NORMALITATE: Inteligența artificială cu bune și cu rele. De ce ar trebui să ne preocupe acest subiect

Documentul finalizat, intitulat „Un plan de acțiune pentru creșterea siguranței și securității inteligenței artificiale avansate”, recomandă un set de acțiuni politice radicale și fără precedent care, dacă vor fi adoptate, vor perturba radical industria inteligenței artificiale.

Congresul ar trebui să facă ilegală, recomandă raportul, antrenarea modelelor de inteligență artificială folosind mai mult de un anumit nivel de putere de calcul.

Pragul, recomandă raportul, ar trebui să fie stabilit de o nouă agenție federală pentru inteligență artificială, deși raportul sugerează, de exemplu, că agenția ar putea să îl stabilească imediat deasupra nivelurilor de putere de calcul utilizate pentru a antrena modelele actuale de ultimă generație, cum ar fi GPT-4 de la OpenAI și Gemini de la Google.

Noua agenție de inteligență artificială ar trebui să ceară companiilor de inteligență artificială aflate la „frontiera” industriei să obțină permisiunea guvernului pentru a antrena și implementa noi modele dincolo de un anumit prag minim, adaugă raportul.

Autoritățile ar trebui, de asemenea, să ia în considerare „urgent” interzicerea publicării algoritmilor de funcționare internă a modelelor puternice de inteligență artificială, de exemplu sub licențe open-source, iar încălcările ar putea fi pedepsite cu închisoarea, se arată în raport.

De asemenea, guvernul ar trebui să înăsprească și mai mult controalele privind fabricarea și exportul de cipuri de inteligență artificială și să canalizeze finanțarea federală către cercetări de „aliniere” care urmăresc să facă inteligența artificială avansată mai sigură, recomandă raportul.

Raport îngrijorător pe tema AI: Cine l-a comandat

Raportul a fost comandat de Departamentul de Stat în noiembrie 2022, ca parte a unui contract federal în valoare de 250.000 de dolari, potrivit documentelor publice.

Acesta a fost redactat de Gladstone AI, o companie formată din patru persoane care organizează ședințe de informare tehnică privind inteligența artificială pentru angajații guvernamentali.

• Unele părți ale planului de acțiune recomandă ca guvernul să investească masiv în educarea funcționarilor cu privire la bazele tehnice ale sistemelor de inteligență artificială, astfel încât să poată înțelege mai bine riscurile acestora.

Raportul a fost livrat sub forma unui document de 247 de pagini Departamentului de Stat la 26 februarie.

Departamentul de Stat nu a răspuns la mai multe solicitări de comentarii cu privire la acest raport.

Recomandările „nu reflectă punctul de vedere al Departamentului de Stat al Statelor Unite sau al Guvernului Statelor Unite”, se arată pe prima pagină a raportului, citat și de G4Media.

Recomandările raportului, multe dintre ele de neconceput până acum, urmează unei serii amețitoare de evoluții majore în domeniul inteligenței artificiale, care au determinat mulți observatori să își recalibreze poziția față de această tehnologie.

Noah Harari: Inteligența Artificială a spart sistemul de operare al civilizației umane. Editorial-avertisment în The Economist

Chatbotul ChatGPT, lansat în noiembrie 2022, a marcat momentul când acest ritm de schimbare a devenit vizibil pentru întreaga societate, ceea ce i-a determinat pe mulți oameni să se întrebe dacă viitoarele AI ar putea prezenta riscuri existențiale pentru umanitate.

De atunci, noi instrumente, cu mai multe capabilități, au continuat să fie lansate într-un ritm rapid.

În timp ce guvernele din întreaga lume discută despre cum să reglementeze cel mai bine AI, cele mai mari companii de tehnologie din lume au construit rapid infrastructura pentru a antrena următoarea generație de sisteme mai puternice – în unele cazuri, plănuind să utilizeze o putere de calcul de 10 sau 100 de ori mai mare.

Raport îngrijorător pe tema AI: ar putea Inteligența Artificială genera accidental o catastrofă?

Între timp, mai mult de 80% din publicul american crede că AI ar putea provoca accidental un eveniment catastrofal, iar 77% dintre alegători cred că guvernul ar trebui să facă mai mult pentru a reglementa AI, potrivit unui sondaj recent realizat de AI Policy Institute.

Raportul afirmă că interzicerea antrenării sistemelor avansate de inteligență artificială care depășesc un anumit prag ar putea „modera dinamica cursei între toți dezvoltatorii de inteligență artificială” și ar putea contribui la o reducere a vitezei de producție de hardware mai rapid de către industria cipurilor.

În timp, o agenție federală pentru inteligență artificială ar putea ridica pragul și permite antrenarea unor sisteme de inteligență artificială mai avansate, odată ce dovezile privind siguranța modelelor de ultimă generație vor fi suficient de dovedite, propune raportul.

În egală măsură, se spune în raport, guvernul ar putea reduce pragul de siguranță dacă se descoperă capacități periculoase în modelele existente.

Propunerea se va confrunta probabil cu dificultăți politice. „Cred că este extrem de puțin probabil ca această recomandare să fie adoptată de guvernul Statelor Unite”, spune Greg Allen, director al Centrului Wadhwani pentru AI și tehnologii avansate din cadrul Centrului pentru Studii Strategice și Internaționale (CSIS), ca răspuns la un rezumat pe care TIME l-a furnizat cu privire la recomandarea din raport de a scoate în afara legii modelele de antrenament AI care depășesc un anumit prag.

Politica actuală a guvernului SUA în materie de inteligență artificială, notează el, este de a stabili praguri de calcul peste care se aplică cerințe suplimentare de monitorizare și reglementare în materie de transparență, dar nu de a stabili limite peste care antrenamentele ar fi ilegale.

„În absența unui șoc exogen, cred că este puțin probabil ca ei să schimbe această abordare”, spune Allen.

Jeremie și Edouard Harris, CEO și, respectiv, CTO al Gladstone, au informat guvernul SUA cu privire la riscurile AI încă din 2021.

Cei doi, care sunt frați, spun că oficialii guvernamentali care au participat la multe dintre primele lor ședințe de informare au fost de acord că riscurile AI sunt semnificative, dar le-au spus că responsabilitatea de a le face față revenea unor echipe sau departamente diferite.

La sfârșitul anului 2021, Gladstone a găsit în cele din urmă o ramură a guvernului cu responsabilitatea de a aborda riscurile AI: Biroul de Securitate Internațională și Neproliferare al Departamentului de Stat.

Echipele din cadrul Biroului au un mandat interinstituțional de a aborda riscurile generate de tehnologiile emergente, inclusiv armele chimice și biologice, precum și riscurile radiologice și nucleare.

În urma unor informări din partea lui Jeremie și a directorului general de atunci al Gladstone, Mark Beall, în octombrie 2022, Biroul a lansat o licitație pentru un raport care ar putea fundamenta o decizie de a adăuga AI la lista altor riscuri pe care le monitorizează.

Echipa Gladstone a câștigat acel contract, iar raportul publicat luni este rezultatul acestuia.

Raport îngrijorător pe tema AI: două categorii de risc

Raportul se concentrează pe două categorii distincte de risc.

Descriind prima categorie, pe care o numește „risc de înarmare”, raportul afirmă: „astfel de sisteme ar putea fi folosite pentru a proiecta și chiar a executa atacuri catastrofale biologice, chimice sau cibernetice, sau pentru a permite aplicații armate fără precedent în robotica de tip roi.

A doua categorie este ceea ce raportul numește riscul de „pierdere a controlului”, sau posibilitatea ca sistemele avansate de inteligență artificială să își depășească creatorii.

Există, spune raportul, „motive să credem că acestea ar putea fi incontrolabile dacă sunt dezvoltate folosind tehnicile actuale și ar putea avea un comportament advers față de ființele umane în mod implicit”.

Ambele categorii de risc, se spune în raport, sunt exacerbate de „dinamica rasială” din industria AI.

Probabilitatea ca prima companie care va realiza AGI să culeagă majoritatea recompenselor economice, spune raportul, stimulează companiile să acorde prioritate vitezei în detrimentul siguranței.

„Laboratoarele de AI de frontieră se confruntă cu un stimulent intens și imediat pentru a-și extinde sistemele de AI cât mai repede posibil”, se arată în raport.

„Ei nu se confruntă cu un stimulent imediat pentru a investi în măsuri de siguranță sau securitate care nu aduc beneficii economice directe, chiar dacă unii o fac dintr-o preocupare reală”.

Raportul Gladstone identifică hardware-ul – în special cipurile de calculator de înaltă performanță utilizate în prezent pentru a antrena sistemele de inteligență artificială – ca fiind un obstacol semnificativ în calea creșterii capacităților de inteligență artificială.

Raportul susține că reglementarea proliferării acestui hardware ar putea fi „cea mai importantă cerință pentru a proteja siguranța și securitatea globală pe termen lung față de AI”.

Raportul afirmă că guvernul ar trebui să analizeze posibilitatea de a lega licențele de export de cipuri de prezența unor tehnologii pe cipuri care să permită monitorizarea utilizării cipurilor în programe mari de instruire a AI, ca modalitate de a aplica normele propuse împotriva instruirii sistemelor de AI mai mari decât GPT-4.

Cu toate acestea, raportul notează, de asemenea, că orice intervenție va trebui să ia în considerare posibilitatea ca o reglementare excesivă să sprijine industriile străine de cipuri, erodând capacitatea SUA de a influența lanțul de aprovizionare.

Cei doi experți recunosc că recomandările lor vor părea prea zeloase pentru mulți din industria AI.

Ei se așteaptă ca recomandarea de a scoate în afara legii accesul liber la informații despre algoritmii modelelor avansate de inteligență artificială să nu fie populară.

„Sursa deschisă este, în general, un fenomen minunat și, în general, masiv pozitiv pentru lume”, spune Edouard, directorul de tehnologie al Gladstone.

„Este o recomandare extrem de dificilă de făcut și am petrecut mult timp căutând modalități de a evita sugerarea unor astfel de măsuri.”

În ciuda provocărilor, autorii raportului spun că au fost influențați de cât de ușor și ieftin este în prezent pentru utilizatori să înlăture pragurile de siguranță de la un model de inteligență artificială dacă au acces la algoritmul acestuia.

„Dacă proliferați un model cu sursă deschisă, chiar dacă pare sigur, ar putea fi periculos pe parcurs”, spune Edouard, adăugând că decizia de a utiliza un model cu sursă deschisă este ireversibilă. „În acel moment, noroc, tot ce poți face este să accepți pagubele”.

Înainte de a co-funda Gladstone împreună cu Beall, frații Harris au condus o companie de inteligență artificială care a trecut prin YCombinator, faimosul incubator din Silicon Valley, în perioada în care la conducere se afla Sam Altman, CEO-ul OpenAI.

Cei doi invocă aceste acreditări ca dovadă că sunt de partea industriei, chiar dacă recomandările lor, dacă ar fi puse în aplicare, ar da-o peste cap.

Dar “traiectoria noastră implicită în acest moment”, spune el, „pare să fie foarte bine orientată spre crearea unor sisteme suficient de puternice încât fie să poată fi transformate în arme catastrofale, fie să nu poată fi controlate”.

El adaugă: „Unul dintre cele mai rele scenarii este să avem parte de un eveniment catastrofal care să oprească complet cercetarea în domeniul inteligenței artificiale pentru toată lumea, iar noi să nu ajungem să culegem beneficiile incredibile ale acestei tehnologii.”