Noah Harari: Inteligența Artificială a spart sistemul de operare al civilizației umane. Editorial-avertisment în The Economist

Yuval Noah Harari a scris un articol în publicația The Economist, în care avertizează că inteligența artificială (IA) a spart sistemul de operare al civilizației umane, care este limbajul. Avertismentul acestuia este cel mai serios și mai argumentat semnal de alarmă de până acum. 

Harari este istoric, filozof și autor al „Sapiens”, „Homo Deus” și al serialului pentru copii „Unstoppable Us”. Este lector la departamentul de istorie al Universității Ebraice din Ierusalim și co-fondator al Sapienship.

Inteligența artificială a spart sistemul de operare al civilizației umane – Yuval Noah Harari

Frica de inteligența artificială (IA) a bântuit omenirea încă de la începutul erei computerelor. Până acum, aceste temeri se concentrau asupra mașinilor care foloseau mijloace fizice pentru a ucide, înrobi sau înlocui oamenii.

Însă, în ultimii doi ani, au apărut noi instrumente ale IA care amenință supraviețuirea civilizației umane dintr-o direcție neașteptată.

IA a dobândit niște abilități remarcabile de a manipula și de a genera limbaj, fie că este vorba de cuvinte, sunete sau imagini. IA a spart astfel sistemul de operare al civilizației noastre.

În ultimii doi ani au apărut noi instrumente legete de inteligența artificială care amenință supraviețuirea civilizației umane dintr-o direcție neașteptată.

IA a dobândit niște abilități remarcabile de a manipula și genera limbaj, cu ajutorul cuvintelor, sunetelor  sau imaginilor.

Antropologul și scriitorul Yuval Noah Harari are o concluzie alarmantă: inteligența artificială a spart deja sistemul de operare al civilizației noastre, într-un articol publicat de The Economist.

Limba este materialul din care este făcută aproape toată cultura umană. Drepturile omului, de exemplu, nu sunt înscrise în ADN-ul nostru.

Mai degrabă, sunt artefacte culturale pe care le-am creat spunând povești și scriind legi.

Zeii nu sunt realități fizice. Mai degrabă, sunt artefacte culturale pe care le-am creat inventând mituri și scriind scripturi.

Banii, de asemenea, sunt un artefact cultural. Bancnotele sunt doar bucăți de hârtie colorate, iar în prezent mai mult de 90% din bani nu sunt nici măcar bancnote – sunt doar informații digitale din computere.

Ceea ce dă valoare banilor sunt poveștile pe care ni le spun bancherii, miniștrii de finanțe și guruii criptomonedei.

Sam Bankman-Fried, Elizabeth Holmes și Bernie Madoff nu erau deosebit de buni în a crea valoare reală, dar toți erau povestitori extrem de capabili.

Ce s-ar întâmpla odată ce o inteligență non-umană devine mai bună decât omul obișnuit în a spune povești, compune melodii, desenează imagini și scrie legi și scripturi?

Când oamenii se gândesc la Chatgpt și la alte instrumente noi de inteligență artificială, ei sunt adesea atrași de exemple precum școlari care folosesc ai pentru a-și scrie eseurile.

Ce se va întâmpla cu sistemul școlar când copiii vor face asta? Dar acest tip de întrebare ratează imaginea de ansamblu.

Uitați de eseurile școlare. Gândiți-vă la următoarea cursă prezidențială americană din 2024 și încercați să vă imaginați impactul instrumentelor IA care pot fi făcute pentru a produce în masă conținut politic și știri false.

Ce facem în conversația cu AI? Ar fi absolut inutil să petrecem timp încercând să schimbăm opiniile declarate ale unui bot ai, în timp ce AI își poate perfecționa mesajele atât de precis încât are șanse mari să ne influențeze.

Adică am pierde orice dezbatere.

În secolul al XVII-lea, René Descartes se temea că poate un demon rău intenționat îl prinde într-o lume de iluzii, creând tot ce vedea și auzea el.

În Grecia antică, Platon a povestit celebra alegorie a peșterii, în care un grup de oameni sunt înlănțuiți în interiorul unei peșteri toată viața, cu fața unui perete gol. Un ecran. Pe acel ecran ei văd proiectate diverse umbre. Prizonierii confundă iluziile pe care le văd acolo cu realitate.

În India antică, înțelepții budiști și hinduși au subliniat că toți oamenii trăiau prinși în Maya – lumea iluziilor.

Ceea ce în mod normal considerăm a fi realitate este adesea doar ficțiuni în propriile noastre minți. Oamenii pot duce războaie întregi, ucigând pe alții și dorind să fie uciși ei înșiși, din cauza credinței lor în cutare sau cutare iluzie.

Revoluția AI ne pune față în față cu demonul lui Descartes, cu peștera lui Platon, cu mayașii. Dacă nu suntem atenți, s-ar putea să fim prinși în spatele unei perdele de iluzii, pe care nu le-am putea smulge – sau chiar să ne dăm seama că există.

Desigur, noua putere a ai ar putea fi folosită și în scopuri bune. Nu mă voi opri asupra acestui lucru, pentru că oamenii care dezvoltă ai vorbesc suficient despre asta.

Sarcina istoricilor și filosofilor ca mine este să sublinieze pericolele. Dar cu siguranță, ai ne poate ajuta în nenumărate moduri, de la găsirea de noi remedii pentru cancer până la descoperirea de soluții la criza ecologică.

Întrebarea cu care ne confruntăm este cum să ne asigurăm că noile instrumente IA sunt folosite mai degrabă pentru bine decât pentru rău. Pentru a face asta, trebuie mai întâi să apreciem adevăratele capacități ale acestor instrumente.

Din 1945 știm că tehnologia nucleară ar putea genera energie ieftină în beneficiul oamenilor, dar ar putea distruge și fizic civilizația umană.

Prin urmare, am remodelat întreaga ordine internațională pentru a proteja umanitatea și pentru a ne asigura că tehnologia nucleară a fost folosită în primul rând pentru bine.

Acum trebuie să ne luptăm cu o nouă armă de distrugere în masă care ne poate anihila lumea mentală și socială.

Putem încă reglementa noile instrumente IA, dar trebuie să acționăm rapid. În timp ce armele nucleare nu pot inventa arme nucleare mai puternice, ai poate face ai exponențial mai puternic.

Primul pas esențial este să solicitați verificări riguroase de siguranță înainte ca instrumentele IA puternice să fie lansate în domeniul public.

Așa cum o companie farmaceutică nu poate elibera noi medicamente înainte de a le testa atât efectele secundare pe termen scurt, cât și pe termen lung, la fel și companiile de tehnologie nu ar trebui să lanseze noi instrumente IA înainte de a fi sigure.

Avem nevoie de un echivalent al Food and Drug Administration pentru noua tehnologie și avem nevoie de el ieri.

Încetinirea desfășurării publice a IA nu va face ca democrațiile să rămână în urma unor regimuri autoritare mai nemiloase? Exact invers.

Implementările nereglementate ale IA ar crea haos social, de care ar beneficia autocrații și ar ruina democrațiile.

Democrația este o conversație, iar conversațiile se bazează pe limbaj. Când ai pirata limbajul, ne-ar putea distruge capacitatea de a avea conversații semnificative, distrugând astfel democrația.

Tocmai am întâlnit o inteligență extraterestră, aici pe Pământ. Nu știm prea multe despre asta, cu excepția faptului că ne-ar putea distruge civilizația.

Ar trebui să oprim desfășurarea iresponsabilă a instrumentelor IA în sfera publică și să reglementăm ai înainte ca acesta să ne reglementeze.

Și prima reglementare pe care aș sugera să fie făcută este aceea de a obliga IA să dezvăluie că este o IA și nu un om.

Dacă am o conversație cu cineva și nu pot spune dacă este un om sau o IA, acesta este sfârșitul democrației.

Acest text a fost generat de un om. Sau?