OpenAI, compania care a dezvoltat ChatGpt, avertisment cu privire la atacurile cibernetice comise cu ajutorul AI

OpenAI a recunoscut că atacurile prin care agenții de inteligență artificială sunt manipulați să execute instrucțiuni malițioase ascunse în pagini web sau e-mailuri reprezintă un risc de securitate care nu va putea fi eliminat complet, în ciuda eforturilor continue de protecție.

Într-o postare publicată luni pe blogul companiei, OpenAI a comparat acest tip de atacuri cu fraudele și ingineria socială de pe internet, afirmând că acestea „nu vor fi probabil niciodată rezolvate în totalitate”, transmite Mediafax.

Compania a admis totodată că funcția de „agent mode” a browserului său AI, ChatGPT Atlas, „extinde suprafața de atac” din punct de vedere al securității.

ChatGPT Atlas a fost lansat în octombrie, iar la scurt timp cercetătorii în securitate au demonstrat că pot influența comportamentul browserului prin instrucțiuni ascunse în documente sau pagini aparent inofensive.

De asemenea, și Centrul Național de Securitate Cibernetică din Marea Britanie a avertizat recent că atacurile de acest tip „s-ar putea să nu poată fi niciodată complet prevenite”.

Pentru a limita riscurile, OpenAI spune că adoptă o strategie de testare continuă și reacție rapidă. Un element-cheie este dezvoltarea unui „atacator automatizat” bazat pe modele lingvistice mari (LLM), antrenat prin învățare prin recompensă să joace rolul unui hacker.

Acest sistem testează, în simulare, metode noi de atac și ajută compania să descopere vulnerabilități înainte ca acestea să fie exploatate în lumea reală.

Într-un exemplu prezentat de OpenAI, un e-mail malițios a determinat agentul AI să trimită din greșeală un mesaj de demisie. După actualizările de securitate, browserul a reușit să identifice atacul și să îl semnaleze utilizatorului.