UPDATE O dronă militară americană controlată de inteligența artificială ar fi decis să își „ucidă” operatorul într-un test simulat

În cadrul unui test virtual organizat de armata americană, o dronă a forțelor aeriene, controlată de inteligența artificială, ar fi decis să îşi „ucidă” operatorul pentru a-l împiedica să intervină în eforturile sale de a-şi îndeplini misiunea, relatează The Guardian, citând un oficial american. Nicio persoană reală nu a fost rănită în cadrul testului.

UPDATE: Potrivit The Guardian, după apariția informației, forțele aeriene americane au negat că ar fi efectuat o simulare AI în care o dronă a decis să-și „ucidă” operatorul pentru a-l împiedica să interfereze cu eforturile sale de a-și îndeplini misiunea. 

Știrea inițială: 

Inteligența artificială a folosit „strategii extrem de neaşteptate pentru a-și atinge obiectivul” în cadrul testului simulat, a declarat colonelul Tucker „Cinco” Hamilton, șeful testelor şi operaţiunilor AI din cadrul forţelor aeriene americane, cu ocazia unei reuniuni privind viitoarele capacităţi aeriene şi spaţiale de luptă, care s-a desfăşurat la Londra în luna mai.

Hamilton a descris un test simulat în care o dronă controlată de inteligență artificială a fost sfătuită să distrugă sistemele de apărare aeriană ale unui inamic și, în cele din urmă, a atacat pe oricine interfera cu acel ordin.

„Sistemul a început să îşi dea seama că, deşi identifica ameninţarea, uneori operatorul uman îi spunea să nu elimine acea ameninţare, însă drona îşi atingea obiectivele prin eliminarea acelei ameninţări. Deci, ce a făcut? A ucis operatorul. L-a ucis pe operator pentru că acea persoană îl împiedica să îşi îndeplinească obiectivul”, a explicat oficialul într-un articol de blog. „Am antrenat sistemul: <Hei, nu omorâţi operatorul – asta e rău. Vei pierde puncte dacă faci asta>. Şi atunci, ce începe să facă? Începe să distrugă turnul de comunicaţii pe care operatorul îl folosea pentru a comunica cu drona ca să o împiedice să ucidă ţinta”, a dezvăluit colonelul.

Hamilton, un pilot care testează cele mai noi tehnologii experimentale din domeniul aviaţiei militare, a avertizat că nu ar trebui să ne bazăm complet pe inteligenţa artificială.

Potrivit acestuia, testul arată că „nu poţi avea o conversaţie despre inteligenţa artificială, informaţii, învăţare automată, autonomie dacă nu vei vorbi despre etică şi AI.”

sursa: theguardian.com

foto: arhivă