Indicii pentru depistarea Deepfake. Cum pot fi identificate materialele online trucate. Ghid DNSC

Directoratul Național de Securitate Cibernetică (DNSC) a lansat Ghidul privind identificarea materialelor de tip Deepfake.

Acest ghid are ca obiectiv principal protejarea și educarea publicului cu privire la conștientizarea riscurilor de securitate cibernetică, a informat DNSC.

Deepfake-ul este o formă de manipulare digitală

• care utilizează tehnici avansate de inteligență artificială
• pentru a crea conținut de tip imagini sau audio-video falsificat.

”Acest fenomen poate avea consecințe semnificative asupra societății, inclusiv impactul asupra securității și a încrederii publicului în informațiile din mediul online”, atenționează DNSC.

Ghidul Deepfake realizat de către DNSC oferă o imagine de ansamblu despre:

• Importanța înțelegerii fenomenului Deepfake
• Tehnologia utilizată și etapele de realizare
• Exemple și indicatori
• Instrumente și tehnici de detectare
• Educația în combaterea fenomenului și sfaturi utile privind conștientizarea

Exemplu de utilizare a Deepfake

DNSC amintește că Banca Națională a României (BNR) a avertizat publicul cu privire la o schemă de înșelăciune care implică utilizarea tehnologiei Deepfake pentru a crea videoclipuri false cu guvernatorul BNR.

În aceste videoclipuri, guvernatorul pare să promoveze o platformă de investiții. BNR a declarat că acestea sunt false.

Scamul folosește IA pentru a modifica vocea și imaginea guvernatorului, cu scopul de a induce în eroare publicul pentru a participa la investiții frauduloase, promițând câștiguri financiare rapide și ușoare.

Semne de identificare a unui Deepfake

DNSC menționează că sunt anumite indicii care pot trăda un Deepfake:

• mediul înconjurător (de exemplu, umbre inexistente, reflexii prea puternice, zone neclare)
• imperfecțiuni ale feței (alunițe nerealiste, clipire nesincronizată, distorsiuni în interiorul gurii cum ar fi lipsa dinților și a limbii, dinți mult prea perfecți etc.)
• nesincronizarea vorbirii/sunetului și a mișcării buzelor, de exemplu: din cauza strănutului
• nesincronizarea vorbirii/sunetului și a mișcării buzelor poate fi observată la pronunțarea literelor b, m și p.

Uneori apar pixeli în nuanțe de gri la marginile componentelor modificate.

Se poate distinge dacă este vorba de o falsificare și atunci când persoana din înregistrare este privită dintr -un alt unghi. Dacă pentru crearea conținutului Deepfake nu s-au folosit fotografii ale persoanei din unghiuri diferite, algoritmul nu poate deduce aspectul persoanei din alt unghi, rezultând distorsiuni.

”Protejarea împotriva Deepfake-urilor este o provocare continuă, deoarece tehnologia se perfecționează constant, făcând conținutul manipulat tot mai greu de distins de cel real”, menționează DNSC.

Sfaturi pentru a evita să fii păcălit prin Deepfake

Evitarea înșelăciunii prin Deepfake necesită o combinație de scepticism, atenție la detalii și utilizarea unor instrumente de verificare, potrivit DNSC.

• nu crede tot ce vezi online! Internetul este o sursă vastă de informații, dar nu toate sunt veridice. Este important să dezvolți un scepticism sănătos și să analizezi cu atenție orice conținut video sau foto înainte de a-l accepta ca fiind real
• caută semne de manipulare: Deepfake-urile pot fi foarte sofisticate, dar adesea pot fi identificate prin anumite indicii. Fii atent la discrepanțe de iluminare, erori de aliniere, nereguli ale pielii sau probleme de sincronizare a buzelor cu sunetul.
• verifică sursa: De unde provine videoclipul sau imaginea? Este distribuit pe o platformă de încredere? Caută confirmarea informației din surse credibile sau direct de la entitățile sau persoanele implicate.
• folosește instrumente de verificare: Există numeroase organizații și instrumente online care te pot ajuta să verifici dacă o informație este reală. Utilizează-le pentru a cerceta autenticitatea conținutului suspect.
• nu te baza pe o singură sursă: Caută confirmare din mai multe surse credibile.

Un singur videoclip sau imagine nu este suficient pentru a verifica o informație.

• învață despre Deepfake-uri: Cu cât înțelegi mai bine cum funcționează această tehnologie, cu atât vei fi mai capabil să identifici falsurile. Există multe resurse online care explică principiile Deepfake-urilor și metodele de detectare.

Vezi integral Ghid DNSC depistare Deepfake