Atacatorii pot imita perfect vocea unei persoane dragi pentru a vă păcăli și a vă fura banii prin intermediul tehnologiei Deepfake, atenționează luni Directoratul Național de Securitate Cibernetică (DNSC), care a lansat un ghid despre cum să identifici și să te aperi de acest fenomen. În acest an, o pensionară din Vaslui a pierdut 52.000 de lei, iar în 2019, un Deepfake audio a fost folosit pentru a înșela directorul general al unei companii din Marea Britanie cu 220.000 de euro.

deepfakeFoto: Shutterstock

Pericolul Deepfake: Tehnologia poate fi folosită în fraude sau manipularea opiniei publice

Tehnologia Deepfake utilizează tehnici avansate de Inteligență Artificială pentru a crea conținut de tip imagini sau audio-video falsificat, care poate fi folosit în tentative de fraudă, cum ar fi falsificarea identității în apeluri telefonice sau video pentru a obține acces neautorizat la informații sau resurse financiare.

  • „Un exemplu: Există multiple cazuri în care un videoclip cu o personalitate publică oferă sfaturi financiare. În acest videoclip, persoana recomandă insistent investiția într-o anumită companie sau afacere, promițând profituri mari și riscuri minime.
  • Detaliile contează: Videoclipul este realizat profesional, cu o calitate a imaginii și sunetului ridicată. Persoana publică pare sinceră și convingătoare, folosind un limbaj accesibil și argumente persuasive.
  • Scopul campaniei: Un astfel de Deepfake ar putea fi folosit pentru a manipula populația să investească într-o afacere ilicită (scam1), deținută sau controlată de manipulatori. Impact: Videoclipul este distribuit rapid pe rețelele de socializare, cu un potențial uriaș de a fi vizionat de milioane de oameni. Mulți dintre cei care văd videoclipul ar putea fi convinși să investească în afacerea recomandată, riscând ulterior să piardă sume semnificative de bani”, atenționează DNSC.

Tehnologia Deepfake poate fi folosită pentru a crea înregistrări false care implică persoane în activități pe care nu le-au realizat sau pentru a produce dovezi false în contexte juridice.

De asemenea, poate fi utilizată în tentative de fraudă, cum ar fi falsificarea identității în apeluri telefonice sau video pentru a obține acces neautorizat la informații sau resurse financiare.

În politică și în alte domenii, Deepfake-urile pot fi folosite pentru a manipula opinia publică, a discredita adversarii sau a crea confuzie. Acestea pot influența alegerile, relațiile internaționale și pot alimenta teorii ale conspirației.

Exemple reale de utilizare a Deepfake: Conținut fals cu Isărescu și oameni care au pierdut bani

DNSC amintește că Banca Națională a României (BNR) a avertizat publicul recent cu privire la o schemă de înșelăciune care implică utilizarea tehnologiei Deepfake pentru a crea videoclipuri false cu guvernatorul BNR.

În aceste videocli-puri, guvernatorul pare să promoveze o platformă de investiții, însă BNR a declarat că acestea sunt false. Scamul folosește IA pentru a modifica vocea și imaginea guvernatorului, cu scopul de a induce în eroare publicul pentru a participa la investiții frauduloase, promițând câștiguri financiare rapide și ușoare.

Un alt caz este cel al unei femei pensionare din Vaslui, care a fost victima unei escrocherii postată online pe platforma YouTube. Escrocii au creat un videoclip fals în care un cunoscut bancher și alte personalități cunoscute recomandau o platformă de investiții.

Promisiunea unor profituri rapide a convins pensionara să investească suma de 52.000 de lei, economii strânse în 20 de ani de muncă. Chiar dacă femeia a raportat această fraudă autorităților, experții consideră că șansele de recuperare a fondurilor pierdute sunt minime.

„Actorii rău intenționați devin tot mai inventivi. Acum pot imita perfect vocea unei persoane dragi pentru a vă păcăli. Te pot suna pretinzând că sunt un membru al familiei care are nevoie urgentă de bani. Recomandăm ca întotdeauna să fie verificată identitatea apelantului, chiar dacă pare să fie o rudă sau un prieten cunoscut. Nu trimite niciodată bani în grabă și anunță imediat autoritățile dacă ai suspiciuni. Doar prin vigilență și informare te poți proteja de această formă de fraudă”, avertizează DNSC.

În 2019, un Deepfake audio a fost folosit pentru a înșela un CEO cu 220.000 de euro.

  • „Directorul general al unei firme de energie cu sediul în Marea Britanie a crezut că vorbea la telefon cu directorul general al companiei-mamă germane atunci când a urmat ordinele de a transfera imediat 220.000 de euro în contul bancar al unui furnizor maghiar. De fapt, vocea aparținea unui escroc care folosea tehnologia vocală IA pentru a-l imita pe directorul executiv german”, spune DNSC.

Pericolul Deepfake în contextul electoral

Tehnologiile Deepfake, capabile a sintetiza realist imagini și voci , pot influența semnificativ opinia și votul alegătorilor în timpul campaniilor electorale.

  • „Reputația unui politician poate fi grav afectată de videoclipuri Deepfake fabricate, care pot discredita imaginea sa și pot deteriora șansele de a câștiga alegerile. Răspândirea dezinformării prin Deepfake poate manipula percepția publică asupra caracterului și programului politicianului, afectând negativ cariera sa politică.
  • Deepfake poate fi utilizat ca instrument strategic pentru a discredita partidele rivale, prin crearea de materiale false care să le prezinte într-o postură negativă”,se arată în ghidul DNSC.

Cum poți identifica un deepfake: Nesincronizarea vorbirii/sunetului și a mișcării buzelor la pronunțarea literelor b, m și p

Experții DNSC spun că există anumite indicii care pot trăda un Deepfake, iată la ce anume trebuie să fim atenți:

  • Mediul înconjurător (de exemplu, umbre inexistente, reflexii prea puternice, zone neclare)
  • Imperfecțiuni ale feței (alunițe nerealiste, clipire nesincronizată, distorsiuni în interiorul gurii cum ar fi lipsa dinților și a limbii, dinți mult prea perfecți etc.)
  • Nesincronizarea vorbirii/sunetului și a mișcării buzelor, de exemplu: din cauza strănutului.

„Nesincronizarea vorbirii/sunetului și a mișcării buzelor poate fi observată la pronunțarea literelor b, m și p. Uneori apar pixeli în nuanțe de gri la marginile componentelor modificate. Se poate distinge dacă este vorba de o falsificare și atunci când persoana din înregistrare este privită dintr-un alt unghi. Dacă pentru crearea conținutului Deepfake nu s-au folosit fotografii ale persoanei din unghiuri diferite, algoritmul nu poate deduce aspectul persoanei din alt unghi, rezultând distorsiuni”, spune DNSC.

Sfaturi pentru a evita să fii păcălit de Deepfake-uri

Evitarea înșelăciunii prin Deepfake necesită o combinație de scepticism sănătos, atenție la detalii și utilizarea unor instrumente de verificare. Iată câteva sfaturi utile:

  • Nu crede tot ce vezi online! Internetul este o sursă vastă de informații, dar nu toate sunt veridice. Este important să dezvolți un scepticism sănătos și să analizezi cu atenție orice conținut video sau foto înainte de a-l accepta ca fiind real.
  • Caută semne de manipulare: Deepfake-urile pot fi foarte sofisticate, dar adesea pot fi identificate prin anumite indicii. Fii atent la discrepanțe de iluminare, erori de aliniere, nereguli ale pielii sau probleme de sincronizare a buzelor cu sunetul.
  • Verifică sursa: De unde provine videoclipul sau imaginea? Este distribuit pe o platformă de încredere? Caută confirmarea informației din surse credibile sau direct de la entitățile sau persoanele implicate.
  • Folosește instrumente de verificare: Există numeroase organizații și instru-mente online care te pot ajuta să verifici dacă o informație este reală. Utili-zează-le pentru a cerceta autenticitatea conținutului suspect.
  • Nu te baza pe o singură sursă: Caută confirmare din mai multe surse credibile. Un singur videoclip sau imagine nu este suficient pentru a verifica o informație.
  • Învață despre Deepfake-uri: Cu cât înțelegi mai bine cum funcționează această tehnologie, cu atât vei fi mai capabil să identifici falsurile. Există multe resurse online care explică principiile Deepfake-urilor și metodele de detectare.

Prin aplicarea acestor sfaturi, poți reduce riscul de a fi înșelat de conținutul Deepfake și poți contribui la promovarea unei culturi a verificării și a responsabilității în mediul online.

Ce să faci dacă ești victima unui Deepfake

Dacă te afli în situația neplăcută de a fi victima unui Deepfake, este important să acționezi rapid și eficient pentru a minimiza daunele. Iată câțiva pași pe care îi poți urma:

  • Documentează abuzul: Salvează copii ale conținutului Deepfake, inclusiv URL-uri, capturi de ecran, sau orice altă formă de dovezi care ar putea fi relevante. Acest lucru este esențial pentru orice demersuri legale sau raportări ulterioare.
  • Raportează conținutul: Majoritatea platformelor de socializare și site-urilor web au politici stricte împotriva Deepfake-urilor și a conținutului manipulat. Utilizatorii pot semnala cu ușurință conținutul suspect folosind funcția de raportare integrată a platformei.
  • Contactează autoritățile: În cazuri grave, unde conținutul Deepfake încalcă legile privind defăimarea, hărțuirea sau distribuția de materiale pornografice fără consimțământ, poate fi necesar să contactezi autoritățile locale sau alte organisme de aplicare a legii.
  • Solicită ajutor juridic: Consultă un avocat pentru a evalua opțiunile legale disponibile pentru tine. Aceasta poate include acțiuni legale împotriva celor care au creat sau distribuit conținutul Deepfake.
  • Folosește servicii de gestionare a reputației online: Există companii specializate în îmbunătățirea prezenței online și în eliminarea sau diminuarea impactului conținutului negativ. Aceste servicii pot fi utile pentru a-ți proteja imaginea pe termen lung.
  • Comunică cu transparență: Dacă Deepfake-ul are potențialul de a-ți afecta cariera sau relațiile personale, ia în considerare să vorbești deschis despre situație cu angajatorul, colegii sau persoanele apropiate. Oferirea contextului și a versiunii tale poate ajuta la diminuarea impactului negativ.
  • Protejează-ți informațiile personale: În urma unui incident Deepfake, este important să fii mai precaut în ceea ce privește securitatea online. Verifică setările de confidențialitate pe rețelele sociale, schimbă parolele și monitorizează activitatea conturilor tale pentru semne de acces neautorizat.
  • Suport emoțional: Trauma psihologică suferită de victima unui Deepfake poate fi semnificativă. Nu ezita să cauți sprijin din partea prietenilor, familiei sau a profesioniștilor în sănătate mintală.
  • Educație și conștientizare: Ajută la creșterea gradului de conștientizare despre pericolele Deepfake-urilor prin împărtășirea experienței tale, dacă te simți confortabil. Acest lucru poate ajuta la informarea și protejarea altora.

Pentru detalii citește și: Isărescu l-a raportat pe „Isărescu” lui Zuckerberg pentru deepfake / Răspunsul Meta: Sunt respectate standardele comunității