Explozie de deepfake-uri în România: creștere de 1.766% în 2023. Suntem în Top 10 țări cu cea mai mare creștere din lume

Ce este și mai îngrijorător este că România apare în topul țărilor în care fenomenul a avut cea mai mare creștere în 2023 față de 2022. Numărul de tentative de fraudă folosind această tehnologie a crescut cu 1.766% la noi în țară, a opta cea mai mare creștere din lume și a doua din Europa, potrivit celui mai recent raport anual al furnizorului de servicii de verificare a identității Sumsub.

Cea mai mare creștere a numărul tentativelor de fraudă a fost în Filipine (4.500%), urmată de țări precum Vietnam (3.050%), Statele Unite (3.000%), Japonia (2.800%), Belgia (2.950%), Sri Lanka (2.400%) și UAE și Australia (fiecare cu 2.200%). Urmează România, apoi Slovacia (1.500%), Polonia (1.450%) și Africa de Sud, care încheie Top 10, cu un avans de 1.200%.

Șarlatanii se adaptează rapid la progresele tehnologice, iar inteligența artificială nu face excepție. Deepfake-urile, una dintre cele mai celebre ramificații ale AI, exemplifică modul în care această tehnologie poate fi folosită în scopuri periculoase.

Deepfake-urile utilizează algoritmi de inteligență artificială pentru a crea videoclipuri, înregistrări audio sau documente hiperrealiste, ceea ce face dificilă distincția între conținutul autentic și cel fabricat.

„Ascensiunea inteligenței artificiale remodelează modul în care este comisă și prevenită frauda. Inteligența artificială servește ca un instrument puternic atât pentru furnizorii de soluții antifraudă, cât și pentru cei care comit furturi de identitate. Statisticile noastre interne arată o creștere alarmantă de zece ori a numărului de deep fake-uri generate de AI în toate industriile din 2022 până în 2023. Deepfake-urile deschid calea pentru furtul de identitate, escrocherii și campanii de dezinformare la o scară fără precedent”, spune Pavel Goldman-Kalaydin, șeful departamentului de inteligență artificială și învățare automată de la Sumsub, în raportul menționat anterior.

Sectorul cripto se află în fruntea absolută a cazurilor deepfake-urilor la nivel global (87,7%), urmat de fintech (7,7%). Natura digitalizată a sectorului, potențialul pentru câștiguri financiare semnificative și lipsa de reglementări creează vulnerabilități pe care escrocii le exploatează.

Viitorul deepfake: o provocare globală

Având în vedere că noile capacități ale așa-numitei inteligențe artificiale ar putea crește și mai mult, așa cum o demonstrează produse precum generatorul video AI Sora, tentativele de fraudă deepfake s-ar putea extinde și în alte domenii, atrag atenția autorii studiului. „Am văzut cum deepfakes au devenit din ce în ce mai convingătoare în ultimii ani, iar acest lucru va continua și se va ramifica în noi tipuri de fraudă, așa cum s-a văzut în cazul deepfakes-urilor vocale”, continuă Pavel Goldman-Kalaydin. „Atât consumatorii, cât și companiile trebuie să rămână hipervigilenți la fraudele sintetice și să se orienteze către soluții antifraudă pe mai multe niveluri, nu doar către detectarea deepfake-urilor.”

Uniunea Europeană încearcă să abordeze problema deepfake-urilor prin diferite politici. Cu toate acestea, încă lipsește o abordare unică care să vizeze exclusiv reglementarea deepfake-urilor, așa cum face China. Abordarea proactivă și generalistă a UE în rezolvarea problemelor legate de deepfake-uri a fost documentată într-un raport produs de Parlamentul European.

Ce face România

România, de asemenea, încearcă să îngrădească fenomenul. O lege în acest sens trebuia votată în urmă cu o lună, dar votul a fost amânat. Proiectul de lege a fost întors la comisiile de specialitate. Potrivit ministrul Cercetării, Inovării şi Digitalizării, Bogdan-Gruia Ivan, cei care creează astfel de conţinut, fără să scrie explicit pe cel puţin 15% din suprafaţa clipului video sau a fotografiei că este un clip video artificial generat de un soft de inteligenţă artificială generativă, riscă inclusiv închisoare până la doi ani (…). Cei care fac riscă – pe lângă amenzi – inclusiv închisoare. Cei care distribuie un astfel de conţinut, ştiind că este unul care nu reflectă realitatea, riscă să fie amendaţi cu sume între 600 de lei şi 90.000 de lei

Raportul oferă o analiză cuprinzătoare a fraudei de identitate în toate industriile și regiunile pe baza a milioane de verificări în 28 de industrii din 224 de țări și teritorii și a peste 2.000.000 de cazuri de fraudă în perioada 2022-2023.