Nouă organizații civice atrag atenția asupra proiectului de lege care prevede combaterea fenomenului deepfake și care intră luni în dezbaterea Camerei Deputaților. ONG-urile, între care Active Watch, consideră că acest proiect este mai apropiat de „modelul chinezesc” decât de cel european și cer deputaților să nu îl voteze în forma actuală, argumentând că conține prevederi periculoase, precum sancțiuni cu închisoarea de la 6 luni la 2 ani pentru „crearea/ realizarea conţinutului de tip deepfake”: „Nu există niciun fel de excepţii prin care să fie protejate forme ale libertăţii de exprimare, cum ar fi utilizarea în scop de pamflet sau artistic a conţinutului de tip deepfake sau în producţii comerciale (reclame) sau în industria cinematografică, așa cum deja se întâmpla în practică și cum prevede legislația europeană ce urmează a intra în vigoare”.

DeepfakeFoto: Stu Gray / Alamy / Alamy / Profimedia

Camera Deputaților are luni pe ordinea de zi a plenului, în calitate de cameră decizională, un proiect de lege care are ca scop combaterea fenomenului deepfake, iar un grup de organizații cu expertiză în domeniul Internetului și al mass-media critică acest proiect, pe care îl consideră mai apropiat de modelul chinezesc, decât de cel european, și cer deputaților, printr-o scrisoare transmisă azi, să nu îl voteze în forma sa actuală, „flagrant deficitară”.

„Modelul de reglementare pe care deputaţii care au amendat proiectul au ales să-l urmeze este cel al Chinei”

Organizațiile arată că textul legii conține prevederi periculoase, cum ar fi sancțiuni cu închisoarea pentru crearea de conținut deepfake, iar conținut perfect legal, cum ar fi cel protejat de exercitarea dreptului la libertatea de exprimare, ar intra sub incidență penală, ceea ce ar reprezenta o încălcare a acestui drept fundamental. În plus, textul conține o serie de neclarități și termeni/ exprimări care arată o înțelegere superficială a fenomenului ce se dorește a fi reglementat. De asemenea, proiectul nu ține cont de faptul că în acest moment instituțiile europene aproape au finalizat Artificial Intelligence Act (Regulamentul Inteligenţei Artificiale), arată cele nouă organizații semnatere ale scrisorii către deputați.

  • „O inițiativă poate necesară, care răspunde unor realități sociale și unor provocări complexe generate de noile tehnologii, dar care a fost făcută fără a ține cont de legislația europeană relevantă în domeniu, care va intra în vigoare curând, și fără consultarea experţilor sau a societăţii civile.
  • Astfel, din păcate, modelul de reglementare pe care deputaţii, care au amendat proiectul, au ales să-l urmeze este cel al Chinei, un stat autoritar, în care puterea politică foloseşte tehnologia pentru a controla populaţia şi pentru a limita drepturile cetăţeneşti”, spun ONG-urile semnatare.

Proiectul de lege a fost adoptat în 2023 de Senat, dar într-o variantă care nu conținea pedepse cu închisoarea. În forma sa actuală, textul legii conține sancțiuni cu închisoarea de la 6 luni la 2 ani pentru “crearea/ realizarea conţinutului de tip deepfake”. Distribuirea de conţinut deepfake va fi sancţionată cu 60-180 de zile amendă.

Organizațiile civice atrag atenția că nu există niciun fel de excepţii prin care să fie protejate forme ale libertăţii de exprimare, cum ar fi utilizarea în scop de pamflet sau artistic a conţinutului de tip deepfake sau în producţii comerciale (reclame) sau în industria cinematografică, așa cum deja se întâmpla în practică și cum prevede legislația europeană ce urmează a intra în vigoare.

În plus, ONG-urile spun că textul conține o serie de neclarități și termeni/ exprimări care arată o înțelegere superficială a fenomenului ce se dorește a fi reglementat, aşa cum reiese şi din punctele de vedere exprimate de Consiliul Legislativ şi Consiliul Naţional al Audiovizualului:

  • „De exemplu, proiectul de lege impune creatorilor de conţinut deepfake obligaţia ca acesta să fie marcat un avertisment redat pe cel puţin 10% din suprafața expunerii și pe toată durata difuzării respectivului conținut vizual sau de un mesaj sonor la începutul şi la finalul conținutului audio: „Acest material conține ipostaze imaginare”. Însă ceea ce ignoră textul de lege este că 10% dintr-o imagine poate fi manipulată astfel încât acea parte să nu fie vizibilă, de facto, deci un creator malițios poate susține că a respectat legea, în timp ce, de fapt, el continuă să înșele publicul.
  • În plus, așa cum este formulat textul de lege propus, rezultă că orice material #deepfake poate fi folosit oriunde în mod legal, chiar dacă este “malițios” și ar “produce haos informațional”, dacă este marcat conform legii. Mai mult, noile sancțiuni penale introduse de lege sunt, în fapt, mai blânde decât cele deja existente și pe baza cărora ar putea fi sancționat penal creatorul unui conținut cu adevărat ilegal.
  • Din păcate însă, conținut perfect legal, cum ar fi cel protejat de exercitarea dreptului la libertatea de exprimare, ar intra sub incidență penală, ceea ce ar reprezenta o încălcare a acestui drept fundamental, așa cum este el consfințit de Constituția României, Carta Drepturilor Fundamentale a Uniunii Europene și de Convenția Europeană a Drepturilor Omului.
  • De asemenea, textul de lege nu ține cont de faptul că în acest moment instituțiile europene aproape au finalizat Artificial Intelligence Act (Regulamentul Inteligenţei Artificiale), având un acord politic pe text, iniţiativă demarată în 2021 și dezbătută timp de peste 3 ani, și al cărui text final va fi curând publicat în Jurnalul Oficial al UE”.

Organizaţiile semnatare solicită Parlamentului să respingă acest proiect de lege,„ flagrant deficitar în forma sa actuală” și, în mod special, să fie noile infracțiuni introduse prin acest proiect de lege.

Având în vedere provocările generate de noile tehnologii şi riscurile majore pe care dezinformarea le are asupra societăţilor democratice, organizaţiile semnatare consideră că un nou proiect de lege va trebui să țină cont de forma finală a Regulamentul Inteligenței Artificiale ce va fi adoptată la nivelul Uniunii Europene, de cadrul legislativ existent (ex. Art. 362 din Codul Penal - Alterarea integrității datelor informatice), de comentariile transmise de Consiliul Legislativ şi de Consiliul Național al Audiovizualului.

Ce prevede proiectul de lege privind combaterea fenomenului deepfake

Actul normativ reglementează realizarea, difuzarea în mass-media, precum şi distribuirea pe platforme online a oricărui conținut vizual şi/sau audio generat sau manipulat, prin utilizarea tehnologiei în contextul fenomenului deepfake, cu scopul inducerii în eroare a opiniei publice cu privire la autenticitatea mesajului transmis.

Ce prevede actul normativ:

Art 2: Termenii și expresiile de mai jos au următoarele semnificații:

a) deepfake – orice conținut de tip imagine, audio și/sau video realizat de regulă cu ajutorul inteligenței artificiale sau realității virtuale, astfel încât să creeze aparența că o persoană a spus sau a făcut lucruri care în realitate nu au fost spuse sau făcute de acea persoană;

b) utilizarea malițioasă a tehnologiei - acțiunea intenționată de inducere în eroare, cu scopul de a crea dezinformare și/sau haos informațional prin manipularea comportamentului uman și/sau exploatarea vulnerabilităților.

Art. 3: Utilizarea malițioasă a tehnologiei prin realizarea, difuzarea în mass-media, precum și distribuirea pe platforme online de conținut tip deepfake este interzisă dacă acel conținut nu este însoțit de un avertisment redat pe cel puţin 10% din suprafața expunerii şi pe toată durata difuzării respectivului conținut vizual sau de un mesaj sonor la începutul şi la finalul conținutului audio: „Acest material conține ipostaze imaginare”.

Art 4: Consiliul Național al Audiovizualului verifică dacă sunt încălcate dispozițiile art.3 în urma sesizării acestuia sau în urma sesizării din oficiu.

În cazul în care constată nerespectarea dispozițiilor prezentei legi, Consiliul Național al Audiovizualului solicită platformei online să suspende provizoriu distribuirea materialului în cauză. Suspendarea va fi menținută sau ridicată prin hotărârea instanței judecătorești competente a se pronunța dacă a fost săvârșită o infracțiune.

Art. 5: (1) Încălcarea prevederilor art.3 constituie infracțiune și se sancționează după cum urmează:

a) crearea/realizarea conținutului tip deepfake se pedepsește cu închisoare de la 6 luni la 2 ani;

b) difuzarea/distribuirea conținutului tip deepfake, cunoscând natura falsă a conținutului se pedepsește cu amendă între 60 şi 180 de zile -amendă.

(2) Instanța care constată săvârșirea infracțiunii potrivit alin.(1) se pronunță și asupra menținerii sau a ridicării suspendării conținutului de tip deepfake de pe platforma online.

Art.6: În termen de maxim 60 de zile de la data intrării în vigoare a prezentei legi, Consiliul Național al Audiovizualului inființează o structură responsabilă de aplicarea prevederilor prezentei legi.