Legislatorii UE au convenit asupra termenilor legislației de referință pentru a reglementa inteligența artificială, mergând mai departe cu adoptarea celui mai restrictiv regim din lume privind dezvoltarea tehnologiei.

ChatGPT si OpenAIFoto: Costfoto/NurPhoto / Shutterstock Editorial / Profimedia

Comisarul UE Thierry Breton consideră acordul la care s-a ajuns drept „istoric”.

„UE devine primul continent care a stabilit reguli clare pentru utilizarea inteligenței artificiale”, a scris el. „Legea AI este mult mai mult decât atât – este o rampă de lansare pentru start-up-urile și cercetătorii din UE pentru a fi în fruntea cursei globale a AI.”

Acordul vine după lungi discuții între statele membre și membrii parlamentului european cu privire la modalitățile în care AI ar trebui să fie reglementată, potrivit FT.

Breton a mai spus că legiuitorii au convenit asupra unei abordări pe două niveluri, cu „cerințe de transparență pentru toate modelele de IA de uz general (cum ar fi ChatGPT)”, precum și „cerințe mai stricte pentru modele puternice cu impact sistemic” în întreaga UE.

Breton a spus că regulile vor implementa garanții pentru utilizarea tehnologiei AI, evitând în același timp o „povara excesivă” pentru companii.

Printre noile reguli, legiuitorii au fost de acord cu restricții stricte privind utilizarea tehnologiei de recunoaștere facială, cu excepția unor cazuri strict delimitate.

Legislația include, de asemenea, interdicții privind utilizarea inteligenței artificiale pentru „manipularea comportamentul uman care să eludeze liberul arbitru”.

Utilizarea AI pentru a-i exploata pe cei vulnerabili din cauza vârstei, dizabilității sau situației economice este de asemenea interzisă.

Companiile care nu respectă regulile riscă amenzi de 35 de milioane de euro sau 7% din veniturile globale.

Companiile europene și-au exprimat îngrijorarea că regulile excesiv de restrictive privind tehnologia, care evoluează rapid și au câștigat acțiune după popularizarea ChatGPT de la OpenAI , vor împiedica inovarea. În iunie, unele dintre cele mai mari companii europene, cum ar fi Airbus din Franța și Siemens din Germania, au declarat că regulile, așa cum au fost constituite, sunt prea dure și că împiedică inovația.

Luna trecută, Regatul Unit a găzduit un summit privind siguranța AI , care a dus la angajamente ample din partea a 28 de națiuni de a lucra împreună pentru a aborda riscurile care decurg dintr-o IA avansată. Acest eveniment a atras personalități de top din domeniul tehnologiei, cum ar fi Sam Altman de la OpenAI, care a criticat anterior planurile UE de a reglementa tehnologia.

În final, s-a ajuns astfel la un "acord politic" cu privire la un text ce ar trebui să promoveze inovarea în Europa, limitând în acelaşi timp posibilele abuzuri ale acestor tehnologii foarte avansate, notează AFP și Agerpres.

Procesul a fost afectat la sfârşitul anului trecut de apariţia ChatGPT, generatorul de texte al companiei californiene OpenAI, capabil să scrie disertaţii, poezii sau să facă traduceri în câteva secunde. Acest sistem, ca şi cele capabile să creeze sunete sau imagini, a dezvăluit publicului larg potenţialul imens al IA, dar şi anumite riscuri. Distribuirea pe reţelele de socializare a unor fotografii false a atras atenţia asupra pericolului manipulării opiniei publice.

Acest fenomen de IA generativă a fost integrat în negocierile curente la cererea europarlamentarilor care insistă asupra supravegherii specifice pentru acest tip de tehnologie de mare impact. Ei au cerut în special mai multă transparenţă în ceea ce priveşte algoritmii şi bazele de date gigantice aflate în centrul acestor sisteme.

Acordul politic la care s-a ajuns vineri seara trebuie completat de o muncă tehnică în vederea finalizării textului."Vom analiza cu atenţie compromisul găsit astăzi şi ne vom asigura în următoarele săptămâni că textul păstrează capacitatea Europei de a-şi dezvolta propriile tehnologii de inteligenţă artificială şi îi păstrează autonomia strategică", a răspuns ministrul francez al Digitalului, Jean-Noël Barrot.

Sectorul tehnologiei este unul critic."Viteza pare să fi prevalat asupra calităţii, cu consecinţe potenţial dezastruoase pentru economia europeană", a declarat Daniel Friedlaender, managerul pentru Europa al CCIA, unul din principalele sale lobby-uri. Potrivit acestuia, o "muncă tehnică" este acum "necesară" pentru detalii cruciale.

Nucleul proiectului constă dintr-o listă de reguli impuse doar sistemelor considerate ca având un "risc ridicat", în esenţă cele utilizate în domenii sensibile precum infrastructura critică, educaţia, resursele umane sau aplicarea legii.

Aceste sisteme vor fi supuse unei serii de obligaţii precum asigurarea unui control uman asupra maşinii, întocmirea unei documentaţii tehnice sau chiar stabilirea unui sistem de gestionare a riscurilor.

Legislaţia prevede o supraveghere specifică a sistemelor de IA care interacţionează cu oamenii şi le va obliga să informeze utilizatorul că se află în contact cu o maşină.

Interdicţiile vor fi rare şi vor viza aplicaţii contrare valorilor europene precum evaluarea cetăţenilor sau sistemele de supraveghere în masă utilizate în China, sau chiar identificarea biometrică de la distanţă a persoanelor în locuri publice pentru a evita supravegherea în masă a populaţiei. Referitor la cel din urmă aspect, statele au obţinut însă scutiri pentru anumite misiuni de aplicare a legii, cum ar fi lupta împotriva terorismului.

Spre deosebire de codurile de conduită voluntare ale anumitor ţări, legislaţia europeană va fi dotată cu mijloace de supraveghere şi cu sancţiuni odată cu crearea unui birou european al IA în cadrul Comisiei Europene. Pentru cele mai grave infracţiuni vor putea fi aplicate amenzi de până la 7% din cifra de afaceri, cu un plafon de 35 de milioane de euro.