Aplicațiile de Inteligență Artificială au fost împărțite în patru categorii de risc, de la cele care nu au niciun impact asupra vieții private, deci nu vor fi reglementate, până la cele cum ar fi sistemele de „scoring social” care sunt considerate inacceptabile în Uniunea Europeană, a declarat, în cadrul unei întâlniri online din seria HotNews.ro „Meet your MEP”, Dragoș Tudorache, președintele Comisiei privind Inteligența Artificială din Parlamentul European și raportor pentru AI Act.

Dragos TudoracheFoto: Agerpres

Întâlnirea a avut loc joi, de la ora 11.00, și a fost difuzată în direct pe canalele Youtube și Facebook ale Hotnews.ro și StartupCafe.ro. Moderator a fost jurnalistul Gabriel Bejan.

Temele discuției:

• Despre ce vorbim când vorbim despre Inteligența Artificială?
• Cum au fost împărțite tehnologiile de AI în patru categorii de risc și ce presupune fiecare din punct de vedere al reglementării?
• Care sunt „punctele fierbinți” care trebuie reglementate în viitoarea lege a Inteligenței Artificiale? Ce măsuri se vor lua la nivel european pentru ca tehnologiile ce folosesc AI să nu promoveze stereotipurile/ discriminarea etc?
• Cum vrea să stimuleze UE inovația în acest domeniu?
• Cum stă Uniunea Europeană în acest domeniu în competiția cu Asia și Statele Unite?

Cele mai importante idei:

Despre ce vorbim de fapt când vorbim despre Inteligența Artificială?

Dragoș Tudorache:

• Pare foarte sofisticat și de doi ani, de când mă ocup de domeniu, am auzit multe încercări de a defini Inteligența Artificială
• Vorbim despre algoritmi care, alimentați cu date, produc rezultate
• Așa cum în cazul inteligenței umane vorbim despre creier, așa și în cazul AI vorbim despre expunerea unor algoritmi pe o infrastructură, expunerea unor algoritmi la date și fixarea unor obiective
• Pe o parte hrănești datele pe acea cutie neagră, pe cealată parte ai niște date
• E greu de explicat cum reușește un algoritm să producă rezultate. Tocmai de aceea există nevoia de a încadra AI în niște reguli. Nevoia de reglementare a devenit evidentă, cel puțin la nivel european
• Ne-am asumat că vrem să venim cu un cadru de reglementare

Ce face un raportor al PE pentru Legea Inteligenței Artificiale? Ce trebuie să faceți dumneavoastră?

• Mai întâi aș vorbi despre Comisia pentru Inteligență Artificială. Rolul comisiei pe care o prezidez a fost să strângă toți parlamentarii din alte comisii ale PE pe dosare care țin de reglementare digitală, ca să avem ultimele evoluții, studii făcute în acest domeniu, sunt audieri cu reprezentanți ai mediului academic, al societății civile
• Asta, pentru a explora și zonele de consens, de a pregăti cumva negocierile pentru cadrul legislativ
• În ceea ce privește rolul de raportor, voi propune o primă variantă de raport, cu viziunea politică a PE. Acest draft va fi apoi amendat și negociat cu reprezentanții grupurilor politice, iar la final plenul va adopta un mandat de negociere cu care eu apoi mă voi duce către Consiliu (n.r.-Consiliul European) și vom negocia pentru a ajunge la un text final
• Va fi o negociere lungă, este un dosar complex și mă aștept ca spre finalul mandatului să avem un rezultat
• Estimarea de timp este 2 ani

„Cu cât riscul pe care o utilizare specifică a inteligenței artificiale îl poate cauza vieților noastre este mai mare, cu atât reglementarea va fi mai strictă”, a declarat comisarul pentru concurență în aprilie anul trecut pentru a defini baza propunerii Comisiei Europene pentru inteligența artificială. Care sunt cele patru categorii de risc în ceea ce privește AI? Să dăm niște exemple pentru fiecare și să vedem care sunt diferențele în ceea ce privește reglementarea.

• Această abordare a CE, cu împărțirea pe categorii de risc, a fost recomandată inclusiv de către cei care au pregătit dosarul în PE pentru că a fost considerată cea mai bună formă, fără a restrânge foarte mult inovația. Un exemplu: Modul de așezare a unor containere
  
• Trebuie să fim capabili să valorificăm și beneficiile AI
• Pentru a nu restrânge artificial creativitarea și dezvoltarea economică, Comisia a venit cu propunerea de a aborda acest domeniu pe orizontală
• Cel mai de jos nivel e acela în care nu va exista nicio reglementare, nicio limitare de drepturi pentru indivizi
• Următoarea categorie: există totuși un impact al AI, o potențială influență negativă asupra drepturilor individului și atunci trebuie venit cu transparență.
  
• Exemplu: un soft care gestionează traficul urban sau felul în care trece gazul prin țevile din oraș
  
• Astfel de algoritmi vor avea o influență asupra individului, iar atunci vin și explic ce e cu acești algoritmi
• Următorul nivel: risc înalt. Sunt definitive expres aceste situații
• CE a înțeles că a reglementa o tehnologie atât de vie e foarte dificil și riști ca atunci când o adopți să fii deja în spate
• În această categorie sunt menționate aplicații care țin de modul în care se fac recrutările, de exemplu
• Se știe că astfel de platforme discriminau
  

Cum se ajungea la discriminare în recrutarea resursei umane?

• Din cauză că în societate există baze de discriminare adânci, s-au acumulat baze de date care conțin elemente de discriminare
• De exemplu, în bazele de date pentru contabili sunt, istoric, mai mulți bărbați decât femei, mai mulți albi decât oameni de culoare
• Și dacă eu cer AL 5 propuneri de cotabili, acel soft, care lucrează cu acele baze de date, nu va face decât să replice acele elemente de discriminare în rezultatele date
• Tocmai de aceea e nevoie de reguli foarte clare legate de obligațiile pe care le are cel care dezvoltă astfel de soft-uri
• Revenind la nivelurile de risc pentru AI: Al patrulea nivel este vârful piramidei. Aici intră sistemul de scoring social, adică o categorisire socială - ceea ce guverne precum cel chinez face adică împart cetățenii în funcție de comportamentul lor social
• Un soft îmi va da un anumit grad, o notă de comportament social, și în funcție de ea, am sau nu acces la anumite servicii, mi se aprobă sau nu un credit
• Este un exemplu de implicare brutală a unui astfel de algoritm în viața privată, un amestec direct în alegerile pe care le fac și tocmai de aceea, din punctul nostru de vedere, al europenilor și al partenerilor americani, e nevoie de reglementare.
  

Un subiect fierbinte în acest domeniu: tehnologia pentru recunoașterea facială video. 11 state din UE folosesc deja aceste sisteme. Subiectul e controversat: cum se poate garanta că nu se face abuz de acest sistem și se folosește doar în scop legitim?

• Tocmai de aceea se vine cu un regulament la nivel european. Nu va mai putea coexista cu norma europeană o altă normă națională
• CE propune acum, și aici vor fi cele mai lungi dezbateri, să fie interzisă utilizarea recunoașterii tehnologiei biometrice în timp real în spațiul public în alte situații decât cele expres prevăzute - pentru identificarea de victime ale unor infracțiuni. E o interdicție cu o anumită circumstanțiere
• Sunt opinii diferite, în funcții de ideologii - la dreapta eșicherului politic se consideră că astfel de tehnologie trebuie să existe pentru a asigura siguranța cetățeanului, iar eșicherul de stânga consideră că nu ar trebui folosită
• Aici va fi una din marile dezbateri, pentru a găsi un echilibru

Unde se pot plânge cetățenii că au fost discriminați de inteligența artificială?

• Aici va fi o altă discuție - acum se prevede o guvernanță pe două paliere: cea mai mare parte a responsabilității de implementare să revină statelor membre prin autorițățile naționale pe care urmează să le nominalizeze și să le echipeze, imediat după adoptarea regulamentului
• Există și un palier european care adună într-un bord reprezentanții autorităților naționale. Eu consider că o astfel de construcție ar risca să fragmenteze piața europeană și am niște rezerve pe această soluție propusă de CE

La nivel mondial se estimează că 91% din sarcinile legate de prepararea alimentelor vor fi automatizate în următorii 20 de ani. Este doar un exemplu, dar sunt și alte joburi amenințate de AI. Cum protejăm joburile oamenilor de AI?

• Noua lege nu vine cu reguli care să trateze aceste consecințe ale unui salt tehnologic, dar nu înseamnă că acestă chestiune legată de afectarea pieței muncii nu trebuie abordată
• Sigur va fi nevoie de adaptarea unor politici publice de pregătire a forței de muncă pentru aceste modificări
• Dar asta nu e o chestiune nouă. Anumite tipuri de muncă repetitivă vor fi scoase din uz de un soft
• E o preocupare cât se poate de legitimă și e o responsabilitate foarte mare și pentru guvernele naționale să găsească soluții
• Dar trebuie să înțelegem că anumite profesii dispar, așa cum s-a întâmplat și în istorie. Alte profesii nu vor dispărea, dar se vor modifica
• Ceea ce va face această nouă revoluție industrială va fi să usureze munca - un soft s-ar putea să facă în 2 secunde ce noi făceam după ce trebuia să studiem întreaga arhivă pentru a face un contract, de exemplu
• Asta înseamnă că profesia se modifică și îmi optimizează mult timpul
• Vor apărea alte multe profesii, inclusiv unele repetitive
• În această nouă paradigmă, în care economia va avea în spate AI, trebuie să se reflecte și politica în domeniul educației
• Guvernele trebuie să se gândească foarte serios cum adaptează programe, pentru ca copiii să fie pregătiți cu noi competențe de a intra într-o piață a muncii schimbată
• Asta trebuie făcut pentru ca AI să nu lase întregi profesii în spate
• Această tehnologie are un impact profund asupra modului în care eu, ca cetățean, îmi voi petrece viața
• E clar să trebuie să investim în continuare pentru a explica cât mai mult ce este AI
• Abordarea potrivită este de a pune reguli, de a explica, încercând să nu frânăm creativitatea. Doar așa se poate ține și societatea alături, așa poată fi dată încrederea societății în această tehnologie
  
  Noi am avut un sondaj pe site, legat de acest subiect, „Inteligența Artificială: cum credeți că ne va afecta?”și răspunsurile au fost cam așa: 31% au spus că ne va ușura viața, 35%- riscurile depășesc beneficiile, 12%- nu știm la ce să ne așteptăm, iar 24%- ne jucăm cu focul. Ce părere aveți despre aceste rezultate, sigur, nereprezentative, și, în general, ce feedback aveți de la cetățeni pe acest subiect?
  
  Mi se pare că cifrele pe care le aveți în acest moment reflectă foarte bine ceea ce se întâmplă în societate. Și nu doar în societatea românească, ci și la nivel european și chiar în societatea americană.
  
  Ce vreau să spun: există în continuare o lipsă de informație suficientă cu privire la ce înseamnă Inteligența Artificială care este impactul asupra societății în principal asupra lucrurile importante pentru oameni. iar exemplul cel mai bun este subiectul dinainte: cum îmi impactează profesia.
  
  Această AI, dincolo de mituri cu Armagedon și ce vedem prin filme, provoacă rezerve cât se poate de legitime legate de lipsa de transparență a produselor care folosesc acești algoritmi.
  
  Dacă mă duc într-o bancă și cer un credit sau la o companie de asigurări și vreau să închei o asigurare și constat că mi se respinge cererea sau am fost pus într-o categorie de risc care mie mi se pare inacceptabilă și întreb și mi se spune că așa a scos calculatorul- lucrul acesta chiar se întâmplă, foarte multe bănci folosesc algoritmii pentru a-i ajuta să ia decizii- atunci eu, ca și consumator vreau să știu cum anume funcționează acel algoritm, care au fost obiectivele celui care a făcut designul acelui algoritm, care au fost criteriile.
  
  Acolo pot găsi dacă au fost elemente care să mă discrimineze pe mine.
  
  Da, această tehnologie are un impact profund asupra mea și atunci rezerva este cât se poate de firească.
  
  E clar că trebuie să investim în continuare în a explica cât mai mult.

Participă la sondajul interactiv Hotnews: