Update: 14 iulie 2024.
Regulamentul privind Inteligența Artificială a fost publicat în Jurnalul Oficial al Uniunii Europene pe 12 iulie și va intra în vigoare pe 24 august. Mai multe informații în acest articol.
Update 18 martie 2024
Miercuri, 13 martie, Parlamentul European a adoptat Regulamentul privind Inteligența Artificială. Scopul său este de a proteja drepturile fundamentale, democrația, statul de drept și sustenabilitatea mediului de IA cu risc înalt, în timp ce stimulează inovația și stabilește Europa ca lider în domeniu. Regulamentul stabilește obligații pentru IA pe baza riscurilor potențiale și a nivelului de impact. Regulamentul privind IA va intra în vigoare la 20 de zile după publicarea în Jurnalul Oficial al Uniunii Europene și majoritatea dispozițiilor se vor aplica peste 24 de luni de la intrarea în vigoare. Termenul de 24 de luni va fi un „termen de grație” în interiorul căruia dezvoltatorii și utilizatorii de IA și alte terțe părți vor trebui să se conformeze noilor dispoziții europene, în caz contrar riscând amenzi care pot ajunge până la 6% din cifra de afaceri.
Regulamentul privind Inteligența Artificială este o propunere a Comisiei privind crearea unui cadru juridic armonizat în Europa cu privire la reglementarea IA. Comisia propune interzicerea în mod expres a anumitor sisteme IA (de exemplu, roboți ce manipulează și pot produce prejudicii fizice sau psihologice oamenilor sau grupurilor vulnerabile – copii, bătrâni, persoane cu dizabilități sau sisteme IA ce permit evaluarea unui scor social ca în China). Alte propuneri privesc înființarea unor autorități independente de supraveghere a IA în statele membre, obligații stricte pentru sistemele IA cu risc ridicat (cum ar fi cele privind scorul FICO, IA în justiție sau recrutarea prin sisteme IA), obligații de transparență cu privire la chatboți și deepfake, amenzi de până la 6% din cifra de afaceri pentru neconformare.
În expunerea de motive, se arată, printre altele, faptul că este nevoie de un astfel de Regulament pentru a stimula inovarea în domeniul IA și pentru a preveni ingerințele IA în drepturile și libertățile fundamentale ale omului. Regulamentul privind inteligența artificială are, în principiu, următoarele obiective: crearea unui cadru juridic armonizat în Uniunea Europeană privind funcționarea și utilizarea IA, interzicerea unor practici IA cu risc inacceptabil, cerințe specifice pentru IA cu risc ridicat și obligații specifice pentru operatorii acestor sisteme, reguli uniforme de transparență pentru sisteme IA ce interacționează cu persoane fizice, pentru sistemele de recunoaștere a emoțiilor, reguli privind supravegherea și monitorizarea pieței. Propunerea de Regulament se aplică (i) furnizorilor de sisteme IA, indiferent dacă furnizorii sunt stabiliți în Uniune sau în afara Uniunii; (ii) utilizatorilor IA stabiliți în Uniune (persoane fizice sau juridice, autorități, alte organisme); (iii) în anumite condiții, utilizatorilor și furnizorilor IA din state terțe.
Regulamentul privind Inteligența Artificială. Principalele prevederi
Inteligența Artificială: O abordare în funcție de risc
Comisia propune reguli diferite pentru sisteme IA în funcție de gradul de risc pe care respectivul sistem IA îl poate avea pentru siguranța sau drepturile utilizatorilor. Cu toate acestea, toate sisteme IA ce prelucrează seturi de date cu caracter personal trebuie să respecte prevederile RGPD. Însă, sistemele IA cu risc ridicat trebuie să respecte, suplimentar față de dispozițiile RGPD, și alte prevederi în conformitate cu dispozițiile Regulamentului privind IA.
Unele sisteme IA sunt interzise de Regulamentul privind inteligența artificială. Se consideră că un sisteme IA au un risc inacceptabil și prezintă amenințări la adresa siguranței sau drepturilor utilizatorilor. Printre acestea se numără:
- sistemele IA ce manipulează utilizatorul, afectându-i liberul arbitru sau cauzându-i prejudicii fizice sau psihologice;
- sistemele IA ce exploatează grupuri vulnerabile (vârstă sau dizabilitate), afectând liberul arbitru al persoanelor ce aparțin acele grupuri sau cauzându-le prejudicii fizice sau psihologice;
- sisteme IA ce permit guvernelor să evalueze nivelul de încredere al persoanelor fizice utilizând un credit social („social scoring”);
- unele sisteme IA de biometrie.
Unele sisteme IA sunt considerate a avea risc ridicat (de exemplu cele din infrastructuri critice – cum ar fi transporturile, ce ar putea pune în pericol viața și sănătatea cetățenilor, ocuparea forței de muncă – cum ar fi softurile IA de recrutare, sisteme IA privind evaluarea bonității – cum ar fi scorul FICO, inteligența artificială în justiție etc). Regulamentul privind Inteligența Artificială (propunerea Comisiei) precizează că aceste sisteme IA cu risc ridicat trebuie să respecte o serie de obligații, printre care măsuri de reducere a riscurilor, calitatea seturilor de date pentru a reduce la minimum riscurile și rezultatele discriminatorii, informații clare pentru utilizatori, supravegherea umană corespunzătoare.
Sistemele IA ce nu au risc ridicat trebuie să respecte doar anumite obligații specifice ca transparența (de exemplu atenționarea utilizatorului atunci când interacționează cu un robot și nu cu o persoană umană sau atenționarea cu privire la deepfakes).
Sancțiuni și autorități independente de supraveghere
Sancțiunile ajung până la un maxim de 6% din cifra de afaceri sau 30.000.000 EURO pentru punerea în circulație a unor sisteme IA interzise sau pentru nerespectarea condițiilor privind guvernanța și calitatea datelor. Pentru încălcarea celorlalte dispoziții din Regulamentul privind Inteligența Artificială, amenda maximă este 4% din cifra de afaceri sau 20.000.000 EURO. Propunerea prevede și amenzi de până la 2% din cifra de afaceri sau 10.000.000 EURO pentru furnizarea de informații incorecte sau incomplete autorităților de control.
Pentru monitorizarea respectării Regulamentului, în statele membre se propune înființarea unor autorități independente de supraveghere, iar la nivel european, înființarea unui comitet european al inteligenței artificiale.
Atenție! Regulamentul nu se aplică momentan, ci va intra în procedura legislativă ordinară. Dacă va fi adoptat, Regulamentul privind inteligența artificială va fi direct aplicabil în Uniunea Europeană.
