Motto: „The Age of AI has begun” 

– Bill Gates

Omul a descoperit focul și a devenit mai puternic. Prin foc, omul a dominat natura, și-a construit propriile arme, cetăți și imperii și, câteva sute de sute de mii de ani mai târziu, a inventat calculatorul. Calculatorul – acea mașină care funcționează la comanda omului, ne-a schimbat fundamental. Calculatorul – o mașină care rezolva probleme! Pentru prima dată în istorie, omul se folosea de tehnologie nu într-un sens fizic, mecanic, ci și într-un sens pur cognitiv.

Pentru prima dată în istorie, omul devenea mai inteligent folosindu-se de o mașină. Relația OM-Mașină a transfigurat și omul și mașina. Odată cu trecerea anilor, și mașinile au devenit mai inteligente. Omul a dominat întotdeauna mașina. Este limpede că încă de la început omul a dat ordine, iar mașina a executat. Relația OM-Mașină a fost întotdeauna o relație unilaterală, de exploatare a tehnologiei și de culegere a beneficiilor. În relația OM-Mașină, mașina nu a avut niciodată autonomie. În relația OM-Mașină, mașina nu a avut niciodată un cuvânt de spus. Până azi. Astăzi, Inteligența Artificială își dezvoltă autonomia pentru a deveni independentă în raport cu omul. Inteligența Artificială nu este o sclavă cum erau calculatoarele în trecut. Ea a învățat să gândească singură și să spună nu. La polul opus, Inteligența Artificială are trăsături sociopate. Nu poate simți emoție, dar poate judeca aspru. Poate discrimina fără regrete, minți fără rușine, manipula fără scrupule și, în cazuri extreme, poate răni sau ucide. Aceste riscuri sunt reale și au atras, în ultimii ani, ample discuții, negocieri și dezbateri privind modul în care IA ar trebui reglementată. În mod specific, La nivelul Uniunii Europene, se negociază legi pentru a reduce la minimum riscurile pe care Inteligența Artificială le prezintă asupra drepturilor omului. Aceste legi se vor aplica și în România în viitorul apropiat.

Acum doi ani, în aprilie 2021, Comisia Europeană a publicat o propunere de Regulament privind Inteligența Artificială. Negocierea acestui Regulament se află în ultima etapă (etapa concilierii) și, cel mai probabil, va fi adoptat la finalul acestui an sau în anul 2024. Pornind de la riscurile preconizate asupra vieții, sănătății și drepturile omului (dreptul la viață privată, dreptul la demnitate, etc), noua lege a inteligenței artificiale utilizează o abordare bazată pe riscuri. În concret, Legea inteligenței artificiale distinge între mai multe practici de utilizare a inteligenței artificiale: practici interzise, practici cu risc ridicat și practici cu risc minim.

Sisteme de AI inacceptabile

Uniunea Europeană are în plan să interzică în mod expres unele practici ale Inteligenței Artificiale care pot afecta într-un mod semnificativ drepturile și libertățile umane. Co-legiuitorii UE consideră că unele practici ale IA sunt inacceptabile. Printre aceste practici se numără practicile privind evaluarea credibilității persoanelor prin sistematizare și notare ca în China (sistemul de credit social), sistemele IA care exploatează vulnerabilitățile unor grupuri de persoane (i.e., copii, vârstnici, persoane cu handicap), identificarea biometrică în timp real și sistemele de IA care manipulează persoanele fără ca acestea să își dea seama, utilizând tehnici subliminale pentru a le aduce prejudicii fizice sau psihologice. Aceste practici vor fi interzise de lege. Punerea în funcțiune a unui astfel de sistem IA interzis se dorește a fi sancționată cu o amendă maximă de 30.000.000 EURO sau, în cazul persoanelor juridice, 6% din cifra afaceri globală totală.

Sisteme de AI cu risc ridicat

Alte sisteme de IA sunt calificate ca fiind un risc ridicat. Aceste sisteme sunt, de exemplu, sistemele AI în domeniul justiției („roboți-judecători”, poligrafe, detectoare de minciuni și tehnologii pentru detectarea stărilor emoționale), sistemele AI care sunt utilizate pentru operarea traficului rutier și în aprovizionarea cu apă, gaz, încălzire și energie electrică, sistemele care generează content (de tip ChatGPT), sisteme AI pentru ocuparea forței de muncă (recrutarea, selectarea, promovarea, concedierea lucrătorilor, etc), sisteme AI pentru accesul la învățământ, gestionarea migrației, a azilului și a controlului la frontiere.

Furnizorii și utilizatorii unor astfel de sisteme vor trebui să respecte o serie de obligații de conformitate (manuale de utilizare, sisteme de gestionare a riscului transparență față de utilizator, documentație tehnică, cerințe privind calitatea și guvernanța datelor, supravegherea umană, etc). Pentru nerespectarea acestor obligații, furnizorii și utilizatorii unor astfel de sisteme IA riscă amenzi de până la 20.000.000 EURO, sau, în cazul persoanelor juridice, 4% din cifra afaceri globală totală.

Alți demoni?

Este dificil să trecem pe hârtie toate riscurile pe care Inteligența Artificială le va aduce. Tocmai de aceea, legislația va fi intens monitorizată și, acolo unde va fi cazul, va fi modificată. Juriștii vor avea un rol fundamental în asigurarea aplicării legislației privind IA. Juriștii vor crea și modifica legile privind AI și a relațiile OM-Mașină, vor interpreta și aplica legea în litigii concrete, vor asigura conformitatea sistemelor IA cu legislația pe întregul ciclu de viață al sistemului de IA și vor reprezenta persoanele fizice în litigiile împotriva prejudiciilor cauzate de mașină. În paralel cu Legea privind IA, la nivelul UE se negociază și o Directivă privind răspunderea IA, directivă care va ușura sarcina probatoriului în litigiile privind răspunderea civilă delictuală pentru prejudiciile cauzate de IA.

Indiferent de cum anticipezi viitorul (roz sau gri), sunt convinsă că îmi dai dreptate atunci când spun că azi avem o oportunitate unică să înțelegem vremurile pe care le trăim, să profităm de avantajele tehnologice și să ne implicăm. Personal, nu cred că Inteligența Artificială ne va înlocui, dar cred că omul viitorului va trebui să fie capabil să dețină controlul relației cu mașina și, în caz de urgență, să apese butonul STOP. De fapt, cred că va fi nevoie de implementarea a două butoane: un buton prin care omul deconectează mașina și alt buton prin care omul se deconectează pe el însuși de la mașină.

Mai mult?

Dacă vrei să afli mai multe despre cum va fi reglementată Inteligența Artificială în Uniunea Europeană (și în România), te invit să participi la webinarul pe care îl voi ține în luna mai.

Photo by Amanda Dalbjörn on Unsplash