Auzim tot mai frecvent de Actul privind Inteligența Artificială, de sancțiunile de până la 7% din cifra de afaceri, de obligațiile operatorilor de sisteme IA și de guvernanța IA. Înainte de toate, este important să definim ce înseamnă, de fapt, un sistem IA conform legislației. În cadrul webinariilor pe care le organizez în domeniul Actului IA, explic întotdeauna participanților că unul dintre primii pași în procesul de conformare la AI Act este identificarea tuturor sistemelor IA care cad sub incidența legislației. Este utilă o astfel de identificare pentru a nu ajunge în situația în care implementezi AI Act pentru sisteme AI care nu cad sub incidența actului IA.
Ce este un sistem IA?
Sistemul IA este definit de art. 3 alin. (1) Actul IA ca „un sistem bazat pe o mașină care este conceput să funcționeze cu diferite niveluri de autonomie și care poate prezenta adaptabilitate după implementare, și care, urmărind obiective explicite sau implicite, deduce, din datele de intrare pe care le primește, modul de generare a unor rezultate precum previziuni, conținut, recomandări sau decizii care pot influența mediile fizice sau virtuale”.
Luna aceasta, Comisia Europeană a publicat orientări privind interpretarea definiției de mai sus. În viziunea Comisiei, noțiunea de sistem IA include 7 elemente:
- un sistem bazat pe o mașină
- autonomie
- adaptabilitate
- urmărește obiective explicite sau implicite
- deduce modul de generare
- rezultate precum previziuni, conținut, recomandări sau decizii
- care pot influența mediile fizice sau virtuale.
Sistem bazat pe o mașină
În ceea ce privește primul element – „un sistem bazat pe o mașină”, toate sistemele IA trebuie să fie dezvoltate și să ruleze pe mașini. Mașinile includ atât elemente hardware, cât și software necesare unui sistem IA să funcționeze. Potrivit Comisiei, termenul „mașină” include o varietate de sisteme computerizate, inclusiv calculatoarele cuantice.
Autonomie
Al doilea element – „autonomia” este esențial pentru înțelegerea noțiunii de sistem IA. Considerentul (12) din Actul IA explică faptul că „sistemele de IA sunt concepute pentru a funcționa cu diferite niveluri de autonomie, ceea ce înseamnă că au un anumit grad de independență a acțiunilor față de implicarea umană și anumite capabilități de a funcționa fără intervenție umană”. Cu alte cuvinte, pentru a fi inteligent, un sistem informatic trebuie să fie autonom, chiar dacă autonomia nu este totală, ci doar parțială. Majoritatea sistemelor IA utilizate în prezent sunt parțial autonome față de om deoarece implică instrucțiuni care trebuie furnizate manual de om. Spre exemplu, ChatGPT, deși „gândește” pe cont propriu și furnizează rezultate fără a depinde de om, el nu poate funcționa complet autonom deoarece trebuie să primească anumite instrucțiuni de la om, adică să îi spună ce să facă. Conform Actului IA, sistemele informatice care sunt dependente total de implicarea și intervenția umană nu sunt sisteme inteligente. Cu toate acestea, astfel cum am menționat anterior, gradul de autonomie poate fi parțial, iar un anumit nivel de intervenție umană nu exclude automat caracterul de „IA” al sistemului.
Adaptabilitate
Adaptabilitatea, conform considerentului (12) din Actul IA, „se referă la capabilitățile de autoînvățare, care permit sistemului să se modifice în timpul utilizării”. Conform actualei definiții, adaptabilitatea nu este o condiție necesară pentru ca un sistem informatic să fie inteligent. Unele sisteme AI pot prezenta adaptabilitate, iar altele nu. Unele sisteme IA care nu prezintă adaptabilitate pot fi totuși considerate inteligente deoarece îndeplinesc, într-un mod autonom și cu un grad ridicat de complexitate, sarcini specifice pentru care au fost proiectate, chiar dacă nu își modifică singure comportamentul în timp. Aceste sisteme pot procesa informații, pot recunoaște tipare și pot lua decizii logice în baza unui set de reguli sau a unui model static, demonstrând abilități cognitive specializate. De pildă, un sistem expert în medicină, bazat pe reguli și cunoștințe codificate de specialiști, poate oferi diagnostice și recomandări terapeutice de înaltă acuratețe fără să „învețe” din experiență sau să se adapteze la fiecare nou caz.
Capacitatea de a deduce
Capacitatea de a deduce a unui sistem IA este chiar inima unui astfel de sistem inteligent și principala diferență față de software-ul tradițional bazat pe reguli definite manual. Capacitatea de a deduce echivalează, în esență, cu însăși inteligența sistemului IA. Inteligența unui sistem informatic include, printre altele, capacitatea de învățare prin tehnici specifice de învățare automată și raționament logic. Asemenea unui creier uman, și sistemul IA învață, se perfecționează și aplică ceea ce a învățat. Această capacitate nu aparține sistemelor informatice clasice deoarece acestea nu au raționament autonom, ci sunt simpli executanți ai unor instrucțiuni manuale.
Rezultate generate
Rezultatele generate pot fi previziuni, conținut, recomandări sau decizii. Înțelegerea acestor aspecte nu prezintă dificultăți deoarece interacționăm în mod curent cu sisteme IA care oferă previziuni sau recomandări, generează conținut sau iau decizii. Putem oferi următoarele exemple de sisteme care oferă previziuni: sistemele de prognoză meteorologică, de evaluare a riscului de credit ori de anticipare a fluctuațiilor bursiere. Dintre sistemele AI care oferă recomandări enumerăm algoritmi de recomandare a conținutului pe rețelele sociale sau pe platforme ca Netflix. Sistemele AI decizionale sunt, de exemplu, sisteme care, pe baza unor algoritmi avansați și a analizelor predictive, autorizează tranzacții financiare, alocă resurse în logistică, planifică rute de transport sau decid concedierea unui angajat sau acordarea unui împrumut bancar.
Concluzii
Multe companii au început deja implementarea cerințelor Actului IA. Pentru a evita erori în aplicarea AI ACT, este util ca, în etapa incipientă a implementării, să evaluăm toate sistemele informatice utilizate în cadrul unei companii pentru a identifica dacă un sistem informatic reprezintă un sistem de inteligență artificială. Conform Comisiei Europene, evaluarea se realizează de la caz la caz și nu vor fi furnizate liste complete cu sistemele informatice care sunt considerate sisteme inteligente. Tot Comisia a subliniat că evaluarea nu va putea fi realizată automat. Cu alte cuvinte, evaluarea va trebui realizată de om. Conform Comisiei, nicio mașină nu va putea califica, din punct de vedere juridic, o altă mașină ca fiind sistem IA. Va reveni, așadar, avocaților, juriștilor, experților în IT și altor profesioniști sarcina de a evalua sistemele informatice și a le califica, dacă e cazul, ca sisteme IA. Odată ce un sistem a fost calificat ca fiind inteligent în sensul legislației, urmează etapa de încadrare în categoria de risc conform AI ACT și de implementare a obligațiilor legale specifice fiecărei categorii.
—
Cum te pot ajuta?
- Vrei să afli mai multe despre cum se aplică AI Act în practică? Înscrie-te la evenimentele noastre viitoare aici.
- Dorești să externalizezi implementarea GDPR sau AI Act către un profesionist? Completează formularul de pe site-ul meu.
