Realitatea pe internet poate fi foarte ușor denaturată cu ajutorul inteligenței artificiale. Oamenii pot fi induși în eroare, manipulați, înșelați sau șantajați prin utilizarea unor videoclipuri care sunt false (deepfake-uri), dar care arată și sună foarte real. Cele mai cunoscute sunt deepfake-urile utilizate în domeniul politic care arată politicieni care spun lucruri pe care nu le-au spus niciodată. Aceste videoclipuri sunt distribuite pe rețelele sociale pentru a influența publicul și a manipula voturile. Alt exemplu de deepfake este cel utilizat pentru fraude financiare, infractorii solicitând transferuri de bani prin utilizarea unor video-uri sau apeluri vocale cu persoane de încredere. Uneori este în joc chiar reputația victimelor deoarece aceste deepfake-uri pot prezenta video-uri false care arată o persoană într-o situație compromițătoare în scopul de a o șantaja sau de a-i denigra reputația.

Te-ar putea interesa și: 

• Ce este GDPR? Regulament GDPR explicat în 5 minute

• Supravegherea video la locul de muncă. În ce condiții poate fi realizată?

• Riscurile inteligenței artificiale. Care sunt acestea și cum le prevenim? 

Situația se va schimba fundamental începând cu luna februarie 2025. Din februarie 2025 se vor aplica dispozițiile din Regulamentul european privind Inteligența Artificială privind interzicerea unor sisteme IA cu risc inaceptabil, printre care și deepfake-urile care manipulează sau înșeală oamenii, denaturându-le comportamentul. Art. 5 alin. (1) din acest Regulament prevede că este interzisă introducerea pe piață, punerea în funcțiune sau utilizarea unui sistem de IA care utilizează tehnici subliminale de manipulare, influențând comportamentul uman și aducând sau fiind susceptibil să aducă prejudicii semnificative oamenilor. Nu toate deepfake-urile vor fi interzise și vizate de acest Regulament, ci doar cele care produc sau sunt susceptibile să producă prejudicii importante persoanelor sau grupurilor de persoane, inclusiv deepfake-urile care subminează autonomia individului, compromit securitatea personală, induc în eroare sau manipulează în moduri care afectează negativ deciziile și comportamentul oamenilor.

Persoanele fizice sau juridice care introduc pe piață, pun în funcțiune sau utilizează un astfel de sistem IA riscă amenzi care pot ajunge până la 35.000.000 EURO sau 7% din cifra de afaceri pentru întreprinderi, dar și măsuri corective precum interzicerea activității sau retragerea produsului de pe piață. Răspunderea contravențională nu exclude răspunderea penală și răspunderea civilă în situațiile în care persoanele au fost prejudiciate.

Cum te pot ajuta?

• Vrei să afli mai multe despre cum se aplică AI Act în practică? Înscrie-te la evenimentele noastre viitoare aici.
• Dorești să externalizezi implementarea GDPR sau AI Act către un profesionist? Completează formularul de pe site-ul meu.