Legal, Privacy & Tech Blog.

Pericolele AI

Despre viața privată cu Silvia Uscov: „Inteligenta Artificiala este plutoniul generației noastre”

Silvia Uscov este avocat în Baroului București, activând ca avocat partener în cadrul Uscov – Attorneys at Law. Silvia este în topul avocaților din România care aprofundează impactul noilor tehnologii asupra drepturilor omului. De-a lungul carierei, a scris numeroase articole despre dreptul noilor tehnologii, cu focus pe inteligență artificială și tehnologiile de recunoaștere facială. Ea este autoarea seriei de articole publicate pe juridice.ro „Și la începuturi a fost digitalizarea…”. Vizionară, pragmatică și idealistă, Silvia este intens implicată în dezbateri juridice cu privire la soluții concrete pentru profesia de avocat și pentru societate, în ansamblu.

Azi avem onoarea să vă prezentăm, în exclusivitate, un interviu cu Silvia despre impactul digitalizării asupra drepturilor omului.

LegalUp.ro: Bună, Silvia. Îți mulțumim frumos pentru disponibilitatea de a ne răspunde la câteva întrebări. Am observat că ești la curent cu noile tehnologii și impactul acestora asupra drepturilor omului. În prezent, în România, trăim vremuri atipice, iar tehnologiile care se implementează azi pot avea drept consecință îngrădirea unor drepturi fundamentale. Care sunt, în viziunea ta, cele mai afectate drepturi de către tehnologiile utilizate pentru a combate pandemia COVID-19?

Silvia Uscov: Mulțumesc pentru invitația de a răspunde întrebărilor tale.

Nu numai în România trăim vremuri atipice, ci urmăm trendul global. Cu toate acestea, în România observ o acută lipsă de informare la nivelul maselor, fapt ce constituie un teren propice pentru introducerea (suntem mai puțin prezenți în zona de dezvoltare) unor sisteme care afectează drepturile fundamentale ale omului. Neopunându-se o rezistență informată a populației și neexistând în spațiul public suficienți vectori care să propage informație de calitate, ne-am putea transforma într-un perfect hub de testare. De altfel, suntem îndemnați să ne informăm din „surse de încredere”, dar niciodată în istorie opiniile bazate doar pe informațiile oficiale nu au constituit un avantaj pentru populație. E adevărat, însă, că informația trebuie decelată cu mult mai multă rigoare decât înainte pentru că suntem în situația în care putem fi dezinformați mult mai ușor prin apelarea la tehnici mai mult sau mai puțin sofisticate. Astfel, dacă privim într-un spectru larg, chiar dreptul la informare este afectat în această perioadă, dar și dreptul la sănătate sau chiar dreptul la viață în contextul unor decizii contestabile ale autorităților din România. O mulțime de drepturi au suferit restrângeri însemnate prin decretele Președintelui României în starea de urgență, fiind menționate în mod expres în cuprinsul acestora, iar restrângerile continuă și în perioada stării de alertă.

Dacă ne axăm strict pe noile tehnologii, principalul drept afectat este dreptul la viață privată, dar, indirect, sunt afectate și alte drepturi, ca de exemplu, dreptul la liberă circulație. Prima dată când am atras asupra acestor forme de monitorizare a deplasărilor unei persoane într-un areal printr-un articol din 2019 am descris și consecințele psihologice, respectiv faptul că persoana respectivă tinde să își restricționeze propriile mișcări pentru a se încadra în specificul majorității. Dacă majoritatea consideră că prezența într-un anumit loc nu este în regulă din cauza unor motive cât se poate de banale, persoana care își conștientizează mișcările va tinde să evite deplasarea în acel loc tocmai pentru că există acest sistem de monitorizare.

LegalUp.ro: Crezi că îngrădirea drepturilor pe perioada pandemiei poate avea consecințe nedorite? Dacă da, care ar fi aceste consecințe și cum am putea reduce la minimum efectele nedorite?

Silvia Uscov: Cu siguranță s-au produs deja consecințe nedorite și cel mai elocvent exemplu se concentrează în jurul dreptului la sănătate. Mizând pe buna-credință a autorităților în gestionarea situației din România, totuși, au fost luate măsuri care au afectat puternic acest drept pentru pacienții non-Covid19.

De asemenea, în privința persoanelor care au suferit măsuri de izolare la domiciliu și carantină, drepturile acestora au fost puternic afectate, pe lângă dreptul la liberă circulație față de care trebuie analizată proporționalitatea măsurii dispuse, întregul set de măsuri nu a fost stabilit în mod clar și previzibil pentru ca aceste persoane să se poată plânge în fața unei instanțe.

Accesul la o instanță a tuturor cetățenilor a fost puternic afectat în perioada stării de urgență, fiind judecate doar o mică parte dintre cauze, sau libertatea economică, ce este analizată de către specialiști în cadrul unei recesiuni.

Fără a mă erija într-un specialist, efectele economice trebuie atenuate prin concentrarea pe sectoarele de activitate care ar putea antrena și celelalte sectoare în fluxul economic, susținerea acestora atât prin finanțări, cât și celelalte seturi de măsuri.

În ceea ce privește celelalte drepturi afectate, accesul la o instanță consider că s-a bucurat de cea mai rapidă revenire, având și concursul judecătorilor în acest sens, care au renunțat la luna iulie din vacanța judecătorească, au stabilit dosarele pe intervale orare etc.

În ceea ce privește dreptul la sănătate, apreciez că rămâne în continuare cel mai afectat pentru pacienții non-Covid19, care nu au acces la serviciile medicale ca în perioada ante-pandemie. De asemenea, am întâlnit și un alt tip de reacție, o atitudine refractară față de medicina preventivă în această perioadă, iar consecințele acesteia se vor observa nu numai la nivel individual, dar și la nivel economic, cheltuielile cu administrarea sectorului medical crescând în acest context.

Trebuie realizată o analiză serioasă, interdisciplinară, pentru că nu ne mai permitem ca deciziile să fie luate doar pe termen scurt, ci și pe termen mediu și lung.

 

LegalUp.ro: Care sunt pericolele din spatele Inteligenței Artificiale și ce soluții avem pentru a evita aceste pericole?

Silvia Uscov: Inteligența Artificială este considerat plutoniul generației noastre astfel încât mecanismele de gestiune trebuie reglementate nu numai sub aspect legislativ, dar și etic. Dacă până de curând am fost într-un no man´s land, de curând avem parte de discuții la nivelul UE pentru reglementarea acestui sector, apreciindu-se că GDPR nu este suficient pentru a asigura o protecție eficientă cetățenilor europeni deoarece există tehnologii care depășesc stadiul legislativ prezent prin provocările pe care le pun profesioniștilor în drept. Am participat de curând la un Webinar organizat de un grup de experți din cadrul Comisiei Europene, la care au participat numeroși reprezentanți ai companiilor care activează în zona AI, axat pe problemele  de răspundere civilă în cazul dezvoltării și implementării AI, dar și etică sau siguranța produsului. Problemele s-au concentrat în jurul conceptelor după care funcționează Ai, respectiv autonomie, ceea ce presupune că este dificil să stabilești legătura de cauzalitate între consecințele unui sistem AI și o decizie umană sau faptul că comportamentul AI nu este predictibil, opacitate, ceea ce presupune că AI este un „black box”, accesul victimei la algoritm este improbabil sau imposibil sau faptul că deciziile luate în baza unui sistem AI sunt dificil sau imposibil de explicat/înțeles, și complexitate, ceea ce înseamnă că AI este de obicei integrat într-un ecosistem IoT și că este dificil să afli sursa care a stat la baza prejudiciului.

De asemenea, doctrina străină este extrem de bogată în tratarea acestor aspecte nu numai sub în contextul unui curent literar bogat, dar și prin articole și cărți publicate de edituri prestigioase care analizează impactul Big Data și AI asupra drepturilor omului. Am rămas, totuși, surprinsă că în România nu există un apetit crescut pentru acest domeniu astfel încât m-am orientat spre doctrina străină pentru a afla cât mai multe despre prezent și viitor.

Pericolele Ai sunt atât de extinse încât nici nu cred că ni le putem imagina la acest moment, dar 

am încercat să le ilustrez în câteva exemple în articole scrise pe subiect și cred că cel care m-a pus cel mai mult pe gânduri a fost că AI ar putea însemna sfârșitul omenirii în modalitatea cunoscută până acum dacă sistemele ar fi integrate în corpul uman, creând două pături sociale, de oameni și SupraOameni.

 

LegalUp.ro: Există riscuri asociate nerespectării vieții private? Mai concret, ce pot păți oamenii dacă nu li se respectă viața privată?

Silvia Uscov: Oamenii nici nu își dau seama de importanța vieții private, care constituie „hrana” Big Data în prezent sau, așa cum spun eu, o sursă de monetizare pentru giganții IT. Și eu am conturi pe platformele de socializare și am acceptat acest risc considerând că, în acest fel, am acces la ceilalți și le pot dezvălui pericolele într-un mod friendly, adică încerc să lupt cu aceleași arme care sunt îndreptate împotriva noastră.

În ceea ce privește pericolele vieții private, imaginează-ți că poate exista un algoritm care să îți facă acțiunile predictibile. Ți-ai dori acest lucru? Dacă acum tu ești cel care alegi să îți dezvălui secretele, te-ai gândit că poate veni un moment când acestea vor fi dezvăluite fără voia ta și nu într-un scop bun?

Și pericolele nu vin numai din zona privată, ci și din zona guvernamentală. Răspunsul „nu am nimic de ascuns” este unul fals deoarece nu discutăm numai despre zona contravențională sau infracțională și chiar dacă am discuta numai despre această zona, putem să prevedem la acest moment ce vor considera guvernele viitorului că reprezintă o contravenție sau o infracțiune?

LegalUp.ro: Crezi că viața privată va supraviețui pandemiei COVID-19?

Silvia Uscov: Există încă o preocupare pentru introducerea aplicațiilor de localizare. În mod normal, acestea ar trebui să fie utilizate cu consimțământul utilizatorilor, dar, având în vedere precedentele recente, posibil ca acestea să fie introduse cu titlu obligatoriu sub forma unor condiționări pe baza unui consimțământ viciat, de exemplu, dacă vrei să mergi pe stadion la un meci de fotbal, să fii nevoit să îți instalezi aplicația.

De asemenea, serviciile telecom au transmis informații despre utilizatori (sub pretextul că ele sunt pseudonimizate, știut fiind faptul că acest lucru este practic imposibil)  în toată această perioadă și nimeni nu a stabilit un termen pentru transmiterea acestor date.

Camerele termografice au fost achiziționate și vor rămâne mult timp de acum încolo, fiind realizate investiții în acest sens mai ales în instituții de învățământ.

Dacă autoritățile pentru protecția datelor, atât la nivel național, cât și european nu vor acționa prin transmiterea unor îndrumări, dar și prin aplicarea de sancțiuni, atunci viața privată nu va supraviețui pandemiei Covid-19 deoarece vom fi lipsiți de instrumentele de apărare, acestea rămânând doar la nivel de scriere literară într-un pretins regulament obligatoriu.

Cu toate acestea, noi, avocații care cunoaștem importanța drepturilor omului și conștientizăm potențialele pericole, am sesizat aceste încălcări în toată această perioadă și vom depune în continuare eforturi pentru ca rule of law să aibă aceeași semnificație și în domeniul drepturilor, nu numai în domeniul obligațiilor.

 

Mulțumim colegei Silvia Uscov pentru ideile transmise și pentru implicarea ei în promovarea dreptului la viață privată! 

 

Ti-a placut articolul? Arată-le și celorlalți!

Share on facebook
Share on linkedin
Share on email

Recomandăm

Cel mai vândut produs

Cărți recomandate

Abonează-te!

E gratuit! Primește articolele noastre direct pe mail. Te poți dezabona oricând.

Prin abonare declari că ai peste 16 ani, că ai citit și că ești de acord cu Politica de confidențialitate LegalUp (https://legalup.ro/confidentialitate/)

Recomandăm...

Cursuri online

Investește în tine!

Shop

KIT-uri GDPR și e-commerce, e-book-uri și alte produse digitale pentru siguranța online a afacerii tale

Recente

Mai multe articole

Ultimele articole

Law & Tech

© 2020 Toate drepturile rezervate

Made with ❤ by LegalUp.ro

fii informat!

Primeste articolele noastre direct pe mail!

Aboneaza-te acum

 

Prin abonare declari că ai peste 16 ani, că ai citit și că ești de acord cu Politica de confidențialitate LegalUp (https://legalup.ro/confidentialitate/)