590x332

Labirintul influențării: supraveghere online, cenzură și fake-news

Motto: „O lume ce poate fi explicată, chiar

și prin argumente nepotrivite, este o lume familiară.

Invers, într-un univers lipsit brusc de iluzii și de lumină,

omul devine un străin”

Albert Camus, Mitul lui Sisif

 

Rezumat:  Monitorizarea online a utilizatorilor se realizează printr-o colectare masivă de date personale. În acest articol, am arătat cum supravegherea digitală poate conduce către răspândirea știrilor false, hate-speech și polarizare ideologică și politică. Într-o lume a algoritmilor, liberul-arbitru e în pericol, iar confortul de a consuma informația filtrată de algoritmi deschide un teren fertil pentru influențare (sau manipulare).

 

***

Ar fi un truism să afirmăm că orice utilizator de internet este monitorizat pe internet. Comerțul electronic a descoperit metode inedite pentru culegerea și utilizarea informațiilor intime pentru profit. Acest fenomen poartă denumirea de capitalism de supraveghere[1]. Rețeta profitului în era digitală este foarte simplă: cu cât se obțin mai multe date personale despre consumatori, cu atât reclamele sunt mai relevante, putând influența sau manipula[2] comportamentul spre achiziție. Companiile digitale monitorizează comportamentul consumatorilor pentru a putea transmite oferte personalizate bazate pe nevoile intime ale unei persoane sau pentru crearea unor noi nevoi de consum.

Supravegherea digitală nu este monopolul companiilor digitale. În funcție de circumstanțele fiecărui utilizator, pot fi implicați și alți actori. La întrebarea „cine monitorizează?”, răspunsul diferă de la caz la caz. Angajații ar putea fi monitorizați, transparent sau nu, de către angajatori. Activitatea online a elevilor pe diverse platforme ar putea fi supravegheată de către școli – pentru cuantificarea prezențelor, prevenirea fraudelor la examene etc. Guvernele ar putea solicita datele de la furnizorii de servicii de telecomunicații pentru diverse scopuri precum apărarea și securitate națională, prevenirea și combaterea terorismului, combaterea unei pandemii/epidemii, instituirea sau menținerea unor regimuri totalitare.

Fenomenul monitorizării ia amploare atunci când datele circulă, legal sau ilegal, cu garanții sau fără garanții, între operatori privați sau publici. Azi utilizatorii de internet au pierdut controlul asupra datelor personale, fără a putea ști ce informații au plecat, unde au ajuns și cum sunt utilizate.

Dacă citim politicile de confidențialitate de pe internet, observăm că toate spun în zeci sau sute de pagini, în esență, același lucru: „putem face ce dorim cu datele tale, le putem transmite oricui, le putem păstra atât cât dorim, putem prelucra orice date despre tine, inclusiv prin algoritmi de inteligență artificială, pentru îmbunătățirea experienței tale online”. Amuzantă este colectarea consimțământului. Platforma spune: „Uite, astea sunt regulile casei. Colectăm tot despre tine, așa se fac lucrurile aici, dacă nu ești de acord, poți pleca”. Și mai amuzant este faptul că utilizatorul nu are nicio problemă. Oricine și-ar pune întrebări înainte de a trece granița unui stat ce violează drepturile omului, dar pe internet trăim cu iluzia că nu se poate întâmpla nimic rău. Domeniile digitale funcționează cu aceleași principii, însă mijloacele diferă: influențare prin fake-news, control prin cenzură sau, și mai subtil, prin autocenzură.

Unui utilizator obișnuit și nonșalant i se pare normal să ofere toate datele cu un click și să accepte monitorizarea comportamentului și intruziunea în istoricul de navigare, în mesaje private, în casă (poate a permis deja aplicațiilor accesul la cameră și la microfon). Sunteți liberi să priviți în sufletul meu, spune utilizatorul, eu nu am nimic de ascuns.

Dar dacă protecția datelor înseamnă mai mult decât a ascunde ceva și conceptul de Privacy are o „funcție transcendentală”? [3] Privacy nu protejează doar intimitatea omului, ci o serie de alte drepturi și libertăți fundamentale inerente ființe umane[4]. Privacy se apropie de conceptul de autonomie ce implică libertatea omului de a reflecta asupra propriei persoane, de a accepta sau respinge valori și influențe străine și de a-și schimba viața atunci când dorește[5]. Pe scurt, autonomia implică liber-arbitru. Liberul-arbitru are noi valențe azi pentru că discutăm despre liberul-arbitru al unui utilizator vulnerabil ce a cedat puterea (informația, datele personale) către un algoritm IA programat – în această ordine, să colecteze date, să profileze, să influențeze (sau să manipuleze). Într-o lume a algoritmilor, liberul-arbitru e în pericol, iar confortul de a consuma informația filtrată de algoritmi deschide un teren fertil pentru manipulare.

Monitorizarea online are implicații și asupra libertății de exprimare și informare. Comitetul European pentru Protecția Datelor (în continuare „CEPD”) atrage atenția asupra faptului că există riscul ca oamenii să fie prinși în așa-numitele „filter-bubbles”, primind aceleași informații și având acces la tot mai puține opinii divergente[6]. Într-un articol[7] se arată cum funcționează algoritmul de afișare în news-feed al platformei Facebook. Algoritmii Facebook analizează întreg conținutul disponibil în rețeaua unui utilizator și, pe baza comportamentului trecut al utilizatorului, elimină postările care au șanse mici să fie interesante pentru utilizator și îi afișează cu prioritate postările ce corespund, în viziunea algoritmului, intereselor sale[8]. Astfel, informația ce urmează a fi procesată nu este aleasă de utilizator, ci de un algoritm de inteligență artificială. Acest algoritm este programat să afișeze o informație cu o probabilitate ridicată de a capta atenția chiar dacă informația nu este corectă, reală sau benefică.  CEPD arată că acest fenomen poate conduce la extremist, polarizare politică sau ideologică[9]. Mai mult, este ușor de observat cum prin încorsetarea algoritmică a utilizatorilor în aceleași subiecte de informare, există și riscul ca utilizatorul să fie prins într-un cerc vicios al știrilor false prin lipsa generării de conținut diferit în news-feed. Din moment ce algoritmul a catalogat utilizatorul ca fiind interesat de subiectul X (știrea falsă), există riscul să nu îi genereze și conținutul aflat la polul diametral opus despre subiectul Y (știrea adevărată).

Privind lucrurile dintr-un alt unghi, un utilizator ce a fost o perioadă lungă de timp prins într-un cerc al ideilor fixe și/sau extremiste, validându-și ideile prin interacțiunea cu postările cu conținut similar, ar putea califica informațiile antagonice ca știri false. Un alt aspect important de menționat este și faptul că algoritmul ar putea conecta doar persoane cu aceleași opinii, ceea ce ar putea conduce la imposibilitatea nașterii unor dezbateri contradictorii, afectând progresul social. Este ușor de observat cum utilizatorii de internet au tendința să formeze grupuri în jurul unor interese comune. La nivel macro, fenomenul „filter-bubbles” poate conduce către polarizare ideologică sau politică[10], către divizare și către infiltrarea fenomenului „hate-speech” din ciocnirea grupurilor cu opinii divergente și extremiste.

 

Referințe:

[1] Shoshana Zuboff, ‘Big Other: Surveillance Capitalism And The Prospects Of An Information Civilization’ (2015) 30 Journal of Information Technology.

[2] Termenul manipulare este utilizat de Autoritatea Europeană pentru Protecția Datelor în Opinia nr. 3/2018,  EDPS Opinion on online manipulation and personal data.

[3] Ferdinand David Schoeman, ‘Privacy. Philosophical Dimensions Of The Literature’, in Ferdinand David Schoeman, Philosophical Dimensions Of Privacy. An Anthology (Cambridge University Press 2007) 5-7.

[4] M. Oostveen and K Irion, ‘The Golden Age Of Personal Data: How To Regulate An Enabling Fundamental Right?’, Personal Data in Competition, Consumer Protection and Intellectual Property Law Towards a Holistic Approach? (Springer 2018).

[5] J. Christman , “Autonomy in Moral and Political Philosophy”, The Stanford Encyclopedia of Philosophy (Fall 2020 Edition), Edward N. Zalta (ed.).

[6] CEPD, Guidelines 8/2020 on the targeting of social media users Version 1.0, 2 septembrie 2020, p. 6.

[7] Paige Cooper, How the Facebook Algorithm Works in 2021 and How to Make it Work for You, disponibil aici, link accesat 21.03.2021.

[8] Ibidem.

[9] CEPD, Guidelines 8/2020 on the targeting of social media users Version 1.0, 2 septembrie 2020, p. 6.

[10] Ibidem.

Share this post

Share on facebook
Share on twitter
Share on linkedin
Share on email
Ruxandra Sava
Fondatoare a platformei LegalUp.ro, Ruxandra Sava este avocat în Baroul București și specialist în protecția datelor acreditat de IAPP, deținând standardul CIPP/e. Ruxandra activează în domeniul dreptului tehnologiei și al protecției datelor cu caracter personal. Contact: ruxandra.sava@legalup.ro