Scandalul NOI suntem ION: Robotul de la Guvern, consilierul lui Ciucă, implementat românește

Scandalul NOI suntem ION: Robotul de la Guvern a fost implementat românește​. După ce românii au fost invitați să-și spună nemulțumirile către Guvern, fiind asigurați de autorități, că mesajele vor fi colectate în mod anonim de ION, robotul cu Inteligență Artificială, devenit consilier al premierului Ciucă, prelucrează numele de utilizatori ale celor care postează mesaje pe Facebook, potrivit Hotnews.ro. Situația a fost corectată parțial.

ION – primul robot bazat pe tehnologia de Inteligență Artificială, devenit consilier onorific al premierului Nicolae Ciucă, a fost prezentat ca o premieră mondială miercuri la Guvern de ministrul Digitalizării, Sebastian Burduja, alături de Nicu Sebe, coordonatorul echipei de cercetători români.

Sebastian Burduja a invitat românii să-i trimită cât mai multe mesaje:

• „ION este în faza de învățare, deci este foarte important pentru români să îi transmită gândurile lor, ce probleme au, ce probleme întâmpină. Ulterior, pe baza acestor date, ION le va procesa, le va sintetiza și va putea produce rapoarte care vor informa deciziile și politicile publice ale Guvernului.”, a spus Burduja în briefingul de presă.

Ministrul Burduja dat asigurări că robotul nu va colecta datele personale ale românilor.

• „El (n.a robotul ION) prelucrează date publice. Deci nu e vorba de date personale, sigur că are toate măsurile de siguranță, politică de confidențialitate, acordul utilizatorului ș.a.m.d. Creatorii s-au gândit la toate acestea.
• Dar datele prelucrate sunt publice și ele nu sunt individualizate pentru un anumit român sau pentru altul. E vorba de o agregare a acestor date la nivel general”, a spus Sebastian Burduja.

Același lucru era menționat și în documentul cu întrebări și răspunsuri (FAQ)de pe site-ul ion.gov.ro, unde românii sunt așteptați să trimită mesaje, fără a li cere date personale, precum nume, prenume ori adresă de email.

O altă cale de a-i trimite în prezent mesaje și a-l „învăța” pe ION este prin postări și comentarii cu tag-ul @noisuntemion pe Facebook.

În documentul privind Politica de confidențialitate a site-ului ION se preciza altceva decât au promis autoritățile, respectiv că Ministerul Digitalizării (MCID) va prelucra:

• „numele de utilizator din rețelele de socializare unde dumneavoastră postați mesajele pentru Proiectul ION. Aceste date sunt prelucrate în scopul de a fi filtrate și prelucrate de algoritmii de inteligență artificială (denumit în continuare “AI”) și de a disemina informațiile concludente către decidenți, pentru a construi politici publice în concordanță cu starea societății. Aceste date sunt prelucrate în scopul realizarii Proiectului ION în conformitate cu Termenii și Condițiile de utilizare a Site-ului.”

Ce spune Tudor Galoș despre ION

Tudor Galoș, consultant în Regulamentul UE prinvind protecția datelor (GDPR) atenționase deja pe pagina sa de Facebook că scandalul iscat vineri legat de preluarea fără acord a unei imagini cu o elevă de la o școală din Ciugud în clipul de prezentare al ION generează întrebări legate de conformitatea tuturor prelucrărilor personale făcute de ION, un AI, prelucrări care ar fi trebuit identificate printr-o analiză DPIA, care nu a fost prezentată.

„Ce înseamnă o evaluare a impactului asupra protecției datelor, așa cum este ea descrisă în Articolul 35 din GDPR?

Această evaluare, sau DPIA (Data Protection Impact Assessment) cum mai este cunoscută, este o analiză detaliată a tuturor riscurilor asupra unei persoane a cărei date sunt prelucrate într-un mod ce poate genera riscuri serioase asupra drepturilor sale, asupra sănătății fizice sau psihice sau care poate aduce efecte juridice negative.

Fiecare risc trebuie adresat prin măsuri tehnice și organizaționale, iar dacă anumite riscuri rămân neadresate, Autoritatea Națională de Supraveghere a Prelucrărilor de Date cu Caracter Personal (ANSPDCP) trebuie contactată formal pentru o consultare prealabilă, conform Articolului 36 din GDPR.

ANSPDCP, prin decizia 174 din 2018, a publicat o listă de prelucrări pentru care efectuarea unei astfel de evaluări a impactului asupra protecției datelor este obligatorie. Dintre ele menționăm:

• „a. prelucrarea datelor cu caracter personal în vederea realizării unei evaluări sistematice şi cuprinzătoare a aspectelor personale referitoare la persoane fizice, care se bazează pe prelucrarea automată, inclusiv crearea de profiluri, şi care stă la baza unor decizii care produc efecte juridice privind persoana fizică sau care o afectează în mod similar într-o măsură semnificativă (…)
• e. prelucrarea pe scară largă a datelor cu caracter personal prin utilizarea inovatoare sau implementarea unor tehnologii noi, în special în cazul în care operaţiunile respective limitează capacitatea persoanelor vizate de a-şi exercita drepturile”

În documentul FAQ al tehnologiei ION găsim ca răspuns la întrebarea „Care vor fi funcționalitățile soluției ION?”:

• „1. Accesarea și filtrarea postărilor și opiniilor publice din mediul online în funcție de relevanță. Vor fi folosite doar postările publice care vor fi colectate în mod anonim pentru centralizarea subiectelor de importanță pentru români.
• 2. Extragerea automată de „topicuri” din postări relevante: Pentru fiecare postare selectată la Pasul 1, se vor extrage topicurile considerate cele mai relevante de către societatea românească, cum ar putea fi cele ce țin de: activitatea guvernului, evenimente de importanță națională, nivel de trai, activități sportive și de divertisment, subiecte din sănătate sau care țin de alimentație, energie și multe altele.
• 3. Formarea unui set inițial de „topicuri” sau „opinii” relevante din semantică postărilor extrase, pentru o raportare eficientă a concluziilor.
• 4. Formarea unui „graf de opinie” bazat pe „topicurile” extrase la Pasul 3: Fiecare astfel de grup de tip „opinie” sau „topic” (asociat cu un sentiment) va deveni un nod într-un „graf de opinie”
• 5. Raportarea și monitorizarea dinamicii grafului de opinie.”

În Politica de confidențialitate, la Capitolul II: „Ce date cu caracter personal colectăm și în ce scop?” găsim: „MCID va prelucra: a. Numele de utilizator din rețelele de socializare unde dumneavoastra postați mesajele pentru Proiectul ION. Aceste date sunt prelucrate in scopul de a fi filtrate si prelucrate de algoritmii de inteligenta artificiala (denumit in continuare „AI”) și de a disemina informațiile concludente către decidenți, pentru a construi politici publice în concordanță cu starea societății. Aceste date sunt prelucrate în scopul realizarii Proiectului ION in conformitate cu Termenii si Conditiile de utilizare a Site-ului”.

• Practic, se vor forma grafuri de opinie pe câte un topic gen „creșterea taxelor” și se vor monitoriza postările și nemulțumirile oamenilor.
• Ca specialist în protecția datelor, nu pot să nu observ un mare risc aici de a transforma ION într-o armă. Nu acum, nu astăzi, dar într-o zi…
• Ce garanții de securitate, ce măsuri de control există pentru ca ION să nu ajungă să identifice cei mai vocali „dizidenți” și modul în care aceștia își diseminează opiniile?
• Ce instituție din România își ia aici rolul de a păzi drepturile românilor astfel încât să nu ajungem ca un algoritm să facă o listă de persoane active, cu opinii virale sau viralizabile pe un anumit subiect?
• Toate aceste riscuri trebuie identificate printr-o analiză DPIA care să fie apoi făcută publică, astfel încât să nu ajungem ca o altă administrație, poate nu la fel de bine intenționată, să folosească ION în cu totul și cu totul alt scop decât cel pentru care a fost proiectată.”, a declarat pentru HotNews.ro Tudor Galoș, consultant GDPR.

Citește textul mai departe pe Hotnews.ro