​După ce românii au fost invitați să-și spună nemulțumirile către Guvern, fiind asigurați de autorități, că mesajele vor fi colectate în mod anonim de ION, robotul cu Inteligență Artificială, devenit consilier al premierului Ciucă, HotNews.ro a descoperit că documentele oficiale spun că se prelucrează numele de utilizatori ale celor care postează mesaje pe Facebook. Situația a fost corectată parțial, după semnalarea HotNews.ro.

ION - Inteligența artificială de la Guvern și eroarea de pe ecranFoto: Inquam Photos / Octav Ganea

UPDATE 12:10 În urma publicării articolului, echipa ION a transmis din nou că robotul nu va prelua datele personale ale celor care îi transmit mesaje:

  • „Foarte important și foarte clar, soluția de AI ION nu a preluat și nu va prelua niciodată datele personale de identificare ale românilor. ION este o soluție AI creată să preia în mod neutru și neinfluențat problemele presante ale românilor, pentru a putea raporta echilibrat și nepărtinitor către guvernanți ce probleme au nevoie de rezolvare. Nu se stochează în niciun moment datele de identificare ale acestora.”

Ce asigurări de confidențialitate au dat miercuri ministrul Burduja și echipa ION

ION - primul robot bazat pe tehnologia de Inteligență Artificială, devenit consilier onorific al premierului Nicolae Ciucă, a fost prezentat ca o premieră mondială miercuri la Guvern de ministrul Digitalizării, Sebastian Burduja, alături de Nicu Sebe, coordonatorul echipei de cercetători români.

Sebastian Burduja a invitat românii să-i trimită cât mai multe mesaje:

  • „ION este în faza de învățare, deci este foarte important pentru români să îi transmită gândurile lor, ce probleme au, ce probleme întâmpină. Ulterior, pe baza acestor date, ION le va procesa, le va sintetiza și va putea produce rapoarte care vor informa deciziile și politicile publice ale Guvernului.”, a spus Burduja în briefingul de presă.

Ministrul Burduja a dat asigurări că robotul nu va colecta datele personale ale românilor.

  • „El (n.a robotul ION) prelucrează date publice. Deci nu e vorba de date personale, sigur că are toate măsurile de siguranță, politică de confidențialitate, acordul utilizatorului ș.a.m.d. Creatorii s-au gândit la toate acestea.
  • Dar datele prelucrate sunt publice și ele nu sunt individualizate pentru un anumit român sau pentru altul. E vorba de o agregare a acestor date la nivel general”, a spus Sebastian Burduja.

Același lucru era menționat și în documentul cu întrebări și răspunsuri (FAQ)de pe site-ul ion.gov.ro, unde românii sunt așteptați să trimită mesaje, fără a li cere date personale, precum nume, prenume ori adresă de email.

O altă cale de a-i trimite în prezent mesaje și a-l „învăța” pe ION este prin postări și comentarii cu tag-ul @noisuntemion pe Facebook.

Pe site-ul ION se preciza că sunt colectate numele de utilizator de pe Facebook ale celor care trimit mesaje

HotNews.ro a descoperit vineri că în documentul privind Politica de confidențialitate a site-ului ION se preciza altceva decât au promis autoritățile, respectiv că Ministerul Digitalizării (MCID) va prelucra:

  • „numele de utilizator din rețelele de socializare unde dumneavoastră postați mesajele pentru Proiectul ION. Aceste date sunt prelucrate în scopul de a fi filtrate și prelucrate de algoritmii de inteligență artificială (denumit în continuare “AI”) și de a disemina informațiile concludente către decidenți, pentru a construi politici publice în concordanță cu starea societății. Aceste date sunt prelucrate în scopul realizarii Proiectului ION în conformitate cu Termenii și Condițiile de utilizare a Site-ului.”

Tudor Galoș, consultant GDPR: E un mare risc de a transforma ION într-o armă

HotNews.ro a solicitat explicații atât echipei ION în legătură cu aceste neconcordanțe, cât și lui Tudor Galoș, consultant în Regulamentul UE prinvind protecția datelor (GDPR).

Tudor Galoș atenționase deja pe pagina sa de Facebook că scandalul iscat vineri legat de preluarea fără acord a unei imagini cu o elevă de la o școală din Ciugud în clipul de prezentare al ION generează întrebări legate de conformitatea tuturor prelucrărilor personale făcute de ION, un AI, prelucrări care ar fi trebuit identificate printr-o analiză DPIA, care nu a fost prezentată.

Ce înseamnă analiza DPIA? Iată explicațiile expertului:

„Ce înseamnă o evaluare a impactului asupra protecției datelor, așa cum este ea descrisă în Articolul 35 din GDPR?

Această evaluare, sau DPIA (Data Protection Impact Assessment) cum mai este cunoscută, este o analiză detaliată a tuturor riscurilor asupra unei persoane a cărei date sunt prelucrate într-un mod ce poate genera riscuri serioase asupra drepturilor sale, asupra sănătății fizice sau psihice sau care poate aduce efecte juridice negative.

Fiecare risc trebuie adresat prin măsuri tehnice și organizaționale, iar dacă anumite riscuri rămân neadresate, Autoritatea Națională de Supraveghere a Prelucrărilor de Date cu Caracter Personal (ANSPDCP) trebuie contactată formal pentru o consultare prealabilă, conform Articolului 36 din GDPR.

ANSPDCP, prin decizia 174 din 2018, a publicat o listă de prelucrări pentru care efectuarea unei astfel de evaluări a impactului asupra protecției datelor este obligatorie. Dintre ele menționăm:

  • „a. prelucrarea datelor cu caracter personal în vederea realizării unei evaluări sistematice şi cuprinzătoare a aspectelor personale referitoare la persoane fizice, care se bazează pe prelucrarea automată, inclusiv crearea de profiluri, şi care stă la baza unor decizii care produc efecte juridice privind persoana fizică sau care o afectează în mod similar într-o măsură semnificativă (...)
  • e. prelucrarea pe scară largă a datelor cu caracter personal prin utilizarea inovatoare sau implementarea unor tehnologii noi, în special în cazul în care operaţiunile respective limitează capacitatea persoanelor vizate de a-şi exercita drepturile"

În documentul FAQ al tehnologiei ION găsim ca răspuns la întrebarea „Care vor fi funcționalitățile soluției ION?":

  • „1. Accesarea și filtrarea postărilor și opiniilor publice din mediul online în funcție de relevanță. Vor fi folosite doar postările publice care vor fi colectate în mod anonim pentru centralizarea subiectelor de importanță pentru români.
  • 2. Extragerea automată de "topicuri" din postări relevante: Pentru fiecare postare selectată la Pasul 1, se vor extrage topicurile considerate cele mai relevante de către societatea românească, cum ar putea fi cele ce țin de: activitatea guvernului, evenimente de importanță națională, nivel de trai, activități sportive și de divertisment, subiecte din sănătate sau care țin de alimentație, energie și multe altele.
  • 3. Formarea unui set inițial de "topicuri" sau "opinii" relevante din semantică postărilor extrase, pentru o raportare eficientă a concluziilor.
  • 4. Formarea unui "graf de opinie" bazat pe "topicurile" extrase la Pasul 3: Fiecare astfel de grup de tip "opinie" sau "topic" (asociat cu un sentiment) va deveni un nod într-un "graf de opinie"
  • 5. Raportarea și monitorizarea dinamicii grafului de opinie."

În Politica de confidențialitate, la Capitolul II: „Ce date cu caracter personal colectăm și în ce scop?" găsim: „MCID va prelucra: a. Numele de utilizator din rețelele de socializare unde dumneavoastra postați mesajele pentru Proiectul ION. Aceste date sunt prelucrate in scopul de a fi filtrate si prelucrate de algoritmii de inteligenta artificiala (denumit in continuare "AI") și de a disemina informațiile concludente către decidenți, pentru a construi politici publice în concordanță cu starea societății. Aceste date sunt prelucrate în scopul realizarii Proiectului ION in conformitate cu Termenii si Conditiile de utilizare a Site-ului".

  • Practic, se vor forma grafuri de opinie pe câte un topic gen „creșterea taxelor" și se vor monitoriza postările și nemulțumirile oamenilor.
  • Ca specialist în protecția datelor, nu pot să nu observ un mare risc aici de a transforma ION într-o armă. Nu acum, nu astăzi, dar într-o zi...
  • Ce garanții de securitate, ce măsuri de control există pentru ca ION să nu ajungă să identifice cei mai vocali „dizidenți" și modul în care aceștia își diseminează opiniile?
  • Ce instituție din România își ia aici rolul de a păzi drepturile românilor astfel încât să nu ajungem ca un algoritm să facă o listă de persoane active, cu opinii virale sau viralizabile pe un anumit subiect?
  • Toate aceste riscuri trebuie identificate printr-o analiză DPIA care să fie apoi făcută publică, astfel încât să nu ajungem ca o altă administrație, poate nu la fel de bine intenționată, să folosească ION în cu totul și cu totul alt scop decât cel pentru care a fost proiectată.”, a declarat pentru HotNews.ro Tudor Galoș, consultant GDPR.

Echipa ION a corectat documentele de pe site după semnalarea HotNews.ro

După ce HotNews.ro a semnalat această problemă și a cerut explicații, echipa ION a corectat atât documentul cu Politica confidențială, cât și documentul cu Termeni și condiții de pe site, astfel încât să fie în concordanță cu promisiunea că datele sunt colectate anonim.

  • „Între cele doua documente mentionate a existat această neconcordanță, dar în acest moment politica de confidențialitate are aceleași prevederi ca și FAQ, și anume că datele sunt colectate în mod anonim.
  • Vă multumim pentru semnalare și dorim să subliniem încă o dată că acest proiect inițiat independent, de români pentru români activează pe bază de voluntariat, toate părțile implicate convergând spre dezvoltarea digitală și modernizarea României.
  • Proiectul este deschis tuturor părților care doresc să se implice cu feedback, inclusiv experților GDPR, precum domnul Tudor Galoș, sau chiar jurnaliștilor care doresc să perfecționeze acest proiect din toate punctele de vedere, nu doar tehnologic.
  • Scopul final urmărit de inițiativa ION este cel de modernizare a României și de a servi mai bine interesele românilor, scop urmărit de toate părțile implicate”, au precizat pentru HotNews.ro reprezentanții echipei ION.

Ce conțineau inițial documentele problematice și cum arată acum

HotNews.ro a salvat documentele anterioare, care între timp au fost modificate, și mai jos puteți vedea atât versiunile anterioare cât și cele corectate:

Echipa ION admite că nu are analiza DPIA a riscurilor / Cum explică

Ce au răspuns reprezentanții echipei ION referitor la analiza DPIA a riscurilor soluției de Inteligență Artificială?

  • „În această fază incipientă a proiectului nu este prevăzut un DPIA. Datele colectate în acest stadiu sunt cele de pe site-ul ion.gov.ro (colectate anonim) și cele colectate în social media pe conturile @noisuntemion, care de asemenea, vor fi colectate și procesate de AI-ul ION în mod anonim.
  • Dacă necesitățile proiectului vor evolua, pe măsură ce acesta se va maturiza iar, cu siguranță acest lucru va fi anunțat în avans și se va ține seama de toate prevederile legale în vigoare, cu o atenție sporită către latura de protecție a datelor personale, un subiect care este foarte important pentru inițiativă”, au precizat reprezentanții echipei ION.

Întrebați dacă nu s-ar încălca legislația privind protecția datelor prin lipsa acestei analize DPIA a riscurilor, aceștia au negat.

  • „Având în vedere că în acest moment proiectul ION nu este prevăzut să colecteze niciun fel de date personale, nu se poate vorbi despre o încălcare a legislației privind drepturile personale. Așa cum am menționat anterior, AI-ul ION nu colectează și nu va colecta date, decât în mod anonim.”, au mai declarat oficialii echipei ION.

Tudor Galoș consideră că anumite riscuri au rămas, deși documentele au fost modificate

Contactat din nou de HotNews.ro după modificarea documentelor problematice de către echipa ION, consultantul GDPR Tudor Galoș a atenționat că riscurile nu au fost îndepărtate integral.

  • „Din noua politică de confidențialitate a tehnologiei ION lipsesc detaliile referitoare la politica de retenție a datelor (timpul în care datele personale sunt stocate), detalii despre terțele părți implicate în prelucrare (de exemplu dacă STS - n.a. Serviciul de Telecomunicații Speciale) asigură partea de hosting, ar trebui menționat), drepturile persoanelor vizate (acces, rectificare, ștergere, restricționare, obiecție, export, revocare consimțământ etc) și modul de exercitare al acestora.
  • De asemenea, o postare social media, chiar și fără detalii despre cel care a postat-o, poate duce la identificarea persoanei vizate prin simpla căutare a textului postării care va duce la cel care a postat-o primul.
  • Drept urmare, o postare social media este o dată cu caracter personal.
  • Într-adevăr, riscul pentru persoanele vizate este mult redus dacă nu se prelucrează și numele contului persoanei vizate, însă consider că este necesară efectuarea unui DPIA complet care să poată să identifice clar toate riscurile referitoare la prelucrările efectuate asupra persoanelor vizate, pentru a le putea adresa corespunzător”, a concluzionat expertul GDPR, Tudor Galoș.

Burduja: Peste 150.000 de români au intrat pe site-ul ion.gov.ro și au transmis mesaje lui Ion / Echipa ION: Nu s-au colectat date

Un alt aspect este cel al românilor care au trimis deja mesaje către ION.

Ministrul Burduja a declarat vineri într-o intervenție la Digi24 că „peste 150.000 de români au intrat pe site-ul ion.gov.ro și au transmis mesaje lui Ion.”

E drept că nu sunt cerute date personale atunci când trimiți mesaje pe site-ul ion.gov.ro, dar HotNews.ro a solicitat echipei ION să spună dacă au fost și români care au trimis mesaje via Facebook prin tag-ul @noisuntemion și dacă au fost colectate numele de utilizator ale acestora.

  • „Proiectul ION nu a colectat nicio dată cu caracter personal, precum numele de utilizator sau alte date din profilul utilizatorilor de pe rețelele de socializare unde acestia au postat mesajele pentru @noisuntemion.”, au mai declarat pentru HotNews.ro reprezentanții echipei ION.

Alte articole despre robotul ION: