Acceptă GDPRovocarea acestui sfârșit de vară!

• 5 echipe formate din pasionați de GDPR vor concura pentru titlul de GDPR Summer Challenge Champion 2019.
• Nu este doar un concurs, este un antrenament! Îți oferim 5 zile de „cantonament GDPR” ca să revii în Septembrie în formă maximă!
• Încă te mai bucuri de vacanta? Stai fără grijă, te poți antrena stând pe șezlong, TOTUL SE DESFĂȘOARĂ ONLINE!

Ingrediente:

• un operator ipotetic
• 5 echipe a câte 4 GDPRiști curajoși
• Provocări zilnice inspirate din realitate, care vă vor întinde cunoștințele GDPR la maxim!
• „Autoritatea”, formată din specialiști, va juriza modalitatea de gestionare a situațiilor
• Multe surprize și sperăm, puține amenzi !

De ce să „pierzi” timp cu astfel de prostii?

• îți vei antrena cunoștințele
• vei colabora cu membri echipei tale și veți face schimb de idei și informații
• networking, vei cunoaște oameni noi
• vei lupta pentru cel mai râvnit trofeu din competițiile GDPR*

*cel mai râvnit pentru ca nu știm să mai fie alta competiție națională, de acest tip, în România. 

GDPR Summer Challenge este o simulare de caz la care participa mai multe echipe sub forma unui concurs national. Fiecare echipa va reprezenta acelasi tip de operator de date (vor primi acelasi set de instructiuni) si va trebui sa gestioneze o serie de situatii si provocari in domeniul protectiei datelor, care pot fi intalnite frecvent in viata de zi cu zi. 

Va exista un organism central care va reprezenta Autoritatea Naţională de Supraveghere a Prelucrării Datelor cu Caracter Personal si care va raspunde solicitarilor in maxim 24 de ore. Aceasta autoritate se va putea si autosesiza si va putea sa initieze solicitari catre operatori.. 

Scopul este ca participantii să dobândească cât mai multă experiență practică din interacțiunea cu alți specialiști.

La finalul acestui concurs, va fi publicat întreg studiul de caz al acestei simulări, incluzand toate măsurile întreprinse și documentele transmise de operatori către Autoritate, devenind astfel o resursă valoroasă pentru dezvoltarea profesională a oricărui Responsabil cu protectia datelor. 

Cui se adreseaza acest exercitiu ? Tuturor celor interesati de o specializare in acest domeniu, care doresc sa obtina o confirmare a cunostintelor pe care le poseda si isi doresc sa interactioneze cu cat mai multi viitori specialisti in domeniul protectiei datelor.   

Concursul se desfasoară pe parcursul a 5 zile, în perioada 12-16 August 2019, toate interactiunile desfăsurându-se în mediul online. Fiecare echipa va avea la dispozitie un canal de comunicare propriu, atat între membri echipei cât și în relația cu Autoritatea, pe platforma dpo-net.ro.

Înscrierile se fac individual, urmând a se stabili prin tragere la sorți membrii fiecărei echipe. La fel ca și în realitate, Responsabilul cu protectia datelor nu va fi inconjurat numai de prieteni și oameni cunoscuți. Credem totuși fiecare participant va cunoaște oameni cel puțin la fel de pasionați, împartâșind astfel din experiența fiecăruia 

Dacă te-am convins, te poți înscrie chiar acum! Grăbește-te, locurile sunt limitate! 

Participarea este GRATUITĂ și persoanele interesate s-au putut înscrie până la data de 8 August 2019.

La începutul săptămânii trecute citeam despre implementarea unui sistem de recunoaștere facială care va folosi camerele de monitorizare video (CCTV), webcam-urile, telefoane mobile, rețele de socializare și camere ATM pentru a realiza o prelucrare, în regim automatizat, de către organele de poliție, pentru identificarea unică a indiviazilor, cu generarea unor decizii individuale automatizate care pot genera efecte juridice negative pentru subiecții de date.

Linștea din jurul acestui subiect o pot explica în doua feluri: fie majoritatea românilor sunt conștienți de acest cost și sunt dispuși să îl plătească pentru a combate criminalitatea și frauda din România sau, întreaga societate românească nu este îndeajuns educată ca să recunoască riscurile introduse de implementarea unui astfel de sistem automatizat și nu apreciază corect valoarea "vieții private"  și a libertății. În rândurile următoare nu veți găsi un răspuns clar la întrebarea din titlu dar, citind următoarele informații, puteți cel puțin să ajutați la creșterea nivelul de educație a întregii societăți românești care se va pronunța pe viitor dacă acest proiect intruziv aduce mai multe beneficii sau introduce mai multe riscuri pentru asigurarea drepturilor și libertăților persoanelor.

Ce este această tehnologie de recunoaștere facială? 

Ei bine, această tehnologie presupune prelucrarea automatizată a imaginilor, care constă în identificarea unor caracteristici faciale specifice persoanei fizice, precum ochii, nasul și gura, extragerea unor caracteristici esențiale din datele biometrice, cum ar fi măsurările faciale pornind de la o imagine captată, inclusiv prin reprezentarea matematică a întregii imagini care rezultă din analiza componentelor principale ale acesteia și duce la identificarea persoanei. Soluția de recunoaștere facială care se dorește implementată în România va trebui să poată executa căutări după o imagine „în litigiu” într-o bază de date de până la 2.000.000 de înregistrări, în maxim 5 secunde, într-o bază de date care va putea cuprinde mai mult de 10% din toată populația României. Altfel spus, BigBrother devine o realitate în România și vom plati cu toții cu prețul vieții noastre private pentru binele comun, în condițiile în care un astfel de sistem nu și-a dovedit eficacitatea, fiind interzis de exemplu în San Francisco, Somerville din Massachusetts și Oakland.  Conform unui anunț recent, chiar și California urmează sa adopte o lege de interzicerea a camerelor utilizate de poliție și care folosesc tehnologia de recunoaștere facială, ca o măsură de protecție a vieții private.

Camerele de monitorizare video (CCTV), webcam-urile, telefoane mobile, rețele de socializare, camere ATM din România vor fi monitorizate de un sistem de recunoaștere facială. Controversele din jurul acestei tehnologii aflată încă în curs de maturizare riscă să stârnească îngrijorarea apărătorilor drepturilor și libertăților persoanelor din România.

Recunoașterea facială: Necesitate sau Oportunitate?

Inspectoratul General al Poliției Române a publicat de curând, în SICAP (Sistemul Electronic de Achiziții Publice), un anunț privind achiziționarea unei „Soluții informatice pentru recunoaștere facială + training”, în valoare de 4.779.008 lei.  

• Descarcă caietul de sarcini al licitației: Caiet de sarcini - sistem de recunoastere faciala

Scopul proiectului îl reprezintă operaționalizarea sistemului de identificare și recunoaștere facială NBIS (Național Biometric Identification System) și interconectarea acestuia cu autoritățile de aplicare a legii din Uniunea Europeană.

Prin implementarea acestei tehnologii, Poliția Română urmărește să crească gradul de combatere și elucidare a cazurilor asociate furtului de identitate, a documentelor pierdute sau furate, identificarea suspecților care comit sau intenționează să comită fapte de natură penală (terorism, infracțiuni cu violenta, etc.).

Poate că, având în vedere încărcătura emoțională cauzată de o serie de evenimente tragice care au determinat slăbirea încrederii românilor în eficiența Poliției Naționale, opinia publică ar înclina spre susținerea unui astfel de proiect, însă controversele asociate acestor sisteme ne obligă să fim cel puțin rezervați dacă nu chiar îngrijorați, așa că am răsfoit documentația căutând indicii care să ne demonteze îngrijorările, fără succes însă. 

Recunoașterea facială este plutoniul inteligenței artificiale

Intenția IGPR-ului de a achiziționa un asemenea sistem ne-a amintit de un articol semnat de Luke STARK (Cercetător Postdoctoral la Microsoft Research Montreal) și publicat de Association of Computing Machinery (ACM), întitulat „Facial recognition is the plutonium of AI”, descriind astfel toxicitatea folosirii sisteme care se bazează pe inteligență artificială.

STARK susține că sistemele de recunoaștere facială sunt periculoase, rasiale și au puține utilizări legitime. Prin urmare, astfel de sisteme au nevoie de reglementare și control strict precum deșeurile nucleare.

Comparația poate părea puțin exagerată însă am menționat acest articol pentru a sublinia încă din start existența controverselor la nivel internațional care planează asupra utilizării acestei tehnologii și a riscurilor asociate acesteia.

Toți locuitorii României vor putea fi monitorizați prin utilizarea sistemului de recunoașterea facială 

Conform documentației licitație, NBIS va oferi funcționalități de căutare/verificare/comparare a imaginilor faciale digitale din bazele de date existente, asociindu-le cu cele provenite din diferite surse cum ar fi CCTV (adică sisteme de monitorizare video), webcam, telefoane mobile, rețele de socializare, camere ATM, operațiuni în urma cărora va fi posibilă recunoașterea persoanelor.

Soluția de recunoaștere facială va trebui să poată executa căutări după o imagine „în litigiu” într-o bază de date de până la 2.000.000 de înregistrări, în maxim 5 secunde. Adică o baza de date care va putea cuprinde mai mult de 10% din toată populația României.

Poate ne grăbim cu concluziile însă interpretarea noastră referitor la sursele imaginilor asociate ar fi că Poliția Româna va avea acces la sistemele de monitorizare video, camerele video ale laptop-urilor, ale telefoanelor mobile ale bancomatelor dar și a rețelelor de socializare. Este oare Poliția Română pregătită să gestioneze eficient și în limitele legale un asemenea sistem, respectând totodată drepturile și libertățile persoanelor? 

Să ne imaginăm că în Piața Victoriei are loc un protest. Poliția va putea accesa înregistrările foto-video realizate de Jandarmerie, înregistrările CCTV, imaginile postate pe Facebook etc., iar prin utilizarea software-ului de identificare facială vor putea fi identificați toți participanții,  făcând astfel posibilă sancționarea lor. Sancționarea celor care se fac vinovați de comiterea unei infracțiuni ar putea fi justificată, dar ce garanții avem că această tehnologie nu va fi utilizată pentru a amenda toți participanții în încercarea de a-i descuraja să mai participe la astfel de evenimente. Situația în care s-a trezit bărbatului surdo-mut, amendat de Jandarmerie pentru că a „scandat lozinci” este cel mai bun exemplu. 

Eficacitatea sistemului de recunoaștere facială este importantă, dar nu prea..

Conform criteriilor de atribuire a contractului din caietul de sarcini al licitației menționate mai sus, ponderea pentru „Eficacitatea algoritmului de căutare/comparare” este de doar 30%, fiind pe aceeași treaptă cu prețul ofertei, Restul factorilor de evaluare vizând caracteristici hardware care nu afectează acuratețea funcționarii software-ului de recunoaștere faciala. 

Mai simplu spus, dacă un ofertant propune un sistem mai ieftin dar în același timp mai slab calitativ din punct de vedere al eficienței software-ului de recunoaștere facială, va avea șanse să câștige acest contract. Mind-blowing or not?

Un alt aspect care ne-a întărit îngrijorarea privind viabilitatea sistemului de recunoaștere faciala este faptul că Autoritatea nu a impus prin documentația achiziției cele mai utilizate condiții de participare atunci când sunt vizate proiecte de o asemenea amploare și sensibilitate: demonstrarea capacității tehnice și profesionale și situația economica și financiară a ofertantului. Prin urmare, operatorii care vor depune o oferta nu vor trebui să dovedească faptul că dețin resursele financiare suficiente pentru a duce la bun sfârșit un proiect de o asemenea amploare și importanță și nici nu vor trebui să dovedească că au experiență în implementarea unei soluții similare sau măcar că personalul care se va ocupa de instalarea sistemului este calificat și deține experiență specifică în astfel de proiecte. 

Dacă tot n-am inventat noi apa caldă, să analizăm rezultatele utilizării tehnologiei de recunoaștere facială în țările mai avansate dpdv tehnologic:

• Politia Metropolitana din Londra acuzată că a irosit banii publici

În perioada august 2016 - iulie 2018 poliția din Londra a testat un sistem de recunoaștere facială. Conform datelor făcute publice de poliția londoneză, în perioada de testare a sistemului au fost declanșate 104 alerte din care 102 s-au dovedit a fi eronate în timp ce doar două au fost confirmate.

Hannah Couchman, ofițer de politică la Liberty, a acuzat Scotland Yard că a lansat o „extindere înfiorătoare” a tehnologiei fără să se implice pe deplin cu problemele legate de discriminare și drepturile omului, relatează Independent.

„Recunoașterea facială este un instrument de supraveghere a masei care ne poate forța să ne schimbăm comportamentul și este cel puțin exact atunci când sunt folosite pentru a identifica femeile și persoanele BME (Black Male Adult) - ceea ce înseamnă că sunt mai susceptibile de a fi supuse unei opriri intruzive ale poliției în urma unei potriviri false“, a adăugat aceasta.

• San Francisco a interzis utilizarea tehnologiei de recunoaștere facială de către poliţie şi alte agenţii guvernamentale

În data de 14 mai 2019, orașul San Francisco, aflat de mult în centrul revoluției tehnologice, a luat o poziție împotriva potențialelor abuzuri, interzicând poliției și altor agenții să folosească software de recunoaștere facială.

Tehnologia emergentă nu va fi permisă de către agențiile locale, cum ar fi autoritatea de transport a orașului sau forțele de ordine. 

"Tendinţa tehnologiei de recunoaştere facială de a pune în pericol drepturile civile şi libertăţile civice contrabalansează semnificativ aşa-zisele sale beneficii", se spune în textul deciziei.

În plus, orice plan de cumpărare a oricărui tip de tehnologie de supraveghere trebuie să fie acum aprobat de administratorii orașului, relatează BBC.

"Cu acest vot, San Francisco a declarat că tehnologia de monitorizare a fețelor este incompatibilă cu o democrație sănătoasă și că rezidenții merită să aibă o voce în deciziile privind tehnologiile avansate de supraveghere", a declarat Matt Cagle, reprezentant al American Civil Liberties Union.

Somerville din Massachusetts și Oakland, California au urmat modelul orașului San Francisco.

• China folosește sistemul de recunoaștere facială pentru a profila minoritățile

Potrivit ziarului The New York Times (NYT), autorităţile chineze se folosesc de această tehnologie integrată în vaste reţele de camere de supraveghere în întreaga ţară, pentru a repera membri ai minorităţii musulmane, după ce a fost programată cu caracteristicile lor fizice, pentru a-i căuta doar pe aceştia. Acesta ar fi primul exemplu cunoscut al folosirii de către un guvern a inteligenţei artificiale (AI) cu scopul de a efectua un profilaj rasial.

dpo-NET.ro a publicat un articol despre prelucrarea excesivă a datelor sensibile care poate conduce la o dictatura digitală în care toți am fi captivi. Puteți accesa articolul aici. Documentarul ABC News (Australia) intitulat “Expunerea dictaturii distopice a Chinei | Corespondent străin“ poate fi vizionat la sfârșitul acestui articol. 

• Campania BanFacialRecognition în SUA

EPIC* împreună cu alte 30 de organizații solicită parlamentarilor americani să interzică utilizarea de către guvern a tehnologiei de recunoaștere facială.

În solicitare, coaliția BanFacialRecognition de subliniat faptul că „utilizarea tehnologiei de recunoaștere a feței ... prezintă riscuri grave pentru viața privată și libertățile civile, amenință imigranții, are un impact larg asupra cetățenilor americani și a fost pusă în aplicare fără garanții adecvate sau aprobare explicită a Congresului".

De asemenea aceștia au trimis autorității responsabile cu securitatea națională (Homeland Security)  o scrisoare prin care au solicitat acestora „suspendarea imediată 

suspendați imediat folosirea tehnologiei de recunoaștere a feței de către Departamentul de Securitate Internă (DHS) asupra publicului larg”. 

______

*EPIC (Electronic Privacy Information Center) este un centru de cercetare de interes public din Washington, care luptă pentru protejarea confidențialității, a libertății de exprimare și a valorilor democratice în era informațională.

• Până și Facebook a renunțat la recunoașterea facială by default

În 3 septembrie, Facebook a anunțat că va înceta folosirea în mod implicit a recunoașterii facială prin care oferea sugestii de etichetare a persoanelor din fotografiile încărcate. Astfel Facebook  încearcă să ofere mai multa transparență acestui tip de prelucrare, informând utilizatorii despre modul în care platforma folosește această tehnologie și oferindu-le acestora posibilitatea de a opta sau dezactiva cu ușurință aceste setări.

Acest update este consecința anchetei efectuate de Comisiei Federală de Comerț (FTC) care a condus la înțelegerea record de 5 miliarde de dolari. Printre neregulile identificate de FTC s-a numărat și utilizarea programului de recunoaștere facială, FTC ordonând Facebook să „furnizeze o notificare clară și vizibilă despre utilizarea tehnologiei de recunoaștere facială și să obțină consimțământul afirmativ al utilizatorului ...”, potrivit comunicatului de presă al FTC.

Totuși, în anumite condiții, sisteme de recunoașterea facială pot funcționa în limitele legii

Procesul în care Ed Bridges, fost consilier al orașului Cardiff a contestat utilizarea de către Poliția South Wales a tehnologiei automate de recunoaștere facială a avut un deznodământ neașteptat, deși acesta a beneficiat de o puternică susținere din partea Liberty, o organizație care luptă pentru drepturile omului, 

Judecătorii au decis că, deși utilizarea unui sistem de recunoaștere facială automată constituie o ingerință în dreptul la viață privată, există o bază legală pentru aceasta, iar cadrul legal folosit de poliție a fost proporțional.

Înalta Curte a declarat că aceasta este prima dată când o instanță din întreaga lume a analizat legalitatea utilizării tehnologiei de recunoaștere facială, conform BBC.

Aceasta decizie pare să fi luat prin surprindere însăși autoritatea de supraveghere din Marea Britanie (ICO). Aceasta a emis o declarație cu privire la utilizarea tehnologiei de recunoaștere a feței în direct de către Poliția South Wales, prin care a salutat constatarea instanței potrivit căreia utilizarea de către poliție a sistemelor de recunoaștere facială implică prelucrarea de date sensibile, fiind necesara necesitând respectarea legilației privind protecția datelor personale.

„Această tehnologie nouă și intruzivă are potențial, dacă este folosită fără garanțiile de confidențialitate corecte, să submineze mai degrabă decât să sporească încrederea în poliție”, a subliniat autoritatea engleză.

Aceasta a declarat că va lua în considerare decizia instanței de judecată, urmând să finalizeze recomandările și îndrumările adresate forțelor de poliție cu privire la modul de planificare, autorizare și implementare a oricăror sisteme de recunoaștere facială viitoare.

„Între timp, orice forțe de poliție sau organizații private care utilizează aceste sisteme ar trebui să fie conștiente de faptul că legislația și ghidurile privind protecția datelor încă se aplică.”, a concluzionat autoritatea.

Permite legislația națională utilizarea sistemelor de recunoaștere facială?

Necunoscând legislația specifică aplicabilă la nivelul Poliției Române, vom evita să oferim un răspuns ferm însă vom analiza strict din punct de vedere al legislației ce reglementează acest tip de prelucrări de date personale (Legea nr. 363/2018), 

Astfel, conform dispozițiilor art. 10 și 11, prelucrarea datelor sensibile (biometrice) prin mijloace automate este interzisă, cu excepţia cazului în care prelucrarea este reglementată expres de lege, și sunt instituite măsuri corespunzătoare pentru protejarea drepturilor, a libertăţilor şi a intereselor legitime ale persoanei vizate.

Utilizarea unui sistem ce ridica suspiciuni privind intruziunea în viața privată a persoanelor ar trebui înainte de toate să treacă printr-o evaluare a impactului asupra protecţiei datelor cu caracter personal (DPIA), obligatorie pentru acest tip de prelucrări conform Deciziei nr. 174/2018 a autorității naționale de supraveghere. 

Mai mult, având în vedere că vorbim despre implementarea unei tehnologii noi care prezintă un risc ridicat pentru drepturile și libertățile persoanelor și care va putea fi utilizat pe întreg teritoriul României, considerăm că Poliția Română ar fi trebuit să consulte autoritatea națională de supraveghere atunci când a planificat achiziția acestui sistem în vederea includerii în caietului de sarcini a unor cerințe funcționale specifice care să ofere garanții suficiente în ceea ce privește protecția datelor personale, adică respectarea conceptului de privacy by design (vezi art. 25 din GDPR).

Poate nu am fost suficient de atenți, însă noi nu am identificat în documentația aferentă achiziției sistemului de recunoaștere facială cerințe constructive specifice care să asigure respectarea legislației incidente privind protecția datelor personale, în afara celor privind managementul log-urilor. 

______

*Legea nr. 363/2018 din 28 decembrie 2018 privind protecţia persoanelor fizice referitor la prelucrarea datelor cu caracter personal de către autorităţile competente în scopul prevenirii, descoperirii, cercetării, urmăririi penale şi combaterii infracţiunilor sau al executării pedepselor, măsurilor educative şi de siguranţă, precum şi privind libera circulaţie a acestor date

În loc de concluzii

Nu contestăm că tehnologia evoluează constant iar astfel de soluții vor putea contribui la diminuarea infracționalității însă astfel de decizii nu pot fi luate fără a ține cont în primul rând de eventualele consecințe.

Una din aceste consecințe, în cazul în care utilizarea unei astfel de soluții tehnice se dovedește a fi o ingerință în viața privată a persoanelor, ar fi procesele colective care ar putea costa Statul Român mai mult decât investiția în sistemul respectiv. 

Dar cu siguranța cea mai mai dureroasă „lovitură” ar fi scăderea încrederii pe care persoanele o au în această instituție, al cărei slogan este „Siguranță și Încredere”.

Probabil că nu toată lumea ne va împărtăși îngrijorările însă informațiile de mai sus ne oferă suficiente argumente să nu privim cu ochi buni achiziția unui asemenea sistem. Ne-am simțit obligați să tragem acest semnal de alarmă și să subliniem faptul că riscăm să ne îndreptăm spre o eră BigBrother, în care spațiul privat nu va mai exista atât timp cât un ochi poate veghea mereu asupra noastră.

Cu siguranță vom fi „acuzați” că ne grăbim cu „concluziile”, motiv pentru care vă invităm să vizionați următorul filmuleț și să extrageți singuri concluziile.