Camerele de monitorizare video (CCTV), webcam-urile, telefoane mobile, rețele de socializare, camere ATM din România vor fi monitorizate de un sistem de recunoaștere facială. Controversele din jurul acestei tehnologii aflată încă în curs de maturizare riscă să stârnească îngrijorarea apărătorilor drepturilor și libertăților persoanelor din România.
Recunoașterea facială: Necesitate sau Oportunitate?
Inspectoratul General al Poliției Române a publicat de curând, în SICAP (Sistemul Electronic de Achiziții Publice), un anunț privind achiziționarea unei „Soluții informatice pentru recunoaștere facială + training”, în valoare de 4.779.008 lei.
- Descarcă caietul de sarcini al licitației: Caiet de sarcini - sistem de recunoastere faciala
Scopul proiectului îl reprezintă operaționalizarea sistemului de identificare și recunoaștere facială NBIS (Național Biometric Identification System) și interconectarea acestuia cu autoritățile de aplicare a legii din Uniunea Europeană.
Prin implementarea acestei tehnologii, Poliția Română urmărește să crească gradul de combatere și elucidare a cazurilor asociate furtului de identitate, a documentelor pierdute sau furate, identificarea suspecților care comit sau intenționează să comită fapte de natură penală (terorism, infracțiuni cu violenta, etc.).
Poate că, având în vedere încărcătura emoțională cauzată de o serie de evenimente tragice care au determinat slăbirea încrederii românilor în eficiența Poliției Naționale, opinia publică ar înclina spre susținerea unui astfel de proiect, însă controversele asociate acestor sisteme ne obligă să fim cel puțin rezervați dacă nu chiar îngrijorați, așa că am răsfoit documentația căutând indicii care să ne demonteze îngrijorările, fără succes însă.
Recunoașterea facială este plutoniul inteligenței artificiale
Intenția IGPR-ului de a achiziționa un asemenea sistem ne-a amintit de un articol semnat de Luke STARK (Cercetător Postdoctoral la Microsoft Research Montreal) și publicat de Association of Computing Machinery (ACM), întitulat „Facial recognition is the plutonium of AI”, descriind astfel toxicitatea folosirii sisteme care se bazează pe inteligență artificială.
STARK susține că sistemele de recunoaștere facială sunt periculoase, rasiale și au puține utilizări legitime. Prin urmare, astfel de sisteme au nevoie de reglementare și control strict precum deșeurile nucleare.
Comparația poate părea puțin exagerată însă am menționat acest articol pentru a sublinia încă din start existența controverselor la nivel internațional care planează asupra utilizării acestei tehnologii și a riscurilor asociate acesteia.
Toți locuitorii României vor putea fi monitorizați prin utilizarea sistemului de recunoașterea facială
Conform documentației licitație, NBIS va oferi funcționalități de căutare/verificare/comparare a imaginilor faciale digitale din bazele de date existente, asociindu-le cu cele provenite din diferite surse cum ar fi CCTV (adică sisteme de monitorizare video), webcam, telefoane mobile, rețele de socializare, camere ATM, operațiuni în urma cărora va fi posibilă recunoașterea persoanelor.
Soluția de recunoaștere facială va trebui să poată executa căutări după o imagine „în litigiu” într-o bază de date de până la 2.000.000 de înregistrări, în maxim 5 secunde. Adică o baza de date care va putea cuprinde mai mult de 10% din toată populația României.
Poate ne grăbim cu concluziile însă interpretarea noastră referitor la sursele imaginilor asociate ar fi că Poliția Româna va avea acces la sistemele de monitorizare video, camerele video ale laptop-urilor, ale telefoanelor mobile ale bancomatelor dar și a rețelelor de socializare. Este oare Poliția Română pregătită să gestioneze eficient și în limitele legale un asemenea sistem, respectând totodată drepturile și libertățile persoanelor?
Să ne imaginăm că în Piața Victoriei are loc un protest. Poliția va putea accesa înregistrările foto-video realizate de Jandarmerie, înregistrările CCTV, imaginile postate pe Facebook etc., iar prin utilizarea software-ului de identificare facială vor putea fi identificați toți participanții, făcând astfel posibilă sancționarea lor. Sancționarea celor care se fac vinovați de comiterea unei infracțiuni ar putea fi justificată, dar ce garanții avem că această tehnologie nu va fi utilizată pentru a amenda toți participanții în încercarea de a-i descuraja să mai participe la astfel de evenimente. Situația în care s-a trezit bărbatului surdo-mut, amendat de Jandarmerie pentru că a „scandat lozinci” este cel mai bun exemplu.
Eficacitatea sistemului de recunoaștere facială este importantă, dar nu prea..
Conform criteriilor de atribuire a contractului din caietul de sarcini al licitației menționate mai sus, ponderea pentru „Eficacitatea algoritmului de căutare/comparare” este de doar 30%, fiind pe aceeași treaptă cu prețul ofertei, Restul factorilor de evaluare vizând caracteristici hardware care nu afectează acuratețea funcționarii software-ului de recunoaștere faciala.
Mai simplu spus, dacă un ofertant propune un sistem mai ieftin dar în același timp mai slab calitativ din punct de vedere al eficienței software-ului de recunoaștere facială, va avea șanse să câștige acest contract. Mind-blowing or not?
Un alt aspect care ne-a întărit îngrijorarea privind viabilitatea sistemului de recunoaștere faciala este faptul că Autoritatea nu a impus prin documentația achiziției cele mai utilizate condiții de participare atunci când sunt vizate proiecte de o asemenea amploare și sensibilitate: demonstrarea capacității tehnice și profesionale și situația economica și financiară a ofertantului. Prin urmare, operatorii care vor depune o oferta nu vor trebui să dovedească faptul că dețin resursele financiare suficiente pentru a duce la bun sfârșit un proiect de o asemenea amploare și importanță și nici nu vor trebui să dovedească că au experiență în implementarea unei soluții similare sau măcar că personalul care se va ocupa de instalarea sistemului este calificat și deține experiență specifică în astfel de proiecte.
Dacă tot n-am inventat noi apa caldă, să analizăm rezultatele utilizării tehnologiei de recunoaștere facială în țările mai avansate dpdv tehnologic:
-
Politia Metropolitana din Londra acuzată că a irosit banii publici
În perioada august 2016 - iulie 2018 poliția din Londra a testat un sistem de recunoaștere facială. Conform datelor făcute publice de poliția londoneză, în perioada de testare a sistemului au fost declanșate 104 alerte din care 102 s-au dovedit a fi eronate în timp ce doar două au fost confirmate.
Hannah Couchman, ofițer de politică la Liberty, a acuzat Scotland Yard că a lansat o „extindere înfiorătoare” a tehnologiei fără să se implice pe deplin cu problemele legate de discriminare și drepturile omului, relatează Independent.
„Recunoașterea facială este un instrument de supraveghere a masei care ne poate forța să ne schimbăm comportamentul și este cel puțin exact atunci când sunt folosite pentru a identifica femeile și persoanele BME (Black Male Adult) - ceea ce înseamnă că sunt mai susceptibile de a fi supuse unei opriri intruzive ale poliției în urma unei potriviri false“, a adăugat aceasta.
-
San Francisco a interzis utilizarea tehnologiei de recunoaștere facială de către poliţie şi alte agenţii guvernamentale
În data de 14 mai 2019, orașul San Francisco, aflat de mult în centrul revoluției tehnologice, a luat o poziție împotriva potențialelor abuzuri, interzicând poliției și altor agenții să folosească software de recunoaștere facială.
Tehnologia emergentă nu va fi permisă de către agențiile locale, cum ar fi autoritatea de transport a orașului sau forțele de ordine.
"Tendinţa tehnologiei de recunoaştere facială de a pune în pericol drepturile civile şi libertăţile civice contrabalansează semnificativ aşa-zisele sale beneficii", se spune în textul deciziei.
În plus, orice plan de cumpărare a oricărui tip de tehnologie de supraveghere trebuie să fie acum aprobat de administratorii orașului, relatează BBC.
"Cu acest vot, San Francisco a declarat că tehnologia de monitorizare a fețelor este incompatibilă cu o democrație sănătoasă și că rezidenții merită să aibă o voce în deciziile privind tehnologiile avansate de supraveghere", a declarat Matt Cagle, reprezentant al American Civil Liberties Union.
Somerville din Massachusetts și Oakland, California au urmat modelul orașului San Francisco.
-
China folosește sistemul de recunoaștere facială pentru a profila minoritățile
Potrivit ziarului The New York Times (NYT), autorităţile chineze se folosesc de această tehnologie integrată în vaste reţele de camere de supraveghere în întreaga ţară, pentru a repera membri ai minorităţii musulmane, după ce a fost programată cu caracteristicile lor fizice, pentru a-i căuta doar pe aceştia. Acesta ar fi primul exemplu cunoscut al folosirii de către un guvern a inteligenţei artificiale (AI) cu scopul de a efectua un profilaj rasial.
dpo-NET.ro a publicat un articol despre prelucrarea excesivă a datelor sensibile care poate conduce la o dictatura digitală în care toți am fi captivi. Puteți accesa articolul aici. Documentarul ABC News (Australia) intitulat “Expunerea dictaturii distopice a Chinei | Corespondent străin“ poate fi vizionat la sfârșitul acestui articol.
-
Campania BanFacialRecognition în SUA
EPIC* împreună cu alte 30 de organizații solicită parlamentarilor americani să interzică utilizarea de către guvern a tehnologiei de recunoaștere facială.
În solicitare, coaliția BanFacialRecognition de subliniat faptul că „utilizarea tehnologiei de recunoaștere a feței ... prezintă riscuri grave pentru viața privată și libertățile civile, amenință imigranții, are un impact larg asupra cetățenilor americani și a fost pusă în aplicare fără garanții adecvate sau aprobare explicită a Congresului".
De asemenea aceștia au trimis autorității responsabile cu securitatea națională (Homeland Security) o scrisoare prin care au solicitat acestora „suspendarea imediată
suspendați imediat folosirea tehnologiei de recunoaștere a feței de către Departamentul de Securitate Internă (DHS) asupra publicului larg”.
______
*EPIC (Electronic Privacy Information Center) este un centru de cercetare de interes public din Washington, care luptă pentru protejarea confidențialității, a libertății de exprimare și a valorilor democratice în era informațională.
-
Până și Facebook a renunțat la recunoașterea facială by default
În 3 septembrie, Facebook a anunțat că va înceta folosirea în mod implicit a recunoașterii facială prin care oferea sugestii de etichetare a persoanelor din fotografiile încărcate. Astfel Facebook încearcă să ofere mai multa transparență acestui tip de prelucrare, informând utilizatorii despre modul în care platforma folosește această tehnologie și oferindu-le acestora posibilitatea de a opta sau dezactiva cu ușurință aceste setări.
Acest update este consecința anchetei efectuate de Comisiei Federală de Comerț (FTC) care a condus la înțelegerea record de 5 miliarde de dolari. Printre neregulile identificate de FTC s-a numărat și utilizarea programului de recunoaștere facială, FTC ordonând Facebook să „furnizeze o notificare clară și vizibilă despre utilizarea tehnologiei de recunoaștere facială și să obțină consimțământul afirmativ al utilizatorului ...”, potrivit comunicatului de presă al FTC.
Totuși, în anumite condiții, sisteme de recunoașterea facială pot funcționa în limitele legii
Procesul în care Ed Bridges, fost consilier al orașului Cardiff a contestat utilizarea de către Poliția South Wales a tehnologiei automate de recunoaștere facială a avut un deznodământ neașteptat, deși acesta a beneficiat de o puternică susținere din partea Liberty, o organizație care luptă pentru drepturile omului,
Judecătorii au decis că, deși utilizarea unui sistem de recunoaștere facială automată constituie o ingerință în dreptul la viață privată, există o bază legală pentru aceasta, iar cadrul legal folosit de poliție a fost proporțional.
Înalta Curte a declarat că aceasta este prima dată când o instanță din întreaga lume a analizat legalitatea utilizării tehnologiei de recunoaștere facială, conform BBC.
Aceasta decizie pare să fi luat prin surprindere însăși autoritatea de supraveghere din Marea Britanie (ICO). Aceasta a emis o declarație cu privire la utilizarea tehnologiei de recunoaștere a feței în direct de către Poliția South Wales, prin care a salutat constatarea instanței potrivit căreia utilizarea de către poliție a sistemelor de recunoaștere facială implică prelucrarea de date sensibile, fiind necesara necesitând respectarea legilației privind protecția datelor personale.
„Această tehnologie nouă și intruzivă are potențial, dacă este folosită fără garanțiile de confidențialitate corecte, să submineze mai degrabă decât să sporească încrederea în poliție”, a subliniat autoritatea engleză.
Aceasta a declarat că va lua în considerare decizia instanței de judecată, urmând să finalizeze recomandările și îndrumările adresate forțelor de poliție cu privire la modul de planificare, autorizare și implementare a oricăror sisteme de recunoaștere facială viitoare.
„Între timp, orice forțe de poliție sau organizații private care utilizează aceste sisteme ar trebui să fie conștiente de faptul că legislația și ghidurile privind protecția datelor încă se aplică.”, a concluzionat autoritatea.
Permite legislația națională utilizarea sistemelor de recunoaștere facială?
Necunoscând legislația specifică aplicabilă la nivelul Poliției Române, vom evita să oferim un răspuns ferm însă vom analiza strict din punct de vedere al legislației ce reglementează acest tip de prelucrări de date personale (Legea nr. 363/2018),
Astfel, conform dispozițiilor art. 10 și 11, prelucrarea datelor sensibile (biometrice) prin mijloace automate este interzisă, cu excepţia cazului în care prelucrarea este reglementată expres de lege, și sunt instituite măsuri corespunzătoare pentru protejarea drepturilor, a libertăţilor şi a intereselor legitime ale persoanei vizate.
Utilizarea unui sistem ce ridica suspiciuni privind intruziunea în viața privată a persoanelor ar trebui înainte de toate să treacă printr-o evaluare a impactului asupra protecţiei datelor cu caracter personal (DPIA), obligatorie pentru acest tip de prelucrări conform Deciziei nr. 174/2018 a autorității naționale de supraveghere.
Mai mult, având în vedere că vorbim despre implementarea unei tehnologii noi care prezintă un risc ridicat pentru drepturile și libertățile persoanelor și care va putea fi utilizat pe întreg teritoriul României, considerăm că Poliția Română ar fi trebuit să consulte autoritatea națională de supraveghere atunci când a planificat achiziția acestui sistem în vederea includerii în caietului de sarcini a unor cerințe funcționale specifice care să ofere garanții suficiente în ceea ce privește protecția datelor personale, adică respectarea conceptului de privacy by design (vezi art. 25 din GDPR).
Poate nu am fost suficient de atenți, însă noi nu am identificat în documentația aferentă achiziției sistemului de recunoaștere facială cerințe constructive specifice care să asigure respectarea legislației incidente privind protecția datelor personale, în afara celor privind managementul log-urilor.
______
*Legea nr. 363/2018 din 28 decembrie 2018 privind protecţia persoanelor fizice referitor la prelucrarea datelor cu caracter personal de către autorităţile competente în scopul prevenirii, descoperirii, cercetării, urmăririi penale şi combaterii infracţiunilor sau al executării pedepselor, măsurilor educative şi de siguranţă, precum şi privind libera circulaţie a acestor date
În loc de concluzii
Nu contestăm că tehnologia evoluează constant iar astfel de soluții vor putea contribui la diminuarea infracționalității însă astfel de decizii nu pot fi luate fără a ține cont în primul rând de eventualele consecințe.
Una din aceste consecințe, în cazul în care utilizarea unei astfel de soluții tehnice se dovedește a fi o ingerință în viața privată a persoanelor, ar fi procesele colective care ar putea costa Statul Român mai mult decât investiția în sistemul respectiv.
Dar cu siguranța cea mai mai dureroasă „lovitură” ar fi scăderea încrederii pe care persoanele o au în această instituție, al cărei slogan este „Siguranță și Încredere”.
Probabil că nu toată lumea ne va împărtăși îngrijorările însă informațiile de mai sus ne oferă suficiente argumente să nu privim cu ochi buni achiziția unui asemenea sistem. Ne-am simțit obligați să tragem acest semnal de alarmă și să subliniem faptul că riscăm să ne îndreptăm spre o eră BigBrother, în care spațiul privat nu va mai exista atât timp cât un ochi poate veghea mereu asupra noastră.
Cu siguranță vom fi „acuzați” că ne grăbim cu „concluziile”, motiv pentru care vă invităm să vizionați următorul filmuleț și să extrageți singuri concluziile.
