“Benvenuti nel futuro della sicurezza cittadina”: il riconoscimento facciale in America Latina

Molti governi hanno implementato tecnologie di sorveglianza collaborando con aziende private estere senza dibattito pubblico, e senza aver dimostrato la legittimità, la proporzionalità e la necessità dell’implementazione di un’architettura di sorveglianza così massiva

Efficacia, precisione, capillarità sono alcune delle caratteristiche sulle quali le aziende produttrici di sistemi di riconoscimento facciale calcano di più la mano. Le stesse che insieme alla promessa di maggiore sicurezza – smentita più volte grazie a studi e inchieste internazionali – affascinano molti governi, fra i quali quelli sudamericani. Negli ultimi anni infatti Brasile, Colombia, Ecuador, Cile, Messico, Paraguay e Bolivia hanno implementato o stanno gradualmente implementando sistemi di videosorveglianza o identificazione digitale statale. Sono più di 450 milioni i cittadini che potenzialmente potrebbero essere sorvegliati dallo stato, circa il 79% della popolazione latinoamericana.

Guillermo Ibarrola è una delle vittime di questa tecnologia, balzato agli onori della cronaca argentina poco più di un anno fa. Mentre attendeva il bus nel centro di Buenos Aires, Ibarrola viene avvicinato e preso in custodia da due agenti di polizia che lo conducono in carcere. Come riportato dal quotidiano argentino La Prensa, l’arresto è avvenuto dopo che il sistema di riconoscimento facciale ha identificato Ibarrola come il soggetto ricercato per una rapina aggravata (che non aveva commesso), allertando la polizia. Il caso di falso positivo, uno degli aspetti centrali che rende la tecnologia meno efficace di quanto le aziende produttrici siano solite ammettere, è costato a Ibarrola sei giorni di carcere senza poter parlare con un avvocato. Il governo della città di Buenos Aires rifiuta però di ammettere che l’errore sia stato commesso dalla tecnologia di riconoscimento facciale, imputandolo invece ad un’errata trascrizione del nome di Ibarrola da parte dell’anagrafe: il codice fiscale dei due soggetti era però diverso e il sospettato aveva anche un secondo nome.

Il sistema di videosorveglianza con riconoscimento facciale, implementato per contrastare la delinquenza, è stato inaugurato nella capitale argentina nell’aprile del 2019. L’arresto di Ibarrola avviene dopo soli quattro mesi. Ciò che emerge è un totale asservimento dell’uomo nei confronti di quanto deciso da una tecnologia opaca e ancora molto incerta, velata di un tecnottimismo sintomo di una ancora bassa percezione di quanto – in questo caso – sia la tecnologia a guidare le azioni di un’autorità giudiziaria.

ECU-911 – Direzione Generale del servizio di sicurezza integrata a Quito, Ecuador

Poca trasparenza sull’utilizzo del sistema

Il Brasile è probabilmente il paese in cui questa tecnologia è stata usata ed è usata più ampiamente, anche a causa delle infrastrutture acquistate in vista dei mondiali di calcio e delle olimpiadi di Rio de Janeiro (avvenute nel 2014, nda). Buenos Aires ha un sistema di riconoscimento facciale completamente operativo” afferma raggiunto via email, Vladimir Garay, Advocacy Director di Derechos Digitales, organizzazione sudamericana che sostiene lo sviluppo, la difesa e la promozione dei diritti digitali.

Per identificare possibili fuggitivi o delinquenti, la capitale è stata tappezzata di telecamere, di cui 200 sembrerebbero avere funzioni di riconoscimento facciale ma non è chiaro se siano effettivamente solo nelle stazioni ferroviarie o metropolitane, così come detto dal governo. Asociaciòn por los Derechos Civiles (ADC), ong per i diritti civili e sociali in Argentina, ha inoltrato un’istanza di accesso alle informazioni (FOIA) proprio per scoprire l’ubicazione delle telecamere e il numero di quelle dotate di FR, ma la città di Buenos Aires ha negato l’accesso per ragioni di sicurezza. Per questo motivo, nel novembre 2019, l’associazione ha presentato una mozione di incostituzionalità contro la risoluzione che ha introdotto il sistema SRFP.

C’è veramente poca trasparenza circa l’implementazione dei sistemi di riconoscimento facciale. Il FOIA è la via migliore per avere molte informazioni, con diversità da paese a paese, ma non è così semplice e non necessariamente veloce” afferma Garay. Inoltre, i governi non sono inclini a fornire tutte le informazioni richieste: “i nomi dei provider sono particolarmente difficili da ottenere perchè anche se si utilizza l’accesso alle informazioni, molto spesso i governi forniscono solo i nomi delle aziende che poi distribuiscono localmente le tecnologie prodotte da provider europei o israeliani” continua Garay.

Anche la capitale del Paraguay, Asunciòn, ha iniziato dal 2018 il potenziamento del sistema di videosorveglianza attraverso il riconoscimento facciale. TEDIC, ong che promuove i principi della cultura aperta e i diritti civili su Internet nel territorio paraguayano, nell’aprile dello scorso anno ha richiesto tramite FOIA non solo le motivazioni sottostanti lo sviluppo di un sistema che tratta dati biometrici ma, fra le altre, anche la valutazione di impatto sui diritti civili dei cittadini sorvegliati e la responsabilità del trattamento dei dati stessi. Precisazioni importanti, dato che con questa tecnologia il volto del sospetto registrato dalla videocamera potrà essere automaticamente confrontato con centinaia di migliaia di foto presenti nel sistema AFIS della polizia paraguayana. Le informazioni ottenute dalla ong sono state parziali e una volta ricorsi in appello, il Ministero dell’Interno ha negato la richiesta FOIA poichè inerente la sicurezza nazionale del paese.

Tecnologia made in China

Spesso i governi utilizzano leggi relative alla sicurezza nazionale per evitare di fornire informazioni sull’ammontare dell’investimento e sulle specifiche delle tecnologie acquistate” racconta ancora Garay.

Secondo il think tank americano Carnegie Endowment for international peace, la Cina è il maggiore driver di tecnologie di sorveglianza del mondo attraverso aziende come Huawei, Hikvision, Dahua e ZTE: la prima è provider di intelligenza artificiale per la sorveglianza in almeno 50 paesi del mondo. La tattica cinese si appoggia a prestiti agevolati che favoriscono inevitabilmente stati come Kenya, Laos, Mongolia, Uganda e Usbekistan, altrimenti impossibilitati ad ottenere le tecnologie necessarie per sviluppare sistemi di riconoscimento facciale. Ovviamente questo solleva degli interrogativi rilevanti in merito alle possibili interferenze che il governo cinese può mettere in atto attraverso la vendita di sistemi repressivi.

Carnegie Endowment for International Peace – report 2019

Huawei è in prima linea nella corsa alla produzione e commercializzazione di tecnologie di sicurezza pubblica per le “città sicure”, proposte alle forze dell’ordine o ai governi con lo scopo di prevedere, prevenire e ridurre la criminalità. In un white paper del 2016, l’azienda cinese descrive la tecnologia e il suo adattamento alla regione in cui verrà potenzialmente utilizzata: in Medio Oriente le sue piattaforme prevengono “l’estremismo“, in USA aiutano le azioni di “contro terrorismo“, in America Latina riducono la criminalità.

Carnegie Endowment for International Peace – report 2019

La maggior parte delle volte, la motivazione dietro l’acquisizione e l’implementazione di sistemi di riconoscimento facciale si rifa alla necessità di contrastare la criminalità o fornire maggiore sicurezza” racconta Garay, riferendosi ai paesi latinoamericani. “Non ho però mai letto uno studio che supporti questo tipo di decisioni, men che meno uno studio di impatto sui diritti umani coinvolti“.

Alla fine di agosto 2019 il ministro del governo boliviano ha presentato in una conferenza stampa dai toni importanti il programma Bol-110. Come riportato dal New York Times, la tecnologia è stata realizzata dall’azienda statale cinese CEIEC e da Huawei per prevenire e limitare la violenza derivante dal narcotraffico e ridurre il numero di omicidi. Il finanziamento per lo sviluppo di Bol-110 è arrivato anche dalla banca nazionale cinese che, secondo il quotidiano boliviano El Diario, ammonta a 105 milioni di dollari (di cui i primi 50 milioni per la fase 1 e i restanti per la fase 2) per la messa in opera di 10.000 telecamere in tutto il paese. Altre migliaia di telecamere sono messe a disposizione da enti privati, creando un sistema che coinvolge non solo attori deputati alla sicurezza dello stato ma anche interessi privati.

“I delinquenti sono molto astuti e sempre un passo più avanti di noi, e ciò non può essere. Noi che abbiamo l’autorità abbiamo il dovere di usare tutto: droni, lettura delle targhe per ritrovare auto rubate, riconoscimento facciale. Tutto.” sono le parole del sindaco della municipalità di Las Condes, città nella provincia di Santiago, Cile. L’implementazione del sistema è partita da un centro commerciale della città spesso vittima di rapine milionarie, ed è un caso emblematico: il software, sviluppato dall’azienda spagnola Herta di cui ho già parlato in precedenza, una volta testato dalla polizia ha raggiunto una percentuale di falsi positivi del 90%. Un sistema fallato che tratta dati biometrici in mano ad un ente privato, in uno spazio semi-pubblico.

Poche tutele legali e scarsa conoscenza del tema da parte dei cittadini

Derechos Digitales porta avanti da alcuni anni una serie di azioni sul tema del riconoscimento facciale in America Latina, studiando e analizzando le tecnologie implementate in Cile, rendendole conoscenza aperta e condivisa, ma anche discutendo con i policy makers. “Parlando generalmente, non credo ci sia molta conoscenza sul funzionamento di questa tecnologia, i rischi che comporta e le minacce. Non è una materia così semplice, e la maggior parte delle volte i governi presentano il riconoscimento facciale come una soluzione magica per la prevenzione del crimine e della violenza, una parte dell’agenda di modernizzazione del paese” afferma Garay, continuando “ci sono molti soldi investiti e quindi molti interessi che rendono ancora più difficile informare le persone“.

Nel 2018 il Parlamento brasiliano ha approvato la Lei Geral de Proteção de Dados Pessoais (LGPD), che sarebbe dovuta entrare in vigore nell’agosto del 2020. I tempi sono stati allungati anche a causa dell’epidemia da covid-19, che ha fatto slittare la piena applicazione della legge all’agosto del 2021. Di fatto, questo LGPD può essere – con le dovute differenze – paragonato al GDPR introdotto in Europa nel 2016. Altri paesi non sono però così tutelati, come Ecuador e Bolivia che non hanno nè regolamenti nè specifiche leggi in materia di dati personali.

Una legge forte in materia di protezione dei dati è probabilmente uno dei migliori strumenti per proteggere le persone dall’uso e abuso dei sistemi di riconoscimento facciale, e assicurare i dati sensibili raccolti da quest’ultimo. Un framework preciso, soprattutto quando si parla di dati biometrici, è fondamentale per comprendere chi raccogliere i dati, in quali circostanze, come sono stoccati, e quali autorità possono supervisionare e sanzionare chi è responsabile del trattamento di questi dati. “Sicuramente una legge da sola non risolve tutti i problemi” afferma Garay, “ma per ora i paesi latinoamericani stanno implementando sistemi che utilizzano dati biometrici senza una corretta base giuridica, o utilizzando zone grigie delle leggi esistenti. Questo è chiaramente molto pericoloso.

Architettura di sorveglianza

In merito, l’Istituto brasiliano di difesa dei consumatori (IDEC) ha inviato una richiesta a Dataprev, società pubblica brasiliana responsabile della sicurezza delle informazioni sulla sicurezza sociale del paese, chiedendo che interrompesse la sua offerta per l’acquisizione del riconoscimento facciale fino a che i data leaks occorsi non fossero risolti. IDEC ha spiegato che, mentre la società mirava a integrare il riconoscimento facciale in un’app per aiutare le persone con disabilità ad accedere in remoto alle loro informazioni bancarie, l’alto rischio di violazione della tecnologia potrebbe compromettere le informazioni personali di circa 35 milioni di brasiliani.

Le implicazioni derivanti dall’utilizzo ormai sempre più massiccio di queste intelligenze artificiali in America Latina, come anche nel resto del mondo, sono estremamente sfaccettate. Il diritto alla privacy, alla libertà di espressione, associazione o riunione, la presunzione di innocenza e il diritto ad un processo equo possono inevitabilmente subire interferenze anche molto rilevanti. Il controllo sociale, costante, è poi una delle più grandi minacce alla quale stiamo andando incontro: il punto cruciale dell’intera questione è, come accennato in precedenza, affermare esplicitamente come il riconoscimento facciale utilizzato per sorvegliare spazi pubblici sia una tecnologia autoritaria che si innesta perfettamente nel più ampio discorso della tecno-burocrazia.

Delegare importanti decisioni come quelle in mano alle forze dell’ordine ad un sistema che processa automaticamente dati significa rendere molto difficoltoso comprendere come e in che modo si arriva a particolari decisioni. In quanto tecnologia altamentente intrusiva, l’introduzione del riconoscimento facciale è un’idea distopica e radicale che minaccia significativamente la nostra libertà: offre nelle mani del governo la possibilità di minare la democrazia con la scusa di difenderla, e forse non è questa la società nella quale vogliamo vivere