Come la tecnologia di riconoscimento facciale di una startup segreta è diventata l’incarnazione delle nostre paure distopiche
Nel novembre 2019, mentre lavorava come reporter al New York Times, Kashmir Hill ha scoperto una storia che avrebbe rivelato uno degli sviluppi più controversi della tecnologia di sorveglianza.
Come qui riportato, una giornalista Kashmir Hill ricorda l’ascesa di Clearview AI. Questa società di tecnologia per il riconoscimento facciale si è guadagnata un’ampia visibilità grazie al suo software di intelligenza artificiale che sosteneva di essere in grado di identificare quasi chiunque con una sola foto del viso, in questo estratto da “Your Face Belongs to Us” (Simon & Schuster, 2023).
Clearview AI, una startup enigmatica, prometteva di essere in grado di identificare quasi chiunque da una foto del volto.
Secondo alcune indiscrezioni, Clearview aveva raccolto miliardi di foto dal web pubblico, compresi siti di social media come Facebook, Instagram e LinkedIn, per creare un’applicazione rivoluzionaria.
Il nome di una persona a caso e altre informazioni personali sulla sua vita possono essere rivelate se si mostra a Clearview una loro foto scattata per strada. L’applicazione fornisce quindi tutti i siti web in cui ha visto il suo volto. Pur cercando di nascondere la propria esistenza, l’azienda ha venduto questo superpotere ai dipartimenti di polizia di tutto il Paese.
Fino a poco tempo fa, la maggior parte delle persone pensava che il riconoscimento facciale automatizzato fosse una tecnologia distopica presente solo nei libri di fantascienza o in film come “Minority Report”. Per trasformarla in realtà, negli anni ’60 gli ingegneri hanno provato a programmare un primo computer per abbinare il ritratto di una persona a un database più ampio di volti. La polizia ha iniziato a sperimentarla nei primi anni 2000 per cercare i volti di sospetti criminali non identificati nei database delle foto segnaletiche. Ma per la maggior parte del tempo la tecnologia non è stata all’altezza. Anche gli algoritmi più avanzati avevano difficoltà a far corrispondere l’immagine di una foto segnaletica a quella sgranata di una telecamera di sorveglianza ATM, e le prestazioni variavano a seconda dell’età, del sesso e del colore.
Sostenendo di essere unica nel suo genere, Clearview vantava un “tasso di accuratezza del 98,6%” e una vasta collezione di foto che non aveva nulla da invidiare a quelle utilizzate in precedenza dalla polizia.
Nel 1890, un articolo della Harvard Law Review definì notoriamente la privacy – termine notoriamente difficile da definire – come “il diritto di essere lasciati in pace”. Samuel D. Warren, Jr. e Louis D. Brandeis, i due avvocati che scrissero l’articolo, sostenevano che il diritto alla privacy dovesse essere legalmente tutelato in aggiunta ai diritti precedentemente stabiliti di vita, libertà e proprietà privata. Furono influenzati dalle novità tecnologiche dell’epoca, come la macchina fotografica Eastman Kodak, introdotta nel 1888, che consentiva di scattare foto “istantanee” della vita quotidiana al di fuori di uno studio.
“Le fotografie istantanee e l’impresa giornalistica hanno invaso i sacri recinti della vita privata e domestica”, scrissero Warren e Brandeis, ‘e numerosi dispositivi meccanici minacciano di realizzare la previsione che ‘ciò che viene sussurrato nell’armadio sarà proclamato dai tetti delle case’”.
Louis Brandeis entrò in seguito a far parte della Corte Suprema e questo saggio è uno dei più popolari testi giuridici mai pubblicati. Tuttavia, la privacy non ha mai ricevuto il livello di protezione che Brandeis e Warren sostenevano meritasse. A distanza di oltre un secolo, non esiste ancora una legge completa che garantisca agli americani il controllo su ciò che viene scritto su di loro, su ciò che viene fotografato o su ciò che viene fatto con le loro informazioni personali. Nel frattempo, negli Stati Uniti e in altri Paesi con normative deboli sulla privacy, le aziende sviluppano tecnologie sempre più potenti e invasive.
Esempi di riconoscimento facciale sono i cartelloni pubblicitari digitali di Microsoft e Intel che utilizzano le telecamere per rilevare l’età e il sesso e mostrare pubblicità pertinenti agli astanti, Facebook che tagga automaticamente gli amici nelle foto e Apple e Google che consentono agli utenti di sbloccare i loro telefoni guardandoli.
In pochi secondi, uno sconosciuto al bar può scattare la vostra foto e determinare l’identità e la residenza dei vostri amici. Potrebbe essere usata per rintracciare le donne che sono entrate nelle strutture di Planned Parenthood o i dimostranti antigovernativi. Potrebbe essere usata come strumento di intimidazione e di molestia. Il terzo binario della tecnologia era il riconoscimento facciale accurato per centinaia di milioni o addirittura miliardi di persone. Ora, Clearview l’ha realizzato.
Tendiamo a pensare ai computer come se avessero capacità quasi magiche, in grado di risolvere qualsiasi problema e, con un numero sufficiente di dati, di superare le persone. Per questo motivo, le aziende che vogliono produrre qualcosa di straordinario, ma che non sono ancora pronte, possono ingannare gli investitori, i clienti e il pubblico in generale con dichiarazioni ridicole e alcuni trucchi digitali.
Tuttavia, Paul Clement, avvocato di spicco di Clearview ed ex procuratore generale degli Stati Uniti sotto il presidente George W. Bush, ha dichiarato in una nota legale privata di aver testato il sistema con gli avvocati della sua azienda e di aver scoperto che fornisce risultati di ricerca rapidi e accurati.
Secondo Clement, lo strumento è attualmente utilizzato da oltre 200 agenzie di polizia e ha concluso che l’uso di Clearview per lo scopo previsto non viola la Costituzione federale o le leggi statali esistenti in materia di biometria e privacy. Oltre al fatto che centinaia di dipartimenti di polizia utilizzavano segretamente questa tecnologia, l’azienda ha impiegato un avvocato di alto profilo per convincere gli agenti che le loro azioni non erano illegali.
Per decenni, i timori per il riconoscimento facciale si sono accumulati. E ora, finalmente, il mostro non identificato aveva preso le sembianze di una piccola azienda con fondatori enigmatici e un enorme database. Inoltre, nessuno dei milioni di individui che componevano quel database aveva fornito la propria approvazione. Sebbene Clearview AI incarni le nostre ansie più oscure, offre anche la possibilità di affrontarle finalmente di petto.
Il lancio di Clearview AI nel 2019 ha segnato un punto di svolta nel continuo conflitto tra privacy e progresso tecnico. L’impareggiabile database e la precisione di Clearview AI hanno portato queste cupe preoccupazioni a una cruda realtà, anche se il riconoscimento facciale è stato a lungo confinato alla fantascienza e a pochi usi da parte delle forze dell’ordine. Mentre l’azienda va avanti e cresce, ora funge da monito e da impulso vitale per affrontare l’urgente necessità di leggi sulla privacy onnicomprensive nell’era digitale.
Oltre a smascherare un’azienda controversa, il documento legale arrivato nella casella di posta elettronica di Hill, ha rivelato un futuro che i sostenitori della privacy avevano a lungo temuto e messo in guardia. La questione dell’esistenza o meno di tali strumenti non è più rilevante quando si considerano le ramificazioni di questa tecnologia; si tratta piuttosto di capire come la società deciderà di controllarli e limitarli. Ci viene ricordato che il “diritto di essere lasciati in pace” è ancora così importante – e forse così vulnerabile – come lo era più di un secolo fa con il monito di Warren e Brandeis del 1890 contro le invasioni della privacy.