Il governo cerca nuovi modi per controllare i cittadini

Nel film con Tom Cruise, la polizia poteva prevedere i crimini prima che accadessero e arrestare i criminali in anticipo. Il film Minority Report solleva alcune questioni etiche sul fatto se sia giusto o meno incolpare qualcuno per qualcosa che non ha ancora commesso. Tuttavia, la Cina sembra aver preso questa direzione.

La Cina è forse il Paese più sorvegliato, con telecamere a ogni angolo delle strade e una tecnologia di riconoscimento facciale, ma c’è di peggio. Il governo cinese utilizza anche un sistema di credito sociale in cui i cittadini ricevono un punteggio in base a come si comportano nella società. L’idea è stata lanciata nel 2014 come sistema facoltativo, ma nel corso degli anni il governo ha creato incentivi per adottarlo e disincentivi per non farlo. L’obiettivo è comunque quello di renderlo obbligatorio.

Si inizia con un certo numero di punti che possono aumentare o diminuire in base al proprio comportamento. Ad esempio, donare soldi in beneficenza può aumentare il punteggio, mentre commettere infrazioni stradali può ridurlo. Se il punteggio diminuisce, si perdono alcuni diritti come la prenotazione di un volo o di un biglietto ferroviario, ma c’è di peggio, poiché potreste anche essere inseriti in una lista nera che prevede sanzioni più severe, come la riduzione dell’accesso al credito o l’esposizione al pubblico scandalo, in cui i volti di coloro che infrangono le regole vengono mostrati in TV o in spazi pubblici.

china's social credit system
Il sistema di credito sociale cinese. Foto di Bertelsmann Stiftung

Tuttavia, come riportato, il governo cinese sta attualmente concentrando i propri sforzi di monitoraggio nel tentativo di creare i profili dei cittadini cinesi utilizzando una serie di dati raccolti per informare i sistemi automatizzati al fine di individuare potenziali dissidenti o criminali, prima che abbiano la possibilità di commettere reati.

>>>  Le tecniche di manipolazione dell'I.A. esistono, ma non sono chiare

La Cina sta sviluppando un Internet sostanzialmente diverso da quello utilizzato in Occidente, tanto che possiamo definirlo come un'”economia di sorveglianza”. Il governo cinese vuole limitare il comportamento online dei suoi cittadini al punto da aver implementato il coprifuoco per le trasmissioni in diretta, aver tracciato la posizione degli utenti dei social, aver fissato limiti di tempo per i giochi online dei bambini, e aver richiesto l’accesso diretto ai dati degli utenti conservati su server cloud privati.

Da anni i giganti cinesi dell’informatica cercano di influenzare gli standard internazionali di sorveglianza, ma c’è di più: la Cina potrebbe pianificare di utilizzare le enormi quantità di dati che sta raccogliendo da anni per costruire un sistema di monitoraggio che assomigli in modo inquietante a quello descritto nel film Minority Report del 2002.

La nuova tecnologia è fatta per esaminare i dati raccolti sulle azioni quotidiane dei cittadini e cercare schemi e anomalie che potrebbero indicare quando è probabile che si verifichino proteste o crimini. I documenti trapelati mostrano che questa sorveglianza automatizzata creerà profili che includono informazioni su sesso, razza, dati biometrici, precedenti penali, problemi mentali e altro ancora. Un allarme elettronico sarà inviato alle unità di polizia adiacenti quando più persone ritenute ad alto rischio si riuniranno nella stessa area.

Al momento, la Cina è ancora alla ricerca di proposte da parte di aziende disposte a fornire la tecnologia necessaria per creare questo sofisticato sistema di sorveglianza. Nel frattempo, un importante compagnia di sorveglianza di nome Megvii avrebbe sviluppato un software in grado di collegare una persona a tutti gli account digitali che utilizza, per accedere ai servizi online e tracciare i suoi movimenti e le sue attività quotidiane. Inoltre la polizia cinese avrebbe acquisito un database di oltre 2,5 miliardi di immagini facciali.

>>>  Un nuovo algoritmo di Facebook è in grado di copiare la tua scrittura

L’evoluzione dell’intelligenza artificiale e degli algoritmi di deep learning, insieme ai sistemi di riconoscimento facciale sempre più elaborati, potrebbero essere molto pericolosi qualora le intenzioni non fossero delle migliori. Un governo che controlla le persone a tal punto da tenerle fuori dalla società fa molta paura, soprattutto perché è difficile avere armi per difendersi. Quando si è solo un numero e nessuno si preoccupa dei tuoi diritti, questo porta a un mondo distopico in cui le persone non vivono tranquillamente, ma hanno paura di esserne cacciate. E non si tratta di seguire un comportamento corretto, perché questa è solo una scusa per avere il controllo sulle persone. Anche una persona diligente, un giorno, potrebbe finire in una circostanza in cui non sia in grado di seguire una regola, e verrebbe inevitabilmente punita. Per un sistema meccanico e freddo, non ci sono eccezioni, quindi chiunque è a rischio. Ecco perché dobbiamo evitare in anticipo questo tipo di utilizzo di tali sistemi, prima che si radichino per scopi sbagliati.