Il costo nascosto dell’intelligenza artificiale personalizzata
Non si tratta di un’ipotesi. Le aziende che si occupano di IA si stanno rapidamente espandendo oltre la finestra della chat, raccogliendo cronologie di navigazione, foto e metadati insieme alle tue conversazioni. E a differenza dei motori di ricerca o dei social media, i chatbot inducono a rivelare informazioni di natura particolarmente personale, che creano un ritratto molto più intimo di chi sei.
La preoccupazione: attualmente esistono poche tutele legali, il che rende gli impegni pubblici delle aziende di IA in materia di privacy dei dati particolarmente importanti — e potenzialmente fragili.
Dove fluiscono i dati
Come spiegato qui, la raccolta dei dati sta accelerando:
- OpenAI ha recentemente lanciato «Computer History», che registra automaticamente quali app e siti web utilizzi
- Google ora addestra i propri sistemi di IA sulle foto e sui file che le persone caricano tramite Ricerca (con la possibilità di disattivare questa funzione)
- Meta si riserva ampi diritti di utilizzare le interazioni con i chatbot basati sull’IA per la personalizzazione e la pubblicità su tutte le sue piattaforme
La proposta è allettante: un’IA più personalizzata e utile. La realtà è un compromesso fondamentale: le aziende ottengono una registrazione sempre più completa e continua della tua vita.
Perché i chatbot sono diversi
I motori di ricerca e i social network raccolgono dati sui tuoi interessi. I chatbot raccolgono dati su di te.
Le persone pongono ai chatbot domande che non farebbero mai pubblicamente su Google:
- Preoccupazioni e sintomi relativi alla salute
- Problemi di coppia
- Difficoltà finanziarie
- Dubbi sulla carriera e insoddisfazione lavorativa
- Preoccupazioni relative alla salute mentale
Questo crea qualcosa di più rivelatore di una cronologia di ricerca: è una sorta di confessione. E una volta che le aziende entrano in possesso di tale registro, cresce la tentazione di sfruttarlo.
Come avverte Miranda Bogen, responsabile tecnologico del Center for Democracy & Technology: «Più un sistema sa di te, più sarà facile farti richieste sempre più invasive di dettagli privati in modo che sembrino naturali. Senza solide misure di tutela della privacy, sarà difficile resistere all’incentivo a monetizzare tali informazioni».
La svolta pubblicitaria
Ecco cosa tiene svegli la notte i difensori della privacy: Meta, Google e OpenAI stanno tutte sperimentando la pubblicità sui propri chatbot.
Se l’IA di consumo seguirà il modello dei motori di ricerca e dei social media — e non c’è motivo di pensare che non lo farà — la pubblicità diventerà il modello di business principale. Ciò crea un potente incentivo per i produttori di chatbot a massimizzare il coinvolgimento e la raccolta di dati.
Un chatbot che conosce le tue paure, le tue insicurezze e i tuoi desideri è esponenzialmente più potente nell’influenzarti di quanto un motore di ricerca potrebbe mai essere.
Come le diverse aziende gestiscono i tuoi dati
Le politiche sulla privacy variano notevolmente:
Apple (la più restrittiva)
- Elabora le richieste direttamente sul tuo dispositivo, quando possibile
- Per attività complesse, utilizza il “Private Cloud Compute”, un sistema che elabora i dati senza memorizzarli né renderli accessibili ad Apple
- Compromesso: capacità limitata di conservare la memoria o personalizzare nel tempo
Meta (la più estesa)
- Rivendica ampi diritti di utilizzare le interazioni con i chatbot per la personalizzazione e la pubblicità su tutti i servizi
- Eccezione: esclude esplicitamente le conversazioni su salute, politica e religione dal targeting pubblicitario
- Ha recentemente lanciato la modalità “Incognito Chat” per conversazioni temporanee e non memorizzate
Tutti gli altri
- Modalità di chat temporanee che non addestrano i sistemi né creano memorie
- Alcuni richiedono un consenso esplicito per l’utilizzo dei dati; altri richiedono la revoca del consenso
- Molti consentono agli utenti di cancellare ricordi specifici o di rivedere i dati archiviati
- Alcuni prevedono protezioni speciali per i dati sanitari o per i minori
La vera domanda
La distinzione fondamentale è cambiata. Non si tratta più semplicemente di stabilire se un’azienda addestri modelli di IA sui tuoi dati. Si tratta piuttosto di capire se le tue conversazioni possano influenzare il modo in cui il sistema ti comprende — e per quali altri scopi tale comprensione possa essere sfruttata.
L’IA personalizzata offre un valore reale. Un chatbot che comprende il tuo contesto, ricorda le tue preferenze e si adatta alle tue esigenze può essere straordinariamente utile.
Ma questa utilità ha un costo, che spesso rimane invisibile finché non è troppo tardi. Prima di confidare le tue paure e i tuoi segreti al prossimo chatbot, cerca di capire esattamente a cosa stai rinunciando. La scelta potrebbe valerne la pena, ma dovrebbe essere una scelta consapevole.
