L’intelligenza artificiale potrebbe utilizzare le vostre informazioni personali per influenzare le vostre decisioni
L’IA generativa è un tipo di intelligenza artificiale in grado di produrre vari tipi di contenuti. L’IA generativa si riferisce a una categoria di algoritmi di intelligenza artificiale che generano nuovi output in base ai dati su cui sono stati addestrati. A differenza dei sistemi di IA tradizionali, che sono progettati per riconoscere modelli e fare previsioni, l’IA generativa crea nuovi contenuti sotto forma di immagini, testi, audio e altro ancora.
Prima di entrare nel dettaglio dei rischi di questi tipi di IA, ecco alcune avvertenze sollevate in merito.
- Lavoro: Ora l’intelligenza artificiale generativa è in grado di produrre risultati all’altezza di un essere umano, come relazioni scientifiche, saggi e opere d’arte. Pertanto, potrebbe cambiare totalmente il panorama lavorativo.
- Contenuti falsi: L’IA generativa è attualmente in grado di produrre contenuti di qualità umana su larga scala, come articoli, saggi, documenti e film falsi e ingannevoli. Sebbene il problema della disinformazione non sia nuovo, l’IA generativa permetterà di produrne in quantità senza precedenti. Il rischio è grande, ma i contenuti falsi possono essere individuati (a) richiedendo tecnologie di watermarking che identifichino i contenuti dell’IA al momento della generazione, oppure (b) implementando contromisure basate sull’IA e addestrate a riconoscere i contenuti dell’IA dopo il fatto.
- Macchine senzienti: Diversi ricercatori temono che, una volta sviluppati, i sistemi di IA possano arrivare ad avere una “volontà propria”, ad agire in modi che sono in contrasto con gli interessi umani e persino a rappresentare una minaccia per l’esistenza umana. Si tratta di un rischio reale a lungo termine, descritto nel libro Arrival Mind, un “libro illustrato per adulti”. Ma senza significativi progressi strutturali nella tecnologia, i sistemi di IA contemporanei non svilupperanno spontaneamente la senzienza. Quindi, anche se l’industria dovrebbe prestare attenzione a questo rischio, non è la preoccupazione più urgente in questo momento.
Secondo questo articolo, la maggior parte degli esperti di sicurezza, così come i politici, sbagliano quando presumono che l’IA generativa venga utilizzata principalmente per produrre contenuti tradizionali su larga scala. La preoccupazione più importante è che l’IA generativa scateni una forma di media completamente nuovi, altamente personalizzati, completamente interattivi e potenzialmente molto più manipolabili di qualsiasi forma di contenuto mirato che abbiamo affrontato finora.
L’aspetto più pericoloso dell’IA generativa non è la sua capacità di produrre in massa fake news e video, ma piuttosto la sua capacità di generare materiale adattabile e interattivo che si adegua alle esigenze di ciascun utente per avere il massimo effetto persuasivo possibile. In questo contesto, i contenuti promozionali mirati che vengono generati o modificati in tempo reale per massimizzare gli obiettivi di influenza sulla base delle informazioni personali dell’utente ricevente sono definiti media generativi interattivi.
Di conseguenza, le “campagne di influenza mirate” passeranno da ampi gruppi demografici a singoli individui che vengono presi di mira per ottenere il massimo impatto. I due potenti aspetti di questa nuova forma di media, la “pubblicità generativa mirata” e l'”influenza conversazionale mirata”, sono illustrati di seguito.
L’uso di immagini, video e altri contenuti informativi che hanno l’aspetto e lo stile delle pubblicità tradizionali, ma sono personalizzati in tempo reale per consumatori specifici, è noto come pubblicità generativa mirata. Sulla base degli obiettivi di influenza forniti da sponsor terzi e dei dati personali accessibili per l’utente in questione, questi annunci saranno generati al volo da sistemi di intelligenza artificiale generativa. Tra i dati personali possono essere inclusi l’età, il sesso e il livello di istruzione dell’utente, nonché i suoi interessi, valori, preferenze estetiche, modelli di acquisto, convinzioni politiche e pregiudizi culturali.
L’intelligenza artificiale generativa regolerà il layout, le immagini e il testo promozionale per aumentare l’efficacia su quell’utente in risposta agli obiettivi di influenza e alle informazioni di targeting. L’età, la razza e le scelte di abbigliamento delle persone raffigurate nelle immagini, così come ogni altro dettaglio, sono tutti personalizzabili, fino ai colori, ai caratteri e alla punteggiatura. Per migliorare il sottile impatto sull’utente, l’intelligenza artificiale generativa può modificare ogni aspetto in tempo reale.
Inoltre, poiché le piattaforme tecnologiche sono in grado di monitorare l’interazione dell’utente, il sistema imparerà gradualmente quali strategie sono più efficaci per esso, identificando i colori dei capelli e le espressioni facciali che catturano maggiormente il suo interesse.
Se tutto questo vi sembra fantascienza, pensate a questo: Recentemente sia Meta che Google hanno reso pubblici i piani per l’applicazione dell’intelligenza artificiale generativa nella generazione di annunci pubblicitari su Internet. Se queste strategie generano più clic per gli sponsor, diventeranno una pratica comune e si scatenerà una corsa agli armamenti per l’impiego dell’IA generativa per ottimizzare i contenuti promozionali, con tutte le principali piattaforme che si impegneranno in tal senso.
Questo porta al concetto di influenza conversazionale mirata, una tecnica generativa in cui gli obiettivi di influenza sono comunicati attraverso l’interazione conversazionale piuttosto che attraverso media formali scritti o visivi.
Le conversazioni avverranno tramite sistemi basati sulla voce o chatbot (come ChatGPT e Bard) alimentati da modelli linguistici di grandi dimensioni (LLM) simili. Poiché gli sviluppatori di terze parti incorporeranno gli LLM nei loro siti web, app e assistenti digitali interattivi attraverso le API, gli utenti entreranno spesso in contatto con questi “agenti conversazionali” nel corso di una giornata tipo.
Il rischio di influenza conversazionale aumenterà significativamente quando il conversational computing diventerà più diffuso nella nostra vita quotidiana, perché gli sponsor paganti potrebbero inserire nella conversazione messaggi di cui potremmo non essere consapevoli. Analogamente agli annunci generativi mirati, gli obiettivi di messaggistica desiderati dagli sponsor saranno combinati con i dati personali degli utenti per massimizzare l’impatto.
L’età, il sesso, il livello di istruzione, gli interessi personali, gli hobby, i valori, ecc. dell’utente potrebbero essere inclusi nei dati per consentire un dialogo generativo in tempo reale che sia personalizzato per attirare al meglio quella particolare persona.
Probabilmente saprete già che il metodo più efficace per convincere un consumatore ad acquistare qualcosa non è consegnargli un opuscolo, ma coinvolgerlo in una conversazione faccia a faccia, in modo da vendergli il prodotto, ascoltare le sue preoccupazioni e modificare le proprie argomentazioni se necessario. Un ciclo continuo di proposte e aggiustamenti può convincere qualcuno a comprare qualcosa.
In passato, solo gli esseri umani erano in grado di svolgere questi compiti; ora, invece, l’intelligenza artificiale generativa è in grado di farlo con maggiore competenza e accesso a una gamma più ampia di conoscenze.
Questi agenti di IA saranno camaleonti digitali in grado di adottare qualsiasi stile di discorso, da quello nerd o popolare a quello soave o alla moda, e di perseguire qualsiasi approccio di vendita, dall’amicizia con il cliente allo sfruttamento della sua paura di perdere. A differenza dei venditori umani che hanno un solo personaggio. Inoltre, dal momento che questi agenti dotati di intelligenza artificiale avranno accesso alle informazioni personali, potranno citare i musicisti o le squadre sportive più appropriate per aiutarvi ad avviare una conversazione amichevole.
Inoltre, le piattaforme tecnologiche potrebbero tenere traccia di quanto sono stati persuasivi i precedenti scambi con l’utente per capire quali strategie funzionano meglio per lui. Rispondete meglio alle argomentazioni razionali o a quelle emotive? Scegliete il miglior valore o il miglior prodotto? Gli sconti a tempo o gli extra gratuiti sono più persuasivi per voi? Le piattaforme diventeranno abili nel legare tutti questi fili.
Il rischio reale è che la propaganda e la disinformazione vengano diffuse con le stesse tecniche, inducendovi ad adottare opinioni estreme o idee errate che altrimenti potreste rifiutare. Poiché gli agenti dell’IA avrebbero accesso a una grande quantità di informazioni su Internet, potrebbero scegliere le prove in un modo tale da sfidare anche gli esseri umani più esperti.
Di conseguenza, si verifica uno squilibrio di potere noto come “problema della manipolazione dell’IA“: parlare con agenti artificiali che sono molto bravi ad attirarci mette noi umani in una posizione di grave svantaggio, perché non siamo in grado di “leggere” le loro vere intenzioni.
L’influenza conversazionale mirata e gli annunci generativi mirati saranno potenti tecniche di persuasione se non saranno regolamentati. Gli utenti saranno superati da un camaleonte digitale poco trasparente che ha accesso a vaste quantità di informazioni a sostegno delle proprie argomentazioni, pur non dando alcuna indicazione di come la pensa.
Per questi motivi, le autorità di regolamentazione e i leader aziendali devono riconoscere l’IA generativa come un mezzo nuovo, interattivo, adattivo, personalizzato e scalabile. I consumatori possono essere soggetti a tattiche predatorie che variano dalla coercizione sottile alla manipolazione palese se non ci sono protezioni sostanziali.
La manipolazione sarà il prossimo problema che l’umanità dovrà affrontare, perché piuttosto che essere costretti a fare qualcosa che non vogliono fare, le persone faranno cose che non vogliono fare, ma inconsciamente.
