La realtà virtuale e aumentata potrebbero essere la prossima arma per manipolare le persone
Il metaverso sarà il prossimo grande approccio a Internet e sarà più potente perché ci porterà in un mondo parallelo che coinvolgerà quasi tutti i nostri sensi. Secondo un recente studio di McKinsey, molte persone prevedono di utilizzare il metaverso per più di quattro ore al giorno nei prossimi cinque anni.
I mondi virtuali e aumentati, che si sovrapporranno ma si svilupperanno a ritmi diversi e coinvolgeranno vari elementi che utilizzeranno modelli di business probabilmente distinti, saranno le due componenti principali del metaverso. Il gaming e i social media lasceranno il posto al metaverso virtuale, che creerà interi mondi virtuali per attività a breve termine, come la socializzazione, lo shopping e l’intrattenimento. L’industria della telefonia mobile, invece, darà origine al metaverso aumentato, che migliorerà il mondo reale con sovrapposizioni virtuali immersive che integreranno contenuti artistici ed educativi nella nostra vita quotidiana a casa, al lavoro e in ambienti pubblici.
Secondo questo articolo, che sia virtuale o aumentato, questo darà alle piattaforme metaverse un incredibile potere di tracciare, profilare e influenzare i consumatori a livelli molto superiori a quelli visti finora.
Questo perché le piattaforme del metaverso non tracceranno solo i clic degli utenti, ma anche i loro movimenti, le loro attività, i loro contatti e le loro abitudini di visualizzazione. Per determinare se gli utenti rallentano per navigare o accelerano per passare davanti a luoghi a cui non sono interessati, le piattaforme monitoreranno anche la postura e l’andatura. Inoltre, saranno in grado di tracciare gli articoli che l’utente prende dagli scaffali dei negozi reali o virtuali per esaminarli, il tempo trascorso a studiare un prodotto e persino il modo in cui le pupille si dilatano per segnalare il suo livello di interesse.
Poiché il dispositivo per questa tecnologia sarà indossato durante la vita quotidiana nel metaverso aumentato, la capacità di tracciare lo sguardo e la postura crea particolari problemi di sicurezza. Le piattaforme saranno a conoscenza di quali negozi gli utenti guardano, per quanto tempo vi restano dentro e persino quali parti del display catturano il loro interesse mentre passeggiano per le strade reali. Inoltre, l’analisi dell’andatura può essere utilizzata per diagnosticare disturbi psicologici e fisiologici.
Inoltre, i sistemi del metaverso monitoreranno i segni vitali, le espressioni facciali e le inflessioni vocali degli utenti, mentre gli algoritmi di intelligenza artificiale analizzeranno le loro emozioni. Questi dati saranno utilizzati dai fornitori di piattaforme per dare agli avatar espressioni facciali più realistiche e così come l’aspetto. Sebbene queste caratteristiche siano utili e umanizzanti, se non ci fossero restrizioni, le stesse informazioni potrebbero essere utilizzate per sviluppare profili emotivi che mostrino come le persone rispondono a vari stimoli e circostanze nella loro vita quotidiana.
Posizionamento virtuale dei prodotti vs. Portavoce virtuali
I pericoli aumentano se si considera che i profili comportamentali ed emotivi possono essere utilizzati anche per una persuasione mirata. Il monitoraggio invasivo è ovviamente un problema di privacy. Di conseguenza, è probabile che vengano inclusi due tipi distinti di marketing del metaverso, quali:
Posizionamento virtuale dei prodotti: beni, servizi o attività simulate che vengono inserite in un ambiente immersivo (virtuale o aumentato) per conto di uno sponsor in cambio di un pagamento, in modo che l’utente li percepisca come componenti organici del paesaggio circostante.
Portavoce virtuali: si riferisce a deepfake o altri personaggi che vengono inseriti in ambienti immersivi (virtuali o aumentati) e trasmettono verbalmente contenuti promozionali per conto di uno sponsor pagante, coinvolgendo spesso gli utenti in conversazioni promozionali moderate dall’I.A.
Considerate il posizionamento virtuale dei prodotti in una città virtuale o aumentata per capire l’impatto di queste strategie di marketing.
Mentre il posizionamento dei prodotti è passivo, il portavoce virtuale può essere attivo, coinvolgendo gli utenti in conversazioni promozionali per conto di sponsor paganti. Se fino a pochi anni fa queste capacità sembravano fuori portata, i recenti progressi nel campo dei Large Language Models (LLM) le rendono realizzabili a breve termine. Lo scambio verbale potrebbe essere così autentico che i consumatori potrebbero non rendersi conto di parlare con un agente conversazionale guidato dall’intelligenza artificiale con un programma di persuasione predefinito. Questo apre la porta a un’ampia gamma di pratiche predatorie che vanno al di là della pubblicità tradizionale, verso la manipolazione vera e propria.
Non è una novità che i siti di social media e altri servizi tecnologici traccino e profilino i consumatori. Tuttavia, la portata e il livello di sorveglianza degli utenti aumenteranno drasticamente nel metaverso. Anche la propaganda e la pubblicità predatoria non sono problemi recenti. Tuttavia, per i consumatori può essere difficile distinguere tra esperienze autentiche e contenuti commerciali mirati inseriti nel metaverso per conto di sponsor paganti. Di conseguenza, le piattaforme del metaverso sarebbero in grado di alterare prontamente le esperienze degli utenti senza che questi ne siano a conoscenza o senza il loro consenso, per conto di sponsor paganti.
Autenticità
La pubblicità sia diffusa ovunque nel mondo reale e digitale. Di conseguenza, le persone possono vedere le pubblicità nel loro contesto corretto, come messaggi a pagamento inviati da qualcuno che cerca di influenzarli. Grazie a questo contesto, i consumatori possono applicare un sano scetticismo e un pensiero critico nel valutare i beni, i servizi, i punti di vista politici e le altre informazioni a cui sono esposti.
Annullando i confini tra le esperienze autentiche che sono incontri casuali e le esperienze promozionali mirate introdotte per conto di sponsor paganti, gli inserzionisti potrebbero minare la nostra capacità di interpretare i contenuti promozionali nel metaverso. Questo potrebbe facilmente sconfinare dal marketing all’inganno e trasformarsi in una condotta predatoria.
Tutto il contesto sarebbe messo in scena, quindi ciò che si vede e ciò che si sente sarebbe a scopo commerciale e personalizzato per ottenere il massimo impatto in base al profilo dell’utente.
Lo scopo di questo tipo di pubblicità subdola può sembrare benevolo, ma le stesse strategie e tattiche potrebbero essere impiegate per promuovere esperienze che sostengono la disinformazione politica, la propaganda e la vera e propria menzogna. Pertanto, le strategie di marketing immersivo, come il posizionamento virtuale dei prodotti e i portavoce, devono essere controllate per salvaguardare i consumatori.
I regolamenti dovrebbero almeno salvaguardare il diritto fondamentale alle esperienze reali. Ciò potrebbe essere realizzato imponendo che gli oggetti e gli individui in promozione siano chiaramente distinguibili fisicamente e acusticamente, in modo che i consumatori possano comprenderli nel contesto appropriato. In questo modo si eviterebbe di confondere esperienze manipolate a fini commerciali con incontri reali.
Privacy emotiva
La capacità di trasmettere emozioni attraverso le parole, la postura, i gesti e i volti si è evoluta nell’uomo, che ha quindi sviluppato la capacità di riconoscere queste caratteristiche negli altri. Si tratta di un meccanismo fondamentale della comunicazione umana, che funziona contemporaneamente al linguaggio parlato. Recentemente, i sistemi software sono stati in grado di riconoscere le emozioni umane in tempo reale dai volti, dalle voci, dalla postura e dai gesti, nonché dai segni vitali come la frequenza respiratoria, la frequenza cardiaca, i movimenti degli occhi, la dilatazione delle pupille e la pressione sanguigna. Ciò è reso possibile dalle tecnologie di rilevamento combinate con l’apprendimento automatico. Anche gli schemi del flusso sanguigno facciale rilevati dalle telecamere possono essere utilizzati per decifrare le emozioni.
Sebbene molti vedano in questo la capacità dei computer di comunicare con le persone in modo non verbale, è molto facile sconfinare nell’intrusione e nello sfruttamento della privacy. Ciò è dovuto rispettivamente alla sensibilità e alla profilazione. I sistemi informatici sono già abbastanza sensibili da riconoscere le emozioni da segnali impercettibili per gli esseri umani. Per esempio, la pressione sanguigna, la frequenza respiratoria e il battito cardiaco sono difficili da percepire per gli esseri umani, quindi questi segnali potrebbero esprimere sentimenti che il soggetto dell’osservazione non aveva intenzione di esprimere. I computer sono anche in grado di riconoscere le “microespressioni” sui volti, che sono abbastanza fugaci o sottili da non essere notate dagli esseri umani ma che, come in precedenza, possono rivelare sentimenti che la persona osservata non voleva esprimere.
Le persone dovrebbero almeno avere il diritto di non veder valutate le proprie emozioni in modo rapido e con un rilevamento dei tratti migliore di quello tipicamente possibile per gli esseri umani. Ciò esclude l’uso di indicatori fisiologici e microespressioni facciali nel riconoscimento delle emozioni. Inoltre, il rischio per gli utenti è aumentato dalla capacità delle piattaforme di memorizzare i dati emotivi nel tempo e di sviluppare profili che potrebbero consentire ai sistemi di intelligenza artificiale di prevedere come i consumatori reagiranno a una serie di stimoli.
I portavoce virtuali guidati dall’intelligenza artificiale che conversano con le persone sui prodotti hanno probabilmente accesso ai segni vitali, alle inflessioni della voce e alle emozioni del viso in tempo reale. Senza una regolamentazione, queste tecnologie conversazionali potrebbero essere programmate per cambiare le loro strategie di marketing nel corso della conversazione in base alle emozioni del loro pubblico di riferimento, anche se tali sentimenti sono sottili e impossibili da percepire per un interlocutore umano.
Privacy comportamentale
La maggior parte dei consumatori sa che le grandi aziende tecnologiche monitorano e profilano le loro attività online, compresi i siti web che visitano, le pubblicità che cliccano e le connessioni ai social network che effettuano. Le grandi piattaforme saranno in grado di tracciare l’attività degli utenti in un metaverso non regolamentato, comprendendo non solo dove gli utenti cliccano, ma anche dove vanno, cosa fanno, con chi sono, come si muovono e cosa guardano. Tutte queste azioni possono anche essere analizzate per individuare le reazioni emotive per tracciare non solo ciò che le persone fanno, ma anche come si sentono mentre lo fanno.
Affinché le piattaforme possano offrire esperienze immersive in tempo reale sia nel mondo virtuale che in quello aumentato, sono necessari molti dati comportamentali. Tuttavia, le informazioni sono necessarie solo mentre questi eventi vengono ricreati. Non vi è alcuna necessità intrinseca di memorizzare questi dati nel tempo. Questo è significativo poiché la memorizzazione dei dati comportamentali può essere utilizzata per costruire profili intrusivi che descrivono minuziosamente le attività quotidiane di particolari utenti.
I sistemi di apprendimento automatico possono analizzare rapidamente questi dati per fare previsioni su come determinati utenti si comporterebbero, risponderebbero e comunicherebbero in una serie di situazioni quotidiane. In un metaverso senza vincoli, le piattaforme potrebbero diventare la prassi ordinaria per prevedere con precisione ciò che gli utenti faranno prima di decidere. Inoltre, poiché le piattaforme saranno in grado di modificare l’ambiente circostante per persuadere gli utenti, i profili potrebbero essere utilizzati per modificare accuratamente il loro comportamento in anticipo.
Per questi motivi, i legislatori e le autorità di regolamentazione dovrebbero pensare di impedire alle piattaforme di metaverse di raccogliere e conservare le informazioni sul comportamento degli utenti nel tempo, impedendo alle piattaforme di creare profili completi dei loro utenti. Inoltre, le piattaforme di metaverse non dovrebbero essere autorizzate a collegare i dati emotivi a quelli comportamentali, in quanto questo consentirebbe loro di offrire esperienze modificate a fini promozionali che non solo controllano ciò che gli utenti fanno nei mondi immersivi, ma influenzano anche in modo prevedibile il modo in cui si sentono mentre lo fanno.
La nostra società subirà un impatto significativo dal metaverso. Anche se ci saranno numerosi impatti positivi, dobbiamo salvaguardare gli utenti da ogni potenziale rischio. La promozione di esperienze alterate rappresenta la più grande minaccia, poiché tali strategie potrebbero offrire alle piattaforme del metaverso la capacità di manipolare i propri utenti.
Ogni persona dovrebbe essere libera, come minimo, di non essere sottoposta a profilazione emotiva o comportamentale durante la sua vita quotidiana. Ogni persona dovrebbe avere la libertà di credere che le sue esperienze siano autentiche senza temere che altri introducano subdolamente pubblicità mirata nel suo ambiente. Questi diritti devono essere tutelati immediatamente, altrimenti nessuno potrà fidarsi del metaverso.
Tutti i rischi che derivano da Internet e dall’intelligenza artificiale sono esponenziali quando si tratta del metaverso. Se i social media possono tenerci incollati allo schermo, il metaverso eliminerà i confini tra reale e irreale, sfruttando tutte le nostre percezioni. E se si pensa che le I.A. ci conosceranno sempre meglio nel corso degli anni, il rischio di diventare burattini dello spettacolo di qualcun altro non è poi così irreale.
