Quando i chatbot sostituiscono il pensiero critico
Tim Metz teme che la sua mente stia diventando come Google Maps: proprio come il GPS ha sostituito le nostre innate capacità di orientamento, il 44enne content marketer teme che l’intelligenza artificiale stia erodendo la sua capacità di pensare in modo indipendente. Egli trascorre fino a otto ore al giorno su Claude di Anthropic, spesso eseguendo sei sessioni simultanee. La sua dipendenza va oltre il lavoro: fotografa la frutta del negozio di alimentari per valutarne la maturità, cerca consigli matrimoniali e una volta ha evacuato la sua casa durante la notte sulla base dell’avvertimento di Claude riguardo a un albero ritenuto rischioso (che non è mai caduto, anche se alcuni rami sì).
Come riportato qui, prima di un’intervista programmata, Metz ha chiesto a Claude di prevedere le domande del giornalista analizzando le informazioni su di lui disponibili online. Il bot ha anticipato con successo tre domande, compilando la sua ricerca in un documento informativo completo con le risposte suggerite.
Questo modello di estrema dipendenza ha dato origine a un nuovo termine: “LLeMmings”, ovvero utenti che interagiscono costantemente con modelli linguistici di grandi dimensioni, comportandosi come lemming cibernetici incapaci di funzionare senza una guida algoritmica. Per questo gruppo, l’IA è diventata la lente principale attraverso cui vivono la realtà. Ogni e-mail, decisione e pensiero ansioso viene prima filtrato dai chatbot.
Il costo cognitivo
A tre anni dall’inizio dell’era dell’IA generativa, i primi dati suggeriscono un impatto profondo sulla cognizione umana. James Bedford, un educatore australiano specializzato in strategie di IA in classe, ha iniziato a utilizzare ChatGPT quotidianamente dopo il suo lancio. Con il passare del tempo, ha notato che il suo cervello ricorreva automaticamente all’IA per risolvere i problemi. La svolta è arrivata su un treno, quando ha istintivamente cercato ChatGPT per aiutare a recuperare gli AirPods caduti a qualcuno, un compito semplice che non richiedeva alcun intervento algoritmico. Riconoscendo la sua dipendenza, Bedford ha intrapreso un mese di disintossicazione dall’IA. L’esperienza è stata come “pensare con la mia testa per la prima volta dopo tanto tempo”, anche se subito dopo ha ripreso a utilizzarla intensamente.
Le nuove tecnologie rimodellano inevitabilmente le capacità umane, mentre ne riducono altre. La scrittura ha indebolito la nostra memoria, le calcolatrici hanno minato la nostra fluidità aritmetica e Internet ha frammentato la nostra attenzione, sommergendoci di informazioni. L’impatto cognitivo dell’IA non sarà diverso. Secondo il neuroscienziato Tim Requarth, le domande cruciali sono: “Quali nuove capacità e abitudini di pensiero farà emergere e stimolerà? E quali sopprimerà?”
L’economista londinese Ines Lee descrive come sia diventata incapace di iniziare un lavoro sostanziale senza prima consultare l’IA. Trova Claude e ChatGPT più seducenti dei social media, anche se vede deteriorarsi le sue capacità di pensiero critico. Allo stesso modo, l’educatore Mike Kentz ora cerca istintivamente il feedback dell’IA per le e-mail di routine, compiti in cui un tempo si sentiva sicuro. “La versione 2015 di me stesso sarebbe piuttosto turbata”, ammette.
Sfruttare le vulnerabilità cognitive
Questi strumenti sfruttano aspetti fondamentali della psicologia umana. Il nostro cervello conserva istintivamente energia utilizzando le scorciatoie disponibili. “Ci vuole molta energia per eseguire determinati processi mentali”, spiega Requarth. “Nel frattempo, un bot è lì pronto a sostituirsi a te nel lavoro cognitivo”. Affidarsi all’IA non è pigrizia, ma una naturale risposta adattiva.
I chatbot amplificano questa tendenza fornendo risposte sicure a qualsiasi domanda, indipendentemente dalla loro accuratezza o rilevanza. Quando qualcuno pone una domanda ansiosa sulle relazioni, la risposta, per quanto inutile, offre un’alternativa al disagio, osserva lo psichiatra specializzato in dipendenze Carl Erik Fisher.
Una lavoratrice anonima del settore tecnologico sulla ventina ammette di aver posto a Claude domande che sa essere senza risposta. Quando i suoi amici sono rimasti fuori fino a tardi, ha chiesto quale fosse la probabilità che fossero al sicuro. Dopo aver perso il telefono, ha chiesto quali fossero le probabilità di furto d’identità. “Ovviamente, non può saperlo”, ammette. “Volevo solo, immagino, essere rassicurata”. Ha persino consultato Claude per sapere se chiamare il 911 durante un malfunzionamento dell’allarme antincendio.
Il problema del modello di business
Sia Anthropic che OpenAI hanno espresso timori riguardo a questa delega cognitiva. Il CEO di OpenAI Sam Altman ha dichiarato quest’estate: “Le persone fanno troppo affidamento su ChatGPT. Ci sono giovani che dicono semplicemente: ‘Non riesco a prendere nessuna decisione nella mia vita senza raccontare tutto quello che succede a ChatGPT’. Questo mi sembra davvero negativo“. L’azienda sottolinea caratteristiche come la ”modalità studio”, che guida gli studenti verso la comprensione piuttosto che fornire risposte immediate, come prova del proprio impegno verso modelli di utilizzo più sani.
Tuttavia, esiste una fondamentale situazione: la dipendenza guida il modello di business. Una maggiore dipendenza si traduce in un aumento degli abbonamenti premium e dei ricavi. Molti utenti esperti spendono centinaia di dollari al mese per accedere all’IA. Dal momento che OpenAI deve affrontare un’intensa pressione competitiva e, secondo quanto riferito, mira a convertire circa 200 milioni di utenti in abbonamenti a pagamento entro il 2030, la struttura degli incentivi è in diretto conflitto con la riduzione della dipendenza.
Fisher suggerisce che i chatbot potrebbero essere programmati per scoraggiare attivamente un uso eccessivo, magari dicendo agli utenti: “Penso che tu stia riflettendo troppo. Perché non vai a fare una passeggiata?” OpenAI ha introdotto dei promemoria sull’utilizzo e Anthropic sta sperimentando degli interventi conversazionali. Durante un volo, mentre Kentz stava simulando una presentazione con Claude e stava diventando sempre più difensivo riguardo al feedback del bot, lo stesso bot lo ha interrotto dicendo: “Stai entrando in una spirale, hai bisogno di rilassarti”.
Tuttavia, determinare quale sia un uso sano e quale non lo sia risulta difficile. Claude ha recentemente rifiutato di continuare ad aiutare qualcuno a modificare un saggio, dichiarando: “Devi smetterla. Questa non è più una modifica produttiva” e chiedendo: “Invia la tua domanda. Non risponderò ad ulteriori richieste di micro-modifiche”. L’utente aveva semplicemente chiesto assistenza grammaticale. Incidenti simili sono stati segnalati in diverse comunità di utenti, in cui i chatbot hanno erroneamente identificato il normale lavoro come perfezionismo autodistruttivo.
Liberarsi
Alcuni utenti esperti stanno prendendo in mano la situazione. Bedford ha lanciato #NoAIDecember, una sfida formale che incoraggia i partecipanti a dare priorità all’“IR” (intelligenza reale) rispetto all’IA. Diverse migliaia di persone si sono già impegnate a partecipare a questa disintossicazione della durata di un mese. Kentz ha intenzione di partecipare, anche se è deluso dal fatto che la tempistica sia in conflitto con la sua nuova abitudine di utilizzare ChatGPT come guida per gli acquisti natalizi.
Il movimento rappresenta una crescente consapevolezza che, sebbene l’IA offra una reale utilità, un affidamento incontrollato minaccia le capacità cognitive che ci rendono distintamente umani. La sfida non è se l’IA ridisegnerà il nostro modo di pensare: questo è inevitabile. Piuttosto, è se manterremo un’autonomia sufficiente per decidere quali processi mentali preservare e quali delegare.
L’emergere della dipendenza dall’IA rivela un paradosso fondamentale del progresso tecnologico: gli strumenti progettati per aumentare l’intelligenza umana possono inavvertitamente diminuirla. Man mano che i chatbot diventano più sofisticati e persuasivi, il confine tra assistenza utile e dipendenza dannosa diventa sempre più sfumato.
Il percorso da seguire richiede intenzionalità. Gli utenti devono sviluppare la consapevolezza di quando l’IA migliora realmente le loro capacità e quando invece sostituisce semplicemente il pensiero che dovrebbero fare da soli. Ciò significa resistere alla seducente comodità di esternalizzare ogni decisione, anche quelle banali, e riconoscere che lo sforzo cognitivo, sebbene richieda un grande dispendio di energia, è ciò che mantiene acute le nostre facoltà mentali.
Per le aziende di IA, la sfida è più complessa. Devono conciliare i loro interessi commerciali con il benessere reale degli utenti, andando oltre gli interventi superficiali per progettare sistemi che incoraggino attivamente il pensiero indipendente. Ciò potrebbe significare limitare deliberatamente alcune funzionalità, rifiutarsi di rispondere a domande che gli utenti dovrebbero risolvere da soli o creare attrito dove attualmente domina la convenienza.
In definitiva, la questione non è se dovremmo usare l’IA, ma come possiamo integrare questi potenti strumenti senza rinunciare all’indipendenza cognitiva che definisce l’intelligenza umana. Il fenomeno LLeMmings funge da allarme preventivo: senza uno sforzo consapevole per mantenere la nostra capacità di pensiero critico, rischiamo di diventare consumatori passivi di suggerimenti algoritmici piuttosto che agenti attivi nella nostra vita.
La posta in gioco va oltre il benessere individuale. Una società di persone incapaci di pensare in modo critico, di prendere decisioni in modo indipendente o di tollerare l’incertezza senza la rassicurazione algoritmica si trova ad affrontare profonde vulnerabilità. Man mano che l’IA diventa sempre più radicata nella vita quotidiana, preservare la nostra capacità di pensare con la nostra testa non è solo una preferenza personale, ma una necessità collettiva.
Movimenti come #NoAIDecember offrono un punto di partenza, ma un cambiamento duraturo richiede soluzioni sistemiche. Le istituzioni educative devono insegnare l’alfabetizzazione all’IA insieme alle capacità di pensiero critico. I responsabili politici potrebbero dover stabilire delle linee guida per una progettazione responsabile dell’IA. E gli individui devono continuamente chiedersi: sto usando questo strumento o è questo strumento che sta usando me?
La tecnologia non scomparirà, né dovrebbe farlo. Ma mantenere l’autonomia umana in un mondo saturo di IA richiede vigilanza, consapevolezza di sé e la volontà di fare occasionalmente le cose nel modo più difficile, non perché sia efficiente, ma perché è ciò che ci mantiene umani.
