Stiamo lasciando che l’intelligenza artificiale pensi al posto nostro?
Il termine “resa cognitiva” circola in sordina da gennaio, ma è stato necessario un articolo di Ars Technica all’inizio di aprile per portarlo all’attenzione di un pubblico più ampio. L’espressione è stata coniata dai ricercatori di marketing della Wharton Business School Steven Shaw e Gideon Nave, e una volta che ci si imbatte in essa, è difficile toglierla dalla testa.
Il concetto è semplice ma inquietante: quando le persone consultano l’IA, tendono ad accettare qualsiasi cosa essa dica loro, anche quando è sbagliata.
Cosa ha rilevato la ricerca
Come spiegato qui, Shaw e Nave hanno testato 1.372 partecipanti utilizzando una versione adattata del Cognitive Reflection Test (CRT), uno strumento classico progettato per misurare se le persone si affidano a un’intuizione rapida o a un ragionamento attento. Le domande sono volutamente insidiose. Si consideri questo esempio:
Se 5 macchine impiegano 5 minuti per produrre 5 widget, quanto tempo impiegherebbero 100 macchine per produrne 100?
La risposta è 5 minuti, ma il tuo istinto probabilmente ti ha suggerito 100. Per rispondere correttamente occorre quello che lo psicologo Daniel Kahneman ha definito con la famosa espressione «pensiero lento»: un ragionamento deliberato e analitico, in contrapposizione a quello veloce e istintivo.
La particolarità dello studio di Shaw e Nave era che i partecipanti avevano a disposizione, durante il test, un chatbot basato sull’intelligenza artificiale che a volte forniva risposte intenzionalmente errate. I risultati sono stati sorprendenti:
- I partecipanti hanno consultato il chatbot circa la metà delle volte
- Quando forniva risposte corrette, le accettavano nel 93% dei casi
- Quando forniva risposte errate, le accettavano comunque nell’80% dei casi
- Coloro che hanno utilizzato l’IA hanno riportato un livello di fiducia superiore dell’11,7% rispetto a chi non l’ha utilizzata, nonostante le prestazioni fossero inferiori
In altre parole, le persone non erano semplicemente pigre. Erano semplicemente convinte di avere torto.
Un nuovo modo di pensare… o la sua fine?
Basandosi sul modello di Kahneman del Sistema 1 (pensiero veloce e intuitivo) e del Sistema 2 (pensiero lento e analitico), i ricercatori sostengono che l’IA rappresenti un emergente Sistema 3: un livello cognitivo esterno a cui le persone affidano sempre più spesso il proprio ragionamento.
Gli autori lo descrivono in questo modo: le persone stanno incorporando i risultati dell’IA nel loro processo decisionale «con minima resistenza o scetticismo», permettendo a un sistema esterno di sostituirsi al proprio ragionamento interno.
Detto questo, Shaw e Nave non considerano la resa cognitiva come qualcosa di puramente catastrofico. Ci sono vantaggi reali nell’avere a portata di mano un potente strumento di ragionamento: decisioni più rapide, minore sforzo mentale e accesso a una grande quantità di informazioni. Il pericolo sta nell’usarlo acriticamente.
Questo non è del tutto nuovo
Prima di disperare per l’umanità, vale la pena notare che la cieca deferenza verso l’autorità percepita non è certo un’invenzione moderna.
Il teologo Peter Berger usò l’espressione “resa cognitiva” già negli anni ’90, in un contesto religioso, riferendosi all’atto di affidare i propri dubbi alla fede. Un esempio è ciò che accade in una classica sitcom americana come Home Improvement, dove la dinamica assume una forma più comica: ogni settimana, Tim “The Toolman” Taylor portava i suoi problemi al suo saggio vicino Wilson, assorbiva qualche antico consiglio di saggezza e poi lo ripeteva in modo così confuso che era chiaro che non ne aveva compreso nulla. Tim non stava riflettendo: stava esternalizzando.
La differenza, ovviamente, sta nella portata. Wilson poteva raggiungere solo Tim. L’IA può raggiungere tutti, contemporaneamente.
Una nota di cautela
Prima di considerare questi risultati come una scienza consolidata, vale la pena tenere a mente la crisi della replicabilità. La ricerca psicologica dell’ultimo decennio ha ripetutamente dimostrato che i risultati sperimentali – specialmente quelli che coinvolgono il comportamento umano – spesso non reggono quando vengono testati nuovamente da ricercatori indipendenti. Ciò non significa che i risultati di Shaw e Nave siano sbagliati, ma significa che meritano un esame approfondito piuttosto che la stessa accettazione acritica che i partecipanti allo studio hanno riservato al loro chatbot basato sull’IA.
C’è qualcosa di quasi poetico in questa ironia.
La conclusione
L’IA è uno strumento straordinario. Ma gli strumenti non pensano al posto nostro, e quando glielo permettiamo, la fiducia che proviamo potrebbe essere la parte più pericolosa. La domanda non è se usare l’IA, ma se la stiamo usando con gli occhi ben aperti.
Altrimenti, siamo tutti semplicemente Tim Taylor, che stravolge con sicurezza i consigli di Wilson e si chiede perché la recinzione sia caduta.
Quello che pochi riconoscono è che la delega cognitiva non è iniziata con l’intelligenza artificiale. Il processo è cominciato molto prima, nel momento in cui abbiamo smesso di memorizzare le informazioni e abbiamo iniziato a cercarle su internet. L’IA, però, ha accelerato e approfondito questa tendenza in modo qualitativo oltre che quantitativo: non deleghiamo più solo la conoscenza teorica, ma anche il ragionamento pratico e la capacità di giudizio.
Chi è cresciuto negli anni ’80 ricorda bene com’era orientarsi nel mondo senza una rete di informazioni sempre disponibile — arrangiarsi, sbagliare, imparare. Quella generazione conosce la differenza tra la fatica cognitiva e la comodità tecnologica, perché le ha vissute entrambe. Le generazioni nate nell’era di internet, e a maggior ragione quelle cresciute con l’IA, rischiano invece di non aver mai sviluppato quella muscolatura mentale. Il pericolo non è solo la dipendenza, ma l’incapacità di riconoscerla: non sapere cosa significa cavarsela da soli, perché non lo si è mai dovuto fare davvero.
Il rischio concreto è quello di una standardizzazione del pensiero: menti formate non dall’esperienza e dal ragionamento autonomo, ma dai pattern e dalle risposte di un algoritmo. Per evitarlo, il primo passo deve venire dalla scuola. Se l’istruzione non torna a mettere al centro la capacità critica, il ragionamento indipendente e la tolleranza all’incertezza, rischiamo di formare generazioni tecnicamente connesse ma cognitivamente passive — non pensatori, ma consumatori di pensieri altrui.
