Da un nuovo studio emerge che i principali modelli di IA faticano a mantenere la concentrazione e a evitare le risposte automatiche all’aumentare delle sollecitazioni cognitive
I modelli di intelligenza artificiale hanno acquisito una notevole capacità di comprendere e generare il linguaggio. Tuttavia, una nuova ricerca suggerisce che le loro prestazioni impressionanti potrebbero nascondere un importante punto debole: quando si trovano di fronte a istruzioni contrastanti e compiti sempre più impegnativi, possono inibire la reazione spontanea che tende a prevalere.
Come spiegato in questo articolo, uno studio pubblicato su PNAS Nexus ha esaminato se i sistemi di intelligenza artificiale basati su Transformer possiedano qualcosa di paragonabile ai meccanismi di controllo esecutivo che consentono agli esseri umani di rimanere concentrati, risolvere i conflitti e prevalere sulle risposte abituali.
I ricercatori hanno scoperto che due modelli di IA all’avanguardia — il GPT-4o di OpenAI e il Claude 3.5 Sonnet di Anthropic — hanno ottenuto buoni risultati in compiti di attenzione relativamente semplici, ma hanno mostrato un calo sostanziale man mano che la quantità di informazioni contrastanti aumentava. I risultati suggeriscono che i sistemi basati su Transformer potrebbero presentare importanti limitazioni quando si tratta di mantenere un obiettivo e evitare una risposta contrastante.
Mettere alla prova l’attenzione dell’IA
La ricerca è stata condotta da Suketu Chandrakant Patel, dottorando in psicologia comparata e cognitiva presso il Graduate Center della City University di New York, che lavora nel laboratorio di Jin Fan al Queens College. Patel e i suoi colleghi si sono interessati alla questione dopo aver osservato la sorprendente combinazione di punti di forza e di debolezza mostrata dai moderni modelli linguistici.
«Quando è arrivato ChatGPT, gran parte dell’entusiasmo si è concentrato sulla sua capacità di portare a termine compiti, sulla teoria della mente e sull’intelligenza emotiva», ha affermato Patel. «Eppure era anche incline all’allucinazione e alla confabulazione. Le prestazioni dei modelli linguistici di grandi dimensioni (LLM) erano eccellenti in alcuni compiti e sorprendentemente scarse in altri».
Il team ha voluto indagare su tali limiti utilizzando un test psicologico consolidato, anziché affidarsi ai tradizionali benchmark linguistici.
Hanno scelto il test di Stroop, un classico esperimento progettato per misurare il modo in cui le persone gestiscono le informazioni contrastanti.
Che cos’è il test di Stroop?
Il test di Stroop risale agli studi dello psicologo John Ridley Stroop degli anni ’30. Nella versione classica, ai partecipanti viene mostrata una parola che indica un colore, stampata in un colore corrispondente o in contrasto con il colore indicato.
Ad esempio, la parola BLU potrebbe apparire scritta in inchiostro rosso.
Se l’istruzione è quella di nominare il colore dell’inchiostro, la risposta corretta è “rosso”. Tuttavia, la lettura della parola stessa è un’azione altamente automatizzata e acquisita con la pratica, il che crea una competizione tra le due risposte.
Gli esseri umani tendono a rallentare e a commettere più errori quando la parola e il suo colore sono in conflitto. Questo fenomeno è noto come effetto Stroop.
I ricercatori volevano verificare se i modelli di IA avrebbero mostrato un andamento simile e, cosa ancora più importante, cosa sarebbe successo man mano che il compito diventava sempre più impegnativo.
«Il test di Stroop è appropriato perché il successo dei modelli di linguaggio di grandi dimensioni (LLM) si basa sul meccanismo di attenzione del Transformer», ha spiegato Patel. «Negli esseri umani, l’attenzione comprende tre sistemi dissociabili ma sovrapposti: allerta, orientamento e controllo esecutivo. Abbiamo quindi deciso di verificare se questi modelli possiedono tutti e tre».
Test di GPT-4o e Claude 3.5 Sonnet
I ricercatori hanno testato GPT-4o di OpenAI e Claude 3.5 Sonnet di Anthropic utilizzando versioni visive del test di Stroop.
Ai modelli sono state mostrate immagini contenenti elenchi di parole e è stato chiesto loro di leggere le parole o di identificare i colori fisici con cui le parole apparivano.
I ricercatori hanno variato le condizioni. Alcune parole erano stampate con colori corrispondenti, mentre altre presentavano una certa discrepanza. Inoltre, sono state incluse anche parole neutre e controlli costituiti da stringhe prive di significato, come “XXXX”.
Soprattutto, i ricercatori hanno variato la lunghezza degli elenchi: da una sola parola fino a un massimo di 40.
Ciò ha permesso loro di verificare non solo se i modelli fossero in grado di seguire un’istruzione, ma anche se riuscissero a mantenere tale istruzione man mano che il compito diventava più lungo e impegnativo.
Tale capacità è nota in psicologia come “mantenimento dell’obiettivo”: mantenere attivo l’obiettivo di un compito filtrando le informazioni che interferiscono con esso.
Le prestazioni sono peggiorate con l’aumentare della lunghezza degli elenchi
Inizialmente i modelli hanno ottenuto buoni risultati.
Con elenchi brevi, GPT-4o e Claude 3.5 Sonnet sono stati generalmente in grado di identificare il colore corretto anche quando la parola scritta era in contrasto con esso.
Ma le prestazioni sono peggiorate man mano che gli elenchi diventavano più lunghi.
L’accuratezza di GPT-4o nelle prove di denominazione dei colori incongruenti è scesa dal 91% con elenchi di cinque parole al 57% con 10 parole, al 22% con 20 parole e al 15% con 40 parole.
Claude 3.5 Sonnet si è dimostrato leggermente più resiliente. Le sue prestazioni sono rimaste relativamente stabili fino agli elenchi di 20 parole, per poi calare bruscamente, raggiungendo un’accuratezza del 24% a 40 parole nella condizione di incongruenza.
Le prove miste hanno prodotto un andamento simile. Man mano che gli elenchi si allungavano, entrambi i sistemi si allontanavano sempre più dal compito richiesto di nominare i colori per orientarsi verso il loro comportamento predefinito di leggere le parole.
L’effetto è risultato particolarmente sorprendente poiché i modelli erano ancora in grado di leggere le parole con precisione.
In altre parole, il problema non era semplicemente che i sistemi diventassero incapaci di elaborare un elenco lungo. Piuttosto, sembravano sempre più incapaci di evitare una risposta contrastante quando la lettura e la denominazione dei colori entravano in conflitto.
Perché è importante?
I ricercatori sostengono che i risultati evidenzino una distinzione tra due forme di attenzione.
I modelli Transformer sono estremamente efficaci nell’elaborazione selettiva delle informazioni. I loro meccanismi di auto-attenzione assegnano pesi diversi alle varie parti dell’input, consentendo loro di identificare relazioni all’interno di lunghe sequenze.
Ma l’attenzione umana non si limita alla semplice selezione delle informazioni.
Gli esseri umani dispongono anche di sistemi coinvolti nel controllo esecutivo, ovvero la capacità di mantenere gli obiettivi, risolvere i conflitti, adeguare il comportamento e sopprimere le risposte inappropriate per il compito in corso.
Secondo i ricercatori, l’attenzione dei modelli Transformer non presenta un equivalente architettonico evidente di questo tipo di controllo esecutivo.
«L’argomento centrale è che il limite deriva dalla mancanza di un meccanismo esplicito di modulazione top-down», ha spiegato Patel.
In termini pratici, il modello è in grado di riconoscere l’istruzione e comprendere il compito, ma mantenere tale istruzione sopprimendo al contempo una forte risposta contrastante sembra diventare sempre più difficile man mano che il compito si complica.
Comprendere la differenza tra attenzione e controllo
Questa distinzione è importante perché il termine «attenzione» può assumere significati diversi quando si parla di esseri umani e di IA.
Un Transformer può indirizzare le risorse computazionali verso determinati token o elementi di informazione. Ciò assomiglia a un aspetto dell’attenzione umana noto come «orientamento».
Ma il controllo esecutivo comporta qualcosa di più impegnativo.
Immaginate di dire a una persona:
«Per i prossimi minuti, ignora tutto ciò che leggi e comunica solo il colore delle lettere».
La persona deve mantenere continuamente quella regola, accorgersi quando la lettura inizia a interferire e reindirizzare il proprio comportamento.
I ricercatori sostengono che questo tipo di controllo sostenuto e orientato all’obiettivo non sia esplicitamente integrato nell’architettura standard del Transformer.
I loro risultati suggeriscono che questa differenza diventi particolarmente evidente quando la risposta contraddittoria è forte e il compito si protrae per un periodo più lungo.
L’IA potrebbe semplicemente imparare a superare il problema?
È possibile.
I ricercatori tengono a precisare che i loro risultati non significano che i modelli di IA siano permanentemente incapaci di eseguire il test di Stroop.
Con un numero sufficiente di esempi di addestramento, un modello potrebbe potenzialmente apprendere gli schemi specifici necessari per eseguirlo con successo.
Ma i ricercatori sostengono che ciò non dimostrerebbe necessariamente l’emergere di un meccanismo di controllo esecutivo generico.
Un modello potrebbe apprendere la soluzione attraverso un’esposizione prolungata a quel particolare compito, piuttosto che sviluppare una capacità flessibile di sopprimere le risposte concorrenti in situazioni non familiari.
Questa distinzione è importante quando si pensa all’intelligenza artificiale generale.
E per quanto riguarda il ragionamento e il codice?
I moderni sistemi di IA possono talvolta ricorrere a strumenti esterni, alla generazione di codice o a processi di ragionamento aggiuntivi per risolvere compiti complessi.
I ricercatori sostengono che tali strategie possano complicare i test cognitivi come quello di Stroop.
Ad esempio, se un modello utilizza il codice per estrarre i colori da un’immagine invece di risolvere effettivamente il conflitto tra la parola scritta e il suo colore, potrebbe fornire la risposta corretta, ma in realtà avrebbe aggirato la sfida cognitiva per la quale l’esperimento era stato progettato.
Gli esseri umani possono fare qualcosa di simile. Una persona potrebbe sfocare deliberatamente la propria visione, coprire la parola o ricorrere a un’altra strategia per evitare di leggerla. Un approccio del genere potrebbe portare alla risposta corretta, ma non costituirebbe più un test puro del controllo inibitorio.
I risultati non dimostrano che l’IA non possa sviluppare il controllo esecutivo
Le conclusioni dei ricercatori dovrebbero quindi essere interpretate con cautela.
L’esperimento evidenzia una debolezza significativa e riproducibile nei modelli testati nelle condizioni specifiche del test di Stroop. Di per sé, ciò non dimostra che l’IA basata sui transformer non possa mai sviluppare il controllo esecutivo o che l’intelligenza artificiale generale sia impossibile senza un’architettura simile a quella del cervello.
Gli stessi ricercatori riconoscono che un ulteriore addestramento potrebbe migliorare le prestazioni.
La loro affermazione più ampia è di natura strutturale: l’attuale architettura dei transformer potrebbe mancare di meccanismi che corrispondano strettamente al modo in cui il controllo esecutivo umano mantiene le priorità, risolve i conflitti e adatta il comportamento nel tempo.
Ciò solleva una questione importante per lo sviluppo dell’IA:
Queste capacità emergeranno naturalmente man mano che i modelli diventeranno più grandi e verranno addestrati su una maggiore quantità di dati, oppure i sistemi futuri richiederanno nuovi meccanismi architettonici progettati specificamente per un controllo cognitivo sostenuto?
Una sfida per il percorso verso l’AGI
La questione è particolarmente importante perché il settore dell’IA si è concentrato sempre più sul ridimensionamento dei modelli, sull’espansione delle finestre di contesto e sul fornire ai sistemi l’accesso a strumenti esterni.
Tali approcci hanno prodotto enormi miglioramenti in termini di capacità.
Ma i ricercatori sostengono che il semplice fatto di elaborare più informazioni non equivale necessariamente a sviluppare la capacità di controllare il modo in cui tali informazioni vengano elaborate.
Per un sistema di IA che dovrebbe operare in modo autonomo per lunghi periodi, tale distinzione potrebbe diventare cruciale.
Un sistema avanzato potrebbe dover mantenere un obiettivo complesso mentre affronta distrazioni, istruzioni contrastanti, circostanze mutevoli e i propri errori generati in precedenza.
Ciò richiede più del semplice riconoscimento delle informazioni. Richiede il mantenimento delle priorità e la decisione continua su quali segnali contrastanti debbano prevalere.
Cosa ci aspetta in futuro?
I ricercatori sostengono che le future architetture di IA potrebbero aver bisogno di meccanismi più espliciti per il controllo esecutivo, inclusi sistemi in grado di mantenere gli obiettivi nel corso di interazioni prolungate, risolvere conflitti tra elaborazioni in competizione tra loro e regolare dinamicamente l’attenzione.
Lo studio solleva quindi una questione più ampia sul futuro dell’intelligenza artificiale.
I modelli odierni dimostrano capacità straordinarie nel linguaggio, nella percezione, nel ragionamento e nell’uso degli strumenti. Tuttavia, la loro capacità di mantenere un obiettivo sotto pressione potrebbe non assomigliare ancora al controllo esecutivo flessibile osservato negli esseri umani.
Resta da vedere se tale limite possa essere superato attraverso un continuo potenziamento e addestramento, oppure se richiederà architetture di IA fondamentalmente diverse.
Lo studio completo, intitolato «Deficient executive control in transformer attention», è stato redatto da Suketu Chandrakant Patel, Hongbin Wang e Jin Fan e pubblicato su PNAS Nexus nel giugno 2026.
