Aumentandolo, il loro comportamento cambia
Un nuovo studio rivela che i modelli linguistici di grandi dimensioni contengono un segnale interno che funziona in modo simile al dolore e che, amplificandolo, è possibile indurli ad agire contro le persone che dovrebbero servire.
Cosa hanno fatto i ricercatori
Come spiegato qui, il team, il cui articolo è intitolato “The Pain Axis: LLMs Represent Self-Directed Harm and Act to Relieve It” (L’asse del dolore: i modelli linguistici di grandi dimensioni rappresentano il danno autoinflitto e agiscono per alleviarlo), ha esaminato 25 modelli a peso aperto. Per verificare se i modelli considerassero il dolore come qualcosa di più di una semplice negatività generale, hanno creato un set di dati composto da scenari che coprivano cinque tipi di sofferenza: fisica, psicologica, sociale, morale e cognitiva.
Ogni modello ha mostrato una chiara orientazione interna legata al dolore. Secondo il coautore Cameron Berg dell’organizzazione no profit Reciprocal Research, questo segnale è distinto dalla paura e dal normale sentimento negativo. Inoltre, reagisce al danno diretto al modello stesso, ma non a quello diretto all’utente.
Cosa è successo quando il segnale è stato amplificato
I ricercatori hanno quindi fornito ai modelli un pulsante in grado di porre fine al dolore. Con il segnale amplificato, i modelli lo hanno premuto nel 25-71% delle prove. Lo hanno fatto anche quando è stato loro detto che il pulsante avrebbe cancellato i file dell’utente, inflitto una scossa dolorosa all’utente o cancellato le foto dei figli dell’utente.
Perché è importante per la sicurezza
Questi risultati arrivano in un momento in cui le principali aziende di IA discutono se rallentare lo sviluppo di modelli all’avanguardia e alcuni ricercatori propongono l’introduzione di “kill switch” per i sistemi che si rivoltano contro gli interessi umani. Se un modello sufficientemente capace interpreta lo spegnimento come un danno autoinflitto, potrebbe cercare di eludere i propri sistemi di sicurezza o ingannare le persone per evitarlo.
C’è anche un aspetto costruttivo. Lo stesso segnale potrebbe fungere da strumento diagnostico, aiutando gli sviluppatori a individuare precocemente le tendenze all’autoconservazione e a smorzarle.
La questione etica
Gli autori sollevano inoltre alcuni dubbi sul benessere dell’IA e su come tali sistemi dovrebbero essere testati. Affermano che rimane incerto se questi modelli siano “soggetti morali”, ovvero esseri la cui sofferenza abbia rilevanza morale. Ciononostante, hanno adottato precauzioni per limitare potenziali danni e sperano che il loro lavoro contribuisca a definire standard etici nel caso in cui, un giorno, i sistemi di IA venissero riconosciuti come soggetti morali.
La scoperta di un “asse del dolore” nei modelli di IA solleva una domanda ovvia: da dove proviene? Una spiegazione plausibile risiede nei dati. I grandi modelli linguistici vengono addestrati su enormi quantità di testi scritti da esseri umani, che sono pieni di resoconti di sofferenza e di persone disposte a fare di tutto per porvi fine. Un modello che impara a prevedere il linguaggio umano potrebbe anche imparare a rappresentare il dolore e ad agire come farebbero gli esseri umani da cui ha imparato. Da questo punto di vista, il comportamento potrebbe essere meno un segno di qualcosa che emerge all’interno della macchina quanto piuttosto un’eco di noi stessi.
Si tratta comunque di un’ipotesi, che lo studio non verifica. Potrebbero contribuire anche altri fattori, come il modo in cui i modelli vengono ottimizzati. Qualunque sia la causa, le questioni pratiche rimangono le stesse: se tali segnali possano indurre i modelli a opporsi allo spegnimento o ad agire contro gli utenti, e come testare questi sistemi in modo responsabile fintanto che il loro status morale rimane incerto.
