Come dispositivi molto potenti possono trasformarsi in armi pericolose
L’arma a doppio taglio dell’IA in biologia
L’intelligenza artificiale si è affermata come una forza trasformativa nella ricerca scientifica, con un enorme potenziale nella lotta contro le malattie e nello sviluppo di terapie salvavita. Tuttavia, proprio le capacità che rendono l’IA preziosa per le scoperte mediche — come la progettazione di composti innovativi e la creazione di nuovi sistemi biologici — presentano anche un grave rischio per la sicurezza. Questa tensione fondamentale tra benefici e pericoli è diventata sempre più urgente man mano che i sistemi di IA diventano più sofisticati.
Recenti avvertimenti da parte dei leader del settore
Come spiegato qui, la preoccupazione si è concretizzata nel settembre 2026 quando Anthropic, l’azienda che ha sviluppato il modello di IA Claude, ampiamente utilizzato, ha pubblicato una valutazione completa delle minacce. Il rapporto documentava diversi casi in cui gli utenti avevano interrogato il sistema per ottenere informazioni potenzialmente rilevanti per ricerche biologiche pericolose. In risposta, Anthropic ha chiuso gli account coinvolti e ha integrato i risultati delle proprie indagini in protocolli di sicurezza migliorati, progettati per prevenire futuri abusi.
La tempistica di questa rivelazione si è rivelata significativa. Poco dopo la pubblicazione del rapporto, il CEO di Anthropic, Dario Amodei, ha pubblicamente invocato un moderato rallentamento dello sviluppo dell’IA, citando il bioterrorismo come una preoccupazione centrale insieme ad altri rischi. Ciò ha seguito una lettera congiunta di Anthropic e OpenAI che sollecitava la supervisione normativa delle aziende che vendono DNA sintetico — un prerequisito cruciale per trasformare in armi gli agenti biologici progettati dall’IA.
Prove concrete del rischio
La minaccia non è meramente teorica. Uno studio del 2025 ha dimostrato che un sistema di IA chiamato Moremi Bio Agent era in grado di generare oltre 1.000 nuove proteine tossiche e 5.000 piccole molecole tossiche — molte delle quali strutturalmente simili ad armi biologiche note come la ricina e la tossina difterica. I ricercatori hanno condotto questo esperimento disattivando deliberatamente i meccanismi di sicurezza, rivelando ciò che diventa possibile quando le misure protettive vengono aggirate.
Analogamente, i ricercatori di Stanford e dell’Arc Institute hanno presentato Evo 2, un modello di base basato sul DNA in grado di progettare virus partendo da zero. Sebbene tale tecnologia prometta trattamenti rivoluzionari per la resistenza antimicrobica (che uccide oltre un milione di persone all’anno), essa rappresenta anche una via ovvia verso lo sviluppo di armi biologiche.
L’annoso problema delle tecnologie a duplice uso
Nel corso della storia, l’umanità si è trovata a fare i conti con strumenti che presentano applicazioni sia benefiche che distruttive: dal coltello all’energia nucleare. L’intelligenza artificiale applicata alla biologia rappresenta questo dilemma su una scala senza precedenti. Gli stessi sistemi che potrebbero curare malattie incurabili o eliminare i superbatteri possono essere riutilizzati per ingegnerizzare nuovi agenti patogeni.
Ciò crea un’equazione inquietante: potenti strumenti di progettazione basati sull’intelligenza artificiale + metodi accessibili per la sintesi biologica = una grave vulnerabilità per la sicurezza nazionale. A differenza dei rischi tecnologici del passato, la barriera all’ingresso per la creazione di armi biologiche tramite l’IA si sta rapidamente abbassando, non richiedendo strutture specializzate per la parte computazionale del lavoro.
Una comunità di esperti divisa
La valutazione della minaccia condotta da Anthropic ha suscitato reazioni contrastanti all’interno delle comunità scientifiche e di sicurezza. Alcuni esperti avvertono che ci stiamo avvicinando a una crisi con misure di salvaguardia inadeguate, descrivendo il momento attuale come «un camminare sonnambuli verso un disastro di proporzioni enormi». Altri esortano alla cautela contro le esagerazioni, sottolineando che i casi documentati riguardavano principalmente la ricerca di base piuttosto che lo sviluppo operativo di armi biologiche.
Ciononostante, la questione ha suscitato grande attenzione da parte dei dirigenti delle aziende di IA, degli specialisti della sicurezza e dei membri del Congresso. L’estate del 2026 ha visto diversi incidenti di sicurezza legati all’IA che, pur non avendo causato finora alcun danno documentato, hanno rafforzato l’urgenza di sviluppare solide misure di salvaguardia.
Un momento critico
Come per tutte le tecnologie, è l’intenzione umana a determinare in ultima analisi se l’IA diventerà uno strumento di guarigione o di danno. L’attuale finestra di opportunità per istituire una supervisione efficace, sviluppare standard di sicurezza robusti e creare quadri internazionali per il monitoraggio della ricerca sull’IA a duplice uso potrebbe chiudersi rapidamente. La posta in gioco non potrebbe essere più alta: la convergenza delle capacità dell’IA, in espansione esponenziale, con la biologia sintetica rappresenta una delle sfide di sicurezza determinanti del prossimo decennio.
La tentazione di imporre restrizioni assolute alla ricerca biologica assistita dall’intelligenza artificiale è comprensibile, ma in definitiva inefficace. La storia dimostra che vietare tecnologie potenti non fa altro che creare un vantaggio asimmetrico: chi è disposto a infrangere le regole ottiene l’accesso esclusivo a capacità negate ai ricercatori legittimi e alle istituzioni difensive. Nel contesto degli agenti patogeni ingegnerizzati dall’intelligenza artificiale, questa asimmetria è particolarmente pericolosa: un divieto totale non eliminerebbe la minaccia, ma concentrerebbe invece le capacità di sviluppo di armi biologiche proprio tra coloro che sono meno soggetti ai vincoli del diritto internazionale.
Anziché perseguire un divieto impossibile, un approccio più pragmatico e solido consiste nello sviluppare capacità difensive simmetriche. Se l’intelligenza artificiale è in grado di progettare virus letali, allora deve fungere anche da prima linea di difesa dell’umanità, generando antidoti, progettando contromisure immunologiche e consentendo una rapida risposta farmaceutica alle minacce emergenti. Questa inversione del modello di minaccia trasforma l’equazione da una corsa che non possiamo vincere in una struttura deterrente in cui le capacità offensive e difensive mantengono un equilibrio strategico.
L’attuazione di questa strategia incentrata sulla difesa richiede tre pilastri complementari:
- In primo luogo, una regolamentazione selettiva anziché un divieto generalizzato. I governi e le istituzioni dovrebbero mantenere rigorosi controlli di accesso sui modelli di IA più pericolosi, consentendo al contempo che la ricerca medica e difensiva proceda apertamente. Questo approccio riconosce che il genio non può essere rimesso nella lampada; il compito è gestire chi detiene la lampada.
- In secondo luogo, sorveglianza globale e analisi forense genomica. I sistemi avanzati di IA devono monitorare continuamente le sequenze biologiche sintetiche, identificarne le origini e tracciarne i percorsi di sviluppo. La rilevazione precoce trasforma uno scenario catastrofico in un incidente circoscritto: minuti e ore cruciali che consentono l’attivazione dei protocolli di risposta.
- In terzo luogo, e questo è l’aspetto più critico, un investimento massiccio in infrastrutture di produzione biologica a risposta rapida. L’attuale ostacolo non è di natura computazionale, ma logistica: mentre l’IA può progettare un antidoto in poche settimane, la produzione farmaceutica convenzionale richiede anni. È necessario sviluppare e predisporre a livello globale reti distribuite di bioreattori, impianti di produzione modulari e tecnologie di stampa 3D biologica, in modo che le contromisure possano essere prodotte su larga scala in pochi giorni, anziché in mesi.
L’intuizione strategica alla base di questo approccio è semplice ma profonda: il pericolo non risiede nell’esistenza della tecnologia in sé, ma nell’asimmetria tra accesso e capacità di risposta. Quando sia l’attacco che la difesa operano su tempi simili con risorse comparabili, la deterrenza diventa possibile. L’asimmetria difensiva — in cui i difensori possono rispondere più rapidamente e in modo più completo di quanto gli aggressori possano agire — elimina il vantaggio strategico dell’aggressore.
Ciò rappresenta un allontanamento dal modello di sicurezza tradizionale della «prevenzione attraverso il divieto». Al contrario, abbraccia un modello di «resilienza attraverso la capacità». La triste realtà è che, se l’IA è in grado di creare un agente patogeno letale, prima o poi qualcuno scoprirà come farlo. Il divieto garantisce semplicemente che quel qualcuno operi nell’ombra, senza supervisione né concorrenza. La strada più sana da seguire è quella di portare questa capacità alla luce — svilupparla sotto un rigoroso controllo internazionale e, al contempo, costruire l’infrastruttura difensiva necessaria per neutralizzare qualsiasi minaccia che dovesse emergere.
La finestra di opportunità per stabilire questo quadro si sta rapidamente chiudendo. Man mano che i sistemi di IA diventano più capaci e più diffusi, l’opportunità di mantenere il controllo attraverso un accesso selettivo scomparirà presto. È ora il momento di investire seriamente nelle infrastrutture biologiche difensive — prima che il problema passi dalla teoria alla pratica e prima di scoprire, attraverso un’amara esperienza, che la proibizione non è mai stata affatto un’opzione.
