Le misure volontarie delle aziende non bastano a governare i rischi biologici legati all’intelligenza artificiale avanzata. È il messaggio della lettera di Giovanni Ghirga, pediatra e componente del Comitato scientifico di ISDE Italia, pubblicata il 4 novembre 2026 sul British Medical Journal, che propone un quadro internazionale vincolante e controlli indipendenti sui sistemi più potenti.
Il contributo prende spunto dalla segnalazione di Anthropic relativa a cinque casi di ricercatori che avrebbero utilizzato, o tentato di utilizzare, il sistema Claude per ricerche biologiche potenzialmente utili allo sviluppo di armi. Ghirga invita a valutare questi episodi senza minimizzazioni né allarmismi: i casi segnalati non dimostrano intenzioni malevole, né l’esistenza di un programma di armi biologiche. Il problema è capire se la capacità di controllo possa tenere il passo con sistemi di intelligenza artificiale sempre più capaci, autonomi e accessibili.
Secondo l’autore, Anthropic ha agito responsabilmente individuando le attività, bloccando gli account e rendendo pubblici gli episodi. La ricomparsa di modalità di accesso mostra tuttavia i limiti dei controlli affidati alle singole imprese. Per rischi di questa portata occorre una supervisione indipendente dagli sviluppatori e coordinata tra Paesi.
Ghirga propone di trarre insegnamento dai sistemi di non proliferazione nucleare e dagli accordi internazionali sulla biosicurezza. Il quadro dovrebbe poggiare su tre principi: impedire la diffusione incontrollata delle capacità più pericolose, preservare gli impieghi pacifici e socialmente utili e sottoporre i sistemi più avanzati a verifiche internazionali indipendenti.
La regolamentazione dovrebbe concentrarsi sulle funzionalità che possono aumentare concretamente il rischio biologico: assistenza nella progettazione di agenti patogeni, nella modifica della loro trasmissibilità o capacità di eludere le difese immunitarie, nello sviluppo di tossine, accesso autonomo a laboratori e infrastrutture critiche, aggiramento dei sistemi di sicurezza e capacità di replicarsi o sviluppare modelli più potenti senza un controllo umano efficace.
Per gli sviluppatori, la proposta prevede valutazioni indipendenti prima del rilascio, registri verificabili delle attività, segnalazione tempestiva degli incidenti gravi e ispezioni esterne proporzionate, tutelando la legittima riservatezza scientifica.
Gli episodi richiamati, conclude Ghirga, non provano che una catastrofe biologica favorita dall’intelligenza artificiale sia imminente. Costituiscono però un segnale della fragilità di una governance fondata prevalentemente sulla discrezionalità aziendale. L’obiettivo è garantire che lo sviluppo dell’intelligenza artificiale proceda insieme alla capacità collettiva di governarla, salvaguardando la ricerca biomedica e i suoi benefici.
Fonte: Giovanni Ghirga, “AI enabled biological threats require international governance, not voluntary safeguards”, BMJ 2026;395:e101288, 4 novembre 2026. DOI: 10.1136/bmj-2026-101288.