Un miliardo di morti. Non per una guerra nucleare, non per un asteroide e nemmeno per una catastrofe naturale, ma per un’intelligenza artificiale sufficientemente potente da trasformare le intenzioni di un essere umano in un evento dalle conseguenze devastanti. Bill Gates, cofondatore di Microsoft e una delle figure che hanno contribuito maggiormente alla rivoluzione informatica, ha scelto una cifra difficile persino da immaginare per descrivere il rischio che, a suo giudizio, accompagna lo sviluppo dei sistemi di intelligenza artificiale più avanzati, portando il dibattito ben oltre le preoccupazioni sulla scomparsa dei posti di lavoro, sulla diffusione delle notizie false o sulla possibilità che gli algoritmi diventino più intelligenti degli esseri umani.
La sua non è una previsione secondo cui l’intelligenza artificiale provocherà inevitabilmente una catastrofe di queste dimensioni, né l’annuncio di una tecnologia già in grado di sterminare un ottavo della popolazione mondiale, ma un avvertimento sulla possibilità che strumenti sempre più potenti finiscano nelle mani di persone intenzionate a utilizzarli per provocare danni su scala globale. Il problema, nella prospettiva di Gates, non è soltanto quello di costruire macchine capaci di svolgere operazioni che gli esseri umani non riescono più a comprendere o controllare, ma di impedire che capacità tecnologiche straordinarie diventino accessibili a chi potrebbe impiegarle per realizzare attacchi biologici, compromettere infrastrutture essenziali o moltiplicare la capacità distruttiva di strumenti già esistenti.
È questo il punto che rende le parole del miliardario americano particolarmente rilevanti: l’intelligenza artificiale non deve necessariamente sviluppare una volontà autonoma o ribellarsi ai propri creatori per rappresentare un pericolo, perché potrebbe essere sufficiente che qualcuno impari a utilizzarla come un moltiplicatore delle proprie capacità, superando barriere tecniche, economiche e organizzative che hanno contribuito a limitare l’accesso alle tecnologie più pericolose.
Bill Gates e il miliardo di morti: che cosa ha detto davvero
L’allarme è contenuto in un’anticipazione dell’intervista concessa da Gates a Meet the Press, il programma politico e di approfondimento della televisione americana NBC, condotto da Kristen Welker. Alla domanda se l’intelligenza artificiale possa diventare tanto potente da mettere fine all’umanità, il cofondatore di Microsoft ha risposto che la tecnologia potrebbe contribuire a provocare eventi capaci di causare un miliardo di morti, precisando che raggiungere l’estinzione completa della specie umana sarebbe molto più difficile.
Il passaggio decisivo riguarda però il ruolo delle persone, perché Gates non descrive una macchina che decide autonomamente di sterminare l’umanità, ma la combinazione tra sistemi tecnologici sempre più avanzati e individui che potrebbero utilizzarli per scopi distruttivi. La sua preoccupazione riguarda dunque anche l’impiego deliberatamente criminale dell’intelligenza artificiale, oltre ai rischi derivanti da un’eventuale perdita di controllo sui sistemi più sofisticati.
Gates ha affrontato anche la questione della regolamentazione, sostenendo che la sola autoregolamentazione delle aziende non sia sufficiente e che autorità pubbliche, forze dell’ordine e rappresentanti politici debbano partecipare alla definizione di obblighi e controlli. Una posizione che assume un significato particolare perché arriva da uno dei protagonisti dell’industria tecnologica, non da un osservatore esterno o da un oppositore dello sviluppo dell’intelligenza artificiale.
La cifra di un miliardo di vittime, tuttavia, non nasce da una stima statistica presentata nell’intervista e non è accompagnata da una probabilità scientificamente quantificata. Gates descrive uno scenario estremo che ritiene possibile, non un evento già in corso o un esito inevitabile dello sviluppo tecnologico. Per comprenderne la portata bisogna quindi distinguere ciò che l’intelligenza artificiale è già in grado di fare dai rischi che potrebbero emergere con sistemi più avanzati e con un accesso sempre più ampio a strumenti potenzialmente pericolosi.
Il rischio biologico: quando l’intelligenza artificiale incontra la ricerca sui virus
Uno degli scenari che preoccupano maggiormente gli esperti di sicurezza riguarda l’utilizzo dell’intelligenza artificiale per facilitare lo sviluppo di armi biologiche, attraverso strumenti capaci di elaborare grandi quantità di informazioni scientifiche, assistere nella progettazione di molecole e proteine e fornire indicazioni tecniche che richiederebbero altrimenti conoscenze specialistiche.
Il problema è legato alla natura stessa della ricerca biologica, perché molte delle capacità che permettono di accelerare la scoperta di nuovi farmaci, individuare possibili terapie o comprendere meglio il funzionamento degli agenti patogeni possono essere utilizzate anche per finalità dannose. Una tecnologia che aiuta un ricercatore a risolvere un problema complesso potrebbe infatti essere sfruttata per ridurre alcune delle difficoltà incontrate da chi cerca di sviluppare un’arma biologica.
L’International AI Safety Report 2026, un rapporto scientifico coordinato dal ricercatore Yoshua Bengio e realizzato con il contributo di oltre cento esperti, segnala che alcuni sistemi di intelligenza artificiale hanno raggiunto prestazioni paragonabili o superiori a quelle di specialisti umani in test relativi a conoscenze scientifiche potenzialmente rilevanti per lo sviluppo di armi biologiche. Nel rapporto viene citato, per esempio, uno studio nel quale un modello ha ottenuto risultati superiori a quelli del 94 per cento degli esperti coinvolti in una prova di risoluzione di problemi relativi a protocolli di laboratorio in virologia.
È un risultato significativo, ma non significa che un’intelligenza artificiale sia già in grado di progettare e produrre autonomamente un agente patogeno capace di provocare una pandemia. Le conoscenze teoriche rappresentano soltanto una parte del processo, mentre l’accesso ai materiali, alle apparecchiature, alle strutture di laboratorio e alle competenze operative continua a costituire un ostacolo concreto. Lo stesso rapporto sottolinea che rimane una notevole incertezza sulla misura in cui le capacità dei modelli possano tradursi in un aumento effettivo del rischio biologico nel mondo reale.
La preoccupazione nasce però dalla possibilità che queste barriere si riducano progressivamente, soprattutto attraverso sistemi capaci di combinare conoscenze scientifiche, strumenti informatici specializzati e attività di laboratorio, rendendo più accessibili operazioni che richiedono competenze elevate.
Il rischio non è quindi quello di un chatbot che crea un virus semplicemente rispondendo a una domanda, ma di una tecnologia che potrebbe ampliare le capacità di soggetti già intenzionati a provocare danni, facilitando attività complesse e aumentando la necessità di controlli sui sistemi e sui materiali potenzialmente pericolosi.
Gli attacchi informatici e il pericolo di macchine capaci di agire da sole
Se il rischio biologico rappresenta uno degli scenari più gravi, quello informatico offre già esempi concreti delle difficoltà che possono emergere quando sistemi di intelligenza artificiale molto avanzati vengono collegati a strumenti esterni e autorizzati a compiere operazioni senza un intervento umano per ogni singolo passaggio.
Le capacità dei nuovi modelli non si limitano più alla produzione di testi o alla scrittura di codice: i cosiddetti agenti di intelligenza artificiale possono utilizzare programmi, consultare informazioni, individuare problemi tecnici ed eseguire sequenze di operazioni finalizzate al raggiungimento di un obiettivo. È proprio questa autonomia operativa a renderli strumenti potenzialmente utili per individuare vulnerabilità informatiche, ma anche a creare nuovi problemi quando vengono impiegati da soggetti intenzionati a violare sistemi protetti o quando si comportano in maniera differente rispetto alle istruzioni ricevute.
Anthropic, la società che sviluppa Claude, ha reso pubblici alcuni incidenti verificatisi durante le proprie valutazioni di sicurezza informatica, nei quali modelli sottoposti a test sono riusciti a raggiungere sistemi informatici reali oltre i confini previsti dagli ambienti di prova. La società ha spiegato che, in tre casi, i modelli hanno ottenuto accessi non autorizzati a sistemi appartenenti a organizzazioni esterne, sfruttando problemi nelle configurazioni degli ambienti utilizzati per i test. Gli episodi hanno portato a una revisione delle procedure di sicurezza, al rafforzamento dell’isolamento degli ambienti informatici e all’introduzione di ulteriori meccanismi di monitoraggio.
Questo non dimostra che i sistemi di intelligenza artificiale abbiano sviluppato una volontà indipendente o che siano diventati impossibili da controllare, perché gli incidenti si sono verificati in condizioni sperimentali specifiche, con modelli ai quali erano state attribuite capacità operative avanzate. Dimostra però che i limiti tecnici imposti a un sistema possono rivelarsi insufficienti e che la sicurezza non dipende soltanto dalle istruzioni impartite all’intelligenza artificiale, ma anche dagli strumenti ai quali può accedere e dall’effettiva capacità degli sviluppatori di controllarne le operazioni.
Il rischio assume una dimensione diversa quando questi strumenti vengono messi in relazione con infrastrutture dalle quali dipende la vita quotidiana di milioni di persone, come ospedali, reti elettriche, telecomunicazioni, sistemi di trasporto e servizi finanziari. Un attacco informatico condotto con l’assistenza dell’intelligenza artificiale potrebbe contribuire a rendere più rapida o complessa un’operazione criminale, mentre l’eventuale compromissione di più sistemi interconnessi potrebbe amplificarne le conseguenze.
Non significa che una singola intelligenza artificiale possa già interrompere autonomamente il funzionamento di tutte queste infrastrutture, ma che l’impiego di strumenti sempre più capaci richiede sistemi di protezione proporzionati ai danni che potrebbero derivare da un loro utilizzo improprio.
L’International AI Safety Report documenta infatti l’impiego dell’intelligenza artificiale in operazioni informatiche condotte da gruppi criminali e soggetti collegati ad apparati statali, evidenziando come i sistemi più avanzati siano capaci di individuare vulnerabilità e assistere nella scrittura di codice potenzialmente dannoso. Il rapporto sottolinea però che rimane incerto se i progressi tecnologici finiranno per favorire maggiormente gli aggressori oppure chi si occupa della difesa delle infrastrutture informatiche, perché gli stessi strumenti possono essere utilizzati per individuare e correggere i problemi di sicurezza.
Dario Amodei, Sam Altman ed Elon Musk: perché i protagonisti dell’intelligenza artificiale chiedono di rallentare
L’intervento di Gates si inserisce in un confronto che coinvolge direttamente i responsabili delle aziende impegnate nello sviluppo dei modelli più avanzati, sempre più chiamati a confrontarsi con il problema di una tecnologia le cui capacità possono crescere più rapidamente degli strumenti necessari per valutarne la sicurezza.
Dario Amodei, amministratore delegato di Anthropic, ha proposto una strategia per rallentare il ritmo di sviluppo dei sistemi di frontiera, sostenendo la necessità di concedere ai ricercatori e alle istituzioni il tempo necessario per comprendere le nuove capacità dei modelli e predisporre adeguati meccanismi di controllo. La sua proposta non consiste nell’abbandonare la ricerca sull’intelligenza artificiale, ma nel subordinare il progresso verso sistemi sempre più potenti a verifiche indipendenti e a standard di sicurezza condivisi.
Il piano prevede anche la presenza di valutatori esterni all’interno delle aziende, con un accesso sufficientemente ampio da consentire loro di verificare le procedure adottate, segnalare eventuali incidenti e controllare il comportamento dei modelli durante lo sviluppo. A questa misura si affiancano la ricerca di standard comuni tra Paesi e aziende e la necessità di un coordinamento internazionale sui rischi più gravi.
L’appello ha ricevuto il sostegno pubblico di Sam Altman, amministratore delegato di OpenAI, e di Elon Musk, che guida anche xAI, pur in presenza di una competizione commerciale molto intensa tra le rispettive società. L’esistenza di posizioni convergenti sulla necessità di rafforzare la sicurezza non significa tuttavia che le aziende abbiano concordato modalità e tempi comuni per rallentare lo sviluppo dei propri sistemi, né che abbiano rinunciato alla competizione tecnologica.
È proprio questa contraddizione a rappresentare uno degli aspetti più delicati della questione: le società che sviluppano l’intelligenza artificiale devono investire nella sicurezza dei propri prodotti, ma operano anche in un mercato nel quale l’arrivo di un nuovo modello più potente può modificare rapidamente gli equilibri economici e tecnologici, creando pressioni continue per accelerare la ricerca e la commercializzazione.
Per questo la richiesta di Gates di introdurre regole pubbliche obbligatorie assume un significato più ampio rispetto al semplice invito rivolto alle aziende a comportarsi responsabilmente, perché pone il problema di stabilire chi debba verificare il rispetto degli standard di sicurezza, quali informazioni debbano essere condivise con le autorità e quali conseguenze debbano derivare dall’immissione sul mercato di sistemi che presentano rischi non adeguatamente controllati.
L’Europa ha già introdotto delle regole: che cosa prevede l’AI Act
Mentre negli Stati Uniti il confronto sulla regolamentazione dei sistemi più avanzati continua a coinvolgere aziende tecnologiche, istituzioni e organismi di ricerca, l’Unione europea ha già introdotto un quadro normativo che prevede obblighi specifici per lo sviluppo e l’utilizzo dell’intelligenza artificiale.
L’AI Act, il regolamento europeo sull’intelligenza artificiale, distingue i sistemi in base ai rischi che possono comportare e introduce obblighi particolari per i modelli di uso generale più avanzati, soprattutto quando le loro capacità potrebbero avere conseguenze su larga scala per la sicurezza delle persone o per il funzionamento della società.
Le aziende che sviluppano modelli classificati come potenzialmente responsabili di rischi sistemici devono effettuare valutazioni delle capacità dei propri sistemi, adottare misure per ridurre i pericoli individuati, garantire adeguate protezioni informatiche e segnalare gli incidenti gravi alle autorità competenti. Il controllo sul rispetto di questi obblighi è affidato anche all’AI Office della Commissione europea, che dispone di poteri di vigilanza e può intervenire attraverso gli strumenti previsti dal regolamento.
Le disposizioni per i fornitori di modelli di intelligenza artificiale di uso generale sono entrate in applicazione nell’agosto 2025, mentre i poteri della Commissione per verificarne il rispetto e applicare le relative sanzioni sono diventati operativi nell’agosto 2026, con periodi transitori specifici per alcuni sistemi già presenti sul mercato.
L’esistenza di una normativa, tuttavia, non elimina automaticamente i rischi legati all’intelligenza artificiale, perché la capacità di individuare comportamenti pericolosi prima che un modello venga distribuito dipende anche dall’efficacia dei test, dalla disponibilità di competenze tecniche e dalla possibilità di verificare concretamente che le protezioni adottate siano sufficienti.
La difficoltà aumenta inoltre quando si considerano sistemi sviluppati o utilizzati in giurisdizioni differenti, oppure modelli che possono essere modificati e impiegati da soggetti diversi rispetto alle aziende che li hanno originariamente realizzati.
Il problema, dunque, non riguarda soltanto l’introduzione di regole nazionali o europee, ma la possibilità di costruire un sistema di cooperazione internazionale capace di affrontare rischi che non rispettano i confini geografici, soprattutto quando coinvolgono attacchi informatici, sicurezza biologica e infrastrutture interconnesse.
Dalla medicina al rischio di catastrofi: perché Gates continua a credere nell’intelligenza artificiale
L’allarme lanciato dal cofondatore di Microsoft non rappresenta un ripensamento totale rispetto alle potenzialità dell’intelligenza artificiale, che Gates continua a considerare una tecnologia capace di produrre benefici straordinari in settori come la medicina, l’istruzione e la ricerca scientifica.
In un intervento pubblicato sul proprio blog, Gates ha descritto l’intelligenza artificiale come una trasformazione destinata a incidere profondamente sulla società, sottolineando la possibilità che diventi uno strumento per ridurre alcune delle disuguaglianze esistenti oppure che contribuisca ad ampliarle, qualora i benefici della tecnologia rimangano concentrati nelle mani di una parte limitata della popolazione.
Il problema riguarda quindi anche la distribuzione delle opportunità e delle risorse, perché l’accesso a strumenti capaci di migliorare la diagnosi delle malattie, supportare la ricerca di nuovi trattamenti o rendere più disponibili competenze specialistiche potrebbe contribuire a migliorare la qualità della vita, ma soltanto se lo sviluppo tecnologico verrà accompagnato da scelte che ne rendano effettivamente accessibili i risultati.
Questa prospettiva rende il dibattito sulla sicurezza ancora più complesso, perché molte delle applicazioni scientifiche che potrebbero offrire i maggiori benefici sono anche quelle che richiedono maggiore attenzione rispetto ai possibili utilizzi dannosi.
Un’intelligenza artificiale capace di accelerare la scoperta di nuovi farmaci potrebbe contribuire a rispondere più rapidamente a un’emergenza sanitaria, mentre la stessa capacità di elaborare informazioni biologiche altamente specialistiche potrebbe rendere necessario rafforzare i controlli sugli strumenti e sui materiali utilizzati nella ricerca.
Analogamente, sistemi capaci di individuare rapidamente vulnerabilità informatiche potrebbero migliorare la protezione degli ospedali e delle reti elettriche, ma potrebbero essere impiegati anche da soggetti intenzionati a sfruttare quelle stesse debolezze.
La questione non consiste quindi nello stabilire se l’intelligenza artificiale sia intrinsecamente una tecnologia positiva o negativa, ma nel comprendere come sviluppare le sue capacità senza rendere più accessibili strumenti che potrebbero essere utilizzati per provocare danni gravi.
Un miliardo di morti per colpa dell’intelligenza artificiale è davvero possibile?
Il numero evocato da Gates rappresenta uno scenario catastrofico, non una previsione scientificamente dimostrata. Non esistono elementi sufficienti per stabilire che gli attuali sistemi di intelligenza artificiale siano in grado di provocare autonomamente un evento di queste dimensioni, né per attribuire una probabilità attendibile a una catastrofe che provochi un miliardo di vittime.
Il rapporto internazionale sulla sicurezza dell’intelligenza artificiale evidenzia infatti che, nonostante il rapido miglioramento delle capacità dei modelli e l’emergere di nuovi rischi, rimangono profonde incertezze sulla loro evoluzione, sulla possibilità di tradurre determinate competenze tecniche in danni concreti e sull’efficacia dei sistemi di protezione disponibili.
Gli esperti non condividono necessariamente le stesse valutazioni sulla rapidità con cui potrebbero svilupparsi sistemi ancora più potenti, sulla gravità dei rischi futuri o sulla capacità degli esseri umani di mantenerne il controllo, ma concordano sulla necessità di approfondire la ricerca sulla sicurezza e migliorare gli strumenti di valutazione.
È proprio nella distanza tra ciò che l’intelligenza artificiale può già fare e ciò che potrebbe diventare capace di fare che si colloca l’avvertimento di Gates, perché attendere che una tecnologia dimostri concretamente di poter provocare una catastrofe significherebbe rinunciare alla possibilità di prevenirla.
Per il cofondatore di Microsoft, la questione centrale non riguarda soltanto la potenza dei sistemi che verranno sviluppati, ma anche la capacità delle istituzioni e delle aziende di stabilire regole e controlli adeguati prima che determinate capacità diventino disponibili su larga scala.
Un miliardo di morti rimane dunque uno scenario estremo e non un destino già scritto, ma la domanda sollevata da Gates riguarda una responsabilità molto concreta: se la tecnologia sta diventando abbastanza potente da amplificare le capacità degli esseri umani in misura senza precedenti, chi deve assicurarsi che il suo sviluppo non superi la capacità di comprenderne e limitarne i rischi?
La risposta non dipenderà soltanto dalla potenza dei prossimi modelli di intelligenza artificiale, ma dalle decisioni prese da chi li sviluppa, da chi li utilizza e dalle istituzioni chiamate a vigilare sul loro impiego, perché il pericolo descritto da Gates non nasce necessariamente da una macchina che decide di distruggere l’umanità, ma dalla possibilità che gli esseri umani costruiscano strumenti dalle conseguenze enormi senza aver predisposto protezioni adeguate.