Trenta Premi Nobel e leader mondiali firmano in Campidoglio la Dichiarazione di Roma: sei principi per disarmare intelligenza artificiale e nucleare.
Si è conclusa in Campidoglio la Global Nobel Laureates Assembly on Artificial Intelligence and Nuclear War, tre giorni di lavori tra Castel Gandolfo e Roma che hanno riunito trenta Premi Nobel, capi di Stato e di governo emeriti, leader religiosi ed esperti mondiali di intelligenza artificiale. Al termine dell’incontro è stata firmata la Dichiarazione di Roma, ispirata alla Magnifica humanitas di Papa Leone XIV. Il testo apre con parole nette: “L’umanità si trova in un momento decisivo della propria storia”. Il documento fissa sei principi condivisi per governare intelligenza artificiale e rischio nucleare: disarmo, sviluppo responsabile, uso responsabile, governance, leadership e disarmo nucleare. Un impianto che tocca insieme la corsa agli armamenti digitali e quella, mai sopita, delle testate atomiche.
Il controllo umano non si delega alle macchine
Il testo chiede che nessuna organizzazione avvii, e nessun governo autorizzi, processi di auto-miglioramento ricorsivo completamente automatizzati nei sistemi di intelligenza artificiale privi di strumenti per monitorarli e, se necessario, interromperli. Un punto viene ribadito senza margini: la decisione finale di impiegare un’arma nucleare non deve mai essere affidata a un sistema automatizzato. Il card. Baldassare Reina, vicario generale di Sua Santità per la diocesi di Roma, lo ha tradotto in termini operativi durante la presentazione: la Dichiarazione impegna i firmatari a impedire che l’intelligenza artificiale possa autorizzare o attivare autonomamente l’uso di armi nucleari. Per il cardinale, la pace non può fondarsi sull’equilibrio della paura, perché la convergenza tra IA e sistemi nucleari rappresenta una delle sfide più gravi del nostro tempo.
Trasparenza dei modelli e regola dei due firmatari
Il documento chiede trasparenza agli sviluppatori dei modelli più avanzati e un trattato che vieti l’integrazione irresponsabile dell’IA nei sistemi di comando e controllo nucleare. Agli Stati con arsenali nucleari viene chiesto di sottoporsi a verifiche di sicurezza, le cosiddette “fail-safe review”, e di adottare il “two-person rule”, la regola che affida sempre ad almeno due persone la decisione sull’uso della forza nucleare. Sono richieste che nascono dalla consapevolezza che i nuovi protocolli digitali possono accelerare errori di calcolo già presenti nei sistemi tradizionali di deterrenza, con conseguenze che nessun trattato precedente aveva dovuto considerare.
Tre giorni tra Castel Gandolfo e Roma
I lavori sono cominciati il 14 luglio a Borgo Laudato si’, nei Giardini pontifici di Castel Gandolfo, dove trenta Premi Nobel, una trentina di ex capi di Stato e di governo, venti esperti di intelligenza artificiale – tra cui rappresentanti di OpenAI, Google DeepMind, AARU e Anthropic – e trenta tra università e centri di ricerca hanno discusso di governance tecnologica e disarmo. Il card. Fabio Baggio, pro-prefetto del Dicastero per il servizio dello sviluppo umano integrale, ha ricordato in apertura che la pace non è soltanto assenza di guerra. Il card. Silvano Maria Tomasi, nunzio apostolico, ha osservato che l’intelligenza artificiale sta ridefinendo il concetto stesso di sicurezza, in un momento in cui il linguaggio della deterrenza è tornato a dominare le relazioni internazionali.
I firmatari e l’appello finale
Tra i firmatari figurano esperti di disarmo come Rose Gottemoeller, ex vicesegretaria Nato, e Siegfried Hecker, ex direttore del Los Alamos National Laboratory. L’Assemblea, promossa dalla Nobel Laureate Assembly for the Prevention of Nuclear War insieme a Pugwash, IPPNW e altre organizzazioni, con la Fondazione Domus Communis come segreteria generale, si è chiusa con i saluti del sindaco di Roma, Roberto Gualtieri, e l’intervento di Sharon Stone, nominata Nuntius Magnifica Humanitas in richiamo all’omonima enciclica di Leone XIV. Le parole conclusive del testo riprendono un appello di Bertrand Russell e Albert Einstein: “Ricordate la vostra umanità e dimenticate il resto”.