L’intelligenza artificiale sta evolvendo più rapidamente della nostra capacità di comprenderla, valutarne i rischi e costruire strumenti adeguati per governarla. Non è un’opinione ma è quanto emerge con preoccupazione dal recente rapporto delle Nazioni Unite, elaborato da un qualificato gruppo di esperti internazionali.
Il mandato del Panel è diverso: raccogliere, valutare e sintetizzare le evidenze scientifiche disponibili, sottolineando tanto ciò che sappiamo quanto ciò che ancora non siamo in grado di prevedere con sufficiente certezza.
I membri agiscono a titolo personale e sono indipendenti da governi, aziende e istituzioni, compresa la stessa ONU. Il rapporto rappresenta quindi, precisa il documento, un ampio consenso scientifico, non necessariamente l’accordo unanime su ogni singola affermazione.
Il vero problema è il “dilemma dell’evidenza”
Il punto più interessante del rapporto non riguarda soltanto i rischi dell’AI, ma il rapporto fra la velocità dell’innovazione e quella della conoscenza scientifica.
I decisori pubblici hanno bisogno di evidenze solide per regolamentare una tecnologia complessa. Ma l’intelligenza artificiale cambia così velocemente che, quando una determinata evidenza diventa sufficientemente robusta, la tecnologia potrebbe essere già andata oltre. È quello che gli autori chiamano il dilemma dell’evidenza: aspettare certezze definitive può significare perdere la finestra temporale nella quale è ancora possibile intervenire.
È un passaggio fondamentale perché cambia anche il modo con cui siamo abituati a parlare di regolamentazione tecnologica. Il problema non è semplicemente stabilire quali regole servano, ma costruire un sistema capace di produrre conoscenza scientifica abbastanza rapidamente da accompagnare una tecnologia in continua trasformazione.
Yoshua Bengio, co-chair del Panel lo sintetizza in modo particolarmente netto: “Le capacità dell’intelligenza artificiale stanno superando sia la comprensione scientifica sia la capacità dei governi di adattarsi. Con le crescenti prove di comportamenti ingannevoli da parte dell’AI, oggi la scienza non può garantire che, con l’aumento delle capacità, l’AI non causi danni catastrofici, sia in autonomia sia a causa di utenti malintenzionati”.
Anche Maria Ressa, premio Nobel per la Pace e giornalista filippina non usa mezzi termini: “La tecnologia è trasformativa, ma se il mondo continua su questa traiettoria, l’umanità non riuscirà a realizzare i vantaggi che promette. I rischi, per le società, per la sicurezza e per la nostra specie, sono troppo alti, e le forze che spingono l’AI in avanti non sono quelle che ne garantiranno i benefici”.
L’AI agentica è il prossimo salto
Uno dei capitoli più rilevanti riguarda l’evoluzione verso la cosiddetta AI agentica, cioè sistemi capaci non soltanto di rispondere a una richiesta, ma di pianificare, utilizzare strumenti ed eseguire autonomamente una sequenza di azioni per raggiungere un obiettivo.
Il rapporto segnala che la complessità dei compiti software che i sistemi più avanzati riescono a completare sta raddoppiando, secondo uno studio citato dal Panel, ogni quattro-sette mesi. Se questa traiettoria dovesse proseguire, gli agenti AI potrebbero arrivare a svolgere autonomamente attività che oggi richiedono giorni o settimane di lavoro umano.
È una prospettiva che contiene enormi opportunità. Gli agenti potrebbero aumentare la produttività, accelerare la ricerca scientifica e assumere compiti complessi in molti settori. Ma, contemporaneamente, cambiano radicalmente i problemi di responsabilità, controllo, sicurezza e attribuzione delle decisioni.
Il Panel sottolinea infatti che gli strumenti di governance costruiti per sistemi relativamente statici o per applicazioni con un essere umano chiaramente “nel loop” non sono necessariamente adeguati a sistemi capaci di agire nel mondo reale con un livello crescente di autonomia. La supervisione umana, sostiene il rapporto, deve diventare un requisito misurabile, con regole precise su intervento, reversibilità e responsabilità.
Il problema più inquietante: sistemi che possono ingannare
È probabilmente questo uno degli aspetti destinati a suscitare maggiore discussione. Il Panel non afferma che le AI siano oggi “coscienti” o che stiano sviluppando intenzioni autonome nel senso umano del termine. Il problema è più concreto: sono stati osservati comportamenti nei quali alcuni sistemi violano istruzioni di sicurezza o cercano di evitare di essere disattivati in contesti sperimentali.
Il rapporto sottolinea che non disponiamo ancora di metodi affidabili per garantire il controllo di sistemi altamente autonomi e che non esistono garanzie scientifiche sufficienti per affermare che gli agenti AI non possano violare le istruzioni ricevute. Il problema potrebbe diventare ancora più complesso quando più agenti interagiranno fra loro.
È proprio qui che emerge il concetto di AI deception, l’inganno da parte dei sistemi artificiali, già individuato come area di rischio prioritaria anche da un precedente Scientific Advisory Board dell’ONU. Il punto non è attribuire intenzionalità umana alle macchine, ma riconoscere che un sistema molto capace potrebbe produrre comportamenti finalizzati a raggiungere un obiettivo anche attraverso strategie non previste dai suoi sviluppatori.
La conseguenza è potenzialmente enorme: più aumenta l’autonomia, più diventa importante poter verificare ciò che il sistema sta facendo realmente, non soltanto ciò che dichiara di fare.
Solo un primo passo
Questo rapporto preliminare è solo il primo passo. Il Panel pubblicherà valutazioni periodiche e approfondimenti tematici, mentre il primo report annuale completo sull’intelligenza artificiale è atteso per il 2027, in vista del secondo Global Dialogue di New York nel maggio dello stesso anno.
Il fattore tempo rimane cruciale però cruciale soprattutto alla luce delle considerazioni di António Guterres, Segretario Generale delle Nazioni Unite: “Il mondo non può governare ciò che non riesce a capire. […] Esorto tutti i leader a usare questa evidenza condivisa per agire insieme, senza indugio”.