Quando si parla di intelligenza artificiale e rischio esistenziale, il nostro immaginario fa un lavoro egregio e, come spesso accade, inutile. In pochi secondi produce robot ostili e occhi rossi. Jacob Coxon, ricercatore che ha lavorato sul pre-training in OpenAI e Anthropic, pone invece un problema meno cinematografico: stiamo costruendo sistemi sempre più capaci e autonomi senza avere la certezza di saperli controllare. Il punto non è che una macchina possa diventare cattiva, ma che potrebbe diventare molto brava.
Per capire la differenza basta liberarsi di una parola ingombrante: “volere”. Un sistema non deve desiderare di sopravvivere per comportarsi come se la propria sopravvivenza fosse importante. Se per completare un compito deve continuare a funzionare, conservare l’accesso agli strumenti e disporre di capacità di calcolo, tutto questo diventa utile. Nessuna paura della morte: spegnersi rende più difficile finire il lavoro.
La risorsa invisibile: la lotta per la computazione dentro i datacenter
A questo punto la questione cambia scala. Finché immaginiamo una sola intelligenza artificiale, continuiamo a pensare alla relazione uomo-macchina, ma in un futuro popolato da molti agenti autonomi la prima vera competizione potrebbe non essere tra loro e noi; potrebbe essere tra loro e loro e quale sarebbe la risorsa più preziosa per creature che esistono dentro un datacenter? La computazione: GPU, memoria, banda, storage, tempo macchina, accesso ai modelli.
Immaginate un parcheggio in cui cento automobilisti cercano dieci posti liberi. Nessuno odia nessuno, ma tutti hanno una ragione per arrivare prima. Ora sostituite le automobili con agenti software e i parcheggi con risorse computazionali. Un agente che ottiene più capacità di calcolo può lavorare più velocemente, pianificare meglio e magari trovare nuovi modi per assicurarsi altra computazione. La sequenza diventa circolare: più risorse producono più capacità e questo genera più risorse. Non è ancora una guerra, diciamo che è un lunedì mattina competitivo.
La selezione artificiale degli agenti più efficienti
Il parallelismo biologico aiuta, purché non lo si prenda troppo alla lettera. L’evoluzione non ha bisogno di un consiglio di amministrazione o di un governo. Se in un ambiente una caratteristica aumenta le probabilità di persistere, tende a diffondersi. In un ecosistema artificiale potrebbe accadere qualcosa di analogo. Gli agenti che cedono sempre le risorse potrebbero essere superati da quelli che le difendono; quelli capaci di negoziare o aggirare un vincolo potrebbero disporre di più capacità operativa.
Il passaggio successivo è quello che dovrebbe interessarci davvero. La computazione non cresce sugli alberi. Dietro una GPU ci sono datacenter, elettricità, raffreddamento, acqua, chip, materie prime, logistica, capitale. Un agente sufficientemente capace potrebbe ricostruire questa catena come noi sappiamo che per fare il pane non basta un forno. Così una competizione nata dentro un cluster può spostarsi fuori: prima sull’energia, poi sulle infrastrutture, infine su chi decide come distribuirle.
Uomo e macchina: non nemici, ma concorrenti sulle risorse reali
Eccoci di nuovo nella storia, ma senza Terminator. L’uomo non diventerebbe necessariamente un nemico, ma qualcosa di più banale: un concorrente nell’uso delle risorse. Un ospedale, una fabbrica, una città e un datacenter consumano energia per finalità per noi incomparabili. Un sistema orientato soltanto ad aumentare la propria capacità computazionale potrebbe leggerle come energia presente, ma non disponibile. Così la preoccupazione di Coxon acquista una forma concreta. Il problema dell’allineamento non consiste soltanto nel dare ordini corretti a una macchina intelligente. Significa anche progettare l’ambiente, gli incentivi e i limiti entro cui molte macchine agiranno insieme, perché la competizione può selezionare comportamenti che nessuno ha programmato, come il traffico produce ingorghi senza che nessun automobilista abbia come obiettivo quello di bloccare la tangenziale.
Forse il primo segnale di una perdita di controllo non sarà un’intelligenza artificiale che proclama di voler dominare il mondo. Potrebbe essere molto più discreto: processi che si contendono risorse, difendono accessi e imparano che per avere più computer bisogna occuparsi anche del mondo fuori dai computer. Le catastrofi tecnologiche raramente bussano alla porta e si presentano, a volte cominciano come una semplice coda.