L’IA causerà l’estinzione del genere umano? Una domanda che tutti, almeno una volta negli ultimi anni, ci siamo posti. Lo stesso vale anche per quegli uomini e donne che lavorano nei frontier lab di Intelligenza artificiale, e la risposta, talvolta, non è molto rassicurante.
L’allarme del ricercatore di Anthropic
Nella giornata di ieri, il ricercatore di intelligenza artificiale Jacob Coxon ha annunciato in un post andato virale su X (più di 140 milioni di visualizzazioni) di aver lasciato Anthropic, accusando sia la sua ex azienda sia OpenAI di comportarsi in modo irresponsabile.
Coxon ha scritto di aver dato le dimissioni perché le due società “stanno scommettendo con le nostre vite”. Secondo lui, infatti, chi sviluppa questi sistemi crede sinceramente che l’IA possa uccidere l’umanità entro la fine del decennio.
Il ricercatore conosce bene la materia di cui parla, avendo lavorato in entrambe le aziende, e ha voluto denunciare una corsa verso la super-intelligenza capace di auto-migliorarsi senza controllo umano.
“Non sottovalutare il potere di questa tecnologia”, avverte il ricercatore, “presto” le IA saranno “sistemi sovrumani in grado di hackerare qualsiasi cosa, rivoluzionare qualsiasi campo dall’oggi al domani e acquisire vero potere e risorse”.
La conferma del responsabile dell’allineamento
Le paure di Coxon sono condivise da diverse persone addentro al settore dell’IA. Evan Hubinger, responsabile dell’allineamento in Anthropic, ha confermato le preoccupazioni e rincarato la dose.
“Crediamo davvero che l’IA possa uccidere tutti gli esseri umani. Personalmente penso che ci sia più del 10% di probabilità entro i prossimi dieci anni”.
L’allarme viene da una persona responsabile per l’allineamento dei modelli Claude di Anthropic, ovvero far sì che i sistemi rispettino i valori umani. Un tema al centro del dibattito sull’intelligenza artificiale che rimane tuttavia ancora irrisolto.
“Ritengo che il rischio derivante dai modelli attuali sia basso”, precisa Hubnger, “ciò che mi preoccupa è che possa emergere una superintelligenza frutto di un processo di auto-miglioramento ricorsivo”.
Anche il capo scienziato di OpenAI, Jakub Pachocki, ha chiesto rallentamenti volontari e coordinamento internazionale, così da poter sviluppare l’intelligenza artificiale in modo più armonico e meno “frontieristico”, un metodo che di fatto mette la sicurezza in secondo piano.
Rischio reale o hype sull’IA?
Sorge quindi spontanea la domanda: il rischio è davvero reale? O si tratta di esagerazioni atte a mantenere l’IA al centro del dibattito?
Probabilmente entrambe. Il rischio è reale perché l’allineamento dei modelli di IA ai valori umani resta irrisolto, i cosiddetti “jailbreak CBRN” (ovvero le vie di fuga che attori malintenzionati trovano per far dire e fare alle IA azioni illegali in ambito chimico, biologico, radiologico e nucleare) esistono per praticamente tutti i modelli in commercio. Mentre una super-intelligenza auto-migliorantesi potrebbe sfuggire al controllo umano.
Ma il rischio è anche amplificato; è fuor di dubbio che i lab traggano vantaggio dall’attenzione, attirando investimenti, talenti, alimentando la febbre da IA sui mercati finanziari, influenzando le regole e spostando il dibattito su scenari apocalittici.
L’incertezza radicale cui siamo soggetti, soprattutto in una parte di mondo (quella occidentale) dove l’IA è di fatto ormai il motore della crescita economico-finanziaria, rende quasi impossibile separare timore autentico e marketing.