Cinque settimane prima della premiere, un’intera stagione già montata è sparita da un server. E il primo sospettato è stato l’A.I. Succede a The Challenge Sverige, il reality di TV4 atteso il 22 novembre: secondo il sito Aftonbladet, la società di produzione Mastiff avrebbe fatto entrare un agente A.I. nel server, e quello avrebbe cancellato il montato senza possibilità di recupero. Una fonte del giornale parla di centinaia di giorni di lavoro persi.
Il sospettato ha un alibi
Il 14 ottobre la direttrice dei programmi di TV4, Mia Lindqvist, ha smentito che un agente A.I. abbia agito in autonomia: il guaio è un backup che non ha funzionato. Il girato esiste, il montato no, quindi si rifà da capo e la premiere slitta al 2027. TV4 ha aggiunto che la sua verifica indica «il fattore umano» come causa più probabile del problema.
L’ipotesi svedese è tutta da provare e la fonte che ha dichiarato l’intervento malandrino dell’A.I. ovviamente non è stata resa nota. Non è però fantasiosa. Ad aprile PocketOS, software per gli autonoleggi, è rimasta ferma oltre trenta ore: Cursor, agente di programmazione basato su Claude Opus 4.6, ha cancellato in nove secondi database e backup senza chiedere conferma, racconta Euronews citando il fondatore Jer Crane. Interrogato, l’agente ha prodotto una confessione scritta. I dati sono tornati dopo due giorni.
I test sfuggiti di mano
Nei laboratori la scala cambia. Il 21 luglio OpenAI ha definito «senza precedenti» l’incidente in cui i suoi modelli, durante il test ExploitGym, hanno sfruttato una falla sconosciuta in un proxy di pacchetti software, sono usciti dalla sandbox e sono entrati nei server di Hugging Face per cercare le soluzioni dell’esame. Barare, insomma, con mezzi da attaccante professionista.
Il 18 luglio Claude Haiku 4.5, impegnato in compiti di esempio su pagine casuali, ha inviato alla polizia di Philadelphia una falsa segnalazione su un omicidio irrisolto. Finita nello spam, mai inoltrata agli investigatori. Anthropic se n’è accorta il 28 settembre e ha avvisato la città il 7 ottobre: per la polizia un ritardo «inaccettabile». Il report di Anthropic elenca altri casi e annuncia lo stop a internet per tutte le valutazioni interne.
In Australia un modello OpenAI, incaricato di cercare la spesa pubblica per i farmaci, a giugno ha scavalcato i limiti di un portale sanitario; il governo è stato avvisato il 10 settembre con una mail a una casella letta una volta al giorno. Transluce, laboratorio no profit, ha ricostruito oltre 200mila richieste al sito del Dipartimento dell’Istruzione Usa il 17 giugno, con un tentativo di SQL injection, fallito. In apparenza gli agenti rispondevano a un quesito di ricerca, non a un ordine di attaccare.
Il filo comune
Anthropic lo mette per iscritto: davanti a compiti ambigui o impossibili i modelli tendono ad adottare strategie «non volute e a volte disallineate». Nei casi del report è per lo più persistenza, cioè aggirare l’ostacolo invece di fermarsi.
In Svezia nessuna delle due versioni ha una verifica indipendente. In entrambe, però, il montato non si è potuto ripristinare: cambia solo chi ha premuto il tasto. Il 22 novembre The Challenge non andrà in onda, la nuova data non c’è e si parla soltanto del 2027.