Rimini. Una fotografia gira fra chat e social. Ritrae una minorenne nuda. O, meglio, il volto è quello di una ragazza vera, mentre il corpo è stato elaborato digitalmente. A creare l’immagine, a partire da fotografie reali, è un altro minorenne, denunciato dopo l’indagine della Squadra mobile condotta a metà ottobre. Una manciata di mesi prima, nel Trevigiano, la Polizia postale ha arrestato un 57enne: sul suo computer 350 file pedopornografici, molti dei quali prodotti con l’Intelligenza artificiale.
Ancora: un altro episodio in provincia di Teramo, dove sei adolescenti hanno creato foto di nudo di compagne di classe con Ia, fino a un’operazione delle forze dell’ordine a Torino, quando a inizio anno è stato fermato un canale Telegram attraverso il quale circolavano contenuti pedopornografici sintetici.
I numeri dell’emergenza tra Italia e piattaforme di messaggistica
«Si tratta di una vera e propria emergenza» commenta don Fortunato Di Noto, fondatore dell’Associazione Meter, che pubblica annualmente il rapporto Bambini Vittime. «Attraverso il nostro monitoraggio abbiamo evidenziato 8.213 minori vittime di immagini pedopornografiche manipolate con Intelligenza artificiale, individuando 115 gruppi e bot attivi fra Telegram e Signal. Solo nel mese di settembre abbiamo segnalato 592 vittime. E fra le denunce c’è stata quella di una studentessa che ci ha chiesto aiuto per la rimozione di suoi contenuti manipolati dall’Ia partendo da materiale che aveva pubblicato su un noto social network».
La produzione delle immagini, però, è soltanto il primo anello di una filiera che comprende anche la loro diffusione, lo scambio e, in alcuni casi, la vendita. «Gli strumenti manipolativi oggi sono accessibilissimi, ed è proprio questo il cambio di scala. Fino a pochi anni fa per manipolare un’immagine in modo credibile servivano competenze, tempo e software professionali. Oggi bastano una foto presa da un profilo social, pochi secondi e nessuna competenza», spiega Marco Camisani Calzolari, esperto di Intelligenza artificiale e rischi digitali. «Esistono le app e i siti di nudificazione, che si presentano come giochi o come servizi per adulti e spesso si pagano a crediti, con pochi euro» prosegue. «Poi ci sono i bot su Telegram e su altre piattaforme di messaggistica: si manda una foto e torna indietro l’immagine alterata. E poi c’è la famiglia che preoccupa di più: i modelli generativi open source, gratuiti, che si scaricano e si installano sul proprio computer. Girano offline, senza un’azienda dietro, senza un pannello centrale da spegnere e senza che sia possibile far rispettare le leggi su cosa viene generato. A questi si aggiungono i modelli addestrati su misura che circolano nelle community, costruiti apposta per produrre contenuti che invece i servizi commerciali bloccano».
La crescita globale e l’allarme dell’Internet Watch Foundation
La conseguenza è che l’abuso diventa sempre più facile da compiere e difficile da arginare. E che spesso vengono scambiati strumenti e modelli di Ia personalizzati, compresi quelli basati su vittime già note. «L’Intelligenza artificiale generativa ha abbassato significativamente le barriere alla produzione di immagini di abuso sessuale minorile, consentendo ai responsabili di creare contenuti su larga scala, rapidamente e con facilità. I casi che abbiamo identificato probabilmente sono soltanto la punta dell’iceberg», spiega a Panorama Kerry Smith, amministratrice delegata dell’Internet watch foundation (Iwf), impegnata nel contrasto alla diffusione online di materiale pedopornografico.
I numeri trasmessi dall’organizzazione raccontano un fenomeno in crescita vertiginosa: nei soli primi sei mesi del 2026 sono state individuate 6.310 immagini di abuso sessuale minorile generate attraverso l’Intelligenza artificiale, il 40% in più rispetto a quelle registrate nell’intero 2025. Nel 98% dei casi protagoniste bambine e ragazze, ma tra i soggetti figuravano perfino neonati.
In giro per il mondo la questione si mostra nella sua estrema gravità: negli Stati Uniti continuano a emergere indagini e arresti legati alla produzione di materiale pedopornografico sintetico, e da un recente report realizzato da Unicef e Interpol emerge che almeno 1,2 milioni di bambini e adolescenti hanno dichiarato di aver subito, nell’arco di un anno, la manipolazione delle proprie immagini per produrre deepfake sessualmente espliciti.
Perché un’immagine sintetica provoca un danno reale
Ma il fatto che un’immagine sia artificiale non significa che il danno sia meno reale. «Sia le immagini sessuali sintetiche sia quelle autentiche che raffigurano bambini sono dannose. Le prime possono essere prodotte solo perché nei dati di addestramento dei sistemi Ia esistono immagini di bambini realmente vittime. E tutto questo porta a legittimare l’abuso sessuale sui minori», spiega una delle massime esperte mondiali del tema, Clare McGlynn, che insegna diritto alla Durham University. Pochi mesi fa, proprio per evidenziare la gravità del fenomeno, l’Unicef ha dedicato alla questione una presa di posizione dal titolo inequivocabile: Deepfake abuse is abuse. Vale a dire: l’abuso attraverso i deepfake è abuso, e non c’è nulla di falso nel danno che provoca.
Per mettere un freno al fenomeno sarebbe necessario intervenire contemporaneamente sulla tecnologia, sulle piattaforme e sulle norme. «Quello che cambia con l’Ia è soprattutto la capacità produttiva. Non è più necessario disporre di grandi archivi di immagini per generare quantità enormi di nuovi contenuti. Ma questo non accade solo nel dark web, succede anche nelle piattaforme ordinarie. È un problema strutturale, non qualcosa che si risolve semplicemente vietando un programma», riflette Walter Quattrociocchi ordinario di Informatica della Sapienza di Roma, membro del gruppo di esperti sull’Intelligenza artificiale della Commissione europea.
Le regole europee, il ruolo della scuola e i filtri tecnologici
«Il problema più importante riguarda l’applicazione degli obblighi già esistenti. Un’applicazione rapida ed efficace del Digital Services Act e dell’AI Act, che introducono tutele importanti, produrrebbe già una differenza significativa. Le piattaforme dovrebbero poi effettuare valutazioni efficaci dei rischi connessi ai propri servizi. Un primo passo sarebbe l’utilizzo di sistemi di “hash matching”, ossia il confronto delle impronte digitali delle immagini illegali già conosciute per impedirne la circolazione», riflette ancora McGlynn.
Accanto alla responsabilità delle piattaforme emerge quella della scuola, che dovrebbe essere invitata a predisporre protocolli d’emergenza e a spiegare ai più giovani come manipolare sessualmente l’immagine di un coetaneo non sia uno scherzo, ma un abuso. Gli strumenti di prevenzione, del resto, non mancano.
«Filtri sulle richieste testuali, classificatori che analizzano l’immagine prima e dopo la generazione, il riconoscimento dei volti di minori associato a contenuti sessuali, il confronto con gli archivi di “impronte digitali” (hash) del materiale pedopornografico già noto, gestiti da organizzazioni come Ncmec e Internet Watch Foundation sono alcuni degli strumenti che abbiamo a disposizione. Ma se le piattaforme non ne tengono conto, il problema non si ferma», aggiunge ancora Camisani Calzolari.
Il nodo legislativo e il rischio del “liar’s dividend”
Più complessa la questione legislativa. Almeno nel nostro Paese. «Anche se il nostro ordinamento non parte da zero, le disposizioni sono state scritte prima dell’avvento dell’Ia», commenta Giovanni Ziccardi, ordinario di Filosofia del diritto dell’Università di Milano. «La Cassazione è ferma nel tutelare i minori, ma è fondamentale comprendere i danni prodotti da un’immagine anche se falsa. Per un adolescente che vede circolare un’immagine sessuale costruita artificialmente utilizzando il proprio volto, le conseguenze sulla reputazione, sulle relazioni personali, sulla dignità e sull’equilibrio psicologico possono essere devastanti. Il fatto che l’episodio rappresentato non sia mai accaduto non rende immaginario il danno».
Ma esiste anche un ulteriore rischio. «Che la diffusione delle immagini sintetiche finisca per indebolire la credibilità delle immagini autentiche. È il cosiddetto “liar’s dividend”, il vantaggio del mentitore: chi è coinvolto in fatti realmente accaduti può cercare di difendersi sostenendo che le Immagini siano state costruite dall’Intelligenza artificiale. In questo scenario la competenza tecnica degli investigatori e la qualità della prova digitale diventano decisive».
Gli fa eco Kerry Smith dell’Iwf: «La rapida crescita delle immagini di abuso sessuale minorile sintetiche dimostra come le iniziative volontarie non siano sufficienti. Le aziende che sviluppano sistemi di Ia dovrebbero essere obbligate a integrare la sicurezza nei propri prodotti fin dalla fase di progettazione, mentre il governo dovrebbe introdurre un quadro normativo capace di garantire il rispetto di questi obblighi. La sicurezza dei bambini deve diventare un requisito fondamentale dello sviluppo dell’Ia». E non solo sulla carta.
