Perché YouTube ha scambiato Notre Dame con l'11 settembre
Le fiamme alla cattedrale sono state associate a quelle delle Torri Gemelle secondo un algoritmo di YouTube che, evidentemente, si sbagliava
Quel crollo ricorda molto una delle torri dell'11 settembre ma è evidente che Notre Dame non è New York. Eppure, l'algoritmo che fa da filtro con i video di fake news e bufale di YouTube ha taggato proprio le scene di ieri a Parigi come identiche, o quasi, all'attentato terroristico alle Torri Gemelle nel 2001.
Nello specifico, come evidenziato dai media statunitensi, il nuovo algoritmo che YouTube sta attualmente provando come fonte di segnalazione di video disinformativi, ha correttamente riconosciuto alcuni dei video dell’incendio a Notre Dame come filmati in diretta, correlandoli però alle Twin Towers negli States. Si tratta di un clamoroso errore di giudizio, ad oggi attivo in fase di test negli Usa e in Corea, che pone molti interrogativi sull'effettiva qualità dell'affidarsi a modelli informatici del genere per identificare certi contenuti online, che si tratti di bufale, bullismo, vandalismo o attentati.
Verosimilmente, quello che è successo al filtro di YouTube è una conseguenza normale delle moderne tecnologie di riconoscimento automatico, che sfruttano l'Intelligenza Artificiale e il machine learning. La macchina, ossia il computer, dove è installato il software avanzato, "visualizza" foto o video e poi cerca nel suo archivio momenti uguali da cui prendere ulteriori informazioni come approfondimento del caso.
Ma di fronte alle immagini di Notre Dame in fiamme, il filtro non ha portato a termine il suo lavoro nel modo migliore semplicemente perché l’algoritmo, non trovando riscontri affidabili, ha pescato nel database eventi simili, suggernedo filmati e foto relative all’attentato dell’11 settembre, provenienti dal sito dell’Encyclopedia Britannica.
Come ha spiegato un portavoce di YouTube: «Siamo profondamente rattristati da ciò che è accaduto alla cattedrale di Notre Dame. Lo scorso anno abbiamo lanciato sul sito i pannelli informativi con link a fonti di terze parti, come Encyclopedia Britannica e Wikipedia, per annotare eventuali contenuti di disinformazione. Questi pannelli sono attivati in automatico da un algoritmo e talvolta i nostri sistemi effettuano una scelta sbagliata. Stiamo disabilitando la funzione per i live streaming relativi all'evento».
L'algoritmo di prevenzione bufale è attivo su YouTube dall’inizio del 2019. In un primo momento è stato applicato per bloccare i video riconosciuti come fake news dall’elenco di quelli suggeriti ma poi ha cominciato a proporre letture pertinenti al tema trattato, come fonte ulteriore di informazione verificata.
