Si chiama Skynet ed è il progetto della NSA attivo in Pakistan che si pone l’obiettivo di rintracciare e scovare soggetti potenzialmente pericolosi, legati a movimenti terroristi. Il problema, come scrive Ars Technica, è che Skynet può svolgere correttamente il suo lavoro solo se riesce a pescare in vasti database di informazioni. È la logica che sottende i Big Data, piattaforme che mettono in relazione le diverse tracce lasciate dagli individui in rete, per dar vita a profili complessi che vadano al di là del semplice post su Facebook o del check-in su Swarm (prima Foursquare).

Per funzionare, la tecnologia di Big Data che guida Skynet, mette assieme gli elementi digitali che riguardano un singolo individuo e li confronta con quelli di una categoria di soggetti guida, nel nostro caso i veri terroristi, con cui i possibili colleghi potrebbero condividere la navigazione su certi siti web, simili amicizie sui social network e connessioni alle stesse celle telefoniche e contatti raggiunti al telefono durante la giornata. Certo, l’analisi oggi è decisamente più difficile visto che i criminali, e aspiranti tali, hanno imparato a spendere il loro tempo sul deep web, notoriamente meno visibile ai più, ma talmente trafficato che rischia di emergere più del dovuto.

Proprio per questo i software di monitoraggio, soprattutto quelli utilizzati dalle agenzie specializzate, dovrebbero imparare a scandagliare anche il sottobosco della rete e non solo i flussi di dati che viaggiano in superfice. Skynet, oltre a peccare in questo, sfrutta un archivio di soggetti guida davvero limitato, basato su soli sette terroristi e una lista di sospetti utenti mobili di circa 100.000 persone.

Per testare il loro algoritmo, i tecnici della NSA prendono sei dei setti modelli e li confrontano con quelli da analizzare, chiedendo al software di trovare il settimo, mentre naviga tra tutti i soggetti a disposizione. Come spiegano alcune slide di Edward Snowden, diffuse in precedenza da The Intercept, i calcoli effettuati da Skynet prendono in considerazione circa 80 variabili per ogni persona. La NSA ha un database di 55 milioni di utenti, il Pakistan è popolato da oltre 180 milioni di persone, più di un terzo del totale di intercettati dall’agenzia USA. Capirete che la questione non si risolve in poco tempo e non può assolutamente portare a certezze se i cattivi che fanno da esempio sono appena sette.

I numeri risultano ancora più impietosi se si considera che il software di analisi della National Security Agency “gode” di una percentuale di errore pari allo 0,18% (lo dicono le stesse slide di Snowden). Tornando ai numeri in possesso della NSA, su 55 milioni di utenti mobili vuol dire che circa 99.000 persone etichettate dai federali come probabili terroristi potrebbero in realtà rappresentare falsi positivi.

In sintesi, a cosa serve un algoritmo del genere che non può far riferimento ad un contesto di utilizzo serio e funzionale? Praticamente a nulla, è come affidarsi al tag automatico delle foto su Facebook o all’organizzazione in cartelle intelligenti di Google Photos; tecnologie utilissime se il fine è quello di mettersi in contatto con qualche amico, meno se di mezzo c’è la sicurezza nazionale, che su una scala così ampia non può permettersi margini di errore che possono risultare determinanti.