Intelligenza Artificiale per la guerra: i dipendenti di Google dicono no
Migliaia di ingegneri si oppongono a Project Maven con cui il Pentagono vuole sfruttare la tecnologia AI per fini bellici
Sono oltre 3.100 i dipendenti di Google che hanno firmato una petizione con cui si oppongono allo sviluppo di quella che hanno già definito una “tecnologia bellica”. L’iniziativa tanto discussa è il cosiddetto Project Maven, un programma che il Dipartimento della Difesa statunitense ha attivato nel 2017 e che da poco è entrato nel pieno del suo sviluppo.
Nel concreto, quello che i federali vogliono è costruire una tecnologia di computer vision, cioè che restituisca un’interfaccia basata su immagini e video, con cui analizzare il volo dei droni nemici. L’obiettivo, non dichiarato, è duplice: capire da dove provengono i piccoli aeromobili senza pilota, scovare le loro basi e abbatterli. Nell’ottica degli USA tutto fila perfettamente, peccato che i ragazzi di Google, sopratutto gli ingegneri, la pensino diversamente.
Cosa dice la lettera
La presa di posizione dei dipendenti si riflette nel testo della comunicazione che è circolata internamente e che qualche media americano, come il New York Times ha contribuito a diffondere. Ecco uno stralcio interessante:
Pensiamo che Google non debba immischiarsi nel business della guerra. Pertanto chiediamo che Project Maven venga cancellato e che Google pensi, pubblicizzi e rafforzi una politica chiaramente contraria a tecnologie simili sia nelle sue vesti che in quelle di collaboratori e appaltatori…Gli utenti credono i noi e non possiamo metterli a rischio. Supportare il governo degli Stati Uniti nella sorveglianza militare, e in risultati potenzialmente letali, non è accettabile.
Cos’è Project Maven
Il Pentagono ha annunciato Project Maven per la prima volta nel maggio del 2017, definendola una tecnologia preventiva che usa l’Intelligenza Artificiale e il machine learning per ottenere dati più verosimili sulle attività degli avversari. Parte del progetto intende velocizzare alcune operazioni non strettamente di guerra, come le pratiche burocratiche degli uffici militari, ma il coinvolgimento di Google interessa prettamente il lato bellico.
Il focus, come detto, è sui droni ma la questione non è limitata alle minacce aeree. Le conoscenze tecniche di Big G permetterebbero al Pentagono di migliorare notevolmente gli strumenti a disposizione per riconoscere mezzi di attacco ma anche uomini sul campo, identificando tra centinaia di persone eventuali terroristi.
Vista in questo modo, la finalità non è nemmeno così malvagia ma resta il fatto che Google vuole restare una media e internet company, tant’è vero che lo scorso giugno la multinazionale si era pure disfatta della Boston Dynamics, il ramo robotico della DARPA, agenzia speciale della U.S. Army, specializzata nella costruzione di automi e macchine intelligenti.
Cos’è TensorFlow
La collaborazione che cerca il Pentagono verte su un unico particolare: TensorFlow. Si tratta di una piattaforma di sviluppo open-source su cui Google ha lavorato per anni, per migliorare i suoi algoritmi di Intelligenza Artificiale. Il programma offre agli ingegneri una struttura che, in automatico, ordina una serie di dati per fornire risposte contestualizzate e utili in diversi campi. Un esempio? Analizzando il volo dei droni, TensorFlow riesce a capire quali aree, su una cartina ad ampio raggio, sono le più idonee ad essere indicate come basi di lancio o di stazionamento. Tramite modelli previsionali, il software può anche ipotizzare in che fascia oraria avverrà una nuova ricognizione e dove sarà diretta.
Perché Google aveva accettato di collaborare
Sia chiaro: gli unici a essere contrari sono gli oltre 3.000 firmatari ma Google, in un primo momento, aveva accettato senza troppi problemi la collaborazione. Il motivo? La compagnia aveva descritto il suo lavoro per Project Maven come non offensivo, spiegando che la tecnologia non sarebbe servita a mettere in aria i propri droni o lanciare offensive terrestri. Ma non è abbastanza per i molti impiegati che si sono opposti al progetto visto che, secondo loro, una volta nelle mani del Dipartimento di Difesa, TensorFlow dentro Project Maven potrebbe diventare dell’altro, potenzialmente un supporto alle operazioni su vasta scala.
Guerra hi-tech
A quanto pare, Google non ha ancora preso una decisione in merito ma è evidente che la questione scotta. Nel primo anno di fornitura, il Dipartimento dovrebbe sborsare ben 70 milioni di dollari per far funzionare Project Maven. Sono tanti per potervi rinunciare su due piedi e se consideriamo che Google non è una no-profit, beh allora il consiglio d’amministrazione (che risponde ad Alphabet) dovrà pensarci bene prima di fare qualunque mossa.
Prima o poi qualcuno cederà
Il problema qui è etico ma anche di business. Un po’ come è avvenuto per la questione Apple-FBI, in cui i federali volevano convincere la Mela a fornire le chiavi di ingresso nell’iPhone di un terrorista, ottenendo poi quello che volevano rivolgendosi a Cellbrite, anche in questo caso il tira-molla potrebbe portare il governo a guardarsi altrove. Oltre a TensorFlow, sul mercato ci sono altre piattaforme capaci di raggiungere simili risultati: Azure (Microsoft), Einstein (Salesforce) e Teneo sono tra queste. Prima o poi qualcuno cederà.
