Pc, smartphone e diffusori comandabili con la voce sono diventati i padroni delle nostre vite. Ascoltandoci, sanno tutto e grazie all’intelligenza artificiale creano i nostri bisogni.
Tratto da una storia vera, la nostra. Abbiamo discusso al telefono di Barcellona, una città scelta a caso di cui non avevamo fatto, di proposito, nessuna ricerca precedente su internet: poche ore più tardi, su Facebook, è comparsa a entrambi l’inserzione di un noto sito di viaggi, che invitava a prenotare un albergo proprio nella capitale della Catalogna. Pochi giorni dopo, proseguendo nell’esperimento, abbiamo nominato una precisa conserva tipica di Marzamemi, in Sicilia. Per quanto quel dettaglio fosse specifico, volutamente astruso, tanto paradossale quanto irrilevante nella conversazione, il giorno successivo era il protagonista di un banner che rimandava al sito ufficiale del produttore. Unici indiziati, escludendo la presenza di cimici e altri improbabili complotti nei nostri appartamenti: i computer, gli smartphone, i diffusori comandabili con la voce sparsi nelle nostre stanze. Almeno uno di loro ha sentito, annotato, trasformato un frammento d’informazione in pubblicità.
Queste coincidenze saranno di certo capitate anche a voi: parlate di uno specifico argomento senza mai averlo cercato sul web – un abito che vorreste comprare, un ristorante che vi piacerebbe provare – vi ritorna digitalmente sotto il naso attraverso uno spot sul pc o sul telefonino. Non subito, la sera stessa, il giorno dopo o dopo ancora: quanto basta per riaccendere il motore del desiderio.
Non è poi chissà quale mistero, basta addentrarsi nelle pagine ufficiali di Google circa il suo «impegno per la privacy», per scoprire affermazioni di questo tipo: «Quando interagisci con l’assistente, potremmo utilizzare tali interazioni per delineare meglio i tuoi interessi per la personalizzazione degli annunci. Se chiedi ad esempio “Ok Google, com’è il tempo oggi?”, potremmo utilizzare il testo di quell’interazione vocale (ma non la registrazione audio effettiva) per mostrarti annunci personalizzati». Ed è noto come gli assistenti vocali, non solo quelli dell’azienda dietro Android, il sistema operativo presente nel 72 per cento dei telefonini mondiali, siano dappertutto: nelle cuffie e nelle lavatrici, nelle automobili come negli orologi. Sono un grande orecchio, puntato verso di noi.
È una storia che si ripete, ogni strada è buona per tentare di conoscerci meglio e venderci qualcosa. Lo dimostra la tempesta che ha scosso di recente WhatsApp: voleva introdurre modifiche unilaterali circa la sua gestione della privacy, ha dovuto fare marcia indietro, rinviando tutto a metà maggio. A pesare, oltre al clamore mediatico che si è scatenato, sono state le ultime norme varate dall’Unione Europea, che proibiscono quanto è lecito fuori dal Vecchio Continente: trasferire verso Facebook alcuni nostri dettagli inseriti su WhatsApp (pure di proprietà di Mark Zuckerberg), utili per proporci inserzioni su misura. Eppure, tali paletti non sempre bastano: secondo alcune indiscrezioni riprese dal quotato sito americano Politico, il servizio di messaggistica utilizzato da 2 miliardi di persone rischierebbe comunque una multa record da 50 milioni di euro per scarsa trasparenza e per aver violato le regole dell’Ue.
È l’ennesimo ricorso storico: più volte, negli anni, Amazon, Apple, Google e gli altri giganti che tengono in mano le nostre vite digitali, sono stati sorpresi con le antenne troppo tese. Attraverso i microfoni di smartphone, televisori, computer, console dei videogame e altri oggetti connessi a internet, hanno ascoltato e registrato i frammenti più intimi della nostra quotidianità, quelli che mai e poi mai vorremmo condividere con qualcuno, tantomeno con un perfetto sconosciuto: le urla e i litigi accesi con il partner, i sospiri del sesso in camera da letto, una conversazione dolorosa con un medico, le coccole sussurrate a nostro figlio, momenti di sbandamenti, eccessi, trasgressioni. Poi, anziché tenerli blindati in cassaforte nei loro archivi digitali, li hanno fatti sentire ai loro dipendenti e a lavoratori occasionali, ingaggiati con lo scopo ufficiale di decifrare e interpretare il nostro linguaggio per far funzionare meglio i loro prodotti. Sollevando un’evidenza che traccia i contorni di una sconfitta: il nostro privato non è davvero tale.
Perché se è vero che gli assistenti vocali si attivano pronunciando alcune parole chiave, sono sempre in ascolto per catturare quando le pronunciamo. E come ha dimostrato una corposa inchiesta del quotidiano britannico The Guardian, rilanciata qualche settimana fa dall’americano Usa Today, si accendono troppo spesso per errore: può bastare bofonchiare «A letter» o «election» anziché Alexa, dire «Ok cool» invece di «Ok Google», «Montana» e non Cortana, muovere troppo il braccio e sollevarlo con al polso lo smartwatch, persino chiudere frettolosamente una cerniera lampo, perché Siri si svegli e inghiotta fino a 30 secondi d’audio. «Abbastanza per farsi un’idea di cosa stia succedendo nei paraggi» ha confessato uno degli addetti esterni a cui Apple aveva appaltato l’incarico di ascoltare brandelli di voci.
Quegli stakanovisti dell’ermeneutica contemporanea si si sono ritrovati in cuffia situazioni di acquisti di droga, amplessi, eccessi d’ira e altre circostanze per le quali arrossire o rabbrividire. Hanno denunciato la cosa, costringendo l’azienda fondata da Steve Jobs a fare marcia indietro: mai più appaltatori esterni, solo dipendenti con un grande ossequio per la privacy (o almeno si spera) provvederanno a tarare Siri sul nostro accento e la nostra pronuncia. E solo con il nostro consenso.
Bloomberg ha raccontato come Amazon avesse squadre negli Stati Uniti, in Costa Rica, India e Romania che, per nove ore a turno, si sorbivano fiumi di clip audio carpite da Alexa. Un accordo di riservatezza impediva a tali emuli del protagonista del film Le vite degli altri, a questi intrusi invisibili, di parlare con nessuno del programma. Quando si tratta di proteggere la loro di privacy, i giganti del web sanno essere parecchio scrupolosi. Mentre c’è un quesito che si pone di conseguenza: davvero vogliamo in casa nostra un ospite così scomodo, saccente e impiccione? Se l’è chiesto la rivista The Atlantic, oscillando tra il lugubre e l’ironico: «Quante persone avrebbero comprato questi prodotti sapendo che lavoratori precari romeni li avrebbero ascoltati, anche nei momenti in cui non avevano deliberatamente attivato i loro dispositivi?».
Non è chissà quale scoop, basta aprire in questo preciso istante la app di Alexa, toccare «Impostazioni», «Privacy», «Gestisci i tuoi dati», per trovare la voce «Uso delle registrazioni vocali», sotto la quale si legge: «Quando questa impostazione è disattivata, le registrazioni vocali non vengono utilizzate per sviluppare nuove funzionalità, né vengono verificate manualmente per migliorare i nostri servizi». Ecco ammessa la verifica manuale. E non appena provate a levare ad Amazon tale facoltà, appare il seguente messaggio: «Se disattivi questa opzione, il riconoscimento vocale e le nuove funzionalità potrebbero non funzionare correttamente». Non proprio un incoraggiamento a procedere.
Anche Microsoft aveva personale schierato su ciascuno dei suoi fiori all’occhiello: l’assistente Cortana, Skype, persino la console di gioco Xbox. La società fondata da Bill Gates è però tra le più attente e attive in materia: pochi giorni fa ha fatto sapere che le clip audio raccolte saranno usate per aiutare i suoi sistemi a riconoscere accenti, dialetti, modi di parlare, solo dopo un esplicito consenso da parte dei suoi clienti. E comunque saranno rese anonime, irriconoscibili a chi dovrà scrutinarle per educare l’intelligenza artificiale a essere più efficiente.
Una prassi analoga vigeva in Google: oltre a quello che l’assistente sente perché lo chiamiamo in causa, nella sua rete finiscono tonnellate di dati frutto di attivazioni accidentali. Da cui si ricavano nomi e indirizzi, come ha scoperto l’emittente belga Vrt Nws. Che non si è limitata alle confessioni di gole profonde pentite: è entrata in possesso di oltre mille estratti audio e, dal loro contenuto, è riuscita a risalire ai soggetti che avevano pronunciato quelle frasi. Contattandoli e facendoglieli ascoltare: «Questa è senza ombra di dubbio la mia voce» ha confermato un uomo abbastanza attonito. Mentre una coppia ha riconosciuto quelle del figlio e del loro nipote. L’esatto opposto dell’inviolabilità del focolare domestico.
Google, replicando, ha detto che appena lo 0,2 per cento delle conversazioni veniva trascritta da addetti umani. E che non erano associate agli account degli utenti. Una barriera aggirabile, anzi aggirata da Vrt Nws. Intanto, lo riferiva il quotidiano inglese The Independent a fine dicembre, Google starebbe lavorando a una soluzione che si attiva senza parole chiave, ogni volta che un tablet o un altro dispositivo dotato di fotocamera o ultrasuoni rileva nei paraggi la presenza di una persona. Così, di fatto, aumenterebbe la possibilità di essere registrati senza saperlo.
È la fantascienza che diventa prassi: nel celebre romanzo 1984 pubblicato nel 1949, George Orwell scriveva profetico: «Ogni suono che Winston emetteva sopra il livello di un basso sospiro, era raccolto». Settant’anni dopo, lo sproposito di microfoni da cui siamo circondati l’ha reso fattibile. Per esempio, in passato è stato ordinato ad Amazon di fornire le sue registrazioni per un caso di omicidio in Florida. Come ha scritto il Washington Post, «Alexa era lì per tutto il tempo». Amazon ha subito chiarito la sua intenzione di non diffondere alcuna informazione dei consumatori «senza una valida e obbligatoria richiesta di carattere legale». Ma è evidente che quelle informazioni le possiede.
A voler essere cinici, Google, Facebook e soci sono incredibilmente coerenti con sé stessi. Hanno cominciato facendo leggere a sistemi automatici tutto quello che digitiamo, dalle mail alle ricerche sul web, per imparare a conoscerci e proporci annunci in target. Grazie al gps hanno avuto la facoltà di seguirci, di sapere dove andiamo e quanto spesso ci torniamo; con il «mi piace» e i suoi cloni hanno determinato cosa amiamo e cosa meno, dagli acquisti via web hanno preso nota di come spendiamo i nostri soldi. Hanno analizzato le immagini che postiamo e i video che pubblichiamo. Ora c’è la voce, l’ennesimo tassello del solito quadro, di questa inesausta radiografia universale e insieme particolare, personale. Ma che pesa e ci pesa di più, perché riesce a entrare in angoli e spazi prima franchi, non presidiati. Non basta spegnere il telefono in camera da letto, invocare il segreto professionale del medico, consegnare una confidenza alla discrezione cheta di un amico: anche solo inavvertitamente, Alexa e i suoi compari potrebbero essere in ascolto. È cronaca.
Come lo è che quelle conversazioni sono state sentite da chi non ha avuto, se non il diritto (spesso glielo abbiamo concesso noi stessi, autorizzando mille clausole senza leggerle), quantomeno il pudore di non farlo. Chiediamoci cosa potrebbe succedere se ci fosse un attacco hacker, se come è già avvenuto per password e messaggi privati, quei cumuli di frasi abusive venissero razziate in modo massiccio e rese pubbliche, vendute in qualche angolo oscuro del web, usate per ricattarci. Domandiamoci quanto alto sarebbe il prezzo, quanto dolorose le conseguenze, se le nostre parole cadessero nelle orecchie sbagliate.
Per l’esperto del web Stefano Quintarelli, così si uccide la biodiversità dell’informazione
«Mia figlia è andata a fare volontariato su un’ambulanza. Non abbiamo dottori in famiglia, in casa nostra la medicina ha la stessa rilevanza degli stivali texani da rodeo, lei mi ha assicurato di non avere mai cercato nulla sul web sul tema, ma tornando a casa quello stesso giorno ha sentito su Spotify una pubblicità di corsi di laurea in medicina». A raccontare l’episodio è Stefano Quintarelli, tra i massimi esperti di internet in Italia.
Significa che l’hanno ascoltata?
Di sicuro non Spotify, è probabile che l’abbia fatto qualche software che ha installato sul telefono. Poi ha preso questa informazione e l’ha passata a una «data management platform», un sistema che accumula dati su di noi, che definisce un profilo per caratterizzarci. E lo usa per confezionare inserzioni coerenti con i nostri gusti.
Negare sempre l’accesso alle app al microfono è la soluzione?
In linea teorica sì, a livello pratico molto spesso le rende inutilizzabili.
Cosa pensa degli assistenti vocali? Minacciano la nostra privacy?
Personalmente li ho disabilitati tutti, so di non avere il controllo di quando e quanto ascoltano. È inevitabile che accada: serve ad addestrare la loro intelligenza artificiale, a correggerne le interpretazioni. Il problema è che i loro proprietari non hanno ritenuto opportuno informarci che stava accadendo.
Per quale ragione?
Perché, sapendolo, tutti si sarebbero rifiutati di far setacciare le loro parole. O avrebbero preteso di essere pagati in cambio.
Chi deve difenderci?
Leggi efficaci. Il quadro sta migliorando, oggi si possono infliggere a un’azienda sanzioni fino al 4 per cento del suo fatturato. E poi occorre potenziare i controlli, sensibilizzare il pubblico. Augurarsi che le autorità di sorveglianza vadano a investigare, capiscano cosa queste piattaforme nascondono e presuppongono.
Intravede altri pericoli?
Gli assistenti vocali sono utili perché semplificano l’interazione con la tecnologia. Ma mentre un motore di ricerca classico fornisce più risposte a una richiesta, loro ne danno una soltanto. Filtrano ancora di più l’informazione, ne uccidono la biodiversità. Covano un potere monopolistico. Sottovalutarlo sarebbe un errore grave.