A inizio settembre Meta (l’azienda proprietaria di Instagram, Whatsapp e Facebook) ha lanciato Muse, il suo nuovo agente IA personale, capace di eseguire compiti concreti al posto dell’utente.
Come è ormai consuetudine, tuttavia, anche Muse è immediatamente finito al centro di dubbi e preoccupazioni, dalle pratiche dubbie dell’azienda ai rischi concreti per la privacy dei consumatori.
Cos’è Muse
Il nuovo strumento di IA Meta Muse è stato lanciato ufficialmente l’8 settembre. Trattasi di un agente di intelligenza artificiale personale progettato per agire come un vero e proprio assistente virtuale autonomo nel mondo reale.
A differenza dei chatbot tradizionali (che si limitano a rispondere a domande o generare testo), Muse è quindi un agente d’azione, che può eseguire compiti digitali complessi.
Può inviare email, fare acquisti online, prenotare viaggi, compilare moduli e persino pagare tramite Stripe. Funziona sia come app indipendente (per iOS e Android) sia integrato direttamente all’interno di WhatsApp, permettendo agli utilizzatori di delegargli compiti inviando un semplice messaggio di testo o vocale.
L’app ha riscosso un grande successo negli Stati Uniti, dove ha scalato subito le classifiche di download, superando i 2,5 milioni di installazioni e contribuendo a un rialzo del titolo Meta in borsa superiore al 20%.
Tra le funzioni più ambiziose progettate c’è anche quella di effettuare chiamate telefoniche a attività commerciali per sbrigare commissioni quotidiane, come fissare un appuntamento o verificare la disponibilità di un prodotto.
Gli assistenti umani
Ma è proprio in relazione a quest’ultima funzione che si è venuto a creare un “giallo”. L’intelligenza artificiale pura incontra spesso e volentieri resistenze. Molti interlocutori, accorgendosi che al telefono c’era una voce sintetica e robotica, riagganciavano immediatamente la chiamata.
Per superare questo ostacolo, Meta ha attivato una funzione interna chiamata “human agent calls“, deviando alcune richieste a veri e propri centralinisti umani, che fingevano di essere il “maggiordomo digitale”.
Senza che l’utente lo sapesse, questi “centralinisti”, esterni a Meta, effettuavano le telefonate richieste dagli utenti, che però erano convinti fossero fatte dall’intelligenza artificiale di Muse.
I test erano stati effettuati sui dipendenti di Meta, con opzione di opt-out, tuttavia la funzione delle telefonate IA era stata allargata anche ai normali clienti, e non è chiaro se anche le telefonate degli utenti esterni a Meta siano state dirottate sui call center.
Dai test effettuati, visionati da Reuters, risulta comunque che la tattica ha funzionato, portando il tasso di successo fino al 95-98%.
I rischi del test effettuato con Muse
L’esperimento, ora interrotto, ha comprensibilmente sollevato forti preoccupazioni sulla privacy. Per cominciare, agli utenti di Muse on era stato comunicato che le loro richieste avrebbero potuto essere elaborate da assistenti umani.
Senza dimenticare che gli utenti avrebbero potuto condividere inavvertitamente dati ipersensibili (come numeri di previdenza sociale, dati finanziari o dettagli medici), che sarebbero così finiti nelle mani di operatori di call center esterni a Muse.
A seguito delle polemiche, i vertici dei Superintelligence Labs di Meta hanno ammesso che l’avvio dei test, effettuato senza le dovute informative trasparenti ai clienti, è stato “un errore”.
Un portavoce dell’azienda ha dichiarato che la funzione è stata momentaneamente sospesa e che verrà reintrodotta solo quando il sistema sarà pronto e verranno inseriti i corretti avvisi legali per l’utente.
Insomma, per non mostrare che l’IA falliva e che negozi e aziende riagganciavano il telefono appena sentivano la voce meccanica, Meta ha preferito il più affidabile “sostituto” umano, generando però un boomerang reputazionale e di privacy.