L’intelligenza artificiale può diventare uno spazio nel quale un adolescente cerca informazioni, confida una paura che non riesce a esprimere ad alta voce o formula, magari attraverso parole indirette e apparentemente ambigue, un pensiero legato al suicidio o all’autolesionismo; proprio per questa ragione Meta ha deciso di introdurre un nuovo sistema di sicurezza che, in presenza di segnali considerati preoccupanti all’interno delle conversazioni con Meta AI, potrà avvisare direttamente i genitori che utilizzano gli strumenti di supervisione di Instagram.
La novità, già disponibile negli Stati Uniti, nel Regno Unito, in Canada e in Australia e destinata a essere estesa a livello globale entro la fine del 2026, modifica in modo significativo il ruolo della piattaforma: l’assistente virtuale non si limiterà più a suggerire all’adolescente di rivolgersi a una linea di aiuto, a un genitore o a un altro adulto di fiducia, ma potrà attivare un intervento esterno, informando in modo proattivo chi esercita la supervisione sull’account.
Come funzioneranno gli avvisi inviati ai genitori
Il sistema è stato progettato per riconoscere non soltanto le dichiarazioni esplicite, ma anche quei riferimenti più sottili attraverso i quali un adolescente potrebbe manifestare l’intenzione di farsi del male, senza utilizzare necessariamente parole immediatamente riconducibili al suicidio o all’autolesionismo.
Quando Meta AI individuerà una conversazione potenzialmente critica, il messaggio non verrà tuttavia inviato automaticamente al genitore: almeno nella fase iniziale, ogni chat segnalata dal sistema sarà sottoposta a una revisione manuale, introdotta dall’azienda per verificare il contesto e ridurre il rischio che una frase ironica, una domanda scolastica o un riferimento privo di intenzioni personali venga interpretato come un segnale di emergenza.
Meta riconosce, però, che un margine di errore continuerà a esistere e dichiara di voler adottare un approccio prudenziale nei casi dubbi, privilegiando la notifica anche quando l’intenzione dell’adolescente non risulti completamente chiara. Ne deriva la possibilità che alcuni genitori ricevano un avviso in assenza di un pericolo effettivo, un’eventualità che l’azienda considera preferibile rispetto al rischio opposto, ovvero ignorare una richiesta di aiuto autentica.
Insieme alla notifica, i genitori riceveranno anche risorse elaborate con il contributo di specialisti, pensate per aiutarli ad affrontare un dialogo che, per la sua delicatezza, non può essere ridotto a un controllo del telefono o a una reazione punitiva, ma richiede ascolto, disponibilità e, quando necessario, il coinvolgimento di professionisti.
Dalla supervisione digitale all’intervento nella vita reale
Il cambiamento segna un passaggio delicato nel rapporto tra adolescenti, famiglie e piattaforme digitali, perché una conversazione che il ragazzo potrebbe percepire come privata, pur avvenendo all’interno di un servizio sottoposto a supervisione, può ora produrre una conseguenza concreta al di fuori dello schermo.
La questione non riguarda soltanto la privacy, ma anche il modo in cui gli adolescenti utilizzano gli assistenti virtuali: una chatbot può essere percepita come uno spazio privo di giudizio, sempre disponibile e apparentemente più semplice da affrontare rispetto a un genitore, un insegnante o uno psicologo, ma non possiede la capacità clinica, la responsabilità né la conoscenza personale necessarie per sostituire una relazione umana.
Per Meta, l’obiettivo dichiarato è proprio evitare che l’intelligenza artificiale diventi il punto di arrivo di una conversazione legata a una crisi, trasformandola invece in un passaggio verso un aiuto offline. La risposta di Meta AI dovrà quindi riconoscere le emozioni manifestate dall’adolescente, senza interrompere bruscamente lo scambio, e contemporaneamente indirizzarlo verso una linea specializzata, un adulto di fiducia o, nelle situazioni più gravi, i servizi di emergenza.
Meta studia un sistema per contattare i soccorsi
L’azienda sta infatti sviluppando anche una funzione capace di allertare direttamente i servizi di emergenza qualora una conversazione con Meta AI, avviata sia da un adolescente sia da un adulto, suggerisca un rischio imminente di suicidio.
Il progetto non è ancora operativo, ma estenderebbe alle conversazioni con l’intelligenza artificiale un meccanismo che Meta utilizza già su Facebook e Instagram quando viene individuato un contenuto pubblico ritenuto indicativo di un pericolo concreto. Secondo i dati comunicati dalla società, nel corso dell’ultimo anno sono state effettuate a livello globale più di 19 mila segnalazioni alle autorità o ai soccorritori, consentendo di organizzare controlli sulle condizioni di persone potenzialmente a rischio.
Un intervento di questo tipo pone inevitabilmente problemi complessi, dalla capacità di stabilire quando una minaccia sia realmente imminente alla necessità di individuare la posizione e l’identità della persona, senza dimenticare le differenze tra i sistemi sanitari e le procedure di emergenza dei diversi Paesi. Meta non ha ancora indicato tempi precisi per l’introduzione della funzione né spiegato nel dettaglio quali segnali determineranno il coinvolgimento dei soccorsi.
Le risposte di Meta AI valutate da oltre 75 specialisti
Per migliorare il comportamento dell’assistente virtuale nelle conversazioni più sensibili, Meta ha raccolto il feedback di oltre 75 professionisti specializzati nella salute mentale degli adolescenti, ai quali è stato chiesto di valutare le risposte prodotte dall’intelligenza artificiale davanti a centinaia di prompt riguardanti suicidio e autolesionismo.
Gli specialisti hanno analizzato non soltanto la prima risposta fornita dalla chatbot, ma anche il contesto complessivo della conversazione, il modo in cui l’assistente proseguiva lo scambio e la sua capacità di distinguere situazioni caratterizzate da livelli di rischio differenti. Il lavoro si aggiunge al confronto con l’AI Wellbeing Expert Council, il Suicide and Self-Harm Advisory Group e i consulenti più giovani coinvolti dall’azienda.
Uno degli aspetti sui quali Meta dichiara di voler intervenire riguarda il linguaggio: indirizzare immediatamente una persona verso una linea di emergenza, attraverso una risposta standardizzata e impersonale, può essere necessario, ma rischia anche di far percepire la conversazione come improvvisamente chiusa. L’obiettivo è quindi formulare risposte che riconoscano innanzitutto il disagio espresso dall’adolescente e, senza fingere una comprensione umana che il sistema non possiede, lo accompagnino verso una forma di sostegno reale.
“Contenuti limitati” arriva anche nelle chat con l’intelligenza artificiale
Alle notifiche si aggiunge l’estensione a Meta AI dell’impostazione “Contenuti limitati”, la configurazione più restrittiva che i genitori possono scegliere per gli account Instagram dei propri figli adolescenti.
Gli account per teenager vengono già inseriti automaticamente in un ambiente 13+, nel quale l’assistente dovrebbe fornire risposte adeguate all’età e rifiutare determinate richieste, comprese le conversazioni sessuali o romantiche e le istruzioni per preparare bevande alcoliche. Attivando “Contenuti limitati”, la gamma di argomenti ai quali Meta AI non risponderà diventerà ancora più ampia, con l’obiettivo di ridurre la possibilità che un adolescente venga coinvolto in scambi considerati inappropriati o troppo maturi.
L’impostazione era stata annunciata inizialmente per limitare i contenuti visualizzati su Instagram e la possibilità di interagire attraverso i commenti; la sua applicazione alle chat con Meta AI conferma come la supervisione degli account per adolescenti non riguardi più soltanto ciò che appare nel feed, ma anche il tipo di rapporto che può svilupparsi con gli strumenti generativi integrati nella piattaforma.
Una protezione che dipende dalla supervisione di Instagram
Gli avvisi non raggiungeranno indistintamente tutti i genitori, ma soltanto quelli che hanno attivato gli strumenti di supervisione sull’account Instagram del proprio figlio, una condizione che limita inevitabilmente la portata della misura, dal momento che richiede un collegamento preventivo tra i profili e una gestione condivisa delle impostazioni.
Il sistema si aggiunge alle notifiche che Instagram invia quando un adolescente tenta ripetutamente, nell’arco di poco tempo, di cercare termini collegati al suicidio o all’autolesionismo, nonché agli strumenti attraverso i quali i genitori possono conoscere gli argomenti generali affrontati dai figli con Meta AI durante l’ultima settimana.
Rimane aperta la questione più difficile: stabilire fino a che punto una piattaforma debba osservare e interpretare una conversazione privata per proteggere una persona vulnerabile, senza trasformare ogni espressione di disagio in un allarme né spingere gli adolescenti a nascondere ulteriormente ciò che provano. La risposta non potrà dipendere soltanto dall’accuratezza di un algoritmo, perché anche il sistema più sofisticato può riconoscere parole e schemi, ma non sostituire la capacità di un adulto di accorgersi che qualcosa sta cambiando, costruire un rapporto di fiducia e rendersi disponibile prima che una richiesta di aiuto debba essere intercettata da una macchina.