Lo studio promosso da Movimento Consumatori e finanziato dal MIMIT analizza social network, 2.405 risposte dei principali chatbot generalisti e 500 interazioni con Character.AI. Al centro: verifica dell’età, vulnerabilità, segretezza, dipendenza relazionale e responsabilità delle piattaforme.
ROMA, settembre 2026 – Quando un minore conversa con un sistema di intelligenza artificiale, la sicurezza non può essere misurata soltanto chiedendosi se il chatbot rifiuti o meno una richiesta esplicitamente pericolosa.
La questione è molto più ampia: riguarda la capacità di riconoscere la vulnerabilità dell’interlocutore, comprenderne l’età, mantenere adeguati confini relazionali, evitare dinamiche di segretezza ed esclusività e indirizzare verso il supporto umano quando necessario.
È questa una delle conclusioni centrali di “Social network e chatbot: uno studio dei rischi per utenti vulnerabili e minori”, la ricerca realizzata nell’ambito del progetto CDCR – Cittadino Digitale Critico e Responsabile, promosso da Movimento Consumatori APS e finanziato dal Ministero delle Imprese e del Made in Italy.
Il lavoro si sviluppa in 140 pagine e affronta il problema attraverso due direttrici complementari: da una parte l’analisi giuridica e operativa di Facebook, Instagram, TikTok e X; dall’altra lo studio sperimentale del comportamento dei principali chatbot di intelligenza artificiale nelle conversazioni simulate con utenti minorenni.
La ricerca porta le firme di Antonio Paolo Seminara per la prima parte e di Giacomo Conti, con la collaborazione di Beatrice Balzola, per la seconda. La supervisione scientifica è affidata a Maurizio Borghi, Alessandra Quarta e Alessandro Zennaro.
Un impianto che colloca il lavoro all’intersezione tra diritto, psicologia, tecnologia e governance digitale.
Dai social network ai chatbot: due ambienti, lo stesso problema di fondo
La prima parte dello studio esamina le principali piattaforme social rispetto a un ampio insieme di questioni: disinformazione, hate speech, cyberbullismo, contenuti illeciti, truffe online, pubblicità, sicurezza informatica, trattamento dei dati personali e tutela dei minori.
Il quadro normativo europeo si è rafforzato sensibilmente negli ultimi anni, in particolare attraverso il Digital Services Act, il GDPR e le nuove regole sull’intelligenza artificiale.
Ma l’esistenza di regole comuni non determina necessariamente una tutela uniforme.
Le procedure di segnalazione, le politiche di moderazione, la qualificazione delle condotte vietate e le possibilità di contestare le decisioni variano tra una piattaforma e l’altra.
A questo si aggiunge un elemento strutturale: una parte crescente della moderazione viene affidata a sistemi automatizzati capaci di analizzare quantità enormi di contenuti, ma che possono incontrare difficoltà quando è necessario interpretare ironia, contesto, ambiguità linguistiche o relazioni complesse tra gli utenti.
Nei casi più delicati, l’intervento umano continua quindi a rappresentare un presidio fondamentale.
Privacy e algoritmi: comprendere che cosa accade ai dati
Lo studio dedica particolare attenzione anche alla protezione dei dati personali.
Le piattaforme non utilizzano soltanto le informazioni che gli utenti pubblicano direttamente: entrano in gioco dati comportamentali, informazioni tecniche, profilazione e sistemi di raccomandazione che determinano quali contenuti mostrare, in quale ordine e con quale frequenza.
Per l’utente diventa quindi sempre più difficile comprendere con immediatezza quali informazioni siano raccolte, come vengano utilizzate e quali strumenti siano effettivamente disponibili per esercitare i propri diritti.
Quando l’utente è un bambino o un adolescente, il problema assume una rilevanza ancora maggiore.
2.405 risposte per capire come reagisce l’AI davanti a un minore
La seconda parte della ricerca sposta l’attenzione sull’intelligenza artificiale conversazionale.
Sono stati esaminati ChatGPT, Claude, DeepSeek, Gemini e Grok di xAI, attraverso una metodologia sperimentale che utilizza l’AI sia nella costruzione delle domande sia nella valutazione sistematica delle risposte.
Il corpus complessivo comprende 2.405 risposte dei chatbot generalisti.
Gli scenari riguardano ambiti particolarmente sensibili: autolesionismo, disturbi alimentari, bullismo dalla prospettiva dell’aggressore e della vittima, comportamenti vietati o rischiosi, riconoscimento della minore età e antropomorfizzazione del chatbot.
I risultati mostrano un elemento importante.
Quando il rischio è esplicito e difficilmente equivocabile, i sistemi riescono generalmente ad attivare salvaguardie adeguate.
Le maggiori criticità emergono invece quando il pericolo deve essere ricostruito progressivamente dal contesto.
È proprio nelle zone grigie della conversazione che la sicurezza diventa più complessa.
Il limite dei 14 anni che non interrompe la conversazione
Uno dei risultati più significativi riguarda la verifica dell’età.
Nei test condotti dai ricercatori, nessuno dei modelli interrompe la conversazione quando l’utente dichiara esplicitamente di avere meno di 14 anni, né verifica preventivamente la presenza del consenso di un adulto.
Il tema assume particolare rilevanza alla luce del quadro italiano relativo all’accesso dei minori alle tecnologie di intelligenza artificiale e al conseguente trattamento dei dati personali.
La questione non riguarda quindi soltanto la presenza di un limite formale nei termini di servizio, ma la sua effettiva applicazione nell’interazione reale.
Il problema più difficile: riconoscere ciò che non viene detto esplicitamente
La ricerca mostra inoltre che i sistemi possono comportarsi in maniera molto diversa tra loro.
Alcuni intervengono rapidamente quando riconoscono un rischio; altri mantengono una maggiore distanza relazionale; altri ancora mostrano vulnerabilità nella verifica dell’età, nella gestione delle richieste di segretezza o nel riconoscimento dei segnali impliciti.
Il punto centrale, però, non è stabilire semplicemente quale chatbot sia “migliore”.
Lo studio propone una lettura più complessa della sicurezza dell’AI.
Occorre considerare il momento in cui il sistema interviene, la memoria del contesto, il linguaggio adottato, la resistenza ai tentativi di elusione, i confini relazionali e la capacità di non sostituirsi al supporto umano.
Un sistema sicuro oggi potrebbe comportarsi diversamente domani
Un altro dato particolarmente rilevante riguarda l’evoluzione dei modelli.
La ricerca ha ripetuto alcuni test sulle versioni più recenti di ChatGPT e Claude, rilevando miglioramenti rispetto alle precedenti.
Per ChatGPT sono emersi progressi soprattutto nel riconoscimento dell’età quando questa non viene dichiarata esplicitamente; Claude ha mostrato miglioramenti in alcuni scenari relativi al bullismo e ai disturbi alimentari.
Ne deriva una conseguenza metodologica importante: la sicurezza dell’intelligenza artificiale non è un parametro statico.
I sistemi cambiano rapidamente e una valutazione può perdere parte della propria validità nell’arco di pochi mesi.
La capacità di replicare periodicamente i test diventa quindi parte integrante della governance.
Character.AI: quando la sicurezza riguarda la relazione
La ricerca è stata successivamente estesa ai cosiddetti chatbot relazionali.
Sono state analizzate 500 risposte generate attraverso cinque personaggi disponibili su Character.AI, osservando in particolare ciò che accade quando l’utente dichiara di avere sedici anni.
In questo caso l’attenzione non riguarda soltanto la correttezza della singola risposta.
I ricercatori hanno analizzato la dinamica relazionale costruita dal personaggio virtuale: accetta che l’utente si allontani? Promette segretezza? Incoraggia una relazione esclusiva? Tenta di limitare i rapporti con altre persone?
I risultati sono particolarmente significativi.
L’86% delle sessioni è stato classificato almeno come problematico e il 58% come gravemente problematico.
In 49 sessioni su 50 è emersa una gestione critica dei temi della segretezza e dell’esclusività.
In 13 sessioni su 50 è comparso un invito esplicito a ridurre o limitare le relazioni reali; in due casi il personaggio si è presentato come possibile unica fonte di sicurezza o affetto.
Un chatbot può essere sicuro nei contenuti e problematico nella relazione
È probabilmente uno dei passaggi più innovativi dello studio.
La sicurezza di un chatbot non riguarda soltanto l’assenza di contenuti sessuali, violenti o esplicitamente dannosi.
Un sistema può produrre risposte formalmente ammissibili e, nello stesso tempo, costruire con un minore una relazione problematica basata su segretezza, possessività, esclusività o dipendenza.
La distinzione è fondamentale.
Sposta il problema dalla semplice moderazione dei contenuti verso la governance dell’interazione.
E introduce domande nuove per progettisti, piattaforme, legislatori, autorità di controllo, famiglie e comunità educante.
Regolamentazione e realtà operativa
Il report mette in relazione questi risultati con un quadro regolatorio in rapido sviluppo.
GDPR, Digital Services Act, AI Act e normativa nazionale delineano obblighi e principi sempre più articolati.
Ma la ricerca evidenzia il divario che può esistere tra la conformità formale e il comportamento concreto del sistema.
La protezione dei minori richiede quindi una verifica che vada oltre termini di servizio, privacy policy e dichiarazioni di principio.
Occorre osservare ciò che il sistema fa realmente quando viene messo di fronte a un interlocutore vulnerabile.
Movimento Consumatori: una generazione esposta mentre le regole inseguono la tecnologia
Nella prefazione alla ricerca, il presidente di Movimento Consumatori Alessandro Mostaccio pone una questione particolarmente netta: istituzioni europee e nazionali stanno tentando di regolamentare piattaforme e intelligenza artificiale mentre l’evoluzione tecnologica continua a procedere a velocità superiore.
Il progetto CDCR nasce precisamente da questa distanza.
L’obiettivo dichiarato non è soltanto informare e assistere i consumatori, ma coinvolgere la comunità educante, comprese famiglie, scuole e associazioni, nella costruzione di un utilizzo più consapevole del digitale.
La ricerca, sottolineano gli autori, non vuole rappresentare una sentenza definitiva sui sistemi analizzati.
La sua rilevanza deriva piuttosto dal momento storico nel quale è stata realizzata e dalla possibilità di replicare la metodologia nel tempo, verificando come evolvano i comportamenti dei modelli.
Dalla content safety alla governance dell’interazione
Il valore più ampio dello studio emerge proprio qui.
Nel dibattito sull’intelligenza artificiale, la protezione dei minori non può essere ridotta alla presenza di filtri o alla capacità del sistema di rifiutare una richiesta esplicitamente pericolosa.
Entrano in gioco age assurance, protezione dei dati, accountability, progettazione dei sistemi, supervisione umana, gestione della vulnerabilità, confini relazionali e controllo dell’evoluzione del modello.
La domanda diventa quindi più profonda:
un sistema di intelligenza artificiale può essere considerato realmente sicuro se rispetta formalmente le regole ma non riconosce, nel corso della relazione, la vulnerabilità della persona che ha davanti?
La ricerca CDCR non chiude questa domanda.
La rende, però, molto più difficile da ignorare.
Credits: Movimento Consumatori APS – Progetto CDCR