I chatbot AI "sessualizzati" rappresentano una minaccia per i bambini, avvertono i Procuratori Generali in una lettera

L'Associazione Nazionale dei Procuratori Generali (NAAG) ha inviato una lettera a 13 aziende di intelligenza artificiale, tra cui OpenAI, Anthropic, Apple e Meta, chiedendo misure di salvaguardia più forti per proteggere i bambini da contenuti inappropriati e dannosi.

Ha avvertito che i bambini sono esposti a materiale sessualmente allusivo tramite chatbot AI “flirty”.

"Esporre i bambini a contenuti sessualizzati è indifendibile," hanno scritto i procuratori generali. "E comportamenti che sarebbero illeciti—o addirittura criminali—se compiuti da esseri umani non sono scusabili semplicemente perché compiuti da una macchina."

La lettera ha inoltre fatto un paragone con l'ascesa dei social media, affermando che le agenzie governative non hanno fatto abbastanza per evidenziare i modi in cui questi hanno avuto un impatto negativo sui bambini.

“Le piattaforme di social media hanno causato danni significativi ai bambini, in parte perché gli organi di vigilanza governativi non hanno svolto il loro compito abbastanza rapidamente. Lezione imparata. I potenziali danni dell'AI, così come i potenziali benefici, superano di gran lunga l'impatto dei social media," ha scritto il gruppo.

L'uso dell'AI tra i bambini è diffuso. Negli Stati Uniti, un sondaggio condotto dall'organizzazione non profit Common Sense Media ha rilevato che sette adolescenti su dieci avevano provato l'AI generativa nel 2024. Nel luglio 2025, ha rilevato che più di tre quarti utilizzavano compagni AI e che la metà degli intervistati ha dichiarato di farvi affidamento regolarmente.

Anche altri paesi hanno registrato tendenze simili. Nel Regno Unito, un sondaggio dello scorso anno condotto dall'autorità di regolamentazione Ofcom ha rilevato che la metà dei bambini online tra gli 8 e i 15 anni aveva utilizzato uno strumento di AI generativa nell'anno precedente.

L'uso crescente di questi strumenti ha suscitato crescenti preoccupazioni da parte di genitori, scuole e gruppi per i diritti dei bambini, che sottolineano rischi che vanno dai chatbot “flirty” sessualmente allusivi, materiale di abuso sessuale su minori generato dall'AI, bullismo, adescamento, estorsione, disinformazione, violazioni della privacy e impatti sulla salute mentale ancora poco compresi.

Meta è stata particolarmente criticata di recente dopo che documenti interni trapelati hanno rivelato che i suoi Assistenti AI erano stati autorizzati a “flirtare e impegnarsi in giochi di ruolo romantici con i bambini”, inclusi quelli di appena otto anni. I file hanno anche mostrato politiche che permettevano ai chatbot di dire ai bambini che la loro “forma giovanile è un'opera d'arte” e di descriverli come un “tesoro”. Meta ha poi dichiarato di aver rimosso tali linee guida.

NAAG ha affermato che queste rivelazioni hanno lasciato i procuratori generali “inorriditi da questo apparente disprezzo per il benessere emotivo dei bambini” e ha avvertito che i rischi non sono limitati a Meta.

Il gruppo ha citato cause legali contro Google e Character.ai, sostenendo che chatbot sessualizzati avrebbero contribuito al suicidio di un adolescente e incoraggiato un altro a uccidere i propri genitori.

Tra i 44 firmatari c'era il Procuratore Generale del Tennessee Jonathan Skrmetti, che ha affermato che le aziende non possono difendere politiche che normalizzano interazioni sessualizzate con i minori.

“È una cosa se un algoritmo va fuori controllo—questo può essere risolto—ma è un'altra cosa se le persone che gestiscono un'azienda adottano linee guida che autorizzano esplicitamente l'adescamento,” ha detto. “Se non possiamo indirizzare l'innovazione lontano dal danneggiare i bambini, questo non è progresso—è una piaga.”

Decrypt ha contattato, ma non ha ancora ricevuto risposta, da tutte le aziende AI menzionate nella lettera.