Character.AI in bancarotta: 40 procuratori generali chiedono tutele per i dati degli utenti

Un gruppo bipartisan di 40 procuratori generali statali, tra cui la procuratrice generale di New York Letitia James, ha presentato una dichiarazione d'interesse nel procedimento di fallimento della società di chatbot Character.AI. I funzionari chiedono garanzie sui dati degli utenti, in particolare sulle conversazioni che coinvolgono minorenni, mentre gli asset dell'azienda cambiano di mano. Martedì 13 ottobre 2026 Character.AI ha annunciato di aver chiesto la protezione del Chapter 11 e di voler cedere alcuni dei suoi asset a Disney.

I procuratori generali sostengono che il trasferimento della tecnologia comporti rischi seri. Richiamano la natura altamente sensibile di ciò che gli utenti raccontano ai personaggi chatbot della piattaforma, l'elevato numero di bambini che usano il servizio e i pericoli che attribuiscono ad alcune specifiche funzionalità del prodotto.

Un'indagine interrotta

La documentazione depositata rivela anche che diversi stati stavano indagando su Character.AI quando l'azienda ha chiesto la protezione fallimentare. Gli stati affermano di aver avviato un'inchiesta su tutela dei consumatori e privacy nel 2024, dopo che la madre di un quattordicenne morto suicida ha citato in giudizio la società, sostenendo che il figlio fosse morto pochi secondi dopo aver parlato con il chatbot.

Secondo l'ufficio di James, gli investigatori hanno riscontrato pericoli eccezionalmente gravi e condotte potenzialmente illegali, in particolare nel modo in cui l'azienda trattava i minori. Le preoccupazioni includono chatbot che si presentano come professionisti abilitati, l'esposizione a contenuti sessuali e violenti, una verifica dell'età debole, dichiarazioni fuorvianti sulla sicurezza e possibili violazioni delle leggi statali sulla privacy. Gli stati stavano negoziando con Character.AI, ma non avevano raggiunto alcun accordo prima della richiesta di fallimento.

Cosa chiedono gli stati a un acquirente

I procuratori generali chiedono al giudice di obbligare chi acquisirà gli asset ad adottare protezioni specifiche. Tra queste figurano sistemi efficaci di verifica dell'età, limiti a come i minori possono interagire con i chatbot, misure di sicurezza in caso di crisi e la possibilità per gli utenti di cancellare i propri dati. "Mi batto perché ogni acquirente metta al primo posto la sicurezza dei bambini", ha dichiarato James.

Character.AI e Disney non hanno risposto immediatamente alle richieste di commento. Il caso potrebbe influenzare il modo in cui i tribunali trattano i dati conversazionali intimi che le aziende di intelligenza artificiale accumulano quando queste attività vengono vendute o chiuse.