Character.AI failliet: 40 procureurs-generaal eisen bescherming van gebruikersdata

Een tweepartijen-groep van 40 staatsprocureurs-generaal, waaronder de procureur-generaal van New York, Letitia James, heeft een kennisgeving van belangstelling ingediend in de faillissementszaak van chatbotbedrijf Character.AI. De functionarissen willen waarborgen voor gebruikersdata, met name voor gesprekken met minderjarigen, nu de activa van het bedrijf van eigenaar wisselen. Character.AI meldde op dinsdag 13 oktober 2026 dat het surseance onder Chapter 11 had aangevraagd en een deel van zijn activa aan Disney wil verkopen.

De procureurs-generaal stellen dat het overdragen van de technologie ernstige risico's met zich meebrengt. Zij wijzen op het zeer gevoelige karakter van wat gebruikers aan de chatbotpersonages van het platform vertellen, het grote aantal kinderen dat de dienst gebruikt, en gevaren die zij toeschrijven aan specifieke productkenmerken.

Een onderzoek dat voortijdig eindigde

Uit de indiening bleek ook dat meerdere staten midden in een onderzoek naar Character.AI zaten toen het bedrijf bescherming tegen schuldeisers zocht. De staten zeggen dat ze in 2024 een onderzoek naar consumentenbescherming en privacy zijn gestart, nadat de moeder van een 14-jarige jongen die zelfmoord pleegde een rechtszaak had aangespannen. Zij stelt dat haar zoon seconden na een gesprek met de chatbot overleed.

Volgens het kantoor van James hebben de onderzoekers uitzonderlijk ernstige gevaren en mogelijk onrechtmatig handelen vastgesteld, vooral in de manier waarop het bedrijf met kinderen omging. De zorgen betroffen chatbots die zichzelf als erkende professionals voorstelden, blootstelling aan seksueel en gewelddadig materiaal, zwakke leeftijdsverificatie, misleidende veiligheidsclaims en mogelijke schendingen van staatelijke privacywetten. De staten hadden met Character.AI onderhandeld, maar voor de faillissementsaanvraag was geen akkoord bereikt.

Wat de staten van een koper willen

De procureurs-generaal vragen de rechter om te eisen dat wie de activa overneemt specifieke beschermingsmaatregelen invoert. Daartoe behoren effectieve systemen voor leeftijdsverificatie, beperkingen op de manier waarop minderjarigen met de chatbots kunnen communiceren, veiligheidsmaatregelen bij crisissituaties en de mogelijkheid voor gebruikers om hun gegevens te laten wissen. "Ik zet mij ervoor in dat elke koper de veiligheid van kinderen voorop stelt", aldus James.

Character.AI en Disney hebben niet direct gereageerd op verzoeken om commentaar. De zaak kan bepalen hoe rechtbanken omgaan met de intieme gespreksdata die AI-bedrijven verzamelen wanneer die bedrijven worden verkocht of afgebouwd.