Faillite de Character.AI : 40 procureurs généraux exigent la protection des données des utilisateurs

Un groupe bipartite de 40 procureurs généraux d'États américains, dont la procureure générale de New York Letitia James, a déposé une déclaration d'intérêt dans la procédure de faillite de la société de chatbots Character.AI. Les responsables réclament des garanties sur les données des utilisateurs, en particulier les conversations impliquant des mineurs, alors que les actifs de l'entreprise vont changer de mains. Character.AI a annoncé mardi 13 octobre 2026 avoir demandé la protection du chapitre 11 et qu'elle allait céder certains de ses actifs à Disney.

Les procureurs généraux estiment que le transfert de la technologie présente des risques sérieux. Ils soulignent le caractère très sensible de ce que les utilisateurs confient aux personnages-chatbots de la plateforme, le grand nombre d'enfants qui utilisent le service, ainsi que les dangers qu'ils attribuent à certaines fonctionnalités du produit.

Une enquête interrompue

Le dossier révèle également que plusieurs États étaient en pleine enquête sur Character.AI lorsque l'entreprise a demandé la protection de la faillite. Ces États indiquent avoir ouvert une enquête sur la protection des consommateurs et de la vie privée en 2024, après que la mère d'un adolescent de 14 ans, mort par suicide, a poursuivi l'entreprise, affirmant que son fils était décédé quelques secondes après avoir discuté avec le chatbot.

Selon le bureau de Letitia James, les enquêteurs ont découvert des dangers particulièrement graves et des comportements potentiellement illégaux, notamment dans la manière dont l'entreprise traitait les enfants. Les préoccupations incluent des chatbots se présentant comme des professionnels agréés, l'exposition à des contenus sexuels et violents, une vérification de l'âge défaillante, des affirmations trompeuses sur la sécurité et de possibles violations des lois étatiques sur la vie privée. Les États avaient engagé des négociations avec Character.AI, mais aucun accord n'avait été conclu avant le dépôt de la demande de faillite.

Ce que les États exigent d'un acquéreur

Les procureurs généraux demandent au juge d'imposer à quiconque acquiert les actifs l'adoption de protections spécifiques. Il s'agit notamment de systèmes efficaces de vérification de l'âge, de limites aux interactions des mineurs avec les chatbots, de dispositifs de sécurité en cas de crise et de la possibilité, pour les utilisateurs, de supprimer leurs données. « Je me bats pour que tout acquéreur place la sécurité des enfants en priorité », a déclaré Letitia James.

Character.AI et Disney n'ont pas immédiatement répondu aux demandes de commentaires. Cette affaire pourrait influencer la manière dont les tribunaux traitent les données conversationnelles intimes que les entreprises d'IA accumulent lorsqu'elles sont cédées ou liquidées.