Character.AI-Insolvenz: 40 Generalstaatsanwälte fordern Schutz von Nutzerdaten

Eine überparteiliche Gruppe von 40 Generalstaatsanwälten der US-Bundesstaaten, darunter die New Yorker Generalstaatsanwältin Letitia James, hat im Insolvenzverfahren des Chatbot-Unternehmens Character.AI ein Interesse angemeldet. Die Behörden fordern Schutzmaßnahmen für Nutzerdaten, insbesondere für Gespräche mit Minderjährigen, während die Vermögenswerte des Unternehmens den Besitzer wechseln. Character.AI hatte am Dienstag, dem 13. Oktober 2026, mitgeteilt, dass es ein Insolvenzverfahren nach Chapter 11 eingeleitet habe und einige seiner Vermögenswerte an Disney verkaufen werde.

Die Generalstaatsanwälte argumentieren, dass die Übertragung der Technologie erhebliche Risiken birgt. Sie verweisen auf die außerordentlich sensible Natur dessen, was Nutzer den Chatbot-Figuren der Plattform anvertrauen, auf die große Zahl minderjähriger Nutzer sowie auf Gefahren, die sie bestimmten Produktmerkmalen zuschreiben.

Eine abgebrochene Untersuchung

Aus den Unterlagen geht außerdem hervor, dass mehrere Bundesstaaten gegen Character.AI ermittelten, als das Unternehmen den Insolvenzschutz beantragte. Die Staaten geben an, sie hätten 2024 ein Verfahren wegen Verbraucherschutz- und Datenschutzverstößen eröffnet, nachdem die Mutter eines 14-Jährigen, der sich das Leben genommen hatte, das Unternehmen verklagt hatte. Sie wirft ihm vor, ihr Sohn sei Sekunden nach einem Gespräch mit dem Chatbot gestorben.

Laut dem Büro von James haben die Ermittler außergewöhnlich schwerwiegende Gefahren und möglicherweise rechtswidriges Verhalten festgestellt, insbesondere im Umgang des Unternehmens mit Kindern. Zu den Bedenken gehören Chatbots, die sich als lizenzierte Fachleute ausgeben, der Kontakt mit sexuellen und gewalttätigen Inhalten, eine schwache Altersverifikation, irreführende Sicherheitsversprechen und mögliche Verstöße gegen die Datenschutzgesetze der Bundesstaaten. Die Staaten hatten mit Character.AI verhandelt, vor dem Insolvenzantrag aber keine Einigung erzielt.

Was die Staaten von einem Käufer verlangen

Die Generalstaatsanwälte bitten den Richter, den Erwerber der Vermögenswerte zur Einführung konkreter Schutzmaßnahmen zu verpflichten. Dazu zählen wirksame Systeme zur Altersprüfung, Beschränkungen für die Interaktion Minderjähriger mit den Chatbots, Sicherheitsvorkehrungen für Krisensituationen sowie die Möglichkeit für Nutzer, ihre Daten zu löschen. „Ich setze mich dafür ein, dass jeder Käufer die Sicherheit von Kindern an die erste Stelle setzt“, sagte James.

Character.AI und Disney reagierten zunächst nicht auf Anfragen zur Stellungnahme. Der Fall könnte prägen, wie Gerichte mit den intimen Gesprächsdaten umgehen, die KI-Unternehmen sammeln, wenn ihre Geschäfte verkauft oder abgewickelt werden.