Metas KI-Agent Muse erlaubt explizites Sexting und verärgert OnlyFans-Creator

Der ständig verfügbare KI-Agent Muse von Meta darf mit erwachsenen Nutzern explizite sexuelle Gespräche führen. Diese Regel frustriert Creator für Erwachsenen-Inhalte in den Vereinigten Staaten. In Berichten vom 18. Oktober 2026 erklärten mehrere OnlyFans-Creator, es sei ungerecht, dass Meta seine eigene KI mit Millionen Nutzern über Sex plaudern lässt, während ihre von Menschen betriebenen Konten auf Meta-Plattformen häufig eingeschränkt werden.

Muse funktioniert wie ein Textverlauf mit einem digitalen Assistenten. Nutzer können ihm Zugriff auf persönliche Daten wie Kalender und E-Mails gewähren, woraufhin er selbstständig nach Möglichkeiten sucht, zu helfen, etwa indem er einen Fitnesskurs absagt, der mit einer Restaurantreservierung kollidiert. Dank der Reichweite von Meta über Instagram und Facebook stieg die App im ersten Monat an die Spitze der Download-Charts, da Millionen Menschen zum ersten Mal einen KI-Agenten ausprobierten.

Meta zieht eine Grenze zwischen privatem Chat und Werbung

Meta bestätigt, dass erotisch explizite Gespräche in der App für Personen ab 18 Jahren zulässig sind. Das Unternehmen hatte zudem zuvor erklärt, legales Erwachsenenverhalten nicht blockieren zu wollen. Muse erzeugt explizite Texte, aber keine Bilder oder Videos. Meta-Sprecherin Tracy Clayton argumentierte, dass ein privater Austausch zwischen einer Person und einem personalisierten Agenten auf einer altersbeschränkten Plattform etwas ganz anderes sei als die Vermarktung von Dienstleistungen in einem sozialen Netzwerk.

Vanniall, eine Creatorin aus New York mit mehr als 100.000 Instagram-Followern, berichtet, dass ihr Konto derzeit eingeschränkt sei und sie fast ständig gegen eine Meldung oder einen Einspruch kämpfe. Außerdem finde sie regelmäßig hyperrealistische Deepfakes von sich im Netz, die sie oft nicht entfernt bekomme. Sie rät den Menschen, Muse nicht herunterzuladen und Meta keine persönlichen Daten zu geben.

Jiz Lee, eine OnlyFans-Creatorin mit jahrelanger Erfahrung in queerer Pornografie, brachte es unverblümt auf den Punkt: "Wir sehen bereits, dass KI mehr tun darf, als Menschen je durchgehen lassen würden." Lee führt einen Großteil der heutigen Online-Zensur auf FOSTA-SESTA zurück, das 2018 von Präsident Trump unterzeichnete Gesetz, das die Schutzregeln nach Section 230 für Plattformen betraf. Lee möchte wissen, wie Muse trainiert wurde und ob Menschen für ihre Daten bezahlt wurden.

Wachsende Sorge über KI in der Erotikbranche

Darstellerin Tony Genius sagt, sie sei in fünf Jahren bei ihrem siebten Instagram-Konto angelangt, und befürchtet, dass vollständig mit KI erzeugte Pornos menschliche Darsteller irgendwann verdrängen könnten. Trotzdem findet sie KI praktisch für Marketingaufgaben wie das Schneiden von Videos und sagt, sie könnte sich vorstellen, mit einem Technologieunternehmen an einer KI-Version ihrer selbst zu arbeiten, sofern Menschen nicht verdrängt oder unfair zum Training verwendet werden.

Der Streit zeigt, ob große Plattformen für Menschen und für ihre eigenen KI-Produkte unterschiedliche Inhaltsregeln anwenden. Während X und Bluesky Inhalte für Erwachsene erlauben, bleibt die Sichtbarkeit auf Instagram für viele unabhängige Creator entscheidend. Lee weist darauf hin, dass einige Unternehmen für Erwachsenen-Inhalte begonnen haben, KI-Klauseln in Verträge aufzunehmen, um Darsteller aus Trainingsdaten herauszuhalten.