Doubao und Qwen kündigten Einschränkungen für Agentenfunktionen an

ByteDance und Alibaba kündigten im Juli Einschränkungen ihrer individualisierbaren Agentenfunktionen in Doubao und Qwen an. Die Schritte wurden mit Produktanpassungen begründet und fielen zeitlich mit neuen chinesischen Vorgaben für KI-Dienste zusammen, die menschenähnliche Interaktion und emotionale Bindung ermöglichen.

Welche Änderungen angekündigt wurden

Doubao teilte mit, dass seine Agentenfunktion ab dem 15. Juli nicht mehr verfügbar sein solle. Für den 15. Oktober kündigte der Dienst außerdem die Entfernung der zugehörigen Daten aus der App an. Ob die Änderungen vollständig umgesetzt wurden und weiterhin gelten, ist bislang nicht bestätigt.

Bei Qwen wurden ebenfalls mehrere Termine genannt: Menschenähnliche interaktive Agenten und nutzererstellte Agentenfunktionen sollten ab dem 10. Juli nicht mehr erreichbar sein, weitere Agentendienste ab dem 15. Juli. Betroffen waren Funktionen, mit denen Nutzer Assistenten, Tutoren, Rollenspielfiguren oder Begleiter mit einer festen Persona und einem eigenen Gesprächsstil einrichten konnten.

Wo die regulatorische Grenze verläuft

Im Zentrum steht die chinesische Regulierung für KI-Dienste mit anthropomorpher Interaktion. Sie richtet sich gegen Angebote, die menschliche Persönlichkeitsmerkmale, Denkweisen oder Kommunikationsstile nachbilden und auf eine dauerhafte emotionale Beziehung zielen.

Das bedeutet nicht, dass jede Agentenfunktion automatisch darunterfällt. Auch Kundenservice, Wissenssysteme oder Arbeitsassistenten sind jedoch nicht allein wegen ihres Einsatzzwecks sicher außerhalb des Anwendungsbereichs. Entscheidend ist, wie das Produkt tatsächlich gestaltet ist: eine feste Persona, Mechaniken für emotionale Abhängigkeit oder das Speichern langfristiger Beziehungs- und Gesprächsdaten. Genau das prüfen Behörden.

Zusätzlich veröffentlichten chinesische Behörden Leitlinien für Entwicklung und Betrieb von KI-Agenten, in denen Sicherheit und Kontrollierbarkeit eine zentrale Rolle spielen. Für Anbieter entsteht damit kein simples Verbotsschild, sondern eine Gestaltungsgrenze mit Interpretationsrisiko.

Was Anbieter jetzt prüfen sollten

Wer ein KI-Produkt für den chinesischen Markt betreibt, sollte zuerst alle Persona-, Begleiter- und Langzeitgedächtnis-Funktionen inventarisieren. Danach braucht es eine klare Entscheidung: emotionale Bindungsmechaniken entfernen, betroffene Funktionen regional deaktivieren oder den Einsatz rechtlich prüfen lassen. Ebenso wichtig sind ein Exportpfad für Nutzerdaten und eine verständliche Ankündigung, bevor Zugriffe oder gespeicherte Inhalte entfallen.

Die Reaktion von Doubao und Qwen zeigt vor allem eines: Nicht das Wort „Agent“ entscheidet über das Risiko. Kritisch wird die konkrete Beziehung, die ein Produkt zwischen Mensch und System entwirft.