Chatbot-Kennzeichnungspflicht: Was Art. 50 AI Act bedeutet

Art. 50 Abs. 1 des EU AI Act verpflichtet Anbieter von KI-Systemen, die mit Menschen interagieren, sicherzustellen, dass Nutzer informiert werden, dass sie mit einer KI kommunizieren.

Welche Chatbots sind betroffen?

Grundsätzlich jeder Chatbot, der KI-basiert ist. Die häufigsten Anbieter auf deutschen Websites:

Auch selbst entwickelte Chatbots mit GPT, Claude oder anderen LLMs fallen unter die Kennzeichnungspflicht.

Was genau muss gekennzeichnet werden?

Der Nutzer muss vor der Interaktion darüber informiert werden, dass er mit einem KI-System kommuniziert. Konkret:

• Ein sichtbarer Hinweis am Chat-Widget (z.B. "KI-Assistent")
• Eine Begrüßungsnachricht, die den KI-Charakter offenlegt
• Keine Täuschung – der Bot darf sich nicht als Mensch ausgeben

Beispiele für korrekte Kennzeichnung

Ausnahmen

Nicht jeder Chatbot fällt unter Art. 50. Einfache regelbasierte Bots (If-Then-Logik, Entscheidungsbäume ohne ML) sind in der Regel nicht betroffen. Sobald jedoch ein Large Language Model (GPT, Claude, Gemini etc.) involviert ist, greift die Pflicht.