Was ist die Chatbot-Hinweispflicht?

Artikel 50 Absatz 1 des EU AI Act verlangt, dass KI-Systeme, die direkt mit natürlichen Personen interagieren, diese Personen darüber informieren, dass sie es mit einer KI zu tun haben. Ausnahme: Das wäre für eine „normal informierte, angemessen aufmerksame und verständige" Person im jeweiligen Kontext ohnehin offensichtlich.

„Offensichtlich" bemisst sich an Ihrem tatsächlichen Publikum, einschließlich schutzbedürftiger Gruppen wie Kindern, älteren Menschen oder Personen mit geringer Lesekompetenz, sofern diese absehbar zu Ihren Nutzern gehören. Beispiele, die ohne jeden Hinweis als offensichtlich gelten: Code-Assistenten nur für Entwickler, NPCs in Videospielen. Beispiele, die standardmäßig als nicht offensichtlich gelten: eingebettete Helpdesk- und Support-Chatbots, also genau der Anwendungsfall der meisten KMU.

Zeitpunkt: Der Hinweis muss spätestens bei der ersten Interaktion erscheinen, für jede Person einzeln, und, wo angemessen, dauerhaft sichtbar bleiben.

Was als gültig zählt: ein schriftlicher Hinweis in der ersten Bot-Nachricht, ein dauerhaftes Badge nahe der Chat-Oberfläche, eine gesprochene Ansage zu Beginn eines Sprachanrufs, oder eine Kombination davon über mehrere Kanäle hinweg.

Was für sich allein nicht genügt: den Hinweis in AGB oder Dokumentation zu vergraben, eine nur maschinenlesbare Markierung ohne für Menschen sichtbares Signal oder ein Audiosignal (Earcon) ohne begleitende Worte.

Was gar nicht erfasst ist: Agent-Assist, also der Fall, dass die KI eine Antwort entwirft, ein Mensch sie aber prüft und versendet, fällt nicht unter Artikel 50 Absatz 1. Nur vollautomatische Antworten lösen die Pflicht aus.

Die exakten Formulierungen zum Einfügen, also Badge-Text und Hinweis für die erste Nachricht auf Deutsch, Englisch und Französisch, liefert der kostenlose Hinweistext-Generator.

Zwei Umsetzungsdetails, die Sie von Anfang an einbauen sollten: Machen Sie den Hinweis barrierefrei (ein Screenreader-Label, kein reiner Farbcode), und vereinfachen Sie die Sprache, wenn Minderjährige absehbar zu Ihrem Publikum gehören. Beides stammt aus derselben Umsetzungs-Guidance, auf der das Hinweispaket aufbaut, und beides ist beim Bau günstig, nachträglich aber teuer.

Ebenso wichtig ist, was diese Pflicht nicht ist: keine Zertifizierung, kein technischer Standard, keine Vorgabe für das Tooling eines bestimmten Anbieters, sondern eine Informationspflicht, die mit klarer, sichtbarer, richtig platzierter Sprache erfüllt ist. Unternehmen, die hier überdimensionieren, lösen meist ein schwierigeres Problem als das, das die Verordnung tatsächlich stellt.