Muss mein Chatbot sagen, dass er eine KI ist?
Die Pflicht besteht, aber sie trifft den Anbieter des Chat-Systems, nicht automatisch Sie als Website-Betreiber. Ausgenommen ist ohnehin, was für einen aufmerksamen Menschen offensichtlich ist. Praktisch lohnt der Hinweis trotzdem, und er kostet einen Satz.
Was die Norm verlangt
Artikel 50 Absatz 1 verlangt, dass KI-Systeme, die unmittelbar mit Menschen interagieren, so gestaltet sind, dass die betroffene Person erkennt, dass sie mit einer KI spricht. Die Pflicht richtet sich an die Anbieter dieser Systeme.
Die Anbieter stellen sicher, dass KI-Systeme, die für die direkte Interaktion mit natürlichen Personen bestimmt sind, so konzipiert und entwickelt werden, dass die betreffenden natürlichen Personen informiert werden, dass sie mit einem KI-System interagieren, es sei denn, dies ist aus Sicht einer angemessen informierten, aufmerksamen und verständigen natürlichen Person aufgrund der Umstände und des Kontexts der Nutzung offensichtlich. Diese Pflicht gilt nicht für gesetzlich zur Aufdeckung, Verhütung, Ermittlung oder Verfolgung von Straftaten zugelassene KI-Systeme, wenn geeignete Schutzvorkehrungen für die Rechte und Freiheiten Dritter bestehen, es sei denn, diese Systeme stehen der Öffentlichkeit zur Anzeige einer Straftat zur Verfügung.
Die Ausnahme, die oft übersehen wird
Der Wortlaut nimmt aus, was "aus Sicht einer angemessen informierten, aufmerksamen und verständigen natürlichen Person aufgrund der Umstände und des Kontexts der Nutzung offensichtlich" ist.
Ein Widget, das sich "KI-Assistent" nennt und mit einem Roboter-Symbol auftritt, dürfte darunter fallen. Ein Widget, das mit einem Porträtfoto und dem Namen "Sandra" auftritt, sicher nicht. Je menschlicher die Aufmachung, desto weniger trägt die Ausnahme.
Wichtig. Auf die Offensichtlichkeit zu setzen, ist die riskantere Variante. Ein ausdrücklicher Hinweis ist billiger als die Diskussion darüber, was offensichtlich war.
Wen es wirklich trifft
Wenn Sie ein fertiges Widget einbinden, sind Sie Betreiber. Die Gestaltungspflicht liegt beim Anbieter. Das ändert sich, wenn Sie das System unter eigenem Namen oder eigener Marke einsetzen oder wesentlich verändern.
Für Sie als Betreiber bleibt der praktische Handlungsspielraum: Einstellung suchen, Begrüßungstext anpassen, beim Anbieter nachfragen.
Was das Werkzeug hier misst
KIVOscan erkennt eingebundene Chat- und Assistenzsysteme an ihren technischen Spuren und prüft, ob im sichtbaren Text und in den Beschriftungen des Widgets ein Hinweis auf KI vorkommt.
Es kann nicht beurteilen, ob der konkrete Bot tatsächlich KI-gestützt antwortet. Deshalb ist ein Fund hier ein Anlass zur Prüfung, keine Feststellung.
Passt dazu
- Bin ich Anbieter oder Betreiber, und warum ist das so wichtig?Die KI-Verordnung verteilt ihre Pflichten auf zwei Rollen.
- Wie formuliere ich den KI-Hinweis im Chat?Kurz, am Anfang des Gesprächs und ohne Fachsprache.
- Ist mein Chat-Widget überhaupt eine KI?Nicht jedes Chat-Widget ist ein KI-System.
Stand dieses Artikels: 2026-08-01. Er erklärt die Rechtslage allgemein und bewertet keinen Einzelfall. Warum das kein Rechtsrat ist.