Was ab August bei KI-Inhalten kenntlich werden muss

Die EU-Kommission hat Leitlinien zu den Transparenzpflichten nach Artikel 50 des AI Act veröffentlicht. Sie erläutern, welche Anbieter und Betreiber betroffen sind, welche Inhalte gekennzeichnet werden müssen und welche Ausnahmen gelten. Die Pflichten sind ab dem 2. August 2026 anzuwenden.

Artikel 50 unterscheidet mehrere Fallgruppen. Dazu gehören die direkte Interaktion mit KI-Systemen, maschinenlesbare Markierungen künstlich erzeugter oder veränderter Inhalte sowie Offenlegungspflichten bei Deepfakes, bestimmten Texten, Emotionserkennung und biometrischer Kategorisierung.

Direkte Interaktion mit KI

Anbieter müssen KI-Systeme, die unmittelbar mit Menschen interagieren, so gestalten, dass die betroffenen Personen darüber informiert werden. Eine zusätzliche Information ist nicht erforderlich, wenn für eine angemessen informierte, aufmerksame und umsichtige Person unter den jeweiligen Umständen offensichtlich ist, dass sie mit einem KI-System kommuniziert.

Die Information muss klar und unterscheidbar erfolgen. Nach den Leitlinien soll sie spätestens bei der ersten Interaktion oder Exposition bereitgestellt werden. Ein bestimmtes Symbol oder eine feste Formulierung schreibt Artikel 50 dafür nicht vor.

Maschinenlesbare Kennzeichnung künstlicher Inhalte

Anbieter von KI-Systemen, die künstliche Audio-, Bild-, Video- oder Textinhalte erzeugen, müssen ihre Ausgaben in einem maschinenlesbaren Format kennzeichnen. Die technischen Lösungen sollen wirksam, interoperabel, robust und zuverlässig sein, soweit dies technisch machbar ist.

Diese Pflicht gilt auch für Anbieter von KI-Systemen für allgemeine Zwecke, sofern die Systeme solche Inhalte erzeugen. Nicht erfasst sind Fälle, in denen ein System lediglich eine unterstützende Funktion bei üblichen Bearbeitungen übernimmt oder Eingabedaten und deren Bedeutung nicht wesentlich verändert. Diese Ausnahme betrifft die maschinenlesbare Kennzeichnung, nicht sämtliche Transparenzpflichten nach Artikel 50.

Hinweise bei Deepfakes und öffentlichen Texten

Betreiber müssen offenlegen, wenn Bild-, Audio- oder Videoinhalte künstlich erzeugt oder verändert wurden und als Deepfake gelten. Bei offensichtlich künstlerischen, kreativen, satirischen, fiktionalen oder vergleichbaren Werken kann die Offenlegung in einer Form erfolgen, die Darstellung und Nutzung des Werks nicht beeinträchtigt.

Eine weitere Pflicht betrifft künstlich erzeugte oder veränderte Texte, die die Öffentlichkeit über Themen von öffentlichem Interesse informieren sollen. Der künstliche Ursprung muss grundsätzlich offengelegt werden. Die Pflicht entfällt, wenn der Inhalt einer menschlichen Prüfung oder redaktionellen Kontrolle unterzogen wurde und eine natürliche oder juristische Person die redaktionelle Verantwortung für die Veröffentlichung trägt.

Auch beim Einsatz von Emotionserkennung oder biometrischer Kategorisierung müssen Betreiber die betroffenen Personen über den Betrieb des Systems informieren. Daneben bleiben die einschlägigen Datenschutzvorschriften anwendbar.

Leitlinien und freiwilliger Verhaltenskodex

Die Pflichten aus Artikel 50 sind rechtlich verbindlich. Ergänzend hat die EU einen freiwilligen Verhaltenskodex für die Kennzeichnung und Offenlegung KI-generierter Inhalte veröffentlicht. Er soll Anbieter und Betreiber bei der Umsetzung der Pflichten nach Artikel 50 Absätze 2, 4 und 5 unterstützen.

Unterzeichner können die im Kodex beschriebenen Maßnahmen als Umsetzungsweg nutzen. Anbieter und Betreiber, die andere Verfahren wählen, müssen gegenüber den zuständigen Behörden darlegen können, dass ihre Maßnahmen angemessen sind. Die Leitlinien decken Artikel 50 insgesamt ab, während der Kodex auf die Kennzeichnung und Offenlegung künstlich erzeugter oder veränderter Inhalte ausgerichtet ist.