Die Kennzeichnungspflicht nach dem AI Act gilt seit 2. August 2026 und betrifft insbesondere Chatbots, KI-generierte Inhalte, Deepfakes sowie bestimmte Systeme zur Emotionserkennung und biometrischen Kategorisierung. Kurz vor dem Anwendungsbeginn hat die Europäische Kommission dazu finale Leitlinien veröffentlicht. Für Unternehmen stellt sich daher die praktische Frage: Wann müssen KI-Inhalte tatsächlich gekennzeichnet werden?

Kurz vor dem Anwendungsbeginn hat die Europäische Kommission neue Leitlinien veröffentlicht. Diese zeigen: Nicht jeder Text, jedes Bild oder jede E-Mail, die mithilfe künstlicher Intelligenz erstellt wurde, muss künftig mit einem sichtbaren Hinweis „KI-generiert" versehen werden. Entscheidend ist vielmehr, wer KI einsetzt, um welche Art von Inhalt es sich handelt und wofür dieser verwendet wird.

Wen betrifft die Kennzeichnungspflicht nach dem AI Act?

Der AI Act – die Verordnung (EU) 2024/1689 – gilt grundsätzlich seit 2. August 2026 in weiten Teilen unmittelbar. Die Transparenzpflichten des Art 50 AI Act unterscheiden dabei insbesondere zwischen Anbietern eines KI-Systems und Betreibern, also Unternehmen oder anderen Personen, die ein KI-System in eigener Verantwortung beruflich einsetzen.

Für die Praxis sind vor allem fünf Bereiche relevant:

• Interaktion von Menschen mit KI-Systemen, etwa Chatbots;
• maschinenlesbare Kennzeichnung bestimmter KI-generierter Inhalte durch Anbieter;
• Informationspflichten beim Einsatz von Emotionserkennungs- oder biometrischen Kategorisierungssystemen;
• Offenlegung beim Einsatz von Deepfakes;
• Kennzeichnung bestimmter KI-generierter Texte zu Angelegenheiten von öffentlichem Interesse.

Damit ist wichtig: Die oft anzutreffende Aussage, seit August 2026 müsse jeder KI-generierte Inhalt sichtbar gekennzeichnet werden, greift zu kurz.

Müssen Chatbots als KI gekennzeichnet werden?

Anbieter von KI-Systemen, die unmittelbar mit Menschen interagieren, müssen grundsätzlich dafür sorgen, dass die betroffenen Personen darüber informiert werden, dass sie mit einem KI-System kommunizieren.

Ein typisches Beispiel ist ein KI-Chatbot auf einer Unternehmenswebsite. Für den Nutzer muss grundsätzlich erkennbar sein, dass er nicht mit einem Menschen kommuniziert.

Eine zusätzliche Information ist allerdings nicht erforderlich, wenn die KI-Nutzung für eine angemessen informierte, aufmerksame und verständige Person aufgrund der Umstände und des Nutzungskontexts ohnehin offensichtlich ist.

Unternehmen sollten daher ihre bestehenden Chatbots und automatisierten Kommunikationssysteme überprüfen und insbesondere klären, ob die KI-Nutzung für Nutzer ausreichend transparent ist.

Müssen KI-generierte Bilder und Texte gekennzeichnet werden?

Hier ist zwischen einer technischen Kennzeichnung durch den Anbieter des KI-Systems und einer sichtbaren Offenlegung durch den Nutzer bzw. Betreiber zu unterscheiden.

Anbieter von KI-Systemen, die synthetische Audio-, Bild-, Video- oder Textinhalte erzeugen, müssen grundsätzlich sicherstellen, dass die Ausgaben in einem maschinenlesbaren Format gekennzeichnet und als künstlich erzeugt oder manipuliert erkennbar sind.

Für KI-Systeme, die bereits vor dem 2. August 2026 am Markt waren, gilt für diese technische Kennzeichnungspflicht eine Übergangsfrist bis 2. Dezember 2026. Unternehmen, die bereits im Einsatz befindliche generative KI-Systeme betreiben oder bereitstellen, sollten diese Frist im Blick behalten.

Das bedeutet aber gerade nicht, dass jedes Unternehmen, das beispielsweise mit einem KI-Tool ein Bild für eine Präsentation oder einen Textentwurf erstellt, automatisch daneben „KI-generiert" schreiben muss.

Für Betreiber sieht der AI Act sichtbare Offenlegungspflichten vielmehr für bestimmte Konstellationen vor.

Sonderfall: Emotionserkennung und biometrische Kategorisierung

Neben den genannten Bereichen enthält Art 50 AI Act eine eigene Informationspflicht für Betreiber von Emotionserkennungssystemen oder Systemen zur biometrischen Kategorisierung.

Wer ein solches System beruflich einsetzt, muss die davon betroffenen natürlichen Personen über den Betrieb des Systems informieren – zusätzlich zu den ohnehin bestehenden Anforderungen aus DSGVO und weiteren datenschutzrechtlichen Vorgaben. Praktisch relevant ist das etwa für Unternehmen, die Emotionserkennung in Callcentern, im HR-Screening oder im stationären Handel sowie biometrische Kategorisierung, etwa zur Alters- oder Geschlechtsschätzung, einsetzen.

Auch hier gilt: Diese Informationspflicht besteht unabhängig davon, ob der jeweilige Inhalt später veröffentlicht wird – sie knüpft bereits am Einsatz des Systems gegenüber den betroffenen Personen an.

Deepfakes müssen offengelegt werden

Besonders streng sind die Regeln für Deepfakes.

Wer ein KI-System beruflich einsetzt, um Bild-, Audio- oder Videoinhalte zu erzeugen oder zu manipulieren, die einen Deepfake darstellen, muss offenlegen, dass diese Inhalte künstlich erzeugt oder manipuliert wurden.

Der AI Act versteht darunter KI-generierte oder manipulierte Bild-, Ton- oder Videoinhalte, die existierenden Personen, Gegenständen, Orten, Einrichtungen oder Ereignissen ähneln und einer Person fälschlicherweise als authentisch oder wahrheitsgemäß erscheinen könnten.

Für offensichtlich künstlerische, kreative, satirische oder fiktionale Werke gelten Erleichterungen. Die Offenlegung darf in diesen Fällen die Darstellung oder den Genuss des Werks nicht beeinträchtigen.

Was gilt für KI-generierte Texte?

Auch bei Texten besteht keine generelle Kennzeichnungspflicht für jeden KI-generierten Inhalt.

Eine Offenlegung ist insbesondere erforderlich, wenn ein KI-System Text erzeugt oder manipuliert und dieser veröffentlicht wird, um die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse zu informieren.

Allerdings enthält der AI Act eine für Medien, Unternehmen und professionelle Content-Ersteller wichtige Ausnahme: Eine Kennzeichnung ist insoweit nicht erforderlich, wenn der KI-generierte Inhalt einem menschlichen Überprüfungsprozess oder einer redaktionellen Kontrolle unterzogen wurde und eine natürliche oder juristische Person die redaktionelle Verantwortung für die Veröffentlichung trägt.

Wer KI lediglich als Werkzeug für Entwürfe verwendet und die Texte anschließend eigenständig prüft und redaktionell verantwortet, befindet sich daher in einer anderen Situation als jemand, der automatisiert KI-generierte Beiträge zu öffentlichen Themen veröffentlicht.

Wie und wann müssen die Informationen bereitgestellt werden?

Art 50 AI Act regelt nicht nur, in welchen Fällen informiert werden muss, sondern auch, wie und wann dies zu geschehen hat. Diese Querschnittsregel gilt für alle zuvor genannten Bereiche gleichermaßen.

Die jeweiligen Informationen müssen den betroffenen Personen in klarer und unterscheidbarer Weise bereitgestellt werden – spätestens zum Zeitpunkt der ersten Interaktion oder Exposition, also nicht erst nachträglich. Zusätzlich müssen die Informationen den geltenden Barrierefreiheitsanforderungen entsprechen.

Für die Praxis bedeutet das: Ein Hinweis, der erst nach der eigentlichen Nutzung erscheint oder für Nutzer mit Behinderungen nicht zugänglich ist, genügt den Anforderungen des AI Act nicht. Unternehmen sollten daher nicht nur prüfen, ob eine Kennzeichnung erforderlich ist, sondern auch, ob deren konkrete Umsetzung – Zeitpunkt, Gestaltung, Zugänglichkeit – den gesetzlichen Vorgaben entspricht.

Was bedeutet das für Marketing und Social Media?

Gerade Marketingabteilungen verwenden inzwischen regelmäßig generative KI für Texte, Bilder und Videos.

Unternehmen sollten deshalb nicht pauschal jeden KI-Einsatz kennzeichnen, sondern zunächst prüfen:

1. Welches KI-System wird eingesetzt?
2. Ist das Unternehmen Anbieter oder Betreiber des Systems?
3. Welche Art von Inhalt wird erzeugt oder verändert?
4. Handelt es sich um einen Deepfake?
5. Informiert ein KI-generierter Text über eine Angelegenheit von öffentlichem Interesse?
6. Findet eine echte menschliche bzw. redaktionelle Kontrolle statt?
7. Kommt ein Emotionserkennungs- oder biometrisches Kategorisierungssystem zum Einsatz?
8. Wird die erforderliche Information klar, unterscheidbar, rechtzeitig und barrierefrei bereitgestellt?

Bei klassischen Werbetexten, internen Entwürfen oder KI-unterstützter Standardbearbeitung besteht daher nicht automatisch eine sichtbare Kennzeichnungspflicht.

Bei Deepfakes, bestimmten Veröffentlichungen zu öffentlichen Angelegenheiten, dem Einsatz von Emotionserkennung bzw. biometrischer Kategorisierung oder der unmittelbaren Kommunikation mit einem KI-System kann die Rechtslage hingegen anders aussehen. Die Kommission hat zur praktischen Umsetzung zusätzlich einen freiwilligen Code of Practice on Transparency of AI-generated Content veröffentlicht.

Welche Strafen drohen bei Verstößen?

Die Transparenzpflichten des Art 50 AI Act sind keine bloßen Empfehlungen.

Art 99 AI Act sieht für Verstöße gegen Art 50 grundsätzlich Geldbußen von bis zu EUR 15 Millionen oder – bei Unternehmen – bis zu 3 % des weltweiten Jahresumsatzes des vorangegangenen Geschäftsjahres vor, wobei grundsätzlich der höhere Betrag maßgeblich ist. Für KMU einschließlich Start-ups gilt allerdings jeweils der niedrigere der beiden Höchstbeträge. Die konkrete Sanktion muss zudem verhältnismäßig sein und die Umstände des Einzelfalls berücksichtigen.

Unternehmen sollten die neuen Transparenzpflichten daher nicht lediglich als Thema für ihre IT-Abteilung behandeln.

Was sollten Unternehmen jetzt tun?

Unternehmen, die generative KI einsetzen, sollten ihre bestehenden Anwendungen zunächst erfassen und nach ihrer Funktion unterscheiden. Sie sollten dabei zunächst prüfen, ob ihre konkreten KI-Anwendungen überhaupt unter die Kennzeichnungspflicht nach dem AI Act fallen. Besonders relevant sind öffentlich eingesetzte Chatbots, KI-generierte Marketinginhalte, automatisierte Content-Produktion, Anwendungen zur Bild-, Audio- und Videoerstellung sowie Systeme zur Emotionserkennung oder biometrischen Kategorisierung.

Anschließend sollte geprüft werden, welche Rolle das Unternehmen nach dem AI Act einnimmt und ob eine technische Kennzeichnung oder sichtbare Offenlegung erforderlich ist – und, falls ja, ob diese den Vorgaben zu Zeitpunkt, Klarheit und Barrierefreiheit entspricht.

Dabei sollte der AI Act nicht isoliert betrachtet werden. Je nach Anwendung können zusätzlich insbesondere DSGVO, Urheberrecht, Persönlichkeitsrechte und Wettbewerbsrecht relevant sein.

Bereits in unserem Beitrag zum Recht am eigenen Bild bei KI-Tools haben wir die Schnittstelle zwischen AI Act, Datenschutz und Persönlichkeitsrechten näher dargestellt.

Fazit: Keine pauschale Kennzeichnungspflicht für jeden KI-Inhalt

Seit 2. August 2026 gelten die Transparenzpflichten des AI Act. Unternehmen müssen insbesondere bei Chatbots, Emotionserkennung, Deepfakes und bestimmten KI-generierten Veröffentlichungen neue Vorgaben beachten. Dabei müssen Sie auch die Vorgaben zu Zeitpunkt, Klarheit und Barrierefreiheit der Information im Blick behalten.

Die Kennzeichnungspflicht nach dem AI Act bedeutet daher nicht, dass Unternehmen jeden mit künstlicher Intelligenz erstellten Inhalt sichtbar als solchen markieren müssen. Entscheidend sind vielmehr die konkrete Anwendung, die Rolle des Unternehmens und die Art des erzeugten oder bearbeiteten Inhalts

Die neuen Leitlinien der Europäischen Kommission schaffen hierzu wichtige Orientierung. Unternehmen sollten dennoch im Einzelfall prüfen, welche Pflichten für ihre konkreten KI-Anwendungen gelten. Die offiziellen Leitlinien der Europäischen Kommission zu Art 50 AI Act geben hierfür den regulatorischen Rahmen vor.

Sie haben Fragen zum AI Act oder zum Einsatz von KI in Ihrem Unternehmen?

Wir beraten Unternehmen bei der rechtssicheren Einführung und Nutzung von künstlicher Intelligenz – von der Einordnung eines KI-Systems nach dem AI Act über interne KI-Richtlinien bis zu Fragen des Datenschutzes, Urheberrechts und der Vertragsgestaltung.

Mehr zu unserer Beratung finden Sie im Bereich KI-Recht bei GEUER Rechtsanwälte. Gerne unterstützen wir Sie auch bei der konkreten Prüfung Ihrer KI-Anwendungen.