Kennzeichnungspflicht für KI-generierte Inhalte

Nach einer zweijährigen Übergangsfrist gelten seit dem 2. August 2026 die in der europäischen KI-Verordnung (AI Act) festgelegten Transparenzpflichten für bestimmte KI-Systeme und KI-generierte Inhalte.

---

Die KI-Verordnung verfolgt einen risikobasierten Ansatz: Je höher das Risiko eines KI-Systems, desto strenger sind die gesetzlichen Anforderungen. Die meisten kleinen und mittleren Unternehmen (KMU) sind dabei Betreiber von KI-Systemen. Sie setzen Künstliche Intelligenz im beruflichen Alltag ein, entwickeln diese jedoch nicht selbst. Für Betreiber stehen daher vor allem organisatorische Pflichten im Vordergrund, während die umfangreicheren Anforderungen insbesondere für Anbieter und Hersteller gelten.

Zu den seit August 2026 geltenden Transparenzpflichten gehören insbesondere:

• KI-Chatbots müssen als solche erkennbar sein: Nutzerinnen und Nutzer sind grundsätzlich darüber zu informieren, wenn sie mit einer KI kommunizieren. Dies gilt sowohl für Chatbots als auch für KI-gestützte Telefonassistenten oder automatisch generierte Kundenkommunikation.
• KI-generierte Inhalte müssen technisch gekennzeichnet werden: Anbieter generativer KI-Systeme, die ihre Systeme neu auf den Markt bringen, müssen künstlich erzeugte oder manipulierte Inhalte grundsätzlich maschinenlesbar kennzeichnen. Für bereits eingesetzte Systeme gilt hierfür eine Übergangsfrist bis Dezember 2026.
• Deepfakes müssen offengelegt werden: Künstlich erzeugte oder manipulierte Bilder, Videos und Audiodateien, die einen realen Eindruck vermitteln können, sind entsprechend zu kennzeichnen. Dies betrifft auch fotorealistische Produktdarstellungen ohne reales Vorbild. Das Gesetz definiert den Begriff Deepfake sehr weit: Alles, was man für echt halten könne, sei es ein Strand, eine Katze oder ein Mensch, falle darunter. Zahlreiche Ausnahmen machten die Anwendung im Alltag zum Rätselraten. Ausgenommen sind beispielsweise Illustrationen, Icons sowie einfache Bildbearbeitungen oder Farbkorrekturen.
• Bestimmte KI-generierte Texte müssen kenntlich gemacht werden: Dies betrifft Texte, die die Öffentlichkeit über Themen von allgemeinem Interesse informieren sollen. Eine Kennzeichnung ist jedoch in der Regel nicht erforderlich, wenn der Inhalt vor der Veröffentlichung von einem Menschen inhaltlich geprüft wurde und eine natürliche oder juristische Person die redaktionelle Verantwortung übernimmt. Ebenfalls ausgenommen sind unter anderem Produktbeschreibungen, Übersetzungen sowie reine Rechtschreib- und Stilkorrekturen.

Für die Kennzeichnung KI-generierter Inhalte genügt in der Regel ein Hinweis wie:

„Dieser Inhalt bzw. diese Abbildung wurde mit Unterstützung Künstlicher Intelligenz erstellt.“

Bereits seit Februar 2025 verpflichtet die KI-Verordnung Unternehmen außerdem dazu, die KI-Kompetenz ihrer Mitarbeitenden sicherzustellen. Beschäftigte, die KI-Systeme im Unternehmen nutzen oder mit ihnen arbeiten, müssen daher entsprechend geschult werden.

Weitere Informationen zur KI-Verordnung sowie praxisnahe Beispiele für kleine und mittlere Unternehmen bietet der Leitfaden des Mittelstand-Digital Zentrums Kaiserslautern.

---