Transparenzpflicht für KI-generierte Inhalte

Ab August 2026 tritt die sogenannte Transparenzpflicht für KI-generierte Inhalte in Kraft – wie können sich Kreative und Unternehmen darüber informieren?

Falschinformationen überall

Ähnlich wie bei der DSGVO gibt es allerhand Panikmache zu dem Thema. Auch ich werde in meinen Workshops und Webinare rund um KI immer zu rechtlichen Themen gefragt. Nun kommt dieses Jahr die Transparenzpflicht laut dem AI Act und natürlich schwirren mal wieder viele Falschinformationen darüber im Netz. Also gehen wir das Thema Schritt für Schritt an.

Was ist die Transparenzpflicht?

Der Artikel 50 Transparenzpflicht (nicht Kennzeichnungspflicht – auch wenn viele es so nennen) des EU AI Act will nichts weiter, als dass wir maschinell erzeugte Inhalte klar als solche ausweisen – damit jede:r sofort erkennen kann, dass es sich hier um etwas handelt, das mit Hilfe einer KI generiert wurde. Sozusagen ein Schutz der Verbraucher:innen. Das gilt sowohl für Texte auch als andere Medien wie Bilder, Musik, Video usw.

Auch muss klar erkennbar sein, dass man gerade mit einer KI interagiert und nicht mit einer realen Person. Das ist besonders wichtig, wenn man Support- und Chat-Bots einsetzt.

In dem Artikel heißt es:

„Die Anbieter von KI-Systemen, einschließlich KI-Systemen für allgemeine Zwecke, die synthetische Audio-, Bild-, Video- oder Textinhalte erzeugen, stellen sicher, dass die Ausgaben des KI-Systems in einem maschinenlesbaren Format gekennzeichnet sind und als künstlich erzeugt oder manipuliert erkannt werden können.“

Das gilt erstmal den Anbietern dieser KI-Systeme. Wichtig für viele Kreative ist dieser Teil:

„Wer ein KI-System einsetzt, das Bild-, Audio- oder Videoinhalte erzeugt oder manipuliert, die einen Deep Fake darstellen, muss offenlegen, dass die Inhalte künstlich erzeugt oder manipuliert wurden.“

Wenn ich also ein Bild von mir selbst generiere, bei dem ich ein erstes Buch „KI für Kreative“ als Plüschversion in den Armen halte, dann ist das ein Deepfake und muss gekennzeichnet werden. Das folgende Bild wurde mit ChatGPT generiert:

Doch was bedeutet das für die Werbebranche? Wenn wir also zukünftig Produktbilder und Co. mit Ki generieren, müssen wir das kennzeichnen? Hierzu finden ich folgenden Teil des Artikel 50 interessant:

„Ist der Inhalt Teil eines offensichtlich künstlerischen, kreativen, satirischen, fiktionalen oder analogen Werks oder Programms, so beschränken sich die in diesem Absatz genannten Transparenzpflichten auf die Offenlegung des Vorhandenseins eines solchen künstlich erzeugten oder manipulierten Inhalts in einer angemessenen Weise, die die Darstellung oder den Genuss des Werks nicht beeinträchtigt.“

Was das im Einzelfall bedeutet? Das weiß noch niemand so genau, denn es gibt ja noch keine Präzedenzfälle dazu. Wer auf Nummer sicher gehen möchte, holt sich am besten anwaltliche Hilfe dazu. Doch wie ist es mit Texten?

„Wer ein KI-System einsetzt, das Text generiert oder manipuliert, der zu dem Zweck veröffentlicht wird, die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse zu informieren, muss offenlegen, dass der Text künstlich generiert oder manipuliert wurde.“

Für Zeitungen und andere Redaktionen ist das also absolut zutreffend. Ob das auch für Blogs wie diesen hier gilt? Ich würde sagen, ja – denn ich möchte ja die Öffentlichkeit informieren. Aber es gibt es spannende Ausnahmeregelung:

„Diese Verpflichtung gilt nicht, […] wenn die KI-generierten Inhalte einer menschlichen Überprüfung oder redaktionellen Kontrolle unterzogen wurden und eine natürliche oder juristische Person die redaktionelle Verantwortung für die Veröffentlichung der Inhalte trägt.“

Aha! Also wenn ich meinen Blogartikel von der KI schreiben lasse und mit meinem Namen dahinterstehe und diesen auch gewissenhaft kontrolliere, muss ich nicht kennzeichnen, dass er KI-generiert wurde.

Wie muss gekennzeichnet werden?

Dazu gibt es keine Vorgaben, es obliegt uns also selbst, wie wir das Ganze gestalten wollen. Das kann eine Bildunterschrift sein oder ein Hinweis am Ende eines Artikels. Bei Büchern und Magazinen eventuell im Impressum. Auch hier sollte man sich vorher informieren. Meine Herangehensweise ist die volle Transparenz, also z. B.:

• Bild KI-generiert
• Bild mit Midjourney generiert
• Der Text wurde mit Hilfe von ChatGPT generiert und von mir bearbeitet
• Der Text wurde von mir geschrieben und mit KI korrigiert
• usw.

Auf Social Media gibt es ja bereits einige Möglichkeiten, Bilder als KI-generiert zu kenneichnen. Bei LinkedIn ist es z. B. dieser Button oben Links.

Bei Instagram kann ich die Kennzeichnung aktivieren, bevor ich einen Beitrag veröffentliche.

Meine Empfehlung als KI-Expertin

Ich bin freiberuflich tätig als Designerin, Fotografin und Autorin. Ich halte Workshops und Vorträge. Dabei bin ich immer absolut transparent, was meinen Einsatz von KI angeht. Natürlich gibt es auch viele, die eher abgeschreckt sind, wenn sie lesen, dass etwas mit KI generiert wurde. Noch schlimmer ist es, wenn die Bilder, Videos oder Texte nicht richtig geprüft wurden und Fehler enthalten. Auch wenn diese etwas realistisches darstellen sollen, aber eindeutig als KI-generiert zu erkennen sind, kann auf Ablehnung stoßen. Das hat schon den einen oder anderen Shitstorm ausgelöst oder dafür gesorgt, dass Unternehmen die Inhalte wieder gelöscht haben.

Daher kennzeichne ich immer, wenn KI im Spiel war. Hier die wichtigsten Punkte, die ich immer dabei beherzige:

• Ist der Einsatz von KI hier sinnvoll, oder geht es anders besser?
• Ist die Qualität ausreichend?
• Soll die KI meine Arbeit unterstützen oder mir Aufgaben komplett abnehmen?
• Könnte der Einsatz von KI die Glaubwürdigkeit oder Kundenbeziehung schädigen?
• Geht es mit KI wirklich schneller, oder gehe ich lieber einen anderen Weg?

Am Ende gilt immer: Wir erstellen Medien, die für Menschen gemacht sind. Die sollen diese sehen, sich informiert, inspiriert oder unterhalten fühlen. KI ist ein wunderbares Tool, um zu diesem Ziel zu kommen – wenn wir nicht vergessen, unser eigenes Hirn einzuschalten und unsere eigene Kreativität mit einbringen.