Kennzeichnungspflichten für KI-Outputs

Das ZDF hat im „Heute Journal“ in einem Bericht über die umstrittene US-Migrationsbehörde ICE auch KI-generiertes Bildmaterial ausgestrahlt, ohne dieses als solches zu kennzeichnen oder es einzuordnen. Dieser Fauxpas zeigt: Die Aufmerksamkeit für KI-Kennzeichnungen ist groß und ihre Bedeutung nimmt zu – auf jeden Fall bezüglich journalistischer Berichterstattung, aber im Nachgang zu diesem Fail auch in anderen Bereichen.

Die Dimensionen der KI-Kennzeichnung

Will man die Transparenz beim Einsatz von KI erörtern, hat eine solche Betrachtung mehrere Dimensionen oder schwerpunktmäßige Aspekte:

• Erstens geht es um die Inhalte und Daten, mit denen ein großes Sprachmodell oder ein KI-System trainiert und feinjustiert werden, in aller Regel mit massenhaft urheberrechtlich geschützten Werken. Urheber und Rechteinhaber*innen wollen Kenntnis darüber erhalten, ob auch ihre Werke dabei waren, weil ihnen dann grundsätzlich Vergütungen zustehen, sofern nicht Ausnahmeregelungen greifen. Datenschützende wiederum möchten Nachweise sehen, dass KI-Systeme keine personenbezogenen Daten nutzten und erst recht nicht verarbeiten und in Outputs ausgeben.

• Zweitens sollen KI-Anbieter und -Betreiber bei ganz bestimmten Anwendungsbereichen transparent machen und kennzeichnen, wenn dort ein KI-gestütztes System automatisierte Entscheidungen fällt. Das gilt insbesondere in Risiko- und Hochrisikobereichen, wie beispielsweise bei biometrischen Erkennungssystemen, im medizinischen Sektor und überall dort, wo Menschen oder die Sicherheit der Menschen gefährdet sein können.

• Drittens geht es darum, mediale Inhalte zu kennzeichnen, die vollständig oder teilweise KI-generiert oder -manipuliert wurden, die KI-Outputs. Neben Texten und Dokumenten sind hier insbesondere Bilder, Bewegtbilder oder Stimmen und Audioinhalte gemeint, die täuschend echt aussehen oder sich täuschend echt anhören, die von realen, Wirklichkeit abbildenden Inhalten kaum noch zu unterscheiden sind, wie Fakes, Deepfakes und synthetische Inhalte.

Die Frage ist längst nicht mehr, ob oder wann Kennzeichnungspflichten kommen. Das steht längst fest: laut EU-KI-VO ab 2. August diesen Jahres. Vielmehr lauten die Fragen zum einen für Anbieter, Betreiber und Plattformen, wen die Pflichten konkret betreffen und was die Kennzeichnungen enthalten müssen. Zum anderen fragen wir Nutzer*innen und Verbraucher*innen uns, wie die Kennzeichnungen zu handhaben sind und was sie versprechen oder auch garantieren, sprich gewährleisten.

• Werden sie uns, wie die allgegenwärtigen Cookie-Dialoge ebenso unvermeidbar und x-fach täglich entgegenspringen und um wiederholte Kenntnisnahme betteln? Müssen wir sie aktiv suchen, wie das CE-Schildchen und die TÜV-Plakette bei Elektrogeräten, versteckt auf irgendeiner „Unterseite“?

• Winken uns KI-Kennzeichnungen neben jedem Bild, Video und Text stehend vielfarbig zu, im Stil der Energieeffizienzangaben auf Elektrogeräten: je grüner desto weniger KI, desto beruhigender? (Oder, ganz anders gedacht, zu jedem KI-generierten oder -manipuliertem Inhalt wird auch der dafür vom KI-System aufgewendete Strom- und Wasserverbrauch ausgewiesen und farbig markiert : je röter, desto mehr blutet das (eigene) Ökogewissen … )

• Oder läuft es auf schlichte, formalisierte Inhaltsangaben und Entstehungsdaten hinaus: Gestelzte Texte mit nerdigen Fachbegriffen und kryptischen Abkürzungen – also  „Kennzeichnungsgedöns“, das Äquivalent zur Packungsbeilage bei Medikamenten (die wir meistens erst dann lesen wenn die Nebenwirkungen bereits eingesetzt haben) ?

Erste Entwürfe für KI-Kennzeichnungs-Symbole liegen vor

Vor kurzem legte die EU-Kommission eine erste Fassung des kommenden „Code of Practice“ (CoP) vor, den sie derzeit von einer vielköpfigen Arbeitsgruppe erarbeiten lässt. In diesem Dokument, auch Praxisleitfaden genannt, finden sich unter anderem konkrete Vorschläge für ein KI-Kennzeichungssymbol: Farbige Kreise mit den Abkürzungen H (Human), AI-H (AI and Human; Hybrid) und AI (KI-generiert) in der Mitte, in einem Fall (AI-H) umgeben von einem Ring, dessen „Füllstand“ den Grad der KI-generierten Anteile anzeigt. Platziert in der rechten unteren Ecke des Bildes (siehe Abbildungen, dem Entwurf des CoP entnommen).

Diese Abbildungen zeigen mögliche Beispiele für KI-Kennzeichnungen und sind erste Vorschläge. Wir entnahmen sie dem First Draft Code of Practice on Transparency of AI-Generated Content“, den die EU-Kommission am 17.12.2025 veröffentlicht hat. Sie stammen vom Artifact studio (oben) und vom Centre for AI Safety (CAIS).

Diese Entwürfe/Beispiele legen Vergleiche zu den Nährstoffangaben bei Lebensmitteln nahe, die ja teilweise ähnliche Prozentangaben und farbige Markierungen enthalten.

Ob nun so gestaltet oder anders, neben diesen Überlegungen einer Kennzeichnung werden uns auch weitere Hinweise, Labels, Symbole oder Markierungen begegnen. Denn wie in anderen Wirtschaftszweigen, Märkten und Alltagsbereichen auch, setzen Hersteller, Anbieter und Dienstleister gerne auf Selbstverpflichtungen und entwickeln dafür eigene Formulierungen und Visualisierungen.

Selbstverpflichtungen und eigene Kennzeichnungsregeln

Hierbei vorweggehend haben sich die etablierten, journalistisch-professionell und seriös arbeitenden Verlage, Sender, Nachrichtenagenturen und Medienhäuser zu Kennzeichnungen und Transparenz verpflichtet und in Guidelines und Kodizes verankert. Das leitet sich für sie auch aus Pressegesetzen und Medienstaatsvertrag ab, die ihnen – schon vor und ohne KI-Nutzungen – Sorgfaltspflicht, Trennungsgebote und weiteres auferlegen.

Dementsprechend sind die KI-Kennzeichnungsprozesse im Medienbereich bereits alltäglich und weitgehend Branchenstandard. Und der eingangs erwähnte aktuelle „Fall“ rund um KI-generierte und eben nicht gekennzeichnete Inhalte rund um die ICE-Berichterstattung des ZDF zeigt, dass der geübte Mechanismus der gegenseitigen Beobachtung und Kontrolle bei den Medien durchaus funktioniert – nun auch bezüglich KI-Kennzeichnungen.

Große Social Media Plattformen, wie Facebook und Instagram, üben sich bereits in KI-Kennzeichnungen. Der Facebook-Konzern Meta hat bereits 2024 ein Label „AI Info“ eingeführt, das bei KI-generierten Bildern eingeblendet wird. (Wobei die automatisierte Mechanik dahinter als noch unausgereift und daher nicht verlässlich gilt). Aber auch Unternehmenskonsortien oder Verbände, Behörden oder Organisationen: Viele empfehlen oder verordnen ihren Mitarbeitenden oder Mitgliedern in internen Richtlinien klare Kennzeichnungsregeln für KI-Outputs, bis hin zur Verwendung von Symbolen oder Standardtexten.

Nicht zuletzt wird es bei einigen Anbietern auch umgekehrte Kennzeichnungen geben: geprüfte und besiegelte Nachweise darüber, dass die veröffentlichten Texte, Fotos, Videos oder Audios garantiert ohne KI-Mithilfe entstanden: Bio-Content von humanen Ressourcen. Für Urheber von Fotos und Bewegtbildern, die journalistisch arbeiten oder aus anderen Gründen den Nachweis bringen wollen, dass ihre Werke tatsächlich die Wirklichkeit abbilden und nichts daran KI-generiert oder -manipuliert ist, gibt es bereits technische Lösungen, wie beispielsweise die des mit dem Kürzel „C2PA“ bezeichneten Verfahrens.

„KI-Kennzeichnungs-Literacy“

Ob nun unsichtbar, maschinenlesbar und unentfernbar, ob in Textform oder als Piktogramm deutlich wahrnehmbar: Man kann sich leicht vorstellen, dass uns in Sachen KI-Kennzeichnungen bald eine bunte Hinweis- und Banner-, Schilder- und Label-, Siegel- und Zertifikate-„Botanik“ blüht. Wir werden uns daran gewöhnen müssen. Besser gesagt: wir sollten uns daran gewöhnen wollen. Weil eine „KI-Kennzeichnungs-Literacy“ genauso sinnvoll ist, wie wir sie vom (städtischen) Verkehrsschilderalltag kennen, oder von Arbeitsschutzplaketten in Fabriken (und Büros), oder von Hygienehinweisen in Krankenhäusern oder Ärzt*innenpraxen.

Diese und viele andere Kennzeichnungssysteme haben ihre inhaltliche Berechtigung bewiesen und bewähren sich täglich funktional. Dafür wird es wohl hinsichtlich der neuen und vielfältigen KI-Kennzeichnungen Zeit brauchen – und ein schrittweises Ausbalancieren ihres Auftretens und ihrer Wirkungen. Um sie regulatorisch durchzusetzen und gesellschaftlich zu etablieren bietet sich die – ebenfalls oft bewährte – Kombination mehrerer Mechanismen an: Staatliche Aufsicht und wirksame Sanktionierungsmaßnahmen, gegenseitige Kontrolle der Marktteilnehmenden (Wettbewerbslogik) sowie zivilgesellschaftliches Monitoring durch Verbraucher*innenorganisationen und Bürger*innenintitiativen.

• Weiterlesen in der prompt/-Februar-Ausgabe