Ein Leitfaden für alle kreativen Ersteller von Content

 

Mit dem rasanten Fortschritt generativer Künstlicher Intelligenz (KI) – von fotorealistischen Bildgeneratoren bis hin zu hochentwickelten Sprachmodellen (LLMs) – verschwimmen die Grenzen zwischen menschlichem Schaffen und maschineller Produktion zusehends. Während diese Technologien enorme Potenziale für Kreativität, Wirtschaft und Wissenschaft bieten, bergen sie gleichzeitig erhebliche Risiken für Desinformation, Betrug und einen generellen Vertrauensverlust in digitale Medien.

Um hier für klare Verhältnisse zu sorgen, setzt der europäische Gesetzgeber mit dem EU AI Act (KI-Gesetz) weltweit neue Maßstäbe. Kernstück dieser Regulierung ist eine strenge Transparenz- und Kennzeichnungspflicht für bestimmte KI-generierte oder -manipulierte Inhalte. Doch welche Inhalte müssen konkret gekennzeichnet werden? Wo greifen gesetzliche Ausnahmen und welche Rolle spielt die redaktionelle Kontrolle durch den Menschen?

 

1. Was muss zwingend gekennzeichnet werden?

Nicht jede automatisierte Text- oder Bildgenerierung unterliegt sofort strengen Kennzeichnungspflichten. Der Gesetzgeber fokussiert sich primär auf Inhalte, deren Täuschungspotenzial das öffentliche Leben oder individuelle Rechte unmittelbar gefährden kann:

• KI-generierter oder manipulierter Text: Textinhalte, die mittels Künstlicher Intelligenz erstellt oder substanziell verändert wurden, unterliegen dann einer strikten Kennzeichnungspflicht, wenn sie öffentlich veröffentlicht wurden und dazu dienen, die Öffentlichkeit in Angelegenheiten von öffentlichem Interesse zu informieren (z. B. journalistische Artikel, politische Berichterstattung oder offizielle Verbraucheraufklärung). Bürgerinnen und Bürger sollen jederzeit erkennen können, ob ein Bericht über gesellschaftliche Krisen oder politische Debatten von einem Menschen recherchiert oder von einer KI synthetisiert wurde.

• Deepfakes und audiovisuelle Manipulationen: Noch strenger reguliert sind sogenannte Deepfakes – also künstlich erzeugte oder manipulierte Bild-, Ton- oder Videomaterialien, die echten Menschen, Orten oder Ereignissen täuschend ähnlich sehen oder klingen. Da Deepfakes gezielt zur Meinungsmanipulation, für Rufmord oder Betrug (z. B. gefälschte Stimmen) eingesetzt werden können, greift hier eine automatische Kennzeichnungspflicht in nahezu allen Kontexten.

 

2. Wichtige Ausnahmen und Einschränkungen

Eine pauschale Kennzeichnungspflicht für absolut jeden KI-Einsatz würde die Kunstfreiheit, die Kreativwirtschaft und technische Innovationen ersticken. Daher sieht der rechtliche Rahmen klare Ausnahmen vor:

• Künstlerische, kreative und fiktive Werke: Offensichtlich künstlerische, literarische, kreative oder fiktive Werke (wie KI-generierte Kinofilme, digitale Kunst, Romane oder Science-Fiction-Illustrationen) sind von der strengen Kennzeichnungspflicht befreit. Hier ist der Unterhaltungs- bzw. Kunstcharakter für das Publikum offenkundig.

• Satirische Werke: Satire und Parodien, die auf humoristische Übertreibung setzen, müssen ebenfalls nicht im selben Maße gekennzeichnet werden, sofern für einen durchschnittlichen Betrachter der parodistische Charakter erkennbar bleibt.

• Analoge Werke: Reine analoge Reproduktionen oder Verarbeitungen ohne digitalen Täuschungskontext fallen nicht unter die digitalen Transparenzregeln.

• Gesetzlich zugelassene Zwecke (Öffentliches Interesse): Ausnahmen gelten, wenn die Verwendung von KI im überragenden öffentlichen Interesse liegt – insbesondere bei der Aufdeckung, Verhinderung und Untersuchung von Straftaten sowie der Gefahrenabwehr durch Strafverfolgungsbehörden.

 

3. Die Rolle der menschlichen Überprüfung 
(Redaktionelle Kontrolle)

Ein zentraler Hebel für Unternehmen, Medienhäuser und Verlage ist die Frage der menschlichen Verantwortlichkeit. Hier greift eine wesentliche Entlastung:

Ausnahme durch redaktionelle Verantwortung: Wenn ein KI-generierter Text einer menschlichen Überprüfung oder redaktionellen Kontrolle unterzogen wurde und eine natürliche oder juristische Person die redaktionelle Verantwortung für die Veröffentlichung des Inhalts übernimmt, entfällt in vielen Kontexten die maschinelle Kennzeichnungspflicht als reines KI-Produkt. In diesem Fall steht der Mensch bzw. das Medium für die Richtigkeit und den Inhalt gerade.

Das bedeutet in der Praxis: Wer KI-Tools einsetzt, um Entwürfe zu erstellen, muss diese fachlich prüfen, redaktionell verfeinern und als Autor oder Medium die volle Verantwortung dafür tragen. Eine ungesicherte, automatisierte Massenveröffentlichung von ungeprüften KI-Texten im Bereich des öffentlichen Interesses ist hingegen unzulässig.

 

4. Technische Umsetzung und Best Practices für Unternehmen

Wie lässt sich die Kennzeichnungspflicht im Redaktionsalltag und in der Webentwicklung sauber umsetzen? Unternehmen und Publisher sollten folgende Best Practices etablieren:

 

1. Automatisierte Metadaten & Watermarking: Nutzung von digitalen Wasserzeichen und Standards wie der C2PA (Coalition for Content Provenance and Authenticity), um die Herkunft von Bildern, Videos und Audiofiles maschinenlesbar zu machen.

2. Transparente UI-Hinweise: Klare, gut sichtbare visuelle Banner oder Labels auf Websites und Plattformen (z. B. „Dieser Artikel wurde unter Einsatz von KI-Modellen erstellt und redaktionell geprüft“).

3. Interne Compliance-Prozesse: Etablierung fester KI-Workflows, bei denen jede Nutzung von Large Language Models (LLMs) dokumentiert und von Redakteuren gegengelesen wird.
   
   

Fazit

Die Kennzeichnungspflicht für KI-generierte Inhalte ist kein bürokratisches Hindernis, sondern das Fundament für ein vertrauenswürdiges digitales Ökosystem. Wer die Vorgaben des EU AI Acts und nationaler Gesetze ernst nimmt, schützt nicht nur sein Unternehmen vor empfindlichen Bußgeldern, sondern stärkt vor allem das Vertrauen der Nutzerinnen und Nutzer in eine transparente und verlässliche Informationslandschaft.