Warum bald fast alles zum Deep-Fake werden kann

Die EU-Kommission hat einen Entwurf zur Kennzeichnung von KI-Einsatz vorgelegt. Für alle, die KI beruflich nutzen, ist das der erste konkrete Anhaltspunkt, was die Kommission verlangt. Und vor allem: von wem sie es verlangt, zeigt Tobias Voßberg.

Art. 50 Abs. 4 KI-VO verpflichtet Betreiber von KI-Systemen, die Bild-, Ton- oder Videoinhalte erzeugen oder manipulieren, die ein Deepfake sind, offenzulegen, dass die Inhalte künstlich erzeugt oder manipuliert wurden. Betreiber im Sinn der Verordnung ist jede natürliche oder juristische Person, die ein KI-System in eigener beruflicher Verantwortung verwendet. Der Anwenderkreis ist entsprechend groß.

Praktisch betroffen sind etwa Redaktionen mit KI in der Bildbearbeitung oder Audioproduktion und Filmproduktionen, die etwa De-Aging-Effekte oder digitale Doubles einsetzen. Aber auch Gameentwickler sowie Influencerinnen und Influencer mit virtuellen Avataren oder eigenen KI-Klonen gehören zum adressierten Kreis. Hinzu kommen Werbeagenturen mit fotorealistischen Visuals oder synthetischen Testimonials, Unternehmen, die KI-Stimmen für Schulungen oder Synchronisation einsetzen oder Verlage mit KI-vertonten Hörbüchern.

Bei Verstößen drohen Bußgelder bis zu 15 Millionen Euro oder 3% des gesamten weltweiten Jahresumsatzes. Hinzu kommen wettbewerbsrechtliche Risiken. Die Wettbewerbszentrale hat in ihrem Leitfaden vom Februar 2026 bereits angedeutet, Verstöße gegen die Kennzeichnungspflicht aus Art. 50 KI-VO als unlauteres Verhalten zu verfolgen. Mit dem am 8. Mai vorgelegten Entwurf der Leitlinien zur Umsetzung der Transparenzpflichten für bestimmte KI-Systeme gemäß Artikel 50 des KI-Gesetzes gibt es nun erste Anhaltspunkte, wie Anbieter und Betreiber, kurz alle, die KI beruflich einsetzen, die Kennzeichnungspflicht zu verstehen haben. Der Entwurf zeigt: Journalistinnen müssen wohl viel mehr kennzeichnen als bildende Künstler. 

Was kennzeichnen: Nicht nur, wenn es aussieht wie eine reale Person 

Die KI-VO definiert einen Deepfake als KI-erzeugten oder manipulierten Bild-, Ton- oder Videoinhalt, der "wirklichen Personen, Gegenständen, Orten, Einrichtungen oder Ereignissen ähnelt" und "einer Person fälschlicherweise als echt oder wahrheitsgemäß erscheinen würde". Die Definition ist weit gefasst – und daran orientiert sich nun offenbar auch die Kommission. 

Erfasst sind alle Inhalte, die etwas zeigen, das in der Realität existieren könnte. Eine fotorealistisch generierte, frei erfundene Person fällt somit auch dann in den Anwendungsbereich, wenn sie keinem konkreten Menschen entspricht. Die Hoffnung auf eine Beschränkung auf Inhalte, die einer konkret existierenden Person oder Sache nachgebildet sind, also etwa KI-Bilder und -Stimmen von Prominenten, Politikerinnen oder bekannten Bauwerken, ist damit vom Tisch: auch fiktive Models, synthetische Influencer oder generierte Gegenstände sind Deepfakes.

Nur eine Sphinx etwa, die über den Eiffelturm fliegt, nennt die Kommission als Beispiel, das nicht unter den Deepfakebegriff und damit auch nicht unter die Kennzeichnungspflicht fällt:

Auch die anderen Beispiele der Kommission ("ein Video von Mäusen, die in menschlicher Sprache über die beste Käsesorte streiten") sind absichtlich möglichst weit weg von der Realität gewählt und zeigen: Die Kommission versteht den Deepfakebegriff sehr weit. Wie weit der Begriff zu verstehen ist, wird sich erst noch zeigen. Was ist beispielsweise mit dem Foto eines eigentlich ausgestorbenen Mammuts, das theoretisch eines Tages aus Erbgut neu geklont werden könnte, oder mit Dinosauriern? Und was ist mit Bildern von Tieren, die es gar nicht gibt, die aber realistisch genug aussehen, um real zu sein? 

Entwarnung gibt der Entwurf aber für die klassische Nachbearbeitung vor allem von Bildern mit Hilfe von KI: Geringfügige technische KI-gestützte Anpassungen wie etwa Lichtanpassungen und Farbkorrekturen sind in der Regel kein Deepfake.

Aufs Werk kommt’s an: Journalistinnen, Marketeers, Künstler

Wichtig zu wissen: Dreh- und Angelpunkt für die Kennzeichnungspflicht ist, ob eine Bearbeitung die Wahrnehmung des Betrachters von Authentizität oder Wahrheitsgehalt des Inhalts berührt - also ob der Inhalt, in den Worten der Verordnung, "einer Person fälschlicherweise als echt oder wahrheitsgemäß erscheinen würde". Die Bearbeitung journalistischer Aufnahmen kann daher, so die Kommission, schneller Kennzeichnungspflichten auslösen als KI-gestützte Anpassungen in Werbespots.

Eine Erleichterung sieht die KI-VO für "offensichtlich künstlerische, kreative, satirische, fiktionale oder analoge" Werke vor: Zwar müssen die Betreiber offenlegen, dass die Inhalte erzeugt oder manipuliert wurden, sie dürfen das aber so machen, dass die Darstellung oder der Genuss des Werks nicht beeinträchtigt werden. 

Praktisch entscheidend ist damit die Frage, was unter den Begriff des "offensichtlich kreativen" Werks fällt. Filme und Spiele fallen sicherlich darunter, schwieriger sind Mischformen wie etwa besonders kreative Werbespots.

Der Entwurf macht dazu keine klare Vorgabe, sondern deklariert das zur Frage des Einzelfalls. Nicht von der Erleichterung profitieren sollen aber ausdrücklich Inhalte, die primär erkennbar informativen oder kommerziellen Zwecken dienen ("serves primarily an informative or commercial purpose and is recognisable as such").  Werbung oder Dokumentationen, so die Kommission, könnten aber ebenfalls künstlerischen oder kreativen Zwecken dienen – dies sei eine Beurteilung des Einzelfalls. Voraussetzung bleibt aber in jedem Fall, dass es sich bei diesen Inhalten überhaupt um einen kennzeichnungspflichtigen Deepfake handelt.

KI-generierte Texte

KI-generierte oder -manipulierte Texte sind zwar keine Deepfakes, da diese per definitionem nur Bild-, Ton- oder Videoinhalte erfassen. Auch solche Texte müssen aber unter Umständen gekennzeichnet werden, nämlich wenn sie veröffentlicht werden, um "die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse zu informieren".

Dafür müssen aber drei Voraussetzungen zusammenkommen. Der Text muss veröffentlicht sein, also für einen unbestimmten, größeren Kreis zugänglich; eine Nachricht in einer geschlossenen Gruppe genügt nicht. Er muss außerdem informieren wollen und es muss um öffentliche Belange gehen, um Themen also "relevant to society at large [...] and meriting public debate or scrutiny". Die Leitlinien zählen etwa Verwaltung, Grundrechte, Gesundheit, Umweltschutz, Verbrauchersicherheit sowie politische, wirtschaftliche, wissenschaftliche oder kulturelle Entwicklungen von Bedeutung auf.

Als Beispiel nennt die Kommission eine von einer KI erstellte Zusammenfassung eines von einem Menschen verfassten Artikels auf der Website einer Zeitung, in dem es um eine kürzlich getroffene Entscheidung eines Gemeinderats geht. Die Kennzeichnungspflicht entfällt aber wiederum, wenn der Text einer menschlichen Überprüfung oder redaktionellen Kontrolle unterzogen wurde und eine natürliche oder juristische Person die redaktionelle Verantwortung trägt.

Der Entwurf legt diese Ausnahme allerdings eng aus: Eine bloße Rechtschreibprüfung, eine oberflächliche Freigabe oder ein routinemäßiges "Drüberschauen" reichen nicht. Erforderlich ist eine inhaltliche Auseinandersetzung mit dem Text durch eine Person, die die redaktionelle Verantwortung trägt.

Wie kennzeichnen: Der Code of Practice kommt

Das AI Office arbeitet aktuell am Code of Practice zur Markierung KI-generierter Inhalte. Der Code enthält unter anderem Vorschläge für ein einheitliches Kennzeichnungs-Icon. Der zweite Entwurf vom 5. März 2026 differenziert dabei: Bei Echtzeit-Deepfake-Videos (etwa Livestreams) ist ein durchgehend sichtbares Icon oder ein visueller bzw. akustischer Disclaimer am Anfang und in regelmäßigen Abständen vorgesehen. Bilder benötigen ein prominent platziertes, unterscheidbares Icon. Bei Audio reicht für Inhalte unter 30 Sekunden ein Disclaimer zu Beginn, bei längeren Inhalten muss er in regelmäßigen Abständen wiederholt werden.

Die finale Fassung der Leitlinien wird vor dem 2. August 2026 erwartet. Größere inhaltliche Verschiebungen sind aber unwahrscheinlich. Interessanter wird, ob sich die Pflichtkennzeichnung auf den Einsatz von KI in der Praxis auswirken wird. 

Studien zeigen, dass identische Werbeanzeigen schlechter abschneiden, sobald sie als KI-generiert ausgewiesen werden. Wenn diese Kennzeichnung ab August zwingend wird, werden manche Werbetreibende und Produktionen abwägen, ob sich der Effizienzgewinn durch KI noch lohnt oder ob sie wieder zur klassischen Produktion zurückkehren.