„‚Die KI ist schuld‘ schützt im Zweifel nicht“

Seit Anfang August gelten in der EU neue Transparenz- und Kennzeichnungspflichten für Künstliche Intelligenz. Wer Chatbots in der Kommunikation einsetzt oder Texte oder Videos mithilfe von KI erstellt oder verändert, muss das kenntlich machen.

Nutzer von KI-Systemen sollen so vor Täuschungen und Desinformationen geschützt, das Vertrauen in digitale Medien gestärkt werden. Kann das auf die Weise gelingen und wie praktikabel sind die neuen Pflichten? Fragen an den Medien- und Presserechtler Dr. Jörn Claßen.

NJW: Wie hoch ist Ihr Vertrauen in generative KI-Systeme und deren Output?

Claßen: Ein gewisses Vertrauen ist da, weil die führenden KI-Tools jetzt schon sehr weit sind. Ich denke wir hatten mittlerweile alle den Aha-Moment, in dem man über das KI-Ergebnis auf eine Suchanfrage erstaunt war. Trotzdem nehmen bei uns in der Kanzlei die Fälle zu, in denen der KI-Output falsch ist und Personen oder Unternehmen dagegen vorgehen möchten. Ein blindes Systemvertrauen habe ich daher nicht. Ich bin technologieoffen und zugleich schon von Berufs wegen skeptisch.

NJW: Seit rund vier Wochen gelten in der EU Kennzeichnungspflichten für KI-generierte Inhalte. Was genau muss nunmehr gekennzeichnet werden?

Claßen: Von der KI-Verordnung sind insbesondere Deepfakes erfasst – also durch KI erzeugte Inhalte, die echte Personen oder Ereignisse vortäuschen und echt wirken. Auch Texte, die der Information der Öffentlichkeit über Angelegenheiten von öffentlichem Interesse dienen, etwa Zeitungsartikel, unterliegen der Kennzeichnungspflicht. Zudem muss in KI-Systemen, die zur direkten Interaktion mit Menschen bestimmt sind, darauf hingewiesen werden, dass die Kommunikation mit einer Maschine und nicht mit einem Menschen erfolgt. Darüber hinaus gibt es entgegen einer schon mehrfach gelesenen Falschannahme keine pauschale Kennzeichnungspflicht für jeden KI-generierten Inhalt.

NJW: Wie muss die Kennzeichnung erfolgen und wer ist dafür verantwortlich/zuständig?

Claßen: Die Kennzeichnung muss klar, deutlich und leicht erkennbar sein. Bei visuellen Inhalten geschieht das etwa durch sichtbare Wasserzeichen oder eingebettete Metadaten, bei Texten durch eindeutige Hinweise. Verantwortlich sind primär die Anbieter von KI-Systemen. Sie müssen technische Vorkehrungen und Kennzeichnungen bereitstellen. Zudem müssen die Betreiber bzw. Anwender der KI-Tools offenlegen, wenn sie bereitgestellte Inhalte mit KI erzeugt haben.

NJW: Gilt diese Pflicht ausnahmslos?

Claßen: Nein, der Verordnungsgeber hat Ausnahmen vorgesehen. Keine Kennzeichnungspflicht besteht etwa, wenn die KI-Generierung lediglich unterstützend zur Überarbeitung oder zur reinen Hilfestellung genutzt wird (zB Rechtschreibprüfung, Satzumstellung). Zudem gelten Ausnahmen für Strafverfolgungsbehörden. Bei künstlerischen oder satirischen Inhalten beschränkt sich die Pflicht darauf, die KI-Nutzung in geeigneter Weise offenzulegen, ohne die Darstellung oder den Genuss des Werks zu beeinträchtigen.

NJW: Wie praktikabel sind die neuen Regelungen?

Claßen: Das wird sich zeigen. Die Herausforderung ist sicher, dass auf Anwenderseite sowohl technisches als auch rechtliches Verständnis für die KI-Systeme vorhanden sein muss. Je kleiner das Unternehmen und je höher die Risikoklasse der KI, desto schwieriger ist die Umsetzung. Im Zweifel muss hier externer Rat hinzugezogen werden. Der falsche Weg wäre aber sicher, aus Risikoscheu ganz die Finger von neuen und im Wettbewerb relevanten Techniken zu lassen.

NJW: Welche rechtlichen Folgen kann ein Verstoß gegen die Kennzeichnungspflicht nach sich ziehen?

Claßen: Anbietern und Betreibern drohen bei Verstößen empfindliche Bußgelder durch die zuständigen Aufsichtsbehörden – je nach Unternehmensgröße bis zu Millionenbeträgen oder prozentualen Umsatzeinbußen. Zudem sind die zivilrechtlichen Konsequenzen bei Verstößen relevant: Nutzer der Tools könnten aus wettbewerbs- und datenschutzrechtlichen Aspekten oder wegen Verletzung von Persönlichkeitsrechten abgemahnt werden. Derartige Fälle beschäftigen uns in der Kanzlei jetzt schon.

NJW: Sieht die Verordnung eine Karenzzeit vor?

Claßen: Ja, sie sieht gestaffelte Übergangsfristen vor. Während allgemeine Verbote unzulässiger KI-Praktiken bereits früh greifen, gelten die Transparenz- und Kennzeichnungspflichten stufenweise nach Inkrafttreten der Verordnung. Falsche oder irreführende KI-Inhalte können aber auch heute schon sanktioniert werden, etwa bei Persönlichkeitsrechtsverletzungen.

NJW: Die EU will damit für mehr Transparenz im Netz sorgen und den Gefahren von Fake-Informationen begegnen. Kann das so gelingen oder wurde damit nur ein weiteres Bürokratiemonster geschaffen?

Claßen: Ich bin bei regulierenden Markteingriffen tendenziell kritisch, halte den ordnungspolitischen Ansatz hier aber für richtig. Man kann die Augen nicht davor verschließen, dass mit KI auch viel Schindluder betrieben wird. Nutzer sollten zumindest erkennen können, wann KI-Inhalte vorliegen. Auch im berechtigten und notwendigen Kampf gegen Desinformation sind Kennzeichnungspflichten ein sinnvoller Baustein. Die Aufsichtsbehörden sollten aber mit Augenmaß handeln und ihre Kapazitäten sinnvoll einsetzen, heißt primär gegen „schwarze Schafe“ und kriminelle Akteure. Zudem sollten Lösungen mit den großen Plattformen gefunden werden. Im Übrigen sind Medienkompetenzförderung und die Selbstregulierung des Markts durch zivilrechtliche Möglichkeiten besser als zusätzliche Bürokratie auf Kosten der Bürger und Unternehmen.

NJW: Im Kontext mit der Frage, wie KI Ergebnisse generiert, liegt Vieles im Dunkeln, was wiederum zu Haftungsunsicherheiten führt. Was bedeutet das für die Verantwortungsverteilung zwischen Betreiber und Nutzer von KI & Co.?

Claßen: Das ist der Dreh- und Angelpunkt unserer täglichen Kanzleipraxis. Betreiber, etwa Google, berufen sich oft darauf, nur neutrale Werkzeuge bereitzustellen, um sich einer Haftung zu entziehen. Das ist aber zu kurz gesprungen. Wer fehlerhafte oder rufschädigende Halluzinationen verbreitet und trotz Hinweises nicht löscht oder sperrt, haftet als Störer bzw. Täter unter anderem auf Unterlassung. In Bezug auf Nutzer gilt wiederum: Wer KI-Ergebnisse ungeprüft übernimmt und selbst veröffentlicht, macht sich deren Inhalt zu eigen. Hier greift dann die volle presse- und äußerungsrechtliche Haftung. Ein „Die KI ist schuld“ schützt vor Gericht im Zweifel nicht.

NJW: Was leistet die Rechtsprechung zum Schutz vor KI-generierten Inhalten?

Claßen: Die Gerichte wenden auch in KI-Fällen richtigerweise die etablierten Grundsätze des Äußerungs- und Persönlichkeitsrechts sowie zur Störerhaftung an. Spannend in der anwaltlichen und richterlichen Praxis ist die (ständige) Weiterentwicklung der vorhandenen Judikatur zum Persönlichkeitsschutz auf das neue digitale Umfeld. Wir bringen insoweit gerne auch neue Konstellationen vor Gericht, etwa in Bezug auf Deepfakes, KI-Fotomontagen, unwahre oder irreführende KI-Zusammenfassungen oder Urheberrechte. Das medienrechtliche Instrumentarium erweist sich auch hier als erstaunlich flexibel und scharf.

NJW: Sehen Sie weiteren gesetzgeberischen Handlungsbedarf in dem Bereich?

Claßen: Ja, insbesondere beim Auskunfts- und Vollstreckungsrecht. Betroffene stehen oft vor der Hürde, dass Betreiber ihren Sitz außerhalb der EU haben oder Nutzer anonym auftreten. Wir benötigen leichtere Durchsetzungsmöglichkeiten von Auskunftsansprüchen und bessere Zustell- und Vollstreckungsmöglichkeiten im Ausland.

NJW: Wie kann man sich selbst gegen derartigen Content schützen, zumindest in einem gewissen Maße?

Claßen: Als Nutzer bzw. Konsument sollte man ein gesundes Maß an Skepsis gegenüber KI-Informationen mitbringen. Im Zweifel verlässt man sich nicht auf eine KI als einzige Quelle. Wenn man selbst von Rechtsverletzungen durch sie betroffen ist, kann man sich hiergegen am effektivsten mit zivilrechtlichen Mitteln zur Wehr setzen. Die Ansprüche auf Löschung, Unterlassung und gegebenenfalls Schadensersatz funktionieren.

Dieser Text stammt aus Heft 35/2026 der NJW. Sie möchten die NJW kostenlos testen? Jetzt vier Wochen gratis testen inkl. Online-Modul NJWDirekt.