Was drin ist, muss auch draufstehen

Manche werben mit KI, obwohl das nicht stimmt. Andere wollen es umgekehrt geheim halten, wenn KI im Spiel ist. Wo "AI-Washing" zum Problem wird und welche Transparenzpflichten gelten, erklären Greta Bockholdt und Nico Kuhlmann.

Künstliche Intelligenz (KI) ist mittlerweile überall. Vor allem findet man KI auch als Schlagwort in der Werbung. Ein Produkt, das als "AI-powered" beworben wird, wirkt direkt innovativer, leistungsfähiger und insbesondere moderner. Egal ob es sich um ein Smartphone, einen Fernseher oder einen Kühlschrank handelt. Das darf man aber natürlich nur sagen, wenn es auch stimmt.

Dafür braucht es aber nicht einmal spezielle Regelungen zu KI. Denn Vorschriften zu Werbeaussagen ergeben sich direkt aus dem Gesetz gegen den unlauteren Wettbewerb (UWG). Nach § 5 Abs. 1 UWG handelt unlauter, wer eine irreführende geschäftliche Handlung vornimmt, die geeignet ist, den Verbraucher oder sonstigen Marktteilnehmer zu einer geschäftlichen Entscheidung zu veranlassen, die er andernfalls nicht getroffen hätte. Eine geschäftliche Handlung ist nach § 5 Abs. 2 UWG irreführend, wenn sie unwahre Angaben oder sonstige zur Täuschung geeignete Angaben enthält.

Preisende Aussagen wie "AI-powered", "AI inside" oder "mit KI-Assistent" werden in der Regel als Angaben über wesentliche Merkmale der Ware oder Dienstleistung verstanden (§ 5 Abs. 2 Nr. 1 UWG). Ob eine solche Angabe dann irreführend ist, hängt von dem konkreten Bedeutungsgehalt der Aussage ab. Maßgeblich ist dabei das Verständnis durchschnittlich informierter, aufmerksamer Verbraucherinnen und Verbraucher.

Was ist eigentlich KI?

Die Kernfrage ist dann, was normale Menschen eigentlich unter KI verstehen und wo genau die Grenze verläuft, dass etwas schon oder eben nicht mehr "künstliche Intelligenz" ist.

Als Juristin oder Jurist ist man schnell versucht, nach einer gesetzlichen Definition zu suchen. Der AI Act der EU enthält diesbezüglich eine sehr lange und nicht unbedingt klare Definition für "KI-Systeme". Nach Art. 3 Nr. 1 AI Act ist ein KI‑System "ein maschinengestütztes System, das für einen in unterschiedlichem Grade autonomen Betrieb ausgelegt ist und das nach seiner Betriebsaufnahme anpassungsfähig sein kann und das aus den erhaltenen Eingaben für explizite oder implizite Ziele ableitet, wie Ausgaben wie etwa Vorhersagen, Inhalte, Empfehlungen oder Entscheidungen erstellt werden, die physische oder virtuelle Umgebungen beeinflussen können". 

Ob der durchschnittliche Verbraucher das genauso definieren würde? Eher nicht. Richtigerweise steht im AI Act aber auch, dass die Begriffsbestimmungen erstmal nur für die "Zwecke dieser Verordnung" gelten. Eine Übertragung auf Irreführungsregeln des deutschen Wettbewerbsrechts müsste man also wenigstens gut begründen.

Wer weitersucht, findet zudem auch im Erwägungsgrund 4 des AI Acts etwas direkt zu KI. Danach bezeichnet KI "eine Reihe von Technologien, die sich rasant entwickeln und zu vielfältigem Nutzen für Wirtschaft, Umwelt und Gesellschaft über das gesamte Spektrum industrieller und gesellschaftlicher Tätigkeiten hinweg beitragen". Diese Beschreibung ist allerdings so allgemein gehalten, dass man damit auch eher nichts anfangen kann.

Ein weiteres Problem ist, dass sich das Verständnis darüber, was KI ist und was nicht, ständig wandelt. Für einige wird es sich so anfühlen, dass es KI erst seit der Veröffentlichung von ChatGPT im November 2022 und dem Erlass des AI Acts im Frühjahr 2024 gibt. Aber das ist natürlich falsch, denn KI gibt es schon viel länger.

Der Anfang, der aktuelle Stand und kein Ende in Sicht

Der Begriff "artificial intelligence" (künstliche Intelligenz) wurde bereits Mitte der 1950er Jahre vom US-amerikanischen Informatiker John McCarthy im Rahmen des "Dartmouth Summer Research Project on Artificial Intelligence" geprägt. Der Begriff ist also bereits über 70 Jahre alt, und was darunter fällt, hat sich seither immer wieder geändert. John McCarthy selbst soll gesagt haben: "As soon as it works, no one calls it AI anymore".

In den 1980er Jahren waren beispielsweise sogenannte Expertensysteme im Trend. Regelbasierte Expertensysteme bilden Fachwissen mithilfe einer starren Wenn-Dann-Logik ab, um logische Schlussfolgerungen zu ermöglichen. Da diese Systeme rein deterministisch arbeiten, bleibt jeder Entscheidungsschritt innerhalb des vordefinierten Rahmens präzise nachvollziehbar. Ein bekanntes Beispiel aus dem juristischen Bereich sind Programme zur Erstellung der eigenen Steuererklärung. Da diese Systeme starr an ihre Regeln gebunden sind, fehlt ihnen aus heutiger Sicht die Flexibilität, die wir von moderner KI erwarten.

In den 1990er Jahren galt dann ein Computer, der einen Schachweltmeister schlagen konnte, als das ultimative Zeichen für künstliche Intelligenz. Als IBMs Deep Blue 1997 gegen Garri Kasparow gewann, war die Begeisterung groß. Heute hat jeder, der will, eine kostenlose Schach-App auf dem Smartphone, die noch einmal leistungsfähiger ist als Deep Blue vor knapp 30 Jahren, aber niemand würde diese als KI bezeichnen. Das Durchrechnen von Millionen Möglichkeiten ist eher ein Zeichen für eine gute Rechenleistung, wird in diesem Zusammenhang aber nicht mehr als "Intelligenz" wahrgenommen.

Aktuell dreht sich alles um ChatGPT, Claude oder Gemini. Das ist neu, das ist cool, das ist also gerade KI. Aber in zehn Jahren? Dann wird es wieder etwas anderes geben und die KI-Chatbots von heute werden genauso sehr "künstliche Intelligenz" sein, wie heutzutage der Taschenrechner oder der Schachcomputer.

Ein Mensch ist keine künstliche Intelligenz

Was durchschnittliche Verbraucherinnen und Verbraucher also unter KI verstehen, ist schwer auf den Punkt zu bringen. Zum einen kann dieses Verständnis bei jedem Einzelnen unterschiedlich ausfallen, je nach dem, zu welcher Generation man gehört und wie intensiv man sich mit dem Thema beschäftigt. Zum anderen ist dieses Verständnis einem stetigen Wandel unterworfen. Die Anwendung des wettbewerbsrechtlichen Irreführungsgebots wird in der Praxis darum durchaus eine Herausforderung werden. Urteile dazu gibt es in Deutschland, soweit bekannt, bislang nicht.

Natürlich gibt es Extremfälle, bei denen sich alle einig sind. Das Unternehmen Builder.ai bewarb beispielsweise vor ein paar Jahren die KI-Programmierhilfe Natasha, mit der jeder im Baukastenprinzip mobile Apps entwickeln können sollte. Dann gab es Presseberichte, dass in Wirklichkeit im Hintergrund rund 700 Inderinnen und Inder sitzen und die Arbeit händisch erledigen. Böse Zungen sprachen davon, dass AI in diesem Fall für "Anonymous Indians" steht. Das Unternehmen bestritt die Vorwürfe, geriet aber trotzdem in die Insolvenz.

Die andere Seite der Medaille: "Hallo, ich bin eine Maschine"

Jetzt könnte man auf die Idee kommen – ähnlich wie aktuell bei umweltbezogenen Aussagen (den sogenannten Green Claims) – lieber ganz auf solche Angaben zu verzichten, um das Risiko von Rechtsstreitigkeiten zu minimieren. Das kann rechtlich allerdings ebenfalls zu Problemen führen. Zumindest in manchen Konstellationen verlangt das Recht, dass transparent auf den Einsatz von KI hingewiesen wird.

Im Mittelpunkt steht vor allem Art. 50 Abs. 1 AI Act. Danach müssen die Anbieter sicherstellen, dass KI-Systeme, die für die direkte Interaktion mit natürlichen Personen bestimmt sind, so konzipiert und entwickelt werden, dass die betreffenden natürlichen Personen informiert werden, dass sie mit einem KI-System interagieren. Das betrifft grundsätzlich vor allem Chatbots und Sprachassistenten, aber beispielsweise auch die intelligenten Sprachsteuerungen von Fahrzeugen. Neben dieser Norm gibt es auch noch Transparenzpflichten für Texte und Bilder.

Was ist heutzutage schon offensichtlich?

Wie Anbieter diese Transparenzpflicht genau umsetzen müssen, ist nicht geregelt. Die Information der Nutzerinnen und Nutzer  muss jedenfalls klar und verständlich sein sowie zum Zeitpunkt der ersten Interaktion erfolgen. Ein Nutzer, der auf einer Webseite eines Unternehmens beispielsweise mit einem Chatbot des Kundenservices kommuniziert, muss wissen, ob auf der anderen Seite ein Mensch tippt oder eine Maschine automatisch die Antworten produziert.

Diese Transparenzpflicht entfällt aber, wenn die Interaktion mit dem KI-System aus der Sicht einer angemessen informierten, aufmerksamen und verständigen natürlichen Person offensichtlich ist. Wann das in der Praxis der Fall ist, weiß bisher aber auch wieder niemand. Wenn man nachts um drei Uhr eine komplexe Frage in einen Chatbot eintippt und innerhalb von Sekunden eine mehrseitige Antwort bekommt, kann eigentlich niemand davon ausgehen, dass hier ein Mensch antwortet.

Ob und in welcher Form diese KI-Hinweise trotzdem auftauchen, werden wir demnächst sehen. Die entsprechende Verpflichtung aus dem AI Act tritt unverändert am 2. August 2026 in Kraft.