KI-Halluzination

Künstliche Intelligenz prägt zunehmend, wie Gesetze entstehen, Gerichte entscheiden und Bürger ihre Rechte einschätzen.

Wer sich über den Stand der Dinge bei KI-halluzinierten Schriftsätzen informieren will, befragt die Datenbank von Damien Charlotin. Anfang September 2026 gab es gut 2.000 Entscheidungen weltweit, in denen Gerichte erfundene Zitate in Schriftsätzen festgestellt hatten.

Das Europäische Parlament stimmt am Dienstag über ein Dringlichkeitsverfahren zur Chatkontrolle ab. Der Deutsche Anwaltverein sieht darin einen Grundrechtsverstoß – und appelliert an die Abgeordneten, das Eilverfahren abzulehnen.

Ein KI-Chatbot versprach auf der Website der Schönheitsklinik Aesthetify nichtexistierende Facharzttitel. Das OLG Hamm hat nun entschieden, dass das Unternehmen dafür haftet – selbst wenn es den Bot mit korrekten Daten gefüttert haben sollte.

Eine Anwältin musste sich in einem Familienrechtsstreit einen Rüffel vom Gericht gefallen lassen, weil sie offenbar einen KI-generierten Schriftsatz mit falschen Zitaten eingereicht hatte. Ihr Rechtsmittel hatte somit auch keinen Erfolg.

Eine neue Benchmark-Studie zeigt: Die Mehrheit der KI-Modelle erkennt nicht, wenn juristische Fragen inhaltlicher Blödsinn sind. Für die Rechtsbranche ist das ein ernstes Problem, das aber längst in deutschen Gerichtssälen angekommen ist, schreibt Tobias Voßberg.

In den USA sind Urteile bekannt geworden, die KI-Halluzinationen enthalten. Wie der Branchendienst Heise meldet, haben die zuständigen Richter die Entscheidungen prompt verbessert. Verantwortung übernehmen wollen sie allerdings nicht.

Der hauseigene KI-Bot "Grok" von X verweist selbst auf seine faktenbasierte Herangehensweise. Werden nun aber Fakten erfunden, reicht ein Hinweis auf die üblichen KI-Disclaimer wohl nicht mehr aus. Das LG Hamburg verurteilt X zur Unterlassung wegen eines halluzinierten Fakten-Checks.

Erneut sind einem Gericht frei erfundene Zitate vorgesetzt worden. Das LG Frankfurt am Main gibt sich enttäuscht und zeigte kurzerhand, dass die KI es eigentlich besser kann. 

Ein Anwalt, der mit von einer KI halluzinierten Fundstellen in seinen Schriftsätzen erwischt wurde, darf in Australien keine eigene Kanzlei mehr führen. Der Aufsichtsbehörde geht es dabei auch um ein Signal an die Anwaltschaft.