KI-Halluzination

Eine neue Benchmark-Studie zeigt: Die Mehrheit der KI-Modelle erkennt nicht, wenn juristische Fragen inhaltlicher Blödsinn sind. Für die Rechtsbranche ist das ein ernstes Problem, das aber längst in deutschen Gerichtssälen angekommen ist, schreibt Tobias Voßberg.

In den USA sind Urteile bekannt geworden, die KI-Halluzinationen enthalten. Wie der Branchendienst Heise meldet, haben die zuständigen Richter die Entscheidungen prompt verbessert. Verantwortung übernehmen wollen sie allerdings nicht.

Der hauseigene KI-Bot "Grok" von X verweist selbst auf seine faktenbasierte Herangehensweise. Werden nun aber Fakten erfunden, reicht ein Hinweis auf die üblichen KI-Disclaimer wohl nicht mehr aus. Das LG Hamburg verurteilt X zur Unterlassung wegen eines halluzinierten Fakten-Checks.

Erneut sind einem Gericht frei erfundene Zitate vorgesetzt worden. Das LG Frankfurt am Main gibt sich enttäuscht und zeigte kurzerhand, dass die KI es eigentlich besser kann. 

Ein Anwalt, der mit von einer KI halluzinierten Fundstellen in seinen Schriftsätzen erwischt wurde, darf in Australien keine eigene Kanzlei mehr führen. Der Aufsichtsbehörde geht es dabei auch um ein Signal an die Anwaltschaft.

KI-Halluzinationen, erfundene Fundstellen und ein so unschlüssiger Vortrag, dass das Gericht ihn schlicht für unbeachtlich erklärt: Das reicht normalerweise, um mit wehenden Fahnen unterzugehen. Es sei denn, auch die Gegenseite versagt völlig – so geschehen vor dem OLG Celle.

Aufsätze und Kommentarfundstellen, die es nicht gibt, Rechtsprechung zu völlig anderen Sachverhalten: Ein Anwalt hatte einen offenkundig mit KI geschriebenen Schriftsatz eingereicht – fürs AG Köln ein Berufsrechtsverstoß. Jetzt diskutieren Juristen: Ist das so? Und hat er sich gar strafbar gemacht?

Effektiver Arbeiten durch den Einsatz von KI – das erhoffen sich viele Anwälte und Anwältinnen für die Zukunft. Doch die Gegenwart sieht anders aus, wie eine Studie der Standford University zeigt: Noch hapere es an der Zuverlässigkeit dieser Werkzeuge.

Der Versuch eines Anwalts in New York, den Chatbot ChatGPT bei der Recherche für einen Fall zu verwenden, ist auf spektakuläre Weise schiefgegangen. Ein von ihm eingereichter Antrag enthielt Verweise auf Fälle wie “Petersen gegen Iran Air“ oder “Martinez gegen Delta Airlines“, die frei erfunden waren. Dem Anwalt zufolge wurden die angeblichen Urteile und Aktenzeichen dazu von ChatGPT ausgegeben.