"Rechtliches Gehör gewährt man nicht durch eine Maschine"

Die Justiz dürfe nicht blind dem KI-Trend hinterherrennen, warnt Rolf Schwartmann im Interview und mahnt, sich auf die Verantwortung von Richterinnen und Richtern zu besinnen. Doch wie bleiben die Gerichte trotzdem arbeitsfähig?

beck-aktuell: Herr Schwartmann, KI ist derzeit eines der großen Themen der Welt, im Rechtsmarkt und auch in der Justiz, die sich noch eher langsam herantastet. Welche Rolle spielt sie heute bereits an den Gerichten?

Prof. Dr. Rolf Schwartmann: Ich bin selbst kein Richter und kann deshalb nicht aus der gerichtlichen Praxis berichten. Was ich aber wahrnehme, ist eine enorme Bereitschaft, künstliche Intelligenz an Gerichten einzusetzen. Dafür gibt es unterschiedliche Gründe.

Es gibt eine Flut von Verfahren, insbesondere im Sozialrecht, wo Menschen in großem Umfang mit KI erstellte Schriftsätze einreichen. Richterinnen und Richter sehen sich dann einer großen Menge von Texten gegenüber, die zwar von Menschen eingereicht wurden, aber weitgehend maschinell erzeugt sind. Daraus entsteht die Frage: Warum muss ich als Richter eigentlich die Akte lesen, wenn sie gar kein Mensch geschrieben hat? Die Antwort darauf ist juristisch allerdings ziemlich klar.

beck-aktuell: Gibt es für den Einsatz von KI durch Richterinnen und Richter bereits rechtliche Leitlinien?

Schwartmann: Justizinterne Vorgaben wird es sicherlich geben. Grundsätzlich muss man aber zunächst unterscheiden: Nicht jede technische Unterstützung ist gleich künstliche Intelligenz im engeren Sinne.

Bei Fluggastrechteverfahren etwa braucht man häufig gar keine generative KI. Dort können Expertensysteme genügen, die nach Wenn-Dann-Regeln arbeiten. Man schaut, wann ein Flug gestartet und gelandet ist, und lässt sich einen Zeitstrahl erstellen. Das halte ich für einen zulässigen und belastbaren Einsatz moderner Technik. Interessant wird es erst dort, wo tatsächlich autonome KI-Systeme ins Spiel kommen. Über deren Einsatz wird derzeit vor allem diskutiert.

"Fußball und Justiz sind sehr vergleichbar"

beck-aktuell: Sie vergleichen den KI-Einsatz gerne mit dem Video Assistant Referee im Fußball. Wie ist das gemeint?

Schwartmann: Fußball und Justiz sind in dieser Hinsicht tatsächlich sehr vergleichbar, denn in beiden Bereichen gibt es einen Spielleiter: Im Fußball ist das der Schiedsrichter, in der Justiz der Richter.

Man kann drei Stufen unterscheiden, die mein Doktorand Moritz Köhler in seiner Dissertation herausgearbeitet hat: Die erste ist die formelle Assistenz. Im Fußball wäre das die Pfeife des Schiedsrichters. Sie hilft ihm, entscheidet aber nichts. Übertragen auf die Justiz könnte das etwa bedeuten, dass eine KI einen Zeitstrahl erstellt. Der Einfluss auf die eigentliche Entscheidung ist dabei gering.

Spannender wird die zweite Stufe, die materielle Assistenz. Hier kommt das Prinzip "Mensch – Maschine – Mensch" ins Spiel. Der Schiedsrichter trifft zunächst eine Entscheidung. Anschließend erhält er über den Videoassistenten einen Hinweis, dass er sich eine Szene noch einmal anschauen sollte. Danach entscheidet er erneut selbst. Genau so könnte auch KI in der Justiz eingesetzt werden.

beck-aktuell: Wie würde das konkret aussehen?

Schwartmann: Der Richter müsste zunächst eigenständig arbeiten. Er liest die Akte, analysiert den Sachverhalt, entwickelt seine rechtliche Bewertung und formuliert seine Entscheidung. Erst danach könnte er die KI fragen, ob er etwas übersehen hat. Gibt es eine weitere Anspruchsgrundlage? Einen Gesichtspunkt, den er nicht berücksichtigt hat? Die KI liefert dann einen Impuls, den der Richter prüft und bewertet. Entscheidend ist, dass die erste gedankliche Leistung vom Menschen kommt.

"Sonst droht der Automatisierungsbias"

beck-aktuell: Warum ist dieser erste menschliche Schritt so wichtig?

Schwartmann: Weil ansonsten der sogenannte Automatisierungsbias droht. Menschen neigen dazu, Vorschläge von Maschinen für besonders plausibel zu halten. Hinzu kommt der Ankereffekt: Hat man einmal einen vermeintlich überzeugenden Vorschlag vor sich, fällt es schwer, sich davon wieder zu lösen.

Deshalb muss der Richter zunächst selbst denken und sich gewissermaßen selbst "ankern". Erst danach darf er sich von der KI einen korrigierenden Impuls holen. Wenn die KI hingegen von Anfang an die Richtung vorgibt, besteht die Gefahr, dass der Mensch ihre Bewertung nur noch übernimmt. Genau das wäre rechtlich problematisch.

beck-aktuell: Wo liegt dann die Grenze zur unzulässigen Maschinenentscheidung?

Schwartmann: Sie wäre überschritten, wenn die maßgebliche Prägung der Entscheidung von der Maschine ausgeht. Stellen Sie sich vor, ein Richter fragt die KI, welche Anspruchsgrundlage einschlägig sein könnte. Die KI schlägt zwei Möglichkeiten vor, und der Richter entscheidet sich anschließend für eine davon.

Dann stammt die maßgebliche Entscheidung nicht mehr vom Menschen. Nach der Rechtsprechung des EuGH kann bereits das eine automatisierte Entscheidung sein, die nach Art. 22 DS-GVO grundsätzlich untersagt ist. Es genügt also nicht, dass der Richter am Ende noch zustimmt oder den Vorschlag "abnickt".

"Die rechtsprechende Gewalt ist den Richtern anvertraut"

beck-aktuell: Viele hoffen auf eine Entlastung der Justiz durch KI. Wenn aber jedes Mal doch ein Mensch die Vorarbeit machen muss, dürfte der KI-Einsatz die Rechtsprechung kaum beschleunigen.

Schwartmann: Das ist so. KI-Einsatz bedeutet gerade nicht, dass Richter die Akte nicht mehr lesen müssen. Rechtliches Gehör gewährt man nicht durch eine Maschine. Ein Richter spricht Recht im Namen des Volkes. Diese besondere Rolle verlangt, dass sich ein Mensch mit dem Vortrag eines anderen Menschen auseinandersetzt. Das geschieht durch das Lesen und Würdigen der Akte.

Wenn man die Entscheidung letztlich auf etwas stützt, das man selbst gar nicht mehr überprüft hat, gerät man insbesondere verfassungsrechtlich in Schwierigkeiten. Deshalb darf die KI die richterliche Arbeit unterstützen, sie aber nicht ersetzen.

beck-aktuell: Wäre ein KI-generierter Entscheidungsvorschlag, den der Richter nur noch überprüft, in Ihren Augen also nicht nur europarechts- sondern auch verfassungswidrig?

Schwartmann: Meines Erachtens ja. Art. 92 GG sagt, dass die rechtsprechende Gewalt den Richtern anvertraut ist. Staatsgewalt kann nur ausüben, wer Verantwortung trägt. Verantwortung tragen kann aber nur ein Mensch.

Eine KI kann nicht entscheiden, was gerecht oder ungerecht ist. Sie kann keine Wertungen im menschlichen Sinne vornehmen. Deshalb muss die richterliche Überzeugungsbildung menschlich bleiben. Dazu kommen die persönliche Unabhängigkeit des Richters und weitere Vorgaben des Verfassungsrechts. All das spricht dafür, dass die eigentliche richterliche Entscheidung zwingend von einem Menschen getroffen werden muss.

beck-aktuell: Selbst wenn KI zu einheitlicheren Entscheidungen führen würde?

Schwartmann: Das wäre sicher ein Argument, über das man diskutieren kann. Viele empfinden eine möglichst einheitliche Rechtsprechung als gerechter. Ich verstehe diesen Gedanken.

Die entscheidende Frage lautet aber: Welchen Preis sind wir bereit, für diese Vereinheitlichung zu zahlen? Wenn die Einheitlichkeit der Rechtsordnung am Ende durch eine Maschine hergestellt würde, wäre mir dieser Preis zu hoch. Wir sollten Wege finden, menschliche Entscheidungen konsistenter zu machen, ohne die Verantwortung an Technik zu delegieren.

"Man darf nicht KI auf KI hetzen"

beck-aktuell: Wie kann die Justiz dann mit immer mehr KI-generierten Schriftsätzen umgehen?

Schwartmann: Nicht dadurch, dass man einfach eine weitere KI dagegenlaufen lässt. Was Bürgerinnen und Bürger tun, ist das eine. Was Richter tun dürfen, ist etwas völlig anderes.

In der KI-Verordnung findet man durchaus zulässige Unterstützungsleistungen. Man kann sich beispielsweise Informationen in Dokumenten suchen lassen, Arbeiten strukturieren oder abgeschlossene menschliche Tätigkeiten überprüfen lassen. Was man aber nicht darf, ist, sich die eigentliche Entscheidung vorbereiten oder gar abnehmen zu lassen. Deshalb müssen wir über andere Lösungen sprechen.

beck-aktuell: Im Prozessrecht?

Schwartmann: Genau. Denkbar wären stärkere Strukturierungen des Parteivortrags oder auch formalisierte Verfahren in bestimmten Massenverfahren. Man könnte prüfen, wie Tatsachenbehauptungen und rechtliche Ausführungen besser getrennt werden können. Auch der vielfach diskutierte strukturierte Parteivortrag geht in diese Richtung.

Das sind letztlich Fragen an den Gesetzgeber. Wenn man stattdessen einfach KI auf KI hetzt, besteht die Gefahr, dass der Mensch nur noch Beckenrandschwimmer ist und am Ende etwas abnickt, dessen Zustandekommen er selbst nicht mehr nachvollziehen kann.

beck-aktuell: Sie plädieren also für einen sehr vorsichtigen Umgang mit KI in der Justiz?

Schwartmann: Ja. KI kann wertvolle Unterstützung leisten. Aber sie ist kein Ersatz für richterliche Verantwortung. Wer zu stark auf KI setzt, sollte sich bewusst machen, dass diese Systeme derzeit weder die Anforderungen an echte Hochrisiko-KI erfüllen noch transparent erklären können, wie sie zu ihren Ergebnissen gelangen. Gerade Gerichte müssen solche Fragen aber beantworten können.

Deshalb lautet mein Fazit: KI "kann die Entscheidungsgewalt von Richtern oder die Unabhängigkeit der Justiz unterstützen, sollte sie aber nicht ersetzen". Diesen Satz hat der deutsche Bundesrat in die KI-Verordnung hinein verhandelt und er trifft den Kern. Die rechtsprechende Gewalt bleibt eine menschliche Aufgabe.

Die Fragen stellte Dr. Maximilian Amos.