Wie künstliche Intelligenz im Gerichtssaal eingesetzt wird

Jeden Tag führen verschiedene Fachleute im Justizsystem Rechtsforschung durch, kommunizieren mit Mandanten, verwalten Gerichtsverfahren und interpretieren das Gesetz. Ihre Arbeit ist grundlegend für eine sichere und funktionierende Gesellschaft, was der Grund ist, warum viele von der Aussicht auf höhere Produktivität fasziniert sind. Anwälte – insbesondere Pflichtverteidiger – haben oft enorme Fallzahlen. Richter schreiben abweichende Meinungen, die die Zukunft rechtlicher Verfahren verkomplizieren können. Vorschriften und Gesetze ändern sich ständig. In diesem komplexen System ist künstliche Intelligenz (KI) als Mittel zur Automatisierung zeitaufwändiger administrativer Prozesse entstanden.

Tägliche Anwendungen von KI im Gerichtssaal

Ein großer Teil der Arbeitswoche eines Anwalts wird mit zeitaufwändigen administrativen Aufgaben verbracht, nicht mit der Überzeugung von Geschworenen in Gerichtssälen. Sie verbringen 80% ihrer Zeit damit, Informationen zu sammeln und nur 20% mit der Analyse und den Auswirkungen. Um Fälle aufzubauen, müssen sie sorgfältig durch Fallrecht, Vorschriften und Gesetze gehen. KI könnte solche Aufgaben rationalisieren und ihnen unzählige Stunden sparen.

KI-Assistenten können Anwälten helfen, Termine zu optimieren und Fallzahlen zu verwalten, um Terminprobleme zu überwinden. Generative KI kann ihnen und ihrem Personal helfen, Rechtsforschung durchzuführen. Richter können algorithmische Risikobewertungstools bei der Entscheidung über Kautionen konsultieren.

Das Tool kann auch anderen Rechtsfachleuten helfen. Modelle der natürlichen Sprachverarbeitung können Gerichtsschreibern bei der Transkription helfen, während große Sprachmodelle (LLM) Dolmetschern bei der Übersetzung helfen können. Generative KI kann Dokumente erstellen, die Kommunikation mit Mandanten automatisieren oder Fallakten für Rechtsanwaltsgehilfen und Rechtsassistenten organisieren.

Vorteile der Integration von KI in Gerichtsfunktionen

KI kann zeitaufwändige, wiederkehrende Aufgaben beschleunigen und Fachleute für wichtigere oder zeitkritischere Angelegenheiten freisetzen. Dies wäre besonders vorteilhaft für Pflichtverteidiger, die jedes Jahr mit Hunderten von Fällen und Berufungen konfrontiert sind. Im Durchschnitt verbringen sie zwischen 13,5 und 286 Stunden pro Fall mit der Vertretung von Angeklagten.

Rechtsfachleute sind nicht die einzigen, die von der Nutzung von KI profitieren können. Kläger, die sich selbst vor Gericht vertreten, können von KI-Chatbots rechtliche Anleitung erhalten.

KI kann die rechtliche Vertretung für benachteiligte und unterrepräsentierte Bevölkerungsgruppen zugänglicher machen. Rechtsanwaltskanzleien können sie nutzen, um pro bono Rechtsdienstleistungen für Menschen mit niedrigem Einkommen anzubieten. Da ein Modell mit Tausenden oder sogar Millionen von Menschen gleichzeitig interagieren kann, kann es sich mit der Expansion der Kanzlei skalieren.

Rechtliche und ethische Bedenken im Zusammenhang mit KI

Obwohl KI für Kläger, Anwälte, Richter und Dolmetscher nützlich sein kann, kann ihr Missbrauch zu fehlerhaften rechtlichen Urteilen führen. Im Jahr 2024 fand das Institut für menschenzentrierte KI von Stanford heraus, dass state-of-the-art-LLM eine Halluzinationsrate von 69% bis 88% bei der Beantwortung rechtlicher Anfragen hat.

LLM geben oft selbstsicher fehlerhafte oder fiktive Informationen aus. Zum Beispiel können sie nicht existierendes Fallrecht zitieren oder Zitate erfinden, wenn sie Rechtsforschung durchführen. Trotz ihrer plausiblen Erscheinung sind diese Halluzinationen ungenau.

Eine vorsätzliche Täuschung ist auch möglich, wenn man die Macht der generativen KI berücksichtigt. Ein Kläger könnte sie nutzen, um einen Einbruch zu fingieren, indem er ein Video der Heimsicherheit erstellt, das den Angeklagten dabei zeigt, wie er seine Besitztümer stiehlt. Dieses Beispiel ist nicht ganz hypothetisch, da Deepfakes bereits im Gerichtssaal verwendet wurden.

In den USA hängen 80% der Gerichtsverfahren von Videoaufnahmen ab – einschließlich Bodycam-Aufnahmen, Handy-Videos oder Überwachungsaufnahmen – in irgendeiner Form. Deshalb sind Rechtsfachleute tief besorgt über Deepfakes. Im September 2025 wies ein Richter einen Zivilprozess ab, nachdem er festgestellt hatte, dass eine videografierte Zeugenaussage ein Deepfake war.

Böswillige Akteure könnten KI-Rechtsforschungstools angreifen, um das Justizsystem zu stören. Forschungsergebnisse zeigen, dass es möglich ist, 0,01% der Trainingsdatensätze mit vorhandenen Tools zu vergiften. Das mag unbedeutend erscheinen, aber eine Vergiftungsrate von nur 0,001% kann die Ausgabe dauerhaft verändern. Benutzer können auf etwa 30% der Samples in einem LLM zugreifen, was eine Korruption überraschend einfach macht.

Echte Fälle, in denen KI im Gericht eingesetzt wurde

KI könnte für Rechtsfachleute und Personen, die sich selbst vor Gericht vertreten, vorteilhaft sein. Allerdings sind die meisten realen Beispiele, die Schlagzeilen machen, nicht günstig. Aufgrund weit verbreiteter Bedenken hinsichtlich der rechtlichen und ethischen Auswirkungen von KI im Gerichtssaal erhalten die schlechtesten Beispiele die meiste Aufmerksamkeit.

Im Mai 2025 wollte der Bundesrichter Michael Wilner mehr über die Argumente erfahren, die einige Anwälte in einem Schriftsatz vorgebracht hatten. Allerdings existierten die von ihnen zitierten Artikel nicht. Nachdem sie unter Druck gesetzt worden waren, um mehr Details zu liefern, legten sie einen neuen Schriftsatz vor, der noch mehr Ungenauigkeiten als der erste enthielt.

Als Wilner sie aufforderte, eine eidesstattliche Aussage zu machen, um die Fehler zu erklären, gaben sie zu, dass sie Googles Gemini und rechtspezifische KI-Modelle verwendet hatten, um das Dokument zu erstellen. Der Richter verhängte Sanktionen in Höhe von 31.000 US-Dollar gegen die Kanzlei. Obwohl sie keine vertraulichen oder nichtöffentlichen Informationen eingegeben hatten, verschwendeten sie dennoch die Zeit des Gerichts.

Es sind nicht nur Anwälte und Kläger, die KI missbrauchen. Im Jahr 2025 zogen zwei US-Bundesrichter ihre Urteile zurück, nachdem festgestellt worden war, dass ihr Gerichtspersonal KI-Tools für Rechtsforschung verwendet hatte, was zu fehlerhaften, halluzinierten Fallzitaten geführt hatte. Obwohl sie die fehlerhaften Urteile auf KI schoben, ist es ihre Verantwortung, die Fälle, die sie zitieren, zu lesen.

Diese Fälle sind keine Einzelfälle, die kleine, unbekannte lokale Kanzleien hervorheben – es handelt sich um große Anwälte und Bundesrichter, die peinliche, vermeidbare Fehler machen. Die Schuld liegt nicht allein bei den intelligenten Algorithmen. Letztendlich ist KI nur ein Werkzeug. Ob ihr Einfluss positiv oder negativ ist, hängt davon ab, wie sie verwendet wird.

Wie das Justizsystem KI nutzen sollte

Öffentlich zugängliche LLM sind Risiken für Genauigkeit und Sicherheit, die nur darauf warten, zu passieren. Domänen-spezifische Retrieval-erweiterte Generierungsmodelle (RAG) werden als Lösung für KI-Halluzinationen beworben, da sie relevante Daten aus externen, vertrauenswürdigen Wissensbasen abrufen, bevor sie eine Antwort generieren.

Allerdings ist ein RAG-Modell kein silberner Kugel, da das Gesetz nicht ausschließlich aus unbestrittenen, überprüfbaren Fakten besteht. Geschworene werden von charismatischen Anwälten überzeugt. Richter schreiben Stellungnahmen, um die Begründung für ihre Urteile zu erklären. Gesetze unterscheiden sich zwischen Ländern, Staaten und Kommunen. Es gibt Raum für Fehler in diesem Graubereich.

Das Gesetz ist oft auslegungsbedürftig – deshalb existieren Anwälte und Richter überhaupt. Menschen können nicht erwarten, dass KI eine unfehlbare Autorität in diesem Bereich ist. Während die Verwendung von RAG ein Schritt in die richtige Richtung ist, ist es wichtig, eine kontinuierliche Überwachung mit einem menschlichen Ansatz zu gewährleisten.

Wie KI in zukünftigen Gerichtssälen eingesetzt werden wird

Gerichte verlassen sich auf relevante Dokumentation, die durch genaue Zitate unterstützt wird. Trotz der weit verbreiteten Verwendung durch Rechtsanwaltsgehilfen und Anwälte, um Zeit und Mühe bei administrativen Aufgaben zu sparen, hat KI noch Schwierigkeiten, diese Informationen abzurufen.

KI-Halluzinationen sind nicht nur auf US-amerikanische Gerichtssäle beschränkt. In einem Fall im Vereinigten Königreich forderte der Kläger fast 120 Millionen US-Dollar Schadensersatz von der Qatar National Bank (NBHC ). Das Gericht stellte fest, dass 40% der Fallzitate des Klägers vollständig fiktiv waren. Selbst die tatsächlichen Fälle waren mit falschen Zitaten gefüllt. Schließlich gab der Kläger zu, KI-Tools für Rechtsforschung verwendet zu haben.

Selbst wenn sein Fall solide war, haben KI-Halluzinationen seinen Ruf und seine Glaubwürdigkeit geschädigt und möglicherweise das Ergebnis gegen ihn beeinflusst. Um ähnliche Fehlleistungen in der Zukunft zu vermeiden, muss das Gesetz mit KI Schritt halten.

Regeln, die den Einsatz von KI und deren Überwachung regeln, müssen detailliert und robust sein. Gerichtssäle mit “mündlichen Vereinbarungen” werden wahrscheinlich feststellen, dass ihr Personal immer noch KI nutzt. Wie Rechtsfachleute wissen, benötigen Regeln ein Durchsetzungsmechanismus. Disziplinarmaßnahmen und Sanktionen werden Fachleuten helfen, die Schwere des sicheren und ethischen Einsatzes von KI zu verstehen.

Die silberne Linie der KI-Nutzung im Gerichtssaal

Diese hochriskanten Fehler werfen weitere Fragen über die Integrität der Forschung auf. Haben KI-Tools ungewollt aufgedeckt, dass Anwälte ihre Rechtsforschung nicht überprüfen und Richter unverifizierte Entwürfe einreichen? Für besser oder schlechter wird KI Teil des Justizsystems. Wie bei jedem anderen Werkzeug hängt der Einfluss von KI davon ab, wie sie eingesetzt wird. Die silberne Linie ist, dass sogar peinliche Fehler Fachleuten eine Anleitung darüber geben, was nicht zu tun ist.