Die nächste Herausforderung für KI im Personenschadensrecht ist die Verantwortlichkeit

Einige Anwendungsfälle von KI sind relativ harmlos; andere können erhebliche Kontroversen auslösen. Da die Technologie noch relativ jung ist, könnte man argumentieren, dass ihre weit verbreitete Einführung in der Rechtsbranche eher in die letztere Kategorie fällt.

Bedenken hinsichtlich der Rolle von KI in der juristischen Praxis sind nach wie vor weit verbreitet, insbesondere wenn ihre Ergebnisse die Rechtsanalyse oder die Ergebnisse für Mandanten beeinflussen. Menschen befürchten, dass Anwälte ihr Denken an eine Maschine auslagern und dass entscheidende Beweise, die von einem Tool erstellt wurden, von einem Richter oder einer Jury missverstanden werden könnten. Kann KI jemals eine legitime Rolle in einem Justizsystem einnehmen, das Gerechtigkeit, Transparenz und rechtsstaatliche Verfahren als Grundpfeiler ansieht?

Ungeachtet dessen hat KI bereits praktische Anwendungen in der juristischen Arbeit gefunden, insbesondere bei der Dokumentenprüfung, Recherche, Zusammenfassung und Erstellung von Texten. Und sie wird voraussichtlich nicht verschwinden: Rechtsteams in etwa 41 Prozent der Kanzleien nutzen bereits KI‑Werkzeuge, und diese Zahl dürfte weiter steigen.

Als Anwalt für Personenschäden sehe ich regulatorische Lücken, die durch den Einsatz von KI in Kanzleien entstehen, viel schneller auftauchen, als die rechtlichen Standards Schritt halten können. Die bestehenden berufsrechtlichen Regeln machen Anwälte für ihre Arbeit verantwortlich, lösen jedoch nicht zwangsläufig jede KI‑spezifische Frage zu Offenlegung, Nachvollziehbarkeit, Anbieterhaftung, Datenaufbewahrung und dem erforderlichen Maß an menschlicher Prüfung.

Verantwortlichkeit definieren

Verantwortlichkeit ist eine der schwierigsten Fragen, die KI aufwirft: Wer übernimmt die rechtliche Verantwortung, wenn KI einen Fehler macht?

Berüchtigt ist der Fall Mata gegen Avianca aus dem Jahr 2023, bei dem die Anwälte der Kläger ChatGPT nutzten, um juristische Zitate zu erstellen. Der Chatbot halluzinierte jedoch und präsentierte nicht existente Fälle, die dann formell als Präzedenzfall dem Richter vorgelegt wurden. Die daraus resultierende Auseinandersetzung war in vielerlei Hinsicht unvermeidlich, doch sie etablierte ein wichtiges Prinzip: KI kann Anwälte unterstützen, aber sie kann nicht ihre berufliche Pflicht ersetzen, die Richtigkeit ihrer Arbeit zu überprüfen.

Im Personenschadensrecht geht die Herausforderung der Verantwortlichkeit jedoch über juristische Zitate hinaus. Angesichts der sensiblen und oft komplexen Natur der in diesem Bereich behandelten Fälle können Fehler die Vergleichsverhandlungen oder die Prozessstrategie bereits lange vor dem Gerichtsverfahren prägen.

Angenommen, ein KI‑Tool wird eingesetzt, um Hunderte von Seiten medizinischer Unterlagen zusammenzufassen und zu einem chronologischen Ereignisverlauf zu verdichten. Dabei gehen Details einer früheren kritischen Verletzung unter. Ein solches Versäumnis beeinflusst die Forderungen von Anwalt und Mandant und könnte erst während einer Aussage entdeckt werden.

Es hilft nicht, dass KI‑Fehler schwer zu erkennen sein können. Eine erfundene Zitation ist ein klarer und erkennbarer Mangel, doch ein KI‑System, das eine bereits bestehende medizinische Bedingung übersieht, die Meinung eines Zeugen falsch zusammenfasst oder zukünftige Versorgungskosten falsch berechnet – solche Fehler können plausibel erscheinen und unbeachtet bleiben.

Voreingenommenheit kann noch schwieriger zu erkennen sein. Ein Bewertungssystem, das mit historisch verzerrten Daten trainiert wurde, könnte beispielsweise systematisch Ansprüche, die bestimmten demografischen Gruppen zugeordnet sind, unterbewerten.

KI umsichtig einsetzen

KI kann Berge von Dokumenten durchforsten, medizinische Unterlagen analysieren und sogar rechtliche Forderungen formulieren. Bei angemessenem Einsatz können diese Fähigkeiten überflüssige Verwaltungsarbeit reduzieren und Anwälten ermöglichen, mehr Zeit mit der Beratung von Mandanten und der Entwicklung juristischer Strategien zu verbringen.

Doch nicht jede Aufgabe sollte delegiert werden, und Personenschadensfälle sind selten einfach. Sie beinhalten widersprüchliche Zeugenaussagen, sich entwickelnde medizinische Beweise, Glaubwürdigkeitsfragen und Verhandlungen, die ebenso stark vom menschlichen Urteil wie von rechtlichen Präzedenzfällen abhängen. Historische Daten können KI dabei helfen, Vergleichsmuster zu erkennen, doch sie können die Einschätzung eines Anwalts, wie ein bestimmter Kläger, Zeuge oder Fakt im Prozess wahrgenommen wird, nicht ersetzen.

Die größte Gefahr besteht daher darin, dass Anwälte unberechtigte Zuversicht in Ergebnisse setzen, die autoritativ und objektiv erscheinen, obwohl KI falsch liegen, den Kontext übersehen und kein menschliches Urteilsvermögen besitzen kann.

Ein ähnliches Bedenken zeigt sich im Versicherungssektor. Betrachten Sie die Gegenreaktion gegen Krankenversicherungen, die KI zur Prüfung von Ansprüchen einsetzen. Die Menschen wollen sicher sein, dass menschliche Aufsicht besteht, dass ein echter Mensch mit Urteilsvermögen ihre Fälle geprüft hat, selbst wenn die Arbeitsbelastung durch KI verringert und beschleunigt wurde.

Das Recht ist nicht anders, und egal wie sehr KI bei der Routinearbeit hilft, muss sie selektiv, mit klaren Grenzen und sinnvoller menschlicher Aufsicht eingesetzt werden. Glücklicherweise scheint dies die Richtung zu sein, in die die meisten Anwälte gehen: etwa 83 Prozent der Juristen geben an, dass der Einsatz von KI zur Erteilung von Rechtsberatung unangemessen ist.

Ein regulatorischer Rahmen

Im Wesentlichen sollte die Regulierung darauf abzielen, wie KI eingesetzt wird, sowie wo ihr Einsatz angemessen ist.

Wird generative KI zur Erstellung von Gerichtsunterlagen oder Dokumenten verwendet, sollte es gesetzlich vorgeschrieben sein, dass Anwälte jede rechtliche Analyse, Zitate oder Schadensberechnungen persönlich überprüfen, bevor sie an Mandanten weitergegeben oder beim Gericht eingereicht werden.

Menschliche Prüfung muss ein verpflichtender Schritt sein, nicht lediglich eine empfohlene Best Practice. Je folgenreicher das Ergebnis, desto rigoroser muss die erforderliche Prüfung sein. Jede von KI erzeugte rechtliche Zitation, Schadensberechnung, medizinische Chronologie oder faktische Behauptung, die für einen Mandanten oder das Gericht bestimmt ist, darf das Publikum nicht ohne eine sinnvolle Anwaltsverifizierung erreichen.

Ein Versäumnis, etwa das Einreichen von halluzinierten Informationen vor Gericht, sollte zu ernsthaften berufsrechtlichen Konsequenzen führen.

Unternehmen sollten zudem verpflichtet werden, ein prüfbares Protokoll ihrer KI‑Nutzung zu erstellen und zu pflegen. Wenn KI bei der Durchsicht medizinischer Unterlagen, der Erstellung eines Mahnschreibens oder der Zusammenfassung einer Zeugenaussage unterstützt, sollten Anwälte nachvollziehen können, welches Tool verwendet wurde, welche Informationen verarbeitet wurden und welcher Anwalt das endgültige Dokument geprüft und freigegeben hat. Schaffen Sie ein System, das Verantwortlichkeit fördert, sodass Fehler behoben werden können, bevor sie im Verlauf eines Rechtsstreits zum Problem werden.

Schließlich gibt es das Thema Datenschutz. Personenschadensfälle beinhalten häufig umfangreiche medizinische Unterlagen, Beschäftigungsverläufe, Finanzdokumente und andere vertrauliche Mandanteninformationen. Das Einspeisen dieser Daten in KI‑Systeme schafft neue Risiken hinsichtlich Datenaufbewahrung, unbefugtem Zugriff und der Frage, ob an einen Drittanbieter übermittelte Informationen zur Schulung zukünftiger Modelle verwendet werden könnten.

Bestehende Vertraulichkeitsmaßnahmen verlangen bereits, dass Anwälte solche Risiken berücksichtigen. Regulierungsbehörden sollten weiter gehen, indem sie Mindestanforderungen an die Sorgfalt der Anbieter, Aufbewahrungsrichtlinien, Nutzung von Trainingsdaten und Zugriffskontrollen festlegen.

Abschließende Gedanken

Da KI zunehmend in Rechtsstreitigkeiten eingesetzt wird, steht die Branche vor sowohl einer Chance als auch einer Herausforderung. Die Technologie kann Anwälten sicherlich die Zeit verschaffen, sich auf wichtigere Aspekte zu konzentrieren, doch ohne Transparenz und gut durchdachte Rahmenbedingungen für Einsatz und Offenlegung birgt sie das Risiko, das Vertrauen in unser Justizsystem zu untergraben und Vorurteile in Gerichtsverfahren einzubringen.

Es scheint, als stehe die KI selbst jetzt vor Gericht. Doch bevor sie den Zeugenstand betreten kann, müssen spezifische Regelungen festgelegt werden, die bestimmen, was rechtlich zulässig ist und was nicht. Nur durch klare Standards für Transparenz und Verantwortlichkeit werden Mandanten und Gerichte davon überzeugt sein, dass KI die Prozessführung verbessert, ohne die Grundsätze von Gerechtigkeit, Fairness und Gleichheit für alle zu gefährden.