Další výzvou pro AI v právu osobních úrazů je odpovědnost

Některé případy využití AI jsou relativně neškodné; jiné mohou vyvolat značnou kontroverzi. A vzhledem k tomu, že technologie je ještě poměrně nová, lze tvrdit, že její rozšířené nasazení v právním odvětví spadá do druhé kategorie.

Obavy z role AI v právní praxi jsou stále rozšířené, zejména když její výstupy ovlivňují právní analýzu nebo výsledky pro klienty. Lidé se obávají, že právníci outsourcují své myšlení stroji, a že klíčové důkazy připravené nástrojem mohou být špatně interpretovány soudcem či porotou. Může mít AI někdy legitimní roli v justičním systému, který staví na spravedlnosti, transparentnosti a řádném postupu jako svých pilířích?

Přesto AI již našla praktické uplatnění v právní práci, zejména při revizi dokumentů, výzkumu, shrnování a tvorbě návrhů. A pravděpodobně se nikam neodkloní: Právní týmy přibližně 41 percent advokátních kanceláří nyní používají AI nástroje a toto číslo pravděpodobně poroste.

Jako právník specializující se na osobní úrazy vidím regulační mezery, které se objevují v důsledku používání AI v advokátních kancelářích, mnohem rychleji než právní standardy dokážou držet krok. Stávající profesní pravidla činí právníky odpovědnými za jejich práci, avšak nutně neřeší všechny otázky specifické pro AI, jako jsou zveřejňování, auditovatelnost, odpovědnost dodavatele, uchovávání dat a úroveň požadovaného lidského přezkoumání.

Definování odpovědnosti

Odpovědnost je jednou z nejnáročnějších otázek, které AI vyvolává: Kdo přebírá právní odpovědnost, když AI udělá chybu?

Proslulý případ z roku 2023 Mata vs. Avianca ukázal, že právníci žalobců použili ChatGPT k vytvoření právních citací. Chatbot však halucinoval a představil neexistující případy, které byly následně formálně předloženy soudci jako precedent. Výsledná aféra byla v mnoha ohledech nevyhnutelná, ale pomohla ustanovit důležitý princip: AI může právníkům pomáhat, ale nemůže nahradit jejich profesní povinnost ověřovat přesnost své práce.

V právu osobních úrazů se však výzva odpovědnosti rozšiřuje i mimo právní citace. Vzhledem k citlivé a často složité povaze případů v této oblasti mohou jakékoli chyby ovlivnit vyjednávání o smíru nebo soudní strategii dlouho před tím, než případ dorazí do soudní síně.

Představte si, že AI nástroj slouží k shrnutí a zhuštění stovek stránek lékařských záznamů do chronologického přehledu událostí. Avšak podrobnosti o dřívější kritické újmě mohou být zakopány. Taková opomenutí ovlivní požadavky právníka i klienta a může být odhaleno až během výslechu.

Není k tomu nápomocné, že chyby AI mohou být těžko odhalitelné. Vymyšlená citace je jasná a identifikovatelná chyba, ale AI systém, který přehlédne předchozí zdravotní stav, nesprávně shrne výpověď svědka nebo špatně vypočítá budoucí náklady na péči – takové chyby mohou vypadat rozumně a zůstat nepovšimnuty.

Zaujatost může být ještě obtížnější odhalit. Hodnotící systém trénovaný na historicky zkreslených datech by například mohl systematicky podhodnocovat nároky spojené s určitými demografickými skupinami.

Rozumné využívání AI

AI dokáže prohledávat hory dokumentů, analyzovat lékařské záznamy a dokonce připravovat právní požadavky. Při správném využití mohou tyto schopnosti snížit nadbytečnou administrativní práci a umožnit advokátům věnovat více času poradenství klientům a rozvoji právních strategií.

Nicméně ne každou úlohu by mělo být delegováno a případy osobních úrazů jsou zřídka jednoduché. Zahrnují protichůdné výpovědi svědků, vyvíjející se lékařské důkazy, otázky důvěryhodnosti a vyjednávání, která závisí stejně na lidském úsudku jako na právním precedentu. Historická data mohou AI pomoci identifikovat vzorce smírování, ale nemohou nahradit posouzení právníka, jak bude konkrétní žalobce, svědek nebo fakt vnímaný během soudu.

Největším nebezpečím je tedy, že právníci vkládají neopodstatněnou důvěru do výstupů, které se jeví jako autoritativní a objektivní, přestože AI může být chybná, slepá k souvislostem a neschopná lidského úsudku.

Podobná obava se projevuje i v pojišťovacím sektoru. Uvažujte o odporu vůči zdravotním pojišťovnám, které používají AI k přezkoumání nároků. Lidé chtějí mít jistotu lidského dohledu, vědíce, že skutečný člověk schopný úsudku přezkoumal jejich případy, i když AI práci odlehčila a zrychlila.

Právo není výjimkou a bez ohledu na to, jak moc AI pomáhá s rutinními úkoly, je třeba ji používat selektivně, s jasnými omezeními a smysluplným lidským dohledem. Naštěstí se zdá, že toto je směr, kterým se většina právníků ubírá: přibližně 83 procent právních profesionálů uvádí, že používání AI k poskytování právních rad je nevhodné.

Regulační rámec

V podstatě by regulace měla cílít na to, jak je AI používána, a také kde je její použití vhodné.

Pokud je generativní AI používána k vytváření soudních podání nebo dokumentů, mělo by být právně vyžadováno, aby advokáti osobně ověřili jakoukoli právní analýzu, citace či výpočty škod, než budou předány klientům nebo podány soudu.

Lidské přezkoumání musí být povinným krokem, nikoli jen doporučenou nejlepší praxí. Čím důležitější je výstup, tím přísnější by mělo být požadované přezkoumání. Jakákoli právní citace, výpočet škod, lékařská chronologie či faktické tvrzení generované AI a určené pro klienta nebo soud by nikdy neměly dosáhnout svého publika bez smysluplného ověření advokátem.

Selhání v tomto ohledu, například pokud by byl advokát přistižen při předkládání halucinovaných informací soudu, by mělo vést k vážným profesionálním následkům.

Firmy by také měly být povinny vytvořit a udržovat auditovatelný záznam o svém využívání AI. Pokud AI pomáhá při přezkoumávání lékařských záznamů, tvorbě výzvy k úhradě nebo shrnování výpovědi, měli by právníci být schopni identifikovat, který nástroj byl použit, jaké informace zpracoval a který advokát přezkoumal a schválil finální dokument. Vytvořte systém, který oceňuje odpovědnost, aby mohly být chyby opraveny dříve, než se během soudního řízení stanou problémem.

Nakonec je tu otázka ochrany dat. Případy osobních úrazů často zahrnují rozsáhlé lékařské záznamy, pracovní historii, finanční dokumenty a další důvěrné informace klienta. Vkládání těchto dat do AI systémů vytváří nová rizika týkající se uchovávání dat, neoprávněného přístupu a toho, zda informace předané poskytovateli AI třetí strany mohou být použity k trénování budoucích modelů.

Stávající opatření na zachování důvěrnosti již vyžadují, aby právníci zvažovali taková rizika. Regulační orgány by měly usilovat o další krok tím, že definují minimální očekávání ohledně pečlivosti dodavatelů, politiky uchovávání, využívání tréninkových dat a kontrol přístupu.

Závěrečné úvahy

As AI is increasingly used in litigation, the industry is faced with both an opportunity and challenge. The technology can certainly grant attorneys the time to focus on more critical elements, but without transparency and well‑considered framework for use and disclosure, it has the potential to undermine trust in our judicial system and imbue bias into court proceedings.

Zdá se, že AI sama je nyní na soudu. Ale než bude povolána k výpovědi, musí existovat konkrétní předpisy, které určí, co je a co není právně přípustné. Pouze vytvořením jasných standardů pro transparentnost a odpovědnost budou klienti a soudy přesvědčeni, že AI zlepšuje soudní procesy, aniž by ohrožovala principy spravedlnosti, férovosti a rovnosti pro všechny.