Den næste udfordring for AI i personskadejuridik er ansvarlighed

Nogle af AI’s anvendelsesområder er relativt harmløse; andre kan skabe betydelig kontrovers. Og da teknologien stadig er relativt ny, kan man argumentere for, at dens udbredte anvendelse i den juridiske branche falder ind under den sidstnævnte kategori.

Bekymringer om AI’s rolle i juridisk praksis er udbredte, især når dens output påvirker juridisk analyse eller klientresultater. Folk er bekymrede for, at advokater overlader deres tænkning til en maskine, og at afgørende beviser, der er udarbejdet af et værktøj, kan blive misforstået af en dommer eller jury. Kan AI nogensinde have en legitim rolle i et retssystem, der betragter retfærdighed, gennemsigtighed og retssikkerhed som sine grundpiller?

Uanset dette har AI allerede fundet praktiske anvendelser i juridisk arbejde, især inden for dokumentgennemgang, forskning, opsummering og udarbejdelse. Og det ser ud til at blive ved: Juridiske teams i cirka 41 percent af advokatfirmaerne bruger nu AI-værktøjer, og dette tal ser ud til at vokse.

Som en advokat inden for personskade ser jeg regulatoriske huller opstå som følge af AI’s brug i advokatfirmaer meget hurtigere, end de juridiske standarder kan følge med. Eksisterende faglige regler gør advokater ansvarlige for deres arbejde, men de løser ikke nødvendigvis alle AI‑specifikke spørgsmål omkring offentliggørelse, auditabilitet, leverandøransvar, datalagring og det nødvendige niveau af menneskelig gennemgang.

Definition af ansvarlighed

Ansvarlighed er et af de sværeste spørgsmål, som AI rejser: Hvem påtager sig juridisk ansvar, når AI begår en fejl?

Irriterende, i 2023-sagen Mata vs. Avianca, brugte sagsøgerens advokater ChatGPT til at udarbejde juridiske referencer. Men chatbotten hallucinerede og præsenterede ikke‑eksisterende sager, som derefter formelt blev indgivet som præcedens til dommeren. Den resulterende opstandelse var på mange måder uundgåelig, men den fastslog et vigtigt princip: AI kan assistere advokater, men kan ikke erstatte deres professionelle pligt til at verificere nøjagtigheden af deres arbejde.

I personskadesager strækker ansvarsudfordringen sig dog ud over juridiske referencer. På grund af den følsomme og ofte komplekse karakter af de sager, der er involveret i dette område, kan enhver fejl forme forhandlingsstrategier eller retssagsstrategi længe før sagen når retssalen.

Forestil dig, at et AI‑værktøj bruges til at opsummere og komprimere hundredvis af sider med medicinske journaler til en kronologisk begivenhedsoversigt. Men detaljer om en tidligere kritisk skade bliver begravet. En sådan udeladelse vil påvirke advokatens og klientens krav og kan kun blive opdaget under en afhøring.

Det hjælper ikke, at AI’s fejl kan være svære at identificere. En fabrikeret reference er en klar og genkendelig fejl, men et AI‑system, der overser en eksisterende medicinsk tilstand, fejlagtigt opsummerer en vidnets udtalelse eller misberegner fremtidige plejeomkostninger — sådanne fejl kan fremstå rimelige og forblive uopdagede.

Bias kan være endnu sværere at opdage. Et værdiansættelsessystem, der er trænet på historisk skævvredne data, kan for eksempel systematisk undervurdere krav, der er forbundet med bestemte demografiske grupper.

Brug af AI med omtanke

AI kan gennemgå enorme mængder dokumenter, analysere medicinske journaler og endda udarbejde juridiske krav. Når de bruges korrekt, kan disse evner reducere overflødigt administrativt arbejde og give advokater mere tid til at rådgive klienter og udvikle juridiske strategier.

Men ikke alle opgaver bør delegeres, og personskadesager er sjældent simple. De involverer modstridende vidneudsagn, udviklende medicinske beviser, spørgsmål om troværdighed og forhandlinger, der afhænger lige så meget af menneskelig dømmekraft som af juridisk præcedens. Historiske data kan hjælpe AI med at identificere forhandlingsmønstre, men de kan ikke erstatte en advokats vurdering af, hvordan en bestemt sagsøger, vidne eller faktum sandsynligvis vil blive opfattet under retssagen.

Den største fare er derfor, at advokater placerer uberettiget tillid til output, der fremstår autoritative og objektive, selvom AI kan tage fejl, er blind for kontekst og ude af stand til menneskelig dømmekraft.

En lignende bekymring spiller sig ud i forsikringssektoren. Overvej modstanden mod sundhedsforsikringsselskaber, der bruger AI til at gennemgå krav. Folk ønsker at være sikre på menneskelig kontrol, idet de ved, at et rigtigt menneske med dømmekraft har gennemgået deres sager, selvom arbejdsbyrden blev lettet og fremskyndet af AI.

Jura er ikke anderledes, og uanset hvor meget AI hjælper med det kedelige arbejde, skal det anvendes selektivt, med klare grænser og meningsfuld menneskelig kontrol. Heldigvis ser det ud til at være den retning, de fleste advokater bevæger sig i: omkring 83 percent af de juridiske fagfolk siger, at brug af AI til at give juridisk rådgivning er upassende.

Et reguleringsrammeværk

Grundlæggende bør regulering fokusere på, hvordan AI anvendes, samt hvor det er passende at bruge den.

Hvis generativ AI bruges til at udarbejde retsdokumenter eller andre dokumenter, bør det lovmæssigt kræves, at advokater personligt verificerer enhver juridisk analyse, referencer eller erstatningskrav, før de deles med klienter eller indgives i retten.

Menneskelig gennemgang skal være et obligatorisk skridt, ikke blot en anbefalet bedste praksis. Jo mere væsentligt outputtet er, jo mere grundig bør gennemgangen være. Enhver juridisk reference, beregning af erstatning, medicinsk kronologi eller faktuel påstand, der er genereret af AI og beregnet til en klient eller domstol, bør aldrig nå sit publikum uden meningsfuld advokatverificering.

Undladelse af dette, for eksempel at blive fanget i at indsende hallucineret information i retten, bør medføre alvorlige faglige konsekvenser.

Firmaer bør også være forpligtet til at producere og vedligeholde en auditérbar registrering af deres AI‑brug. Hvis AI assisterer med at gennemgå medicinske journaler, udarbejde et kravbrev eller opsummere en vidneudsagn, skal advokater kunne identificere, hvilket værktøj der blev brugt, hvilken information det behandlede, og hvilken advokat der gennemgik og godkendte det endelige dokument. Skab et system, der prioriterer ansvarlighed, så fejl kan rettes, før de bliver et problem under retssagen.

Endelig er der spørgsmålet om databeskyttelse. Personskadesager involverer ofte omfattende medicinske journaler, ansættelseshistorik, finansielle dokumenter og andre fortrolige klientoplysninger. At indføre disse data i AI‑systemer skaber nye risici omkring datalagring, uautoriseret adgang og om information, der er indsendt til en tredjeparts AI‑udbyder, kan blive brugt til at træne fremtidige modeller.

Eksisterende fortrolighedsforanstaltninger kræver allerede, at advokater overvejer sådanne risici. Regulatorer bør sigte mod at gå videre ved at definere minimumsforventninger til leverandørens omhu, opbevaringspolitikker, brug af træningsdata og adgangskontroller.

Afsluttende tanker

Efterhånden som AI i stigende grad anvendes i retssager, står branchen over for både en mulighed og en udfordring. Teknologien kan helt sikkert give advokater tid til at fokusere på mere kritiske elementer, men uden gennemsigtighed og velovervejede rammer for brug og offentliggørelse har den potentiale til at underminere tilliden til vores retssystem og indføre bias i retssager.

Det ser ud til, at AI selv nu er på retssag. Men før den kan træde frem som vidne, skal der være specifikke regler, der fastlægger, hvad der er og ikke er juridisk tilladt. Kun ved at skabe klare standarder for gennemsigtighed og ansvarlighed vil klienter og domstole blive overbeviste om, at AI forbedrer retssager uden at gå på kompromis med retfærdighedens, lighedens og fairness‑principperne for alle.