De volgende uitdaging voor AI in letselschade‑recht is verantwoordelijkheid

Sommige toepassingen van AI zijn relatief onschuldig; andere kunnen nogal controverse oproepen. En aangezien de technologie nog relatief nieuw is, zou men kunnen stellen dat de brede adoptie ervan in de juridische sector tot die laatste categorie behoort.

Er bestaan brede zorgen over de rol van AI in de juridische praktijk, vooral wanneer de output invloed heeft op juridische analyses of uitkomsten voor cliënten. Mensen maken zich zorgen dat advocaten hun denkwerk uitbesteden aan een machine, en dat cruciaal bewijs dat door een tool is voorbereid verkeerd kan worden geïnterpreteerd door een rechter of jury. Kan AI ooit een legitieme rol spelen in een rechtssysteem dat eerlijkheid, transparantie en due process als pijlers heeft?

Desondanks heeft AI al praktische toepassingen gevonden in juridisch werk, met name bij documentreview, onderzoek, samenvatting en het opstellen van stukken. En het lijkt niet meer weg te gaan: juridische teams bij ongeveer 41 procent van de advocatenkantoren gebruiken nu AI‑tools, en dat percentage zal naar verwachting blijven groeien.

Als letselschade‑advocaat zie ik regelgevende lacunes ontstaan als gevolg van het gebruik van AI in advocatenkantoren veel sneller dan de juridische normen kunnen bijhouden. Bestaande beroepsregels maken advocaten verantwoordelijk voor hun werk, maar ze lossen niet per se elke AI‑specifieke vraag op rond openbaarmaking, auditbaarheid, leveranciersverantwoordelijkheid, gegevensbewaring en het niveau van menselijk toezicht dat vereist is.

Verantwoordelijkheid definiëren

Verantwoordelijkheid is een van de moeilijkste vragen die AI oproept: wie neemt de juridische verantwoordelijkheid op zich wanneer AI een fout maakt?

Beruchtelijk was de zaak Mata vs. Avianca uit 2023, waarin de advocaten van de eiser ChatGPT gebruikten om juridische citaten te genereren. De chatbot verzon echter niet‑bestaande zaken die vervolgens formeel als precedent aan de rechter werden voorgelegd. Het daaropvolgende tumult was in veel opzichten onvermijdelijk, maar het bevestigde een belangrijk principe: AI mag advocaten ondersteunen, maar kan hun professionele plicht om de juistheid van hun werk te verifiëren niet vervangen.

In letselschade‑recht reikt de verantwoordingsuitdaging echter verder dan juridische citaten. Gezien de gevoelige en vaak complexe aard van de zaken in dit domein, kunnen fouten de onderhandelingspositie of de processtrategie al beïnvloeden lang voordat de zaak voor de rechter komt.

Stel dat een AI‑tool wordt ingezet om honderden pagina’s medische dossiers samen te vatten en te comprimeren tot een chronologisch overzicht van gebeurtenissen. Maar details van een eerdere kritieke blessure raken ondergesneeuwd. Een dergelijke weglating zal de eisen van advocaat en cliënt beïnvloeden en kan pas tijdens een getuigenverhoor aan het licht komen.

Het helpt niet dat AI‑fouten moeilijk te detecteren kunnen zijn. Een verzonnen citaat is een duidelijke en herkenbare fout, maar een AI‑systeem dat een reeds bestaande medische aandoening over het hoofd ziet, een getuigenverklaring onjuist samenvat of toekomstige zorgkosten verkeerd berekent — zulke fouten kunnen plausibel lijken en onopgemerkt blijven.

Vooringenomenheid kan nog moeilijker te detecteren zijn. Een waarderingssysteem dat is getraind op historisch scheve data kan bijvoorbeeld systematisch claims die aan bepaalde demografische groepen zijn gekoppeld, onderwaarderen.

AI verstandig gebruiken

AI kan door enorme hoeveelheden documenten bladeren, medische dossiers analyseren en zelfs juridische vorderingen opstellen. Wanneer ze op de juiste manier worden ingezet, kunnen deze mogelijkheden overbodig administratief werk verminderen en advocaten meer tijd geven om cliënten te adviseren en juridische strategieën te ontwikkelen.

Maar niet elke taak moet worden gedelegeerd, en letselschadezaken zijn zelden eenvoudig. Ze omvatten tegenstrijdige getuigenverklaringen, zich ontwikkelend medisch bewijs, geloofwaardigheidskwesties en onderhandelingen die evenveel op menselijk oordeel als op juridisch precedent steunen. Historische data kunnen AI helpen om onderhandelingspatronen te herkennen, maar ze kunnen niet de beoordeling van een advocaat vervangen over hoe een specifieke eiser, getuige of feit tijdens de rechtszaak zal worden waargenomen.

Het grootste gevaar is daarom dat advocaten onterecht vertrouwen stellen in resultaten die autoritatief en objectief lijken, terwijl AI fouten kan maken, blinde voor context is en niet in staat is tot menselijk oordeel.

Een vergelijkbare zorg speelt zich af in de verzekeringssector. Denk aan de tegenreactie op zorgverzekeraars die AI om claims te beoordelen. Mensen willen zekerheid van menselijk toezicht, wetende dat een echt mens met beoordelingsvermogen hun dossiers heeft bekeken, zelfs als de werklast door AI werd verlicht en versneld.

Wet is niet anders, en hoe AI ook helpt met het saaie werk, moet worden erkend dat het selectief moet worden ingezet, met duidelijke grenzen en zinvol menselijk toezicht. Gelukkig lijkt dit de richting te zijn die de meeste advocaten inslaan: ongeveer 83 procent van de juridische professionals zegt dat het gebruik van AI om juridisch advies te geven is ongepast.

Een regelgevend kader

Regelgeving moet in wezen richten op hoe AI wordt gebruikt, en waar het gepast is om AI in te zetten.

Als generatieve AI wordt ingezet om gerechtelijke stukken of documenten op te stellen, moet wettelijk vereist zijn dat advocaten zelf elke juridische analyse, citaten of schadeberekeningen verifiëren voordat deze met cliënten worden gedeeld of bij de rechtbank worden ingediend.

Mensenreview moet een verplichte stap zijn, niet slechts een aanbevolen best practice. Hoe ingrijpender de output, hoe strenger de vereiste controle moet zijn. Elke juridische citaat, schadeberekening, medische chronologie of feitelijke bewering die door AI wordt gegenereerd en bestemd is voor een cliënt of de rechtbank, mag nooit het publiek bereiken zonder een zinvolle verificatie door een advocaat.

Het niet naleven hiervan, bijvoorbeeld het indienen van verzonnen informatie bij de rechtbank, moet leiden tot ernstige beroepsgevolgen.

Kantoren moeten ook verplicht worden een controleerbaar register van hun AI‑gebruik bij te houden. Als AI helpt bij het beoordelen van medische dossiers, het opstellen van een aanmaningsbrief of het samenvatten van een getuigenis, moeten advocaten kunnen aangeven welke tool is gebruikt, welke informatie is verwerkt en welke advocaat het uiteindelijke document heeft gecontroleerd en goedgekeurd. Creëer een systeem dat verantwoordelijkheid bevordert zodat fouten kunnen worden gecorrigeerd voordat ze tijdens een proces een probleem vormen.

Tenslotte is er de kwestie van gegevensbescherming. Letselschadezaken omvatten vaak uitgebreide medische dossiers, arbeidsgeschiedenissen, financiële documenten en andere vertrouwelijke cliëntinformatie. Het invoeren van deze data in AI‑systemen brengt nieuwe risico’s met zich mee rond gegevensbewaring, ongeautoriseerde toegang en de vraag of informatie die aan een externe AI‑leverancier wordt verstrekt, kan worden gebruikt om toekomstige modellen te trainen.

Bestaande vertrouwelijkheidsmaatregelen verplichten advocaten al om dergelijke risico’s in overweging te nemen. Regelgevers moeten streven naar strengere normen door minimale verwachtingen te definiëren voor zorgvuldigheid van leveranciers, bewaarbeleid, gebruik van trainingsdata en toegangscontroles.

Slotgedachten

Naarmate AI steeds vaker wordt ingezet in geschillen, staat de sector voor zowel een kans als een uitdaging. De technologie kan advocaten zeker de tijd geven om zich op belangrijkere aspecten te richten, maar zonder transparantie en goed doordachte kaders voor gebruik en openbaarmaking, kan ze het vertrouwen in ons rechtssysteem ondermijnen en vooringenomenheid in gerechtelijke procedures inbrengen.

Het lijkt erop dat AI zelf nu op de proef wordt gesteld. Maar voordat het de getuigenbank kan betreden, moeten er specifieke regels bestaan die bepalen wat wel en niet juridisch toegestaan is. Alleen door duidelijke normen voor transparantie en verantwoordelijkheid te creëren, zullen cliënten en rechtbanken overtuigd worden dat AI de rechtspraktijk verbetert zonder afbreuk te doen aan de principes van gerechtigheid, eerlijkheid en gelijkheid voor iedereen.