Alexander Hudek, auteur van AI voor juristen – Interviewreeks

Alex Hudek is de medeoprichter en CTO van Kira Systems. Hij heeft een Ph.D. en M.Math. in Computer Science van de University of Waterloo, en een B.Sc. van de University of Toronto in Fysica en Computer Science.

Zijn voorgaande onderzoek op het gebied van bio-informatica richtte zich op het vinden van overeenkomsten tussen DNA-sequenties. Hij heeft ook gewerkt aan de gebieden van bewijs-systemen en database-query-compilatie.

Vandaag publiceerde hij een nieuw boek met de titel AI voor juristen, een boek dat vijf belangrijke onderwerpen rond de ethiek van juristen die AI gebruiken (en niet gebruiken) onderzoekt.

Wat was de inspiratie achter het schrijven van AI voor juristen?

Mijn medeoprichter, Noah Waisberg, en ik runnen een juridisch AI-softwarebedrijf (Kira Systems) en hebben bijna een decennium lang gewerkt aan juridische AI. We zijn onder de langst actieve mensen in de industrie. Gedurende deze tijd hebben we beseft dat er een breed spectrum van acceptatie en weerstand is, en gemengde gevoelens wanneer het gaat om de rol van AI in de rechtspraak. We vonden dat er een kans was om een perspectief te bieden op waar we vandaag staan, en om enkele van de mythen en angsten rond AI te weerleggen.

De realiteit is dat AI hier is om te blijven, en we wilden een boek schrijven om juristen te helpen dit te beseffen en om hen aan boord te krijgen als ze dat nog niet zijn.

Wat zijn enkele van de onderwerpen die in het boek worden besproken?

AI voor juristen biedt informatie die essentieel is voor het begrijpen van de toekomst van de rechtspraak, in een toegankelijke en leesbare formaat dat bedoeld is om de jargon rond AI te demystificeren en de krachtige praktische toepassing ervan te laten zien.

Nieuwe en aspirant-juristen zullen dit boek onmisbaar vinden, omdat het spannende carrièremogelijkheden en -trajecten beschrijft die slechts een paar jaar geleden niet mogelijk waren. Het biedt ook een kader voor het adopteren van AI in praktische details, en benadrukt hoe AI vandaag wordt gebruikt om aanzienlijk betere resultaten te behalen voor advocatenkantoren over de hele wereld.

Het boek legt verder uit hoe AI waarschijnlijk de juridische wereld in de komende jaren zal vormgeven in gebieden die nog niet zijn getransformeerd door digitale technologie, de ethiek van juristen die AI gebruiken (en niet gebruiken), en meer.

Waarom zouden juristen AI moeten beginnen te gebruiken?

Het adopteren van AI is een goede zakelijke beslissing. Voor advocatenkantoren en andere juridische dienstverleners biedt het kansen om beter werk te doen, de realisatiegraad te verhogen, nieuwe zaken te winnen, bestaande zaken te behouden en opwaarderen, en vaste tariefwerken winstgevender te maken. Voor bedrijven maakt het het mogelijk om werk sneller en met minder moeite te doen en – belangrijker nog – hun bedrijf beter te runnen, door te weten in plaats van te gissen naar bijvoorbeeld de details van hun bedrijfsrelaties (zoals vastgelegd in hun contracten).

AI geeft gebruikers de mogelijkheid om – door AI-systemen nieuwe vaardigheden te leren – concurrentievoordeel te creëren, waarde te bouwen in de organisatie in plaats van in individuele juristen, en mogelijk geld te verdienen door hun expertise te verzamelen en te distribueren.

Kunt u enkele voorbeelden geven van hoe AI wordt gebruikt om impactvolle resultaten te behalen voor advocatenkantoren?

Machine learning is effectief waar grote hoeveelheden data deel uitmaken van een juridisch proces, en waar het schalen van deze processen met menselijke arbeid en intelligentie een uitdaging is.

De eerste toepassingen in de rechtspraak kwamen in de litigatie, toen juristen het probleem van steeds meer data gegenereerd en opgeslagen in elektronische formaten begonnen te ervaren. Steeds vaker vonden juristen dat partijen in een rechtszaak grote hoeveelheden informatie (en potentieel relevante bewijs) hadden opgeslagen in e-mail, documentbeheersystemen en andere digitale media. De beschikbaarheid van data overtrof de capaciteit van mensen om alle informatie die relevant was voor rechtszaken te controleren en te identificeren, en dit leidde tot de toepassing van machine learning in de ontdekkingsfase van de litigatie. Machines blijken heel goed te zijn in het snel en nauwkeurig identificeren van data die relevant kan zijn voor een ontdekkingsverzoek.

Contractanalyse, waar Kira een rol in speelt, is een ander voorbeeld van een gebied waar grote hoeveelheden data (M&A-deals kunnen duizenden contracten omvatten) zijn. Traditionele processen (zoals handmatige contractbeoordelingen) kunnen simpelweg niet omgaan met de hoeveelheid data of de behoefte aan nauwkeurige identificatie en analyse van contractclausules.

Rechtsresearch is een ander gebied waar machine learning het proces van het onderzoeken van juridische precedenten en het extraheren van betekenis en inzicht uit sets van juridische documenten die eerder moeilijker te vinden waren met handmatige methoden, heeft verbeterd.

Wat zijn enkele van de ethische verplichtingen van juristen die in de AI-ruimte werken?

Naarmate technologie een grotere rol in ons leven speelt, krijgen de ethische implicaties meer aandacht. Dit varieert van de plaatsing van beveiligingscamera’s tot anonimiteit online en de trainingsdata die worden gebruikt om machine learning-algoritmen te leren. Het is niet verrassend dat dit ook een kwestie is rond juridische AI.

De technologie mag dan nieuw zijn, maar de ethische plichten die juristen die AI gebruiken tegenkomen, zijn nog steeds hetzelfde als voor de grootschalige adoptie van AI. Het boek behandelt de manieren waarop AI de competentieplicht van een jurist beïnvloedt (inclusief het kennen van de voordelen en risico’s die samenhangen met relevante technologie); de communicatieplicht; de plicht om te superviseren en beperkingen op de ongeautoriseerde uitoefening van de rechtspraak; de loyaliteitsplicht; en meer.

Kunt u bespreken hoe groot het probleem van AI-vooringenomenheid is?

In de afgelopen jaren hebben we echte gevolgen gezien van vooringenomen AI-systemen. Bijvoorbeeld, gezichtsherkenning wordt steeds vaker gebruikt door rechtshandhavingsinstanties om mensen te identificeren op een schaal die eerder ondenkbaar was. Wanneer je hierbij bedenkt dat huidige gezichtsherkenningssystemen vaak lagere nauwkeurigheid hebben voor veel minderheden, worden de potentiële problemen meteen duidelijk. Dit heeft ertoe geleid dat veel bedrijven zijn teruggetreden uit sommige van deze toepassingen. Evenzo heeft het gebruik van AI om oordelen of beslissingen te nemen die individuen beïnvloeden, zoals het voorspellen van het risico van recidive in het strafrechtssysteem of het bepalen van kredietwaardigheid, op overtuigende wijze laten zien hoe groot de impact van vooringenomenheid in AI-systemen kan zijn.

Er zijn echter ook toepassingen die niet op dezelfde manier last hebben van vooringenomenheid. Bijvoorbeeld, in M&A-due-diligence-beoordeling, een gebied waar Kira vaak wordt gebruikt, zou je het type vooringenomenheid dat in de vorige voorbeelden wordt beschreven niet zien. AI-modellen kunnen nog steeds op sommige manieren vooringenomen zijn, zoals over- of onderinclusief, maar de impact hiervan is niet zo kritiek.

Dus het antwoord is zowel dat vooringenomenheid een groot probleem is in sommige toepassingen, en niet in anderen. Het hangt af van hoe je het gebruikt.

Hoe kunnen juristen het beste omgaan met AI-vooringenomenheid?

Het verantwoord gebruik van AI vereist dat degenen die het toepassen, vooringenomenheidskwesties in hun toepassing overwegen. Juristen kunnen dit het beste aanpakken door te begrijpen hoe AI werkt en hoe ze situaties kunnen identificeren waarin de toepassing van AI onbedoelde negatieve gevolgen kan hebben. Dit is vrij algemeen advies, omdat er veel soorten AI zijn en het op veel verschillende manieren wordt toegepast.

Het belangrijkste om op te letten is situaties waarin onjuiste of vooringenomen beslissingen die door AI worden ondersteund, tot negatieve resultaten voor mensen kunnen leiden of de privacy of persoonlijke integriteit van mensen kunnen schenden.

Wie moet verantwoordelijk en/of aansprakelijk zijn wanneer een AI een fout maakt?

Dit is een kwestie van contract-, onrechtmatige daad- en productaansprakelijkheidsrecht meer dan iets anders. Typisch beperken AI-systeemgebruikersovereenkomsten de garanties en aansprakelijkheid van hun leveranciers. Er zijn goede redenen voor dit. Ten eerste weten de meeste verantwoordelijke leveranciers dat hun systemen fouten maken en zouden ze niet anders beloven. Ten tweede vullen AI-systemen vaak juristen aan en nemen ze niet de eindbeslissingen die tot aansprakelijkheid zouden leiden. Ten derde zouden leveranciers veel meer in rekening moeten brengen om het risico te dekken (hoewel ze zichzelf potentieel konden verzekeren door hun eigen “fouten en omissies”-verzekeringen af te sluiten).

Het is essentieel dat juristen strikt in het beste belang van hun cliënten handelen en erkennen dat AI en andere technologie-instrumenten alleen maar hulpmiddelen zijn. Ze zijn onmisbare assistenten en ze zijn hier om te blijven, maar ze maken nog steeds geen regels, of trainen ze zichzelf volledig – dat is nog steeds de verantwoordelijkheid van mensen.

Is er nog iets dat u zou willen delen over AI voor juristen?

AI is de laatste stap in het stimuleren van de ontwikkeling van de rechtspraak. Het wordt veel gebruikt in de rechtspraak en biedt echte voordelen voor juristen die het omarmen, en gevaren voor diegenen die dat niet doen. Ik ben blij om deel uit te maken van deze verandering en hoop dat dit boek een gids kan zijn die de industrie nog verder kan stimuleren. Ondanks de algemene angsten en onzekerheid rond AI, geloven Noah en ik stellig dat het een instrument is dat zowel kan en zal worden gebruikt op positieve wijze voor de wereld in de komende jaren.

U kunt meer te weten komen over AI voor juristen door onze website te bezoeken.

Bedankt voor het geweldige interview, ik kijk ernaar uit om dit boek te lezen. Lezers die meer willen weten over Alex of Kira Systems moeten onze eerste interview met Alex Hudek lezen.