La prossima sfida per l’IA nel diritto delle lesioni personali è la responsabilità

Alcuni casi d’uso dell’IA sono relativamente innocui; altri possono generare notevoli controversie. E dato che la tecnologia è ancora relativamente giovane, si potrebbe sostenere che la sua adozione diffusa nel settore legale rientri nella seconda categoria.

Le preoccupazioni sul ruolo dell’IA nella pratica legale rimangono diffuse, soprattutto quando i suoi risultati influenzano l’analisi giuridica o gli esiti per i clienti. Le persone temono che gli avvocati stiano esternalizzando il proprio ragionamento a una macchina, e che prove cruciali preparate da uno strumento possano essere fraintese da un giudice o da una giuria. L’IA potrà mai avere un ruolo legittimo in un sistema di giustizia che considera equità, trasparenza e diritto al contraddittorio come pilastri?

Tuttavia, l’IA ha già trovato impieghi pratici nel lavoro legale, in particolare nella revisione di documenti, nella ricerca, nella sintesi e nella redazione. E sembra destinata a rimanere qui: i team legali di circa 41 percento degli studi legali utilizzano ora strumenti di IA, e si prevede che questa percentuale continui a crescere.

Come avvocato specializzato in lesioni personali, vedo emergere lacune normative a seguito dell’uso dell’IA negli studi legali molto più rapidamente di quanto gli standard giuridici possano tenere il passo. Le norme professionali esistenti rendono gli avvocati responsabili del loro lavoro, ma non risolvono necessariamente ogni questione specifica dell’IA relativa a divulgazione, tracciabilità, responsabilità del fornitore, conservazione dei dati e al livello di revisione umana richiesto.

Definire la Responsabilità

La responsabilità è una delle domande più difficili sollevate dall’IA: chi assume la responsabilità legale quando l’IA commette un errore?

Infamemente, nel caso del 2023 Mata contro Avianca, gli avvocati del ricorrente hanno utilizzato ChatGPT per produrre citazioni legali. Tuttavia il chatbot ha generato allucinazioni, presentando casi inesistenti che sono stati poi formalmente presentati come precedenti al giudice. Il conflitto risultante era in molti sensi inevitabile, ma ha servito a stabilire un principio importante: l’IA può assistere gli avvocati, ma non può sostituire il loro dovere professionale di verificare l’accuratezza del proprio lavoro.

Nel diritto delle lesioni personali, tuttavia, la sfida della responsabilità va oltre le citazioni legali. Considerata la natura sensibile e spesso complessa dei casi in questo ambito, qualsiasi errore può influenzare le trattative di transazione o la strategia di contenzioso molto prima che il caso arrivi in aula.

Supponiamo che uno strumento di IA venga usato per riassumere e condensare centinaia di pagine di cartelle cliniche in una cronologia degli eventi. Ma i dettagli di una lesione critica precedente vengono sepolti. Tale omissione influenzerà le richieste dell’avvocato e del cliente e potrebbe essere scoperta solo durante la deposizione.

Non aiuta che gli errori dell’IA possano essere difficili da identificare. Una citazione fabbricata è un fallimento chiaro e riconoscibile, ma un sistema di IA che ignora una condizione medica preesistente, riassume in modo errato l’opinione di un testimone o calcola in modo sbagliato i costi delle cure future — tali errori possono apparire ragionevoli e passare inosservati.

Pregiudizio può essere ancora più difficile da rilevare. Un sistema di valutazione addestrato su dati storicamente distorti potrebbe, ad esempio, svalutare sistematicamente le richieste associate a particolari gruppi demografici.

Utilizzare l’IA con giudizio

L’IA può setacciare montagne di documenti, analizzare cartelle cliniche e persino redigere richieste legali. Se usate correttamente, queste capacità possono ridurre il lavoro amministrativo superfluo e consentire agli avvocati di dedicare più tempo a consigliare i clienti e a sviluppare strategie legali.

Tuttavia, non tutti i compiti dovrebbero essere delegati, e i casi di lesioni personali raramente sono lineari. Coinvolgono testimonianze contrastanti, prove mediche in evoluzione, questioni di credibilità e negoziazioni che dipendono tanto dal giudizio umano quanto dal precedente legale. I dati storici possono aiutare l’IA a identificare modelli di transazione, ma non possono sostituire la valutazione di un avvocato su come un determinato ricorrente, testimone o fatto sarà percepito al processo.

Il pericolo più grande, quindi, è che gli avvocati ripongano una fiducia ingiustificata in risultati che sembrano autorevoli e oggettivi, anche se l’IA può sbagliare, essere cieca al contesto e incapace di giudizio umano.

Una preoccupazione simile si manifesta nel settore assicurativo. Consideriamo la reazione contro le compagnie di assicurazione sanitaria che utilizzano l’IA per esaminare le richieste. Le persone vogliono essere certe di una supervisione umana, sapendo che un vero essere umano capace di giudizio ha esaminato i loro casi, anche se il carico di lavoro è stato alleggerito e accelerato dall’IA.

Il diritto non è diverso, e per quanto l’IA aiuti con le attività noiose, è necessario riconoscere che deve essere usata in modo selettivo, con limiti chiari e una supervisione umana significativa. Fortunatamente, sembra che questa sia la direzione verso cui la maggior parte degli avvocati si sta muovendo: circa l’83 percento dei professionisti legali afferma che l’uso dell’IA per fornire consulenza legale è inappropriato.

Un Quadro Normativo

In sostanza, la normativa dovrebbe mirare a come l’IA viene utilizzata, nonché a dove sia opportuno usarla.

Se l’IA generativa viene impiegata per produrre atti giudiziari o documenti, dovrebbe essere legalmente obbligatorio per gli avvocati verificare personalmente qualsiasi analisi legale, citazione o risarcimento prima che vengano condivisi con i clienti o depositati in tribunale.

La revisione umana deve essere una fase obbligatoria, non semplicemente una buona pratica consigliata. Quanto più significativo è il risultato, tanto più rigorosa deve essere la revisione richiesta. Qualsiasi citazione legale, calcolo dei danni, cronologia medica o affermazione fattuale generata dall’IA e destinata a un cliente o al tribunale non dovrebbe mai raggiungere il suo destinatario senza una verifica significativa da parte dell’avvocato.

Il mancato rispetto di tale procedura, ad esempio essere scoperti a presentare informazioni allucinanti in tribunale, dovrebbe comportare gravi conseguenze professionali.

Gli studi dovrebbero inoltre essere tenuti a produrre e mantenere un registro verificabile del loro utilizzo dell’IA. Se l’IA assiste nella revisione delle cartelle cliniche, nella redazione di una lettera di richiesta o nella sintesi di una testimonianza, gli avvocati dovrebbero poter identificare quale strumento è stato usato, quali informazioni ha elaborato e quale avvocato ha revisionato e approvato il documento finale. Creare un sistema che valorizzi la responsabilità in modo che gli errori possano essere corretti prima di diventare un problema durante il contenzioso.

Infine, c’è la questione della protezione dei dati. I casi di lesioni personali spesso coinvolgono ampie cartelle cliniche, storie occupazionali, documenti finanziari e altre informazioni riservate dei clienti. Inserire questi dati nei sistemi di IA crea nuovi rischi riguardo alla conservazione dei dati, all’accesso non autorizzato e alla possibilità che le informazioni inviate a un fornitore di IA terzo possano essere utilizzate per addestrare modelli futuri.

Le misure di riservatezza esistenti richiedono già agli avvocati di considerare tali rischi. I regolatori dovrebbero mirare a fare di più, definendo aspettative minime per la diligenza dei fornitori, le politiche di conservazione, l’uso dei dati di addestramento e i controlli di accesso.

Considerazioni Finali

Man mano che l’IA viene sempre più impiegata nei contenziosi, il settore si trova di fronte sia a un’opportunità sia a una sfida. La tecnologia può certamente concedere agli avvocati più tempo per concentrarsi su elementi più critici, ma senza trasparenza e quadri ben ponderati per l’uso e la divulgazione, ha il potenziale di minare la fiducia nel nostro sistema giudiziario e di introdurre pregiudizi nei procedimenti giudiziari.

Sembra che l’IA stessa sia ora sotto processo. Ma prima che possa prendere la parola, devono esserci normative specifiche per determinare ciò che è e ciò che non è legalmente consentito. Solo creando standard chiari per la trasparenza e la responsabilità i clienti e i tribunali saranno convinti che l’IA sta migliorando il contenzioso senza compromettere i principi di giustizia, equità e uguaglianza per tutti.