O Próximo Desafio da IA no Direito de Lesões Pessoais é a Responsabilidade

Alguns casos de uso da IA são relativamente inócuos; outros podem gerar bastante controvérsia. E, considerando que a tecnologia ainda é relativamente incipiente, pode‑se argumentar que sua adoção generalizada na indústria jurídica se enquadra na segunda categoria.

As preocupações sobre o papel da IA na prática jurídica permanecem difundidas, especialmente quando seus resultados influenciam a análise legal ou os resultados para o cliente. As pessoas temem que os advogados estejam terceirizando seu pensamento para uma máquina, e que evidências cruciais preparadas por uma ferramenta possam ser interpretadas erroneamente por um juiz ou júri. Será que a IA pode ter um papel legítimo em um sistema de justiça que tem como pilares a equidade, a transparência e o devido processo legal?

De qualquer forma, a IA já encontrou usos práticos no trabalho jurídico, particularmente na revisão de documentos, pesquisa, resumir e redigir. E parece que não vai desaparecer: equipes jurídicas em aproximadamente 41 por cento dos escritórios de advocacia já utilizam ferramentas de IA, e esse número parece destinado a crescer.

Como advogado de lesões pessoais, vejo lacunas regulatórias surgindo como resultado do uso de IA em escritórios de advocacia muito mais rápido do que os padrões legais conseguem acompanhar. As regras profissionais existentes tornam os advogados responsáveis por seu trabalho, mas não resolvem necessariamente todas as questões específicas da IA relacionadas à divulgação, auditabilidade, responsabilidade do fornecedor, retenção de dados e ao nível de revisão humana exigido.

Definindo Responsabilidade

Responsabilidade é uma das questões mais difíceis levantadas pela IA: Quem assume a responsabilidade legal quando a IA comete um erro?

Infamemente, no caso de 2023 Mata vs. Avianca, os advogados do autor usaram o ChatGPT para produzir citações jurídicas. Mas o chatbot gerou alucinações e apresentou casos inexistentes que foram então formalmente submetidos como precedente ao juiz. O tumulto resultante era, em muitos aspectos, inevitável, mas serviu para estabelecer um princípio importante: a IA pode auxiliar os advogados, mas não pode substituir o dever profissional de verificar a precisão de seu trabalho.

No direito de lesões pessoais, porém, o desafio da responsabilidade vai além das citações jurídicas. Dada a natureza sensível e frequentemente complexa dos casos envolvidos nesse campo, quaisquer erros podem moldar negociações de acordo ou estratégias de litígio muito antes de o caso chegar ao tribunal.

Suponha que uma ferramenta de IA seja usada para resumir e condensar centenas de páginas de prontuários médicos em um registro cronológico de eventos. Mas detalhes de uma lesão crítica anterior ficam enterrados. Essa omissão influenciará as demandas do advogado e do cliente, e pode ser descoberta apenas durante a oitiva.

Não ajuda que os erros da IA possam ser difíceis de identificar. Uma citação fabricada é uma falha clara e identificável, mas um sistema de IA que ignora uma condição médica preexistente, resume incorretamente a opinião de uma testemunha ou calcula erroneamente os custos de cuidados futuros — tais erros podem parecer razoáveis e passar despercebidos.

Viés pode ser ainda mais difícil de detectar. Um sistema de avaliação treinado com dados historicamente enviesados poderia, por exemplo, subvalorizar sistematicamente reivindicações associadas a determinados grupos demográficos.

Usando IA com Juízo

A IA pode vasculhar montanhas de documentos, analisar prontuários médicos e até redigir demandas jurídicas. Quando usadas adequadamente, essas capacidades podem reduzir o trabalho administrativo supérfluo e permitir que os advogados dediquem mais tempo a aconselhar clientes e desenvolver estratégias legais.

Mas nem toda tarefa deve ser delegada, e os casos de lesões pessoais raramente são simples. Eles envolvem depoimentos de testemunhas conflitantes, evidências médicas em evolução, questões de credibilidade e negociações que dependem tanto do julgamento humano quanto do precedente jurídico. Dados históricos podem ajudar a IA a identificar padrões de acordos, mas não podem substituir a avaliação de um advogado sobre como um determinado autor, testemunha ou fato será percebido no julgamento.

O maior perigo, portanto, é que os advogados estejam depositando confiança indevida em resultados que parecem autoritários e objetivos, embora a IA possa estar errada, ser cega ao contexto e incapaz de julgamento humano.

Uma preocupação semelhante está se manifestando no setor de seguros. Considere a reação contra as companhias de seguros de saúde que utilizam IA para analisar reivindicações. As pessoas querem ter a garantia de supervisão humana, sabendo que um ser humano real e capaz de julgamento revisou seus casos, mesmo que a carga de trabalho tenha sido aliviada e acelerada pela IA.

O direito não é diferente, e por mais que a IA ajude nas tarefas árduas, é preciso reconhecê‑la como uso seletivo, com limites claros e supervisão humana significativa. Felizmente, parece que essa é a direção que a maioria dos advogados está seguindo: cerca de 83 por cento dos profissionais jurídicos dizem que usar IA para fornecer aconselhamento jurídico é inadequado.

Um Marco Regulatório

Essencialmente, a regulamentação deve focar em como a IA é usada, bem como onde é apropriado utilizá‑la.

Se a IA generativa for usada para produzir petições ou documentos judiciais, deverá ser legalmente exigido que os advogados verifiquem pessoalmente qualquer análise jurídica, citações ou danos antes que sejam compartilhados com os clientes ou protocolados no tribunal.

A revisão humana deve ser uma etapa obrigatória, não apenas uma prática recomendada. Quanto mais significativo for o resultado, mais rigorosa deve ser a revisão exigida. Qualquer citação legal, cálculo de danos, cronologia médica ou afirmação factual gerada por IA e destinada a um cliente ou ao tribunal nunca deve chegar ao seu público sem uma verificação significativa por parte do advogado.

Falhar em fazer isso, por exemplo, ser pego submetendo informações alucinatórias ao tribunal, deve resultar em sérias consequências profissionais.

As empresas também devem ser obrigadas a produzir e manter um registro auditável de seu uso de IA. Se a IA auxilia na revisão de prontuários médicos, na redação de uma carta de demanda ou na sumarização de um depoimento, os advogados devem ser capazes de identificar qual ferramenta foi usada, quais informações ela processou e qual advogado revisou e aprovou o documento final. Crie um sistema que valorize a responsabilidade para que os erros possam ser corrigidos antes de se tornarem um problema durante o litígio.

Por fim, há a questão da proteção de dados. Os casos de lesões pessoais frequentemente envolvem extensos prontuários médicos, históricos de emprego, documentos financeiros e outras informações confidenciais dos clientes. Alimentar esses dados em sistemas de IA cria novos riscos relacionados à retenção de dados, acesso não autorizado e à possibilidade de que informações enviadas a um provedor de IA terceirizado sejam usadas para treinar modelos futuros.

As medidas de confidencialidade existentes já exigem que os advogados considerem esses riscos. Os reguladores devem buscar ir além, definindo expectativas mínimas para a diligência dos fornecedores, políticas de retenção, uso de dados de treinamento e controles de acesso.

Considerações Finais

À medida que a IA é cada vez mais utilizada no litígio, o setor enfrenta tanto uma oportunidade quanto um desafio. A tecnologia pode certamente conceder aos advogados tempo para se concentrar em elementos mais críticos, mas sem transparência e estruturas bem‑elaboradas para uso e divulgação, ela tem o potencial de minar a confiança em nosso sistema judicial e introduzir vieses nos processos judiciais.

Parece que a própria IA está agora em julgamento. Mas antes que possa prestar depoimento, é necessário haver regulamentações específicas que determinem o que é e o que não é legalmente permissível. Só criando padrões claros de transparência e responsabilidade os clientes e os tribunais serão convencidos de que a IA está aprimorando o litígio sem comprometer os princípios de justiça, equidade e igualdade para todos.