El próximo desafío para la IA en el derecho de lesiones personales es la responsabilidad

Algunos casos de uso de la IA son relativamente anodinos; otros pueden generar una gran controversia. Y dado que la tecnología aún es relativamente incipiente, se podría argumentar que su adopción generalizada en la industria legal pertenece a la segunda categoría.

Las preocupaciones sobre el papel de la IA en la práctica jurídica siguen siendo generalizadas, particularmente cuando sus resultados influyen en el análisis legal o en los resultados para los clientes. La gente teme que los abogados estén externalizando su pensamiento a una máquina, y que pruebas cruciales preparadas por una herramienta puedan ser malinterpretadas por un juez o un jurado. ¿Puede la IA tener alguna vez un papel legítimo en un sistema de justicia que basa sus pilares en la equidad, la transparencia y el debido proceso?

Sin embargo, la IA ya ha encontrado usos prácticos en el trabajo jurídico, particularmente en la revisión de documentos, la investigación, la resumición y la redacción. Y parece que no va a desaparecer: Los equipos legales de aproximadamente 41 por ciento de los despachos de abogados ya utilizan herramientas de IA, y se espera que esa cifra siga creciendo.

Como abogado de lesiones personales, veo que las brechas regulatorias emergen como resultado del uso de la IA en los despachos de abogados mucho más rápido de lo que las normas legales pueden seguir el ritmo. Las reglas profesionales existentes hacen que los abogados sean responsables de su trabajo, pero no resuelven necesariamente todas las cuestiones específicas de la IA relacionadas con la divulgación, la auditabilidad, la responsabilidad del proveedor, la retención de datos y el nivel de revisión humana requerido.

Definir la responsabilidad

La responsabilidad es una de las preguntas más difíciles que plantea la IA: ¿Quién asume la responsabilidad legal cuando la IA comete un error?

De manera infame, en el caso de 2023 Mata contra Avianca, los abogados del demandante utilizaron ChatGPT para producir citas legales. Pero el chatbot generó alucinaciones y presentó casos inexistentes que luego se presentaron formalmente como precedentes al juez. El conflicto resultante fue en muchos sentidos inevitable, pero sirvió para establecer un principio importante: la IA puede ayudar a los abogados, pero no puede reemplazar su deber profesional de verificar la exactitud de su trabajo.

En el derecho de lesiones personales, sin embargo, el desafío de la responsabilidad se extiende más allá de las citas legales. Dada la naturaleza sensible y a menudo compleja de los casos involucrados en este ámbito, cualquier error puede influir en las negociaciones de acuerdos o en la estrategia de litigio mucho antes de que el caso llegue a la sala del tribunal.

Supongamos que se utiliza una herramienta de IA para resumir y condensar cientos de páginas de registros médicos en un registro cronológico de los hechos. Pero los detalles de una lesión crítica anterior quedan enterrados. Esa omisión influirá en las demandas del abogado y del cliente, y puede descubrirse solo durante la declaración.

No ayuda que los errores de la IA puedan ser difíciles de identificar. Una cita fabricada es una falla clara e identificable, pero un sistema de IA que omita una condición médica preexistente, que resuma incorrectamente la opinión de un testigo o que calcule erróneamente los costos futuros de atención — esos errores pueden parecer razonables y pasar desapercibidos.

El sesgo puede ser aún más difícil de detectar. Un sistema de valoración entrenado con datos históricamente sesgados podría, por ejemplo, subvalorar sistemáticamente las reclamaciones asociadas a determinados grupos demográficos.

Uso juicioso de la IA

La IA puede examinar montañas de documentos, analizar registros médicos e incluso redactar demandas legales. Cuando se utiliza adecuadamente, estas capacidades pueden reducir el trabajo administrativo superfluo y permitir que los abogados dediquen más tiempo a asesorar a los clientes y a desarrollar estrategias legales.

Pero no todas las tareas deben delegarse, y los casos de lesiones personales rara vez son sencillos. Involucran testimonios de testigos conflictivos, evidencia médica en evolución, cuestiones de credibilidad y negociaciones que dependen tanto del juicio humano como del precedente legal. Los datos históricos pueden ayudar a la IA a identificar patrones de acuerdos, pero no pueden sustituir la evaluación de un abogado sobre cómo se percibirá probablemente un demandante, testigo o hecho particular en el juicio.

El mayor peligro, por lo tanto, es que los abogados depositen una confianza injustificada en resultados que parecen autoritarios y objetivos, aun cuando la IA puede equivocarse, ser ciega al contexto e incapaz de ejercer juicio humano.

Una preocupación similar se manifiesta en el sector de seguros. Considere la reacción contra las compañías de seguros de salud que utilizan IA para revisar reclamaciones. La gente quiere estar segura de que hay supervisión humana, sabiendo que un ser humano real capaz de juzgar revisó sus casos, incluso si la carga de trabajo se aligeró y aceleró con la IA.

El derecho no es diferente, y por mucho que la IA ayude con las tareas tediosas, hay que reconocer que debe usarse de manera selectiva, con límites claros y una supervisión humana significativa. Afortunadamente, parece que esta es la dirección que la mayoría de los abogados están tomando: alrededor del 83 por ciento de los profesionales legales afirman que usar IA para proporcionar asesoramiento legal es inapropiado.

Un marco regulatorio

Básicamente, la regulación debería centrarse en cómo se utiliza la IA, así como en dónde es apropiado su uso.

Si se utiliza IA generativa para producir presentaciones judiciales o documentos, debería exigirse legalmente que los abogados verifiquen personalmente cualquier análisis legal, citas o daños antes de que se compartan con los clientes o se presenten ante el tribunal.

La revisión humana debe ser un paso obligatorio, no simplemente una práctica recomendada. Cuanto más trascendental sea el resultado, más rigurosa debe ser la revisión requerida. Cualquier cita legal, cálculo de daños, cronología médica o afirmación fáctica generada por IA y destinada a un cliente o al tribunal nunca debe llegar a su audiencia sin una verificación significativa por parte del abogado.

No hacerlo, por ejemplo, ser sorprendido al presentar información alucinada en el tribunal, debería conllevar graves consecuencias profesionales.

Las firmas también deberían estar obligadas a producir y mantener un registro auditable de su uso de IA. Si la IA ayuda a revisar registros médicos, redactar una carta de demanda o resumir un testimonio, los abogados deberían poder identificar qué herramienta se utilizó, qué información procesó y qué abogado revisó y aprobó el documento final. Cree un sistema que valore la responsabilidad para que los errores puedan corregirse antes de que se conviertan en un problema durante el litigio.

Finalmente, está la cuestión de la protección de datos. Los casos de lesiones personales a menudo implican extensos registros médicos, historiales laborales, documentos financieros y otra información confidencial del cliente. Introducir estos datos en sistemas de IA genera nuevos riesgos relacionados con la retención de datos, el acceso no autorizado y la posibilidad de que la información enviada a un proveedor de IA externo pueda usarse para entrenar modelos futuros.

Las medidas de confidencialidad existentes ya exigen que los abogados consideren dichos riesgos. Los reguladores deberían aspirar a ir más allá definiendo expectativas mínimas sobre la diligencia del proveedor, las políticas de retención, el uso de datos de entrenamiento y los controles de acceso.

Reflexiones finales

A medida que la IA se utiliza cada vez más en los litigios, la industria se enfrenta tanto a una oportunidad como a un desafío. La tecnología sin duda puede conceder a los abogados tiempo para centrarse en elementos más críticos, pero sin transparencia y marcos bien considerados para su uso y divulgación, tiene el potencial de socavar la confianza en nuestro sistema judicial e introducir sesgos en los procesos judiciales.

Parece que la propia IA está ahora en juicio. Pero antes de que pueda declarar, deben existir regulaciones específicas que determinen qué es y qué no es legalmente permisible. Solo creando normas claras de transparencia y responsabilidad se convencerá a clientes y tribunales de que la IA está mejorando los litigios sin comprometer los principios de justicia, equidad e igualdad para todos.