AI在个人伤害法领域的下一个挑战是问责制

AI 的一些使用案例相对平淡；其他则可能引发相当大的争议。鉴于该技术仍相对新颖，可以说它在法律行业的广泛采用属于后者。

对 AI 在法律实践中的角色的担忧仍然普遍，尤其是当其输出影响法律分析或客户结果时。人们担心律师将思考外包给机器，且工具准备的关键证据可能被法官或陪审团误解。AI 能否在以公平、透明和正当程序为支柱的司法体系中扮演合法角色？

尽管如此，AI 已经在法律工作中找到了实际用途，尤其是在文档审查、研究、摘要和起草方面。而且它似乎不会消失：约 41 percent 的律所现在使用 AI 工具，而且这一比例预计将继续增长。

作为一名个人伤害律师，我看到由于 AI 在律所的使用而出现的监管空白远快于法律标准的跟进。现有的职业规则使律师对其工作负责，但并不一定能解决所有与披露、可审计性、供应商责任、数据保留以及所需人工审查程度相关的 AI 特定问题。

定义问责制

问责制是 AI 提出的最棘手问题之一: 当 AI 出错时，谁承担法律责任？

臭名昭著的 2023 年案件 Mata vs. Avianca，原告律师使用 ChatGPT 生成法律引用。但该聊天机器人出现幻觉，提供了不存在的案例，这些案例随后被正式提交给法官作为先例。由此引发的争议在许多方面是不可避免的，但它确立了一个重要原则: AI 可以协助律师，但不能取代他们核实工作准确性的专业职责。

然而，在个人伤害法领域，问责挑战超出了法律引用的范畴。鉴于此类案件的敏感性和往往错综复杂的性质，任何错误都可能在案件进入法庭之前就影响和解谈判或诉讼策略。

假设使用 AI 工具对数百页医疗记录进行摘要和压缩，形成时间顺序的事件记录。但早期关键伤情的细节被埋没。此类遗漏会影响律师和客户的诉求，且可能仅在证词采集期间才被发现。

AI 的错误往往难以辨识，这并没有帮助。捏造的引用显而易见且易于识别，但 AI 系统忽视已有的医疗状况、错误概括证人意见或误算未来护理费用——这些错误可能看起来合理且不被注意。

偏见 甚至更难以检测。例如，一个基于历史偏斜数据训练的估值系统可能系统性地低估与特定人口群体相关的索赔。

审慎使用 AI

AI 能够筛选海量文档、分析医疗记录，甚至起草法律诉求。若使用得当，这些能力可以减少繁冗的行政工作，使律师有更多时间为客户提供建议并制定法律策略。

但并非所有任务都应委派，个人伤害案件很少是单纯的。它们涉及相互矛盾的证人证词、不断演变的医疗证据、可信度问题以及在很大程度上依赖人类判断而非法律先例的谈判。历史数据可能帮助 AI 识别和解模式，但它无法替代律师对特定原告、证人或事实在审判中可能被如何感知的评估。

因此，最大的危险在于律师对看似权威且客观的输出抱有不合理的信心，尽管 AI 可能出错、缺乏情境感知且无法进行人类判断。

类似的担忧也在保险行业上演。考虑一下针对使用 AI 审查理赔 的健康保险公司的强烈反弹。人们希望确保有人类监督，知道真实的人类能够判断并审查他们的案件，即使工作量已被 AI 减轻并加速。

法律并无不同，无论 AI 在繁重工作中提供多少帮助，都必须有选择地使用，设定明确的界限并进行有意义的人类监督。幸运的是，这似乎是大多数律师的方向:约 83% 的法律专业人士表示，使用 AI 提供法律建议 是不恰当的。

监管框架

本质上，监管应针对 AI 的使用方式以及适用场景进行。

如果生成式 AI 用于制作法院文件或文书，则应法律要求律师在向客户或提交法院前亲自核实任何法律分析、引用或损害赔偿。

人工审查必须是强制步骤，而非仅仅推荐的最佳实践。输出越具影响力，所需的审查就应越严格。任何由 AI 生成并用于客户或法院的法律引用、损害赔偿计算、医疗时间线或事实陈述，都不应在缺乏有意义的律师核实的情况下直接呈现。

若未做到此点，例如在法庭提交了幻觉信息，被抓到后应导致严重的职业后果。

律所也应被要求生成并维护其 AI 使用的可审计记录。如果 AI 协助审查医疗记录、起草需求信或摘要证词，律师应能够识别使用了哪款工具、处理了哪些信息，以及哪位律师审查并批准了最终文件。建立一个重视问责的系统，以便在诉讼期间错误出现前即可纠正。

最后，是数据保护的问题。个人伤害案件常涉及大量医疗记录、就业历史、财务文件以及其他机密客户信息。将这些数据输入 AI 系统会带来数据保留、未经授权访问以及提交给第三方 AI 提供商的资料是否会被用于训练未来模型的新风险。

现有的保密措施已经要求律师考虑此类风险。监管机构应进一步通过定义对供应商尽职调查、保留政策、训练数据使用和访问控制的最低期望来推进。

最终思考

随着 AI 在诉讼中的日益使用，行业面临机遇与挑战并存。该技术确实可以让律师有更多时间专注于更关键的环节，但若缺乏透明度以及对使用和披露的深思熟虑框架，它可能削弱公众对司法系统的信任，并在法庭程序中注入偏见。

看起来 AI 本身正站在审判席上。但在它能够作证之前，必须制定具体法规来界定何为合法、何为非法。只有通过制定明确的透明度和问责标准，才能让客户和法院确信 AI 正在提升诉讼效率，而不违背正义、公平和平等的原则。