Следующий вызов ИИ в праве личных травм — ответственность

Некоторые случаи применения ИИ относительно безобидны; другие могут вызвать значительные споры. И учитывая, что технология ещё нова, можно утверждать, что её широкое внедрение в юридической отрасли относится к последней категории.

Беспокойство по поводу роли ИИ в юридической практике остаётся распространённым, особенно когда его результаты влияют на юридический анализ или исходы для клиентов. Люди опасаются, что адвокаты передают своё мышление машине, а также что важные доказательства, подготовленные инструментом, могут быть неверно истолкованы судьёй или присяжными. Может ли ИИ когда‑либо сыграть законную роль в системе правосудия, где справедливость, прозрачность и надлежащая процедура являются её столпами?

Тем не менее ИИ уже нашёл практические применения в юридической работе, в частности при проверке документов, исследовании, резюмировании и составлении черновиков. И, судя по всему, он никуда не исчезнет: юридические команды примерно 41 % фирм‑юристов уже используют инструменты ИИ, и эта цифра, по всей видимости, будет расти.

Как адвокат по делам о личных травмах, я наблюдаю, что регуляторные пробелы, возникающие в результате использования ИИ в юридических фирмах, появляются гораздо быстрее, чем успевают развиваться правовые стандарты. Существующие профессиональные правила делают юристов ответственными за их работу, но они не решают все вопросы, специфичные для ИИ, такие как раскрытие информации, возможность аудита, ответственность поставщика, хранение данных и степень необходимого человеческого контроля.

Определение ответственности

Ответственность — один из самых сложных вопросов, поднимаемых ИИ: кто несёт юридическую ответственность, когда ИИ ошибается?

Печально известный случай 2023 года Mata vs. Avianca показал, что адвокаты истца использовали ChatGPT для создания юридических ссылок. Однако чат‑бот «галлюцинировал» и представил несуществующие дела, которые затем были официально поданы судье в качестве прецедентов. Этот скандал был во многом неизбежен, но он установил важный принцип: ИИ может помогать юристам, но не может заменять их профессиональный долг проверять точность своей работы.

В праве личных травм проблема ответственности выходит за рамки юридических ссылок. Учитывая чувствительный и часто сложный характер дел в этой сфере, любые ошибки могут повлиять на переговоры о мировом соглашении или стратегию судебного разбирательства задолго до того, как дело попадёт в зал суда.

Представьте, что ИИ используется для резюмирования и сжатия сотен страниц медицинских записей в хронологический отчёт о событиях. При этом детали ранней критической травмы оказываются скрытыми. Такое упущение повлияет на требования адвоката и клиента и может быть обнаружено только во время допроса.

Не помогает и то, что ошибки ИИ часто трудно обнаружить. Явная и легко идентифицируемая ошибка — вымышленная ссылка — заметна сразу, но если система ИИ упускает уже существующее медицинское состояние, неверно резюмирует мнение свидетеля или ошибочно рассчитывает будущие расходы на лечение, такие ошибки могут выглядеть правдоподобно и остаться незамеченными.

Смещение может быть ещё труднее обнаружить. Система оценки, обученная на исторически предвзятых данных, может, например, систематически недооценивать претензии, связанные с определёнными демографическими группами.

Разумное использование ИИ

ИИ способен просеивать горы документов, анализировать медицинские записи и даже составлять юридические требования. При правильном применении эти возможности могут сократить избыточную административную работу и позволить адвокатам тратить больше времени на консультирование клиентов и разработку правовых стратегий.

Однако не каждую задачу следует передавать ИИ, а дела о личных травмах редко бывают простыми. Они включают противоречивые показания свидетелей, меняющиеся медицинские доказательства, вопросы достоверности и переговоры, зависящие от человеческого суждения так же сильно, как и от юридических прецедентов. Исторические данные могут помочь ИИ выявлять закономерности в урегулировании, но они не могут заменить оценку адвоката того, как конкретный истец, свидетель или факт будут восприниматься на суде.

Самая большая опасность состоит в том, что юристы возлагают неоправданно высокую уверенность на результаты, которые выглядят авторитетными и объективными, хотя ИИ может ошибаться, быть слепым к контексту и неспособным к человеческому суждению.

Подобная обеспокоенность проявляется и в страховой отрасли. Возьмём реакцию на использование ИИ страховыми компаниями в сфере здравоохранения для проверки заявок. Люди хотят быть уверены в человеческом контроле, зная, что реальный человек, способный к суждению, проверил их дела, даже если нагрузка была облегчена и ускорена ИИ.

Закон не отличается, и независимо от того, насколько ИИ облегчает рутину, необходимо использовать его избирательно, с чёткими ограничениями и значимым человеческим надзором. К счастью, в этом, похоже, движется большинство юристов: около 83 % юридических специалистов считают использование ИИ для предоставления юридических советов неуместным.

Регуляторная рамка

По сути, регулирование должно охватывать как способы применения ИИ, так и те случаи, когда его использование уместно.

Если генеративный ИИ используется для создания судебных документов или иных материалов, закон должен требовать от адвокатов лично проверять любой юридический анализ, ссылки или расчёты ущерба перед их передачей клиенту или подачей в суд.

Человеческая проверка должна быть обязательным шагом, а не просто рекомендацией лучшей практики. Чем более значим результат, тем более строгой должна быть проверка. Любая юридическая ссылка, расчёт ущерба, медицинская хронология или фактическое утверждение, сгенерированное ИИ и предназначенное для клиента или суда, не должно достигать своей аудитории без существенной проверки адвокатом.

Невыполнение этого, скажем, если в суде будет подана «галлюцинированная» информация, должно вести к серьёзным профессиональным последствиям.

Фирмы также должны быть обязаны вести и сохранять аудируемый реестр своего использования ИИ. Если ИИ помогает при проверке медицинских записей, составлении письма‑требования или резюмировании показаний, адвокаты должны иметь возможность указать, какой инструмент был использован, какую информацию он обработал и какой адвокат проверил и одобрил окончательный документ. Создайте систему, в которой приоритетом является подотчётность, чтобы ошибки можно было исправить до того, как они станут проблемой в ходе судебного разбирательства.

Наконец, существует вопрос защиты данных. Дела о личных травмах часто включают обширные медицинские записи, трудовые истории, финансовые документы и другую конфиденциальную информацию клиента. Передача этих данных в ИИ‑системы создаёт новые риски, связанные с хранением данных, несанкционированным доступом и тем, могут ли сведения, переданные третьему поставщику ИИ, быть использованы для обучения будущих моделей.

Существующие меры конфиденциальности уже требуют от юристов учитывать такие риски. Регуляторы должны пойти дальше, определив минимальные требования к добросовестности поставщиков, политикам хранения, использованию обучающих данных и контролю доступа.

Заключительные мысли

По мере того как ИИ всё активнее используется в судебных процессах, отрасль сталкивается как с возможностью, так и с вызовом. Технология, безусловно, может дать адвокатам время сосредоточиться на более критических аспектах, но без прозрачности и продуманных рамок использования и раскрытия она способна подорвать доверие к нашей судебной системе и внести предвзятость в судебные разбирательства.

Кажется, сам ИИ теперь находится на суде. Но прежде чем он сможет занять место свидетеля, необходимо установить конкретные правила, определяющие, что является законным, а что нет. Только создавая чёткие стандарты прозрачности и подотчётности, можно убедить клиентов и суды в том, что ИИ улучшает судебные процессы, не нарушая принципы справедливости, равенства и правосудия для всех.