Как искусственный интеллект используется в суде

Каждый день различные профессионалы системы правосудия проводят юридические исследования, общаются с клиентами, управляют судебными делами и интерпретируют закон. Их работа является основой для безопасного и функционирующего общества, поэтому многие заинтересованы в обещании более высокой производительности. Юристы, особенно государственные защитники, часто имеют огромные нагрузки. Судьи пишут мнения, которые могут запутать будущие юридические процедуры. Регуляции и законы постоянно меняются. В этой сложной системе искусственный интеллект (ИИ) появился как средство для автоматизации трудоемких административных процессов.

Ежедневные применения ИИ в суде

Большая часть рабочей недели юриста проводится на трудоемких административных задачах, а не на убеждении присяжных в суде. Они тратят 80% своего времени на сбор информации и только 20% на анализ и последствия. Чтобы построить дела, им необходимо тщательно изучить судебные дела, регуляции и законы. ИИ может оптимизировать такие задачи, сэкономив им бесчисленные часы.

Помощники ИИ могут помочь юристам оптимизировать графики и управлять нагрузками, преодолевая проблемы с расписанием. Генеративный ИИ может помочь им и их сотрудникам проводить юридические исследования. Судьи могут консультироваться с алгоритмическими инструментами оценки рисков при принятии решений о залоге.

Инструмент может помочь и другим юридическим специалистам. Модели обработки естественного языка могут помочь стенографистам с транскрипцией, а большие языковые модели (БЯМ) могут помочь переводчикам с переводом. Генеративный ИИ может составлять документы, автоматизировать общение с клиентами или организовывать дела для паралегалов и юридических помощников.

Преимущества интеграции ИИ в судебные функции

ИИ может ускорить трудоемкие, повторяющиеся задачи, освобождая профессионалов для более важных или срочных дел. Это будет особенно полезно для государственных защитников, которые ведут сотни дел и апелляций каждый год. В среднем они тратят от 13,5 до 286 часов на дело, представляя обвиняемых.

Юридические специалисты не единственные, кто может извлечь выгоду из использования ИИ. Лица, представляющие себя в суде, могут искать юридические советы у чат-ботов ИИ.

ИИ может сделать юридическое представительство более доступным для обездоленных и недопредставленных групп населения. Юридические фирмы могут использовать его для предоставления бесплатных юридических услуг лицам с низкими доходами. Поскольку одна модель может взаимодействовать с тысячами или даже миллионами людей одновременно, она может масштабироваться по мере расширения юридической фирмы.

Юридические и этические проблемы, связанные с ИИ

Хотя ИИ может быть полезен для истцов, юристов, судей и переводчиков, его неправильное использование может привести к ошибочным юридическим решениям. В 2024 году Институт Стэнфорда по искусственному интеллекту с человеческим лицом обнаружил, что передовые БЯМ имеют коэффициент галлюцинации 69% до 88% в ответ на юридические запросы.

БЯМ часто уверенно выводят ошибочную или вымышленную информацию. Например, они могут цитировать несуществующее судебное дело или выдумывать цитаты при проведении юридических исследований. Несмотря на то, что они кажутся правдоподобными, эти галлюцинации неточны.

Возможна также намеренная обман, учитывая силу генеративного ИИ. Истец может использовать его для фабрикации видеозаписи, на которой обвиняемый крадет его имущество. Этот пример не является полностью гипотетическим, поскольку глубокие фейки уже использовались в суде.

В США 80% судебных дел зависят от видео — включая записи с камер наблюдения, телефонные записи или кадры с камер безопасности — в какой-то степени. Это почему юридические специалисты глубоко обеспокоены глубокими фейками. В сентябре 2025 года судья отклонил гражданское дело после того, как определил, что видеозапись показания свидетеля была глубоким фейком.

Плохие акторы могут нацеливаться на инструменты юридических исследований ИИ, чтобы нарушить систему правосудия. Исследования показывают, что возможно отравить 0,01% выборки данных с помощью существующих инструментов. Это может показаться незначительным, но уровень отравления в 0,001% может навсегда изменить вывод. Пользователи могут получить доступ к около 30% образцов в любой данной БЯМ, что делает коррупцию удивительно легкой.

Реальные случаи, в которых ИИ использовался в суде

ИИ может быть полезен для юридических специалистов и лиц, представляющих себя в суде. Однако большинство реальных примеров, которые привлекают внимание, не являются благоприятными. Из-за широкой обеспокоенности по поводу юридических и этических последствий ИИ в суде худшие примеры получают наибольшее внимание.

В мае 2025 года федеральный судья Майкл Уилнер хотел узнать больше об аргументах, которые некоторые юристы представили в документе. Однако статьи, на которые они сослались, не существовали. После того, как их попросили предоставить больше подробностей, они представили новое заявление с еще большим количеством неточностей, чем первое.

Когда Уилнер приказал им дать под присягой показания, объясняя ошибки, они признались, что использовали ИИ-модели Google Gemini и специальные юридические модели для написания документа. Судья наложил штрафы в размере 31 000 долларов на юридическую фирму. Хотя они не вводили конфиденциальную или неопубликованную информацию, они все равно потратили время суда.

Это не только юристы и истцы неправильно используют ИИ. В 2025 году два федеральных судьи США отозвали свои решения после того, как было обнаружено, что их судебный персонал использовал инструменты ИИ для юридических исследований, в результате чего получились ошибочные, галлюцинаторные цитаты дел. Хотя они обвинили ошибочные решения в ИИ, это их ответственность — читать дело, которое они цитируют.

Это не единичные случаи, подчеркивающие небольшие, малоизвестные местные юридические фирмы — это известные юристы и федеральные судьи, совершающие неловкие, избегаемые ошибки. Вина не лежит исключительно на интеллектуальных алгоритмах, однако. В конце концов, ИИ — это просто инструмент. Будет ли его влияние положительным или отрицательным, зависит от пользователя.

Как система правосудия должна использовать ИИ

Публично доступные БЯМ представляют собой риски точности и безопасности, которые ждут своего часа. Домен-специфические модели генерации с поддержкой извлечения (RAG) продвигаются как решение проблемы галлюцинаций ИИ, поскольку они извлекают соответствующие данные из внешних, доверенных баз знаний перед генерацией ответа.

Однако модель RAG не является серебряной пулей, поскольку закон не состоит полностью из неоспоримых, проверяемых фактов. Жюри убеждаются харизматичными юристами. Судьи пишут мнения, чтобы объяснить рассуждения, лежащие в основе их решений. Законы различаются между странами, штатами и местными органами власти. Есть место для ошибок в этой серой зоне.

Закон часто подлежит интерпретации — это почему существуют юристы и судьи. Люди не могут ожидать от ИИ быть непогрешимым авторитетом по этой теме. Хотя использование модели RAG является шагом в правильном направлении, обеспечение непрерывного надзора с помощью подхода «человек в цикле» является ключом.

Как ИИ будет использоваться в будущих судах?

Суды полагаются на соответствующие документы, подтвержденные точными цитатами. Несмотря на то, что ИИ широко принят паралегалами и юристами для экономии времени и усилий на административные задачи, он все еще борется с извлечением этой информации.

Галлюцинации ИИ не являются исключительными для американских судов. В одном случае в Великобритании истец требовал почти 120 миллионов долларов в качестве компенсации от Катарского национального банка. Суд обнаружил, что 40% их цитат судебных дел были полностью вымышленными. Даже в реальных делах были наполнены фальшивыми цитатами. В конечном итоге истец признался в использовании инструментов ИИ для юридических исследований.

Даже если их дело было прочным, галлюцинации ИИ повредили их репутации и авторитету, потенциально повлияв на исход против них. Чтобы избежать подобных ошибок в будущем, закон должен догнать ИИ.

Правила, регулирующие использование ИИ и надзор, должны быть подробными и прочными. Суды с «устными соглашениями» скорее всего обнаружат, что их персонал все еще использует ИИ. Как известно юридическим специалистам, правила требуют механизма принуждения. Дисциплинарные меры и штрафы помогут профессионалам понять серьезность безопасного и этического использования ИИ.

Серебряная подкладка использования ИИ в суде

Эти высокие ставки ошибок вызывают дальнейшие вопросы о целостности исследований. Использовали ли инструменты ИИ для юридических исследований непреднамеренно раскрыли, что юристы не проверяют юридические исследования, а судьи докетируют непроверенные проекты? К лучшему или худшему, ИИ становится частью системы правосудия. Как и любой другой инструмент, его влияние будет положительным или отрицательным, в зависимости от того, как он используется. Серебряная подкладка заключается в том, что даже неловкие ошибки предоставляют профессионалам руководство по тому, чего не следует делать.