От нейронных сетей к халатности: кто несет ответственность, когда ИИ терпит неудачу?

Эта статья обсуждает юридические проблемы, связанные с вредом, причиненным искусственным интеллектом, и где может лежать ответственность, если нейронная сеть не функционирует правильно в реальном мире.

Искусственный интеллект (ИИ) уже вышел за пределы исследовательских лабораторий и вошел в суды, клиники, автомобили и фондовые биржи, где нейронные сети диагностируют заболевания, одобряют кредиты и все чаще выполняют задачи, которые ранее считались прерогативой человека. Однако, когда такие системы терпят неудачу в реальном мире, они делают это с серьезными и иногда смертельными последствиями.

Как адвокат по делам личных травм в Онтарио, Канада, и текущий кандидат на степень доктора делового администрирования, изучающий пересечение бизнеса, права и технологий, меня все чаще спрашивают простой вопрос: Если происходит вред, причиненный ИИ, кто виноват?

Ответ на самом деле более сложный. ИИ представляет вызовы доктринам халатности, причинно-следственной связи и предсказуемости и вызывает фундаментальные вопросы о том, как закон должен реагировать на решения, принимаемые машинами.

Расширяющаяся роль ИИ в принятии решений с высоким уровнем риска

ИИ больше не ограничивается автоматизацией задач с низким уровнем квалификации или платформами машинного обучения. Теперь он принимает решения в области здравоохранения, финансов, трудоустройства, транспорта, правоохранительной деятельности и юридической аналитики.

Текущие модели ИИ обычно состоят из глубоких нейронных сетей, которые, хотя и могут обнаруживать сложные закономерности в больших наборах данных, остаются в значительной степени непрозрачными для своих разработчиков. Ученые отметили, что системы ИИ вводят непредсказуемость и автономность в закон, который ранее строго регулировался предсказуемостью и намерением. Это создает конфликт между инновациями и подотчетностью.

Хотя юридические системы рассматривают причиненный вред как приписываемый человеческим существам, ИИ распределяет ответственность между инженерами, создающими наборы данных, которые их создают, развертывают и используют в конечном итоге. Ответственность становится размытой.

Правовой пробел: когда вред нельзя легко отнести

Юристы все чаще говорят об эмерджентном “правовом пробеле” в управлении ИИ. Традиционное право о вреде зависит от определения:

1. Долга заботы
2. Нарушения этого долга
3. Причинно-следственной связи
4. Ущерба

ИИ усложняет каждый элемент. Например, разработчики могут не знать, как модель будет вести себя после развертывания, и организации могут использовать системы машинного обучения третьих сторон. С точки зрения конечного пользователя механизм определения выходных данных является не прозрачным.

Одно исследование отметило, как доказать виновность более сложно, если системы ИИ действуют полуавтономно или адаптируются автономно через процессы, такие как машинное обучение. Эта фрагментация вызывает доктрины, которые полагаются на человеческое действие.

В делах о личных травмах суды традиционно исследуют, действовал ли ответчик разумно в данных обстоятельствах. Но как суды должны оценивать разумность, когда процесс принятия решений частично делегируется вероятностным моделям?

Нейронные сети и проблема объяснимости

Системы глубокого обучения часто работают как “черные ящики”. Их внутренние процессы принятия решений не легко интерпретируются, даже экспертами. Этот недостаток объяснимости имеет серьезные юридические последствия.

Если медицинская система ИИ неправильно диагностирует рак, кто будет виноват? Это может быть:

• Как модель была обучена
• Содержал ли набор данных для обучения предвзятость
• Были ли адекватными процессы проверки
• Полагались ли клиницисты слишком сильно на автоматизированный вывод

Юридическая литература рекомендует различать причинную ответственность, роль ответственности и ответственность за вред для атрибуции ответственности за вред, причиненный ИИ.

Однако на практике ответственность может распространяться на цепочку действующих лиц:

• Поставщиков данных
• Разработчиков программного обеспечения
• Обучателей моделей
• Развертывателей
• Организаций, использующих выводы ИИ
• Профессионалов, полагающихся на рекомендации ИИ

ИИ не устраняет ответственность, а перераспределяет ее.

Уроки из автономных транспортных средств: кейс-стади по ответственности ИИ

Судебные дела об автономных транспортных средствах дают ранний взгляд на то, как суды могут решать проблемы, связанные с вредом, причиненным ИИ. Суды применяли обычные принципы халатности и ответственности за продукцию к новым технологиям, причиняющим травму. В недавних делах присяжные начали распределять ответственность между человеческими водителями и технологическими компаниями, создавшими системы автоматического вождения.

Юридические комментаторы предложили, что существующие доктрины ответственности за продукцию, такие как дефекты конструкции, дефекты производства и неисполнение предупреждения, имеют отношение к системам, работающим на ИИ.

Однако автономные транспортные средства демонстрируют ограничения текущих правовых рамок. Должна ли ответственность быть присвоена производителю транспортного средства? Разработчику программного обеспечения? Человеческому оператору? Или данным, использованным для обучения алгоритма?

Некоторые ученые предложили, что аналогия принципов ответственности за продукцию может эффективно определить ответственность между участниками, находящимися вверх и вниз по потоку.

С точки зрения истца, дела показывают, что суды могут все еще применять обычные принципы к новым технологиям, но только с действительно продвинутыми экспертными знаниями и техническими знаниями.

Строгая ответственность и халатность: конкурирующие юридические теории

Центральной дискуссией является вопрос о том, могут ли обычные рамки халатности быть применены к системам ИИ. Некоторые ученые выступают за режимы строгой ответственности, утверждая, что пострадавшие стороны не должны нести бремя доказательства вины в высокотехнологичных средах.

Строгая ответственность может быть особенно полезна, когда вред предсказуем, но неизбежен, когда система ИИ развернута в большом масштабе, и когда риски социально распределены. Или когда техническая причинно-следственная связь не легко доказуема.

Также утверждается, что закон о халатности может адаптироваться к технологическим изменениям. Сравнительные юридические исследования утверждают, что необходимо строить на существующих доктринах, с их внутренними стабилизирующими эффектами и постепенной адаптацией к новым вредам.

Строгая ответственность и халатность иллюстрируют предпочтения политики, связанные с инновациями, справедливостью и тем, как риск и затраты должны быть распределены.

Должны ли инноваторы нести ответственность за технологический риск? Или общество в целом должно делить затраты на прогресс?

Бизнес-перспектива: распределение риска и страхование

С бизнес-перспективы ответственность ИИ не является только юридическим вопросом, но и вопросом управления рисками. Организации, развертывающие системы ИИ, начали сосредотачиваться на вопросах распределения рисков по контракту: 2. профессиональное страхование ответственности, 3. страхование кибербезопасности и 4. индемнитет, а также на нормативные рамки.

Страховые рынки могут сыграть важную роль в установлении подотчетности за ИИ. Некоторые исследования предполагают, что определенные вреды от ИИ могут в конечном итоге быть лучше всего решены через гибридные схемы компенсации, которые сочетают страхование и право о вреде.

Компании, интегрирующие ИИ в процесс принятия операционных решений, должны учитывать риск судебных исков в своей цифровой трансформации. Неудача в этом может оставить такие организации уязвимыми для репутационного ущерба, нормативных санкций и гражданской ответственности.

Этическая ответственность против юридической ответственности

Во многих случаях юридическая ответственность не эквивалентна этической ответственности. Дебаты об управлении ИИ включают следующие принципы:

• Справедливость
• Прозрачность
• Ответственность
• Объяснимость

Юридические обязательства, однако, не следуют автоматически из этических соображений.

Недавняя работа предлагает концептуальные рамки для распределения ответственности в экосистемах ИИ с множеством участников и для построения правил доказательств, которые связывают решения по дизайну с юридическими результатами. Таким образом, правовые системы, стремящиеся продвигать инновации, также должны учитывать тех, кто пострадал от новой технологии. Этот баланс будет формировать будущее управления ИИ.

Будущее халатности в эпоху искусственного интеллекта

Искусственный интеллект бросает вызов предположению, что власть принятия решений всегда лежит с идентифицируемыми человеческими участниками. Но юридическая ответственность в конечном итоге остается человеческой.

В ближайшем будущем вряд ли суды признают системы ИИ юридическими лицами. Вместо этого ожидается, что люди, разрабатывающие, развертывающие и получающие прибыль от систем ИИ, будут нести ответственность.

По мере того, как системы ИИ становятся более независимыми, гибридные модели могут эволюционировать, сочетая различные формы регулирования:

1. Принципы халатности
2. Доктрины ответственности за продукцию
3. Нормативный надзор
4. Страховые схемы компенсации

Вместо того, чтобы заменять общие правовые понятия, ИИ может просто заставить суды уточнить их. С точки зрения истца, вопрос в том, что произошло.

Кто создает риск? Кто может лучше предотвратить риск от причинения вреда людям?

До тех пор, пока законодательные органы не примут комплексные технологии. В режимах ответственности ИИ нейронных сетей суды будут применять существующие правовые доктрины к новым технологиям. Нейронные сети могут быть новыми. Халатность не является таковой.