Лидеры мнений

От нейронных сетей к небрежности: кто отвечает, когда ИИ ошибается?

Kanon Clifford
Добавьте Unite.AI в избранные источники в Google
A conceptual legal illustration showing a lawyer in a boardroom, a scale of justice with a glowing AI brain and a human hand, and a digital
Ключевые моментыНепрозрачность ИИ создаёт пробел в ответственности, усложняя ключевые элементы…
Показать больше
  • Непрозрачность ИИ создаёт пробел в ответственности, усложняя ключевые элементы небрежности, такие как обязанность соблюдать осторожность и причинно-следственная связь.
  • Суды могут применять существующие доктрины ответственности за продукцию к ИИ, но для этого потребуются сложные технические доказательства.
  • Режимы строгой ответственности могут справедливо распределять риски, когда вред от ИИ предсказуем, но причинно-следственная связь неочевидна.

Эта статья рассматривает юридические проблемы вреда, причиненного искусственным интеллектом, а также вопрос о том, кто может нести ответственность, если нейронная сеть неправильно работает в реальном мире.

Искусственный интеллект (ИИ) уже вышел за пределы исследовательских лабораторий и вошел в суды, клиники, автомобили и фондовые биржи, где нейронные сети диагностируют заболевания, одобряют кредиты и все чаще выполняют задачи, которые ранее считались прерогативой человека. Однако, когда такие системы терпят неудачу в реальном мире, они делают это с серьезными и иногда смертельными последствиями.

Я представляю истцов по делам о причинении вреда здоровью в Онтарио, Канада, и в настоящее время являюсь кандидатом на степень Doctor of Business Administration (DBA), изучая взаимосвязь бизнеса, права и технологий. Мне все чаще задают простой вопрос: Если ИИ причиняет вред, кто за это отвечает?

Ответ на самом деле более сложный. ИИ представляет вызовы доктринам небрежности, причинно-следственной связи и предсказуемости и вызывает фундаментальные вопросы о том, как закон должен реагировать на решения, принимаемые машинами.

Расширяющаяся роль ИИ в принятии решений с высоким уровнем риска

ИИ больше не ограничивается автоматизацией задач с низким уровнем квалификации или платформами машинного обучения. Теперь он принимает решения в области здравоохранения, финансов, трудоустройства, транспорта, правоохранительной деятельности и юридической аналитики.

Текущие модели ИИ обычно состоят из глубоких нейронных сетей, которые, хотя и могут обнаруживать сложные закономерности в больших наборах данных, остаются в значительной степени непрозрачными для своих разработчиков. Ученые отметили, что системы ИИ вводят непредсказуемость и автономность в закон, который ранее строго регулировался предсказуемостью и намерением. Это создает конфликт между инновациями и подотчетностью.

Хотя правовые системы возлагают ответственность за причиненный вред на людей, в случае ИИ она распределяется между создателями наборов данных, разработчиками систем, теми, кто внедряет эти системы, и конечными пользователями. Ответственность становится размытой.

Пробел в ответственности: когда трудно определить, кто отвечает за вред

Юристы все чаще говорят о возникающем «пробеле в ответственности» в управлении ИИ. Традиционное деликтное право зависит от определения:

  1. Обязанности проявлять должную осмотрительность
  2. Нарушения этой обязанности
  3. Причинно-следственной связи
  4. Ущерба

ИИ усложняет каждый элемент. Например, разработчики могут не знать, как модель будет вести себя после развертывания, и организации могут использовать системы машинного обучения третьих сторон. С точки зрения конечного пользователя механизм определения выходных данных непрозрачен.

Одно исследование отметило, что доказать вину сложнее, если системы ИИ действуют полуавтономно или адаптируются автономно через процессы, такие как машинное обучение. Такая раздробленность ставит под сомнение применимость доктрин, основанных на действиях человека.

В делах о причинении вреда здоровью суды традиционно исследуют, действовал ли ответчик разумно в данных обстоятельствах. Но как суды должны оценивать разумность, когда процесс принятия решений частично делегируется вероятностным моделям?

Нейронные сети и проблема объяснимости

Системы глубокого обучения часто работают как “черные ящики”. Даже экспертам трудно понять их внутренние процессы принятия решений. Этот недостаток объяснимости имеет серьезные юридические последствия.

Если медицинская система ИИ неправильно диагностирует рак, кто будет виноват? Это может быть:

  • Как модель была обучена
  • Содержал ли набор данных для обучения предвзятость
  • Были ли адекватными процессы проверки
  • Полагались ли клиницисты слишком сильно на автоматизированный вывод

Юридическая литература рекомендует различать причинную ответственность, ответственность, связанную с ролью, и юридическую обязанность возместить вред для атрибуции ответственности за вред, причиненный ИИ.

Однако на практике ответственность может распространяться на цепочку действующих лиц:

  • Поставщиков данных
  • Разработчиков программного обеспечения
  • Специалистов по обучению моделей
  • Тех, кто внедряет системы
  • Организаций, использующих выводы ИИ
  • Профессионалов, полагающихся на рекомендации ИИ

ИИ не устраняет ответственность, а перераспределяет ее.

Уроки из автономных транспортных средств: пример для изучения ответственности за ИИ

Судебные дела об автономных транспортных средствах дают ранний взгляд на то, как суды могут решать проблемы, связанные с вредом, причиненным ИИ. Суды применяли обычные принципы небрежности и ответственности за продукцию к новым технологиям, причиняющим травму. В недавних делах присяжные начали распределять ответственность между человеческими водителями и технологическими компаниями, создавшими системы автоматического вождения.

Юридические комментаторы предложили, что существующие доктрины ответственности за продукцию, такие как дефекты конструкции, дефекты производства и непредоставление предупреждений, имеют отношение к системам, работающим на ИИ.

Однако автономные транспортные средства демонстрируют ограничения текущих правовых рамок. Должна ли ответственность быть присвоена производителю транспортного средства? Разработчику программного обеспечения? Человеческому оператору? Или данным, использованным для обучения алгоритма?

Некоторые ученые предложили, что аналогия принципов ответственности за продукцию может эффективно определить ответственность между участниками на ранних и последующих этапах разработки и использования системы.

С точки зрения истца, дела показывают, что суды могут все еще применять обычные принципы к новым технологиям, но только с заключениями высококвалифицированных экспертов и техническими знаниями.

Строгая ответственность и небрежность: конкурирующие юридические теории

Центральной дискуссией является вопрос о том, могут ли обычные рамки небрежности быть применены к системам ИИ. Некоторые ученые выступают за режимы строгой ответственности, утверждая, что пострадавшие стороны не должны нести бремя доказательства вины в крайне сложных технологических условиях.

Строгая ответственность может быть особенно полезна, когда вред предсказуем, но неизбежен, когда система ИИ развернута в большом масштабе, и когда риски социально распределены. Или когда техническую причинно-следственную связь трудно доказать.

Также утверждается, что право, регулирующее ответственность за небрежность, может адаптироваться к технологическим изменениям. Сравнительные юридические исследования утверждают, что следует развивать существующие доктрины, с их внутренними стабилизирующими эффектами и постепенной адаптацией к новым видам вреда.

Строгая ответственность и небрежность иллюстрируют предпочтения политики, связанные с инновациями, справедливостью и тем, как риск и затраты должны быть распределены.

Должны ли инноваторы нести ответственность за технологический риск? Или общество в целом должно делить затраты на прогресс?

Бизнес-перспектива: распределение риска и страхование

С точки зрения бизнеса ответственность за ИИ — не только юридический вопрос, но и вопрос управления рисками. Организации, развертывающие системы ИИ, начали сосредотачиваться на вопросах договорного распределения рисков, страхования профессиональной ответственности, страхового покрытия киберрисков, обязательств по возмещению убытков и механизмов соблюдения регуляторных требований.

Страховые рынки могут сыграть важную роль в установлении подотчетности за ИИ. Некоторые исследования предполагают, что определенные виды вреда от ИИ в конечном итоге, возможно, лучше всего компенсировать через гибридные схемы компенсации, которые сочетают страхование и деликтное право.

Компании, интегрирующие ИИ в процесс принятия операционных решений, должны учитывать риск судебных исков в своей цифровой трансформации. Если этого не сделать, организации могут оказаться уязвимыми для репутационного ущерба, нормативных санкций и гражданской ответственности.

Этическая ответственность против юридической ответственности

Во многих случаях юридическая ответственность не эквивалентна этической ответственности. Дебаты об управлении ИИ включают следующие принципы:

  • Справедливость
  • Прозрачность
  • Ответственность
  • Объяснимость

Юридические обязательства, однако, не следуют автоматически из этических соображений.

Недавняя работа предлагает концептуальные рамки для распределения ответственности в экосистемах ИИ с множеством участников и для построения правил доказательств, которые связывают проектные решения с правовыми последствиями. Таким образом, правовые системы, стремящиеся продвигать инновации, также должны учитывать тех, кто пострадал от новой технологии. Этот баланс будет формировать будущее управления ИИ.

Будущее небрежности в эпоху искусственного интеллекта

Искусственный интеллект бросает вызов предположению, что полномочия принимать решения всегда принадлежат людям, которых можно установить. Но юридическая ответственность в конечном итоге остается человеческой.

В ближайшем будущем вряд ли суды признают системы ИИ юридическими лицами. Вместо этого ожидается, что люди, разрабатывающие, развертывающие и получающие прибыль от систем ИИ, будут нести ответственность.

По мере того, как системы ИИ становятся более независимыми, гибридные модели могут эволюционировать, сочетая различные формы регулирования:

  1. Принципы небрежности
  2. Доктрины ответственности за продукцию
  3. Нормативный надзор
  4. Страховые схемы компенсации

Вместо того, чтобы заменять понятия общего права (common law), ИИ может просто заставить суды уточнить их. С точки зрения истца, вопрос в том, что произошло.

Кто создает риск? Кто лучше всего способен не допустить, чтобы этот риск причинил людям вред?

Пока законодатели не введут комплексные режимы ответственности за ИИ, суды будут применять существующие правовые доктрины к новым технологиям. Нейронные сети могут быть новыми. Небрежность не нова.

Канон Клиффорд - адвокат, представляющий истцов по делам о личных травмах в компании Bergeron Clifford. Возможность оказать значительное влияние на жизнь людей привлекает Канона к праву о травмах. Для Канона право клиентов на справедливую компенсацию является основой его глубокой приверженности улучшению жизни пострадавших лиц и их семей. Канон начал работать в Bergeron Clifford в качестве летнего студента, изучая все аспекты права о травмах. Затем он завершил свою стажировку в нашей фирме, прежде чем быть принят в коллегию адвокатов Онтарио в 2020 году. Он имеет степень B.Soc.Sc. Университета Оттавы. Он окончил Университет Эксетера в Девоне, Англия, со степенью LL.B. (с отличием) и также имеет степень LL.M. (Разрешение конфликтов) с отличием Университета права в Лондоне, Англия. В настоящее время он учится по программе доктора делового администрирования (D.B.A.) в режиме неполного учебного дня, сосредоточившись на пересечении права, бизнеса и технологий.