Лідери думок

Хто відповідає, коли ШІ завдає шкоди? Недбалість, деліктне право та майбутнє управління ШІ

Kanon Clifford
Додайте Unite.AI до бажаних джерел у Google
A conceptual legal illustration showing a lawyer in a boardroom, a scale of justice with a glowing AI brain and a human hand, and a digital
Ключові моментиНепрозорість ШІ створює прогалину відповідальності, ускладнюючи ключові елементи…
Показати більше
  • Непрозорість ШІ створює прогалину відповідальності, ускладнюючи ключові елементи недбалого правопорушення, такі як обов'язок догляду та причинний зв'язок.
  • Суд можуть застосовувати до ШІ існуючі доктрини відповідальності за продукцію, але вимагатимуть надання складної технічної доказової бази.
  • Режими суворої відповідальності могли б справедливо розподіляти ризик, коли шкода від ШІ є передбачуваною, але причинний зв'язок залишається неясним.

Ця стаття розглядає юридичні питання шкоди, спричиненої штучним інтелектом, а також питання про те, хто може нести відповідальність, якщо нейронна мережа неправильно працює в реальному світі.

Штучний інтелект (ШІ) перейшов від дослідницьких лабораторій до судових засідань, клінік, автомобілів і фондових бірж, де нейронні мережі діагностують захворювання, схвалюють кредити та все частіше виконують завдання, які раніше вважалися доменом людини. Але коли такі системи відмовляють у реальному світі, вони роблять це з тяжкими та іноді фатальними наслідками.

Я представляю позивачів у справах про шкоду здоров’ю в Онтаріо, Канада, і нині є кандидатом на ступінь Doctor of Business Administration (DBA), досліджуючи перетин бізнесу, права та технологій. Мені дедалі частіше ставлять просте запитання: Хто відповідає, якщо ШІ завдає шкоди?

Відповідь насправді більш складна. ШІ створює виклики для доктрин недбалості, причинності та передбачуваності, і ставить фундаментальні питання про те, як право повинно реагувати на рішення машин.

Дедалі більша роль ШІ у високоризикових рішеннях

ШІ вже не обмежується автоматизацією завдань із низькими вимогами до кваліфікації або платформами машинного навчання. Тепер він приймає рішення щодо охорони здоров’я, фінансів, зайнятості, транспорту, поліції та юридичної аналітики.

Поточні моделі ШІ зазвичай складаються з глибоких нейронних мереж, які, хоча й можуть виявляти складні закономірності у великих наборах даних, залишаються суттєво непрозорими для своїх розробників. Вчені спостерігали, що системи ШІ вводять непередбачуваність і автономію у право, яке раніше строго регулювалося передбачуваністю та наміром. Це створює конфлікт між інноваціями та підзвітністю.

Хоча юридичні системи розглядають заподіяну шкоду як заподіяну людьми, ШІ розподіляє відповідальність серед інженерів, які створюють набори даних, розробників систем, тих, хто впроваджує ці системи, та кінцевих користувачів. Відповідальність стає дифузною.

Прогалина у відповідальності: коли важко встановити, хто відповідає за шкоду

Юридичні вчені все частіше говорять про нову «прогалину у відповідальності» в управлінні ШІ. Традиційне деліктне право залежить від визначення:

  1. Обов’язку належної обачності
  2. Порушення цього обов’язку
  3. Причинного зв’язку
  4. Шкоди

ШІ ускладнює кожен елемент. Наприклад, розробники можуть не знати, як модель поведеться після розгортання, а організації можуть використовувати системи машинного навчання третіх сторін. З точки зору кінцевого користувача, механізм формування результату є непрозорим.

Одне академічне дослідження відзначило, як доведення провини стає більш складним, якщо системи ШІ діють напівавтономно або адаптуються автономно через процеси, подібні до машинного навчання. Ця розпорошеність ставить під сумнів застосовність доктрин, заснованих на діях людини.

У судових справах про шкоду здоров’ю суди традиційно розглядають, чи діяв відповідач розумно в цих обставинах. Але як суди повинні оцінювати розумність, коли прийняття рішень частково делегується ймовірнісним моделям?

Нейронні мережі та проблема пояснюваності

Системи глибокого навчання часто працюють як “чорні скриньки”. Їхні внутрішні процеси ухвалення рішень важко інтерпретувати навіть експертам. Ця відсутність пояснюваності має серйозні юридичні наслідки.

Якщо медична система ШІ неправильно діагностує рак, хто буде винен? Це може бути:

  • Як модель була навчена
  • Чи навчальні дані містять упередженість
  • Чи процеси валідації були достатніми
  • Чи клініцисти надто сильно покладалися на автоматизований вивід

Юридична література рекомендує розрізняти причинну відповідальність, відповідальність, пов’язану з роллю, та юридичну відповідальність за відшкодування шкоди для визначення відповідальності за шкоду, заподіяну ШІ.

Однак на практиці відповідальність може поширюватися на ланцюжок учасників:

  • Постачальники даних
  • Розробники програмного забезпечення
  • Тренери моделей
  • Ті, хто впроваджує системи
  • Організації, які використовують результати роботи ШІ
  • Професіонали, які покладаються на рекомендації ШІ

ШІ не усуває відповідальність, а перерозподіляє її.

Уроки з автономних транспортних засобів: Аналіз конкретного прикладу відповідальності за ШІ

Судові справи про автономні транспортні засоби дають ранній погляд на те, як суди можуть розглядати шкоду, пов’язану з ШІ. Суди застосували звичайні принципи недбалості та відповідальності за продукт до нових технологій, які спричиняють травму. У недавніх справах присяжні почали розподіляти відповідальність між людськими водіями та технологічними компаніями, які створили системи автоматичного водіння.

Юридичні коментатори пропонують, що існуючі доктрини відповідальності за продукт, такі як дефект проекту, дефект виробництва та ненадання попередження, мають стосуватися систем, що використовують ШІ.

Однак автономні транспортні засоби розкривають обмеження поточних юридичних рамок. На кого слід покласти відповідальність: на виробника транспортного засобу? На розробника програмного забезпечення? На людину-оператора? Чи на дані, використані для навчання алгоритму?

Деякі вчені пропонують, що аналогія принципів відповідальності за продукт може ефективно розмежувати відповідальність між учасниками на попередніх і наступних етапах розроблення та використання системи.

З точки зору позивача, справи показують, що суди можуть все ще застосовувати звичайні принципи до нових технологій, але тільки з доказами від висококваліфікованих експертів і технічними знаннями.

Відповідальність незалежно від вини та недбалість: Конкуруючі юридичні теорії

Центральна дискусія полягає в тому, чи можна застосовувати звичайні рамки недбалості до систем ШІ. Деякі вчені пропонують режими відповідальності незалежно від вини, стверджуючи, що потерпілі особи не повинні нести тягар доведення провини у надзвичайно складних технологічних середовищах.

Відповідальність незалежно від вини може бути особливо корисною, коли шкода передбачувана, але уникнення її неможливе, коли система ШІ розгорнута у великому масштабі, а ризики соціально розподілені. Те саме стосується випадків, коли технічний причинний зв’язок важко довести.

Також стверджується, що правила відповідальності за недбалість можуть адаптуватися до технологічних змін. Порівняльні юридичні дослідження пропонують спиратися на наявні доктрини, які забезпечують внутрішню стабільність і поступове пристосування до нових видів шкоди.

Відповідальність незалежно від вини та недбалість ілюструють вибір правової політики, пов’язаний з інноваціями, справедливістю та тим, як ризик та витрати повинні бути розподілені.

Чи повинні інноватори нести відповідальність за технологічний ризик? Чи має суспільство загалом розділити витрати на прогрес?

Бізнес-перспектива: Розподіл ризику та страхування

З бізнес-перспективи, відповідальність ШІ не тільки юридична проблема, а й питання управління ризиком. Організації, які розгортають системи ШІ, почали зосереджуватися на питаннях договірного розподілу ризиків, страхування професійної відповідальності, страхового покриття кіберризиків, зобов’язань із відшкодування збитків і механізмів дотримання регуляторних вимог.

Страхові ринки можуть відігравати важливу роль у встановленні підзвітності за ШІ. Деякі дослідження пропонують, що певні види шкоди від ШІ зрештою, можливо, найкраще компенсувати через гібридні схеми компенсації, які поєднують страхування та деліктне право.

Компанії, які інтегрують ШІ у процеси прийняття рішень, повинні враховувати ризик судових процесів під час своєї цифрової трансформації. Невиконання цього може залишити такі організації відкритими для репутаційних втрат, нормативних санкцій та цивільної відповідальності.

Етична відповідальність проти юридичної відповідальності

У багатьох випадках юридична відповідальність не еквівалентна етичній відповідальності. Дебати про управління ШІ включають такі принципи:

  • Справедливість
  • Прозорість
  • Підзвітність
  • Пояснюваність

Юридичні зобов’язання, однак, не випливають автоматично з етичних міркувань.

Недавня робота пропонує концептуальні рамки для розподілу відповідальності в екосистемах ШІ з багатьма учасниками та для побудови доказових правил, які зв’язують рішення про проектування з юридичними результатами. Таким чином, юридичні системи, які прагнуть сприяти інноваціям, також повинні враховувати тих, хто постраждав від нової технології. Це врівноваження інтересів формуватиме майбутнє управління ШІ.

Майбутнє відповідальності за недбалість в епоху штучного інтелекту

Штучний інтелект ставить під сумнів припущення, що повноваження ухвалювати рішення завжди належать людям, яких можна ідентифікувати. Але юридична відповідальність в кінцевому підсумку залишається людською.

У найближчому майбутньому малоймовірно, що суди визнають системи ШІ юридичними особами. Натомість очікується, що особи, які розробляють, розгортають та отримують прибуток від систем ШІ, будуть нести відповідальність.

У міру того як системи ШІ стають самостійнішими, гібридні моделі можуть еволюціонувати, поєднуючи різні форми регулювання:

  1. Принципи недбалості
  2. Доктрини відповідальності за продукт
  3. Нагляд регуляторних органів
  4. Страхові схеми компенсації

Замість того щоб замінити поняття загального права (common law), ШІ може просто змусити суди чіткіше їх визначити. З точки зору позивача, питання полягає в тому, що відбулося.

Хто є творцем ризику? Хто може найкраще запобігти ризику, щоб він не зашкодив людям?

Доки законодавці не запровадять комплексні режими відповідальності за ШІ, суди застосовуватимуть наявні правові доктрини до нових технологій. Нейронні мережі можуть бути новими. Недбалість не нова.

Канон Кліффорд - адвокат, який представляє позивачів у справах про тілесні ушкодження у компанії Bergeron Clifford. Можливість зробити суттєву зміну в житті людей приваблює Канона до права щодо травм. Для Канона право клієнтів на справедливу компенсацію є основою його глибокої відданості покращенню життя травмованих осіб та їхніх сімей. Канон розпочав свою роботу в Bergeron Clifford як літній студент, вивчаючи тонкощі права щодо травм. Потім він завершив своє професійне стажування в нашій фірмі перед тим, як отримав право на адвокатську практику в Онтаріо в 2020 році. Він має ступінь B.Soc.Sc. з Університету Оттави. Він закінчив університет Ексетера в Девоні, Англія, зі ступенем LL.B. (Honours) і також має ступінь LL.M. (Конфліктологія) з відзнаками з Університету права в Лондоні, Англія. Зараз він навчається за програмою доктора бізнес-адміністрування (D.B.A.) з неповним навчальним навантаженням, зосереджуючись на перетині права, бізнесу та технологій.