Від нейронних мереж до халатності: Хто відповідає, коли штучний інтелект помиляється?

Ця стаття обговорює юридичні питання, пов’язані з шкодами, спричиненими штучним інтелектом, та де лежить відповідальність, якщо нейронна мережа не функціонує правильно в реальному світі.

Штучний інтелект (ШІ) перейшов від дослідницьких лабораторій до судових засідань, клінік, автомобілів і фондових бірж, де нейронні мережі діагностують захворювання, схвалюють кредити та все частіше виконують завдання, які раніше вважалися доменом людини. Але коли такі системи відмовляють у реальному світі, вони роблять це з тяжкими та іноді фатальними наслідками.

Як адвокат з особистих травм в Онтаріо, Канада, та поточний кандидат на ступінь доктора бізнес-адміністрування, який вивчає перетин бізнесу, права та технологій, мене все частіше запитують просте питання: Хто винен, якщо відбувається шкода від ШІ?

Відповідь насправді більш складна. ШІ викликає виклики для доктрин халатності, причинності та передбачуваності, і ставить фундаментальні питання про те, як право повинно реагувати на рішення машин.

Розширювана роль ШІ у високоризикових рішеннях

ШІ вже не обмежується автоматизацією низько кваліфікованих завдань або машинним навчанням. Тепер він приймає рішення щодо охорони здоров’я, фінансів, зайнятості, транспорту, поліції та юридичної аналітики.

Поточні моделі ШІ зазвичай складаються з глибоких нейронних мереж, які, хоча й можуть виявляти складні закономірності у великих наборах даних, залишаються суттєво непрозорими для своїх розробників. Вченні спостерігали, що системи ШІ вводять непередбачуваність і автономію у право, яке раніше строго регулювалося передбачуваністю та наміром. Це створює конфлікт між інноваціями та підзвітністю.

Хоча юридичні системи розглядають заподіяну шкоду як заподіяну людьми, ШІ розподіляє відповідальність серед інженерів набору даних, які їх створюють, розгортають та кінцевих користувачів. Відповідальність стає дифузною.

Провал відповідальності: Коли шкода не може бути легко віднесена

Юридичні вчені все частіше говорять про появлячийся “провал відповідальності” у управлінні ШІ. Традиційне право про халатність залежить від визначення:

1. Обов’язку піклування
2. Порушення цього обов’язку
3. Причинності
4. Шкоди

ШІ ускладнює кожен елемент. Наприклад, розробники можуть не знати, як модель поведеться після розгортання, а організації можуть використовувати системи машинного навчання третіх сторін. З точки зору кінцевого користувача, механізм визначення виведення є не прозорим.

Одне академічне дослідження відзначило, як доведення провини стає більш складним, якщо системи ШІ діють напівавтономно або адаптуються автономно через процеси, подібні до машинного навчання. Ця фрагментація викликає доктрини, які залежать від людського агентства.

У судових справах про особисті травми суди традиційно розглядають, чи діяв відповідач розумно в цих обставинах. Але як суди повинні оцінювати розумність, коли прийняття рішень частково делегується ймовірнісним моделям?

Нейронні мережі та проблема пояснюваності

Системи глибокого навчання часто працюють як “чорні скриньки”. Їх внутрішні процеси прийняття рішень не легко інтерпретуються, навіть експертами. Ця відсутність пояснюваності має серйозні юридичні наслідки.

Якщо медична система ШІ неправильно діагностує рак, хто буде винен? Це може бути:

• Як модель була навчена
• Чи навчальні дані містять упередженість
• Чи процеси валідації були достатніми
• Чи клініцисти надто сильно покладалися на автоматизований вивід

Юридична література рекомендує розрізняти причинну відповідальність, рольову відповідальність та відповідальність за шкоду для визначення відповідальності за шкоду, заподіяну ШІ.

Однак на практиці відповідальність може поширюватися на ланцюжок акторів:

• Постачальники даних
• Розробники програмного забезпечення
• Тренери моделей
• Розгортувачі
• Організації, які використовують вивід ШІ
• Професіонали, які покладаються на рекомендації ШІ

ШІ не усуває відповідальність, а перерозподіляє її.

Уроки з автономних транспортних засобів: Випадковий аналіз відповідальності ШІ

Судові справи про автономні транспортні засоби дають ранній погляд на те, як суди можуть розглядати шкоду, пов’язану з ШІ. Суди застосували звичайні принципи халатності та відповідальності за продукт до нових технологій, які спричиняють травму. У недавніх справах присяжні почали розподіляти відповідальність між людськими водіями та технологічними компаніями, які створили системи автоматичного водіння.

Юридичні коментатори пропонують, що існуючі доктрини відповідальності за продукт, такі як дефект проекту, дефект виробництва та невиконання попередження, мають стосуватися систем, що використовують ШІ.

Однак автономні транспортні засоби розкривають обмеження поточних юридичних рамок. Чи повинна відповідальність бути прикріплена до: Виробника транспортного засобу? Розробника програмного забезпечення? Людського оператора? Чи даних, використаних для навчання алгоритму?

Деякі вчені пропонують, що аналогія принципів відповідальності за продукт може ефективно розмежувати відповідальність між акторами вище та нижче за течією.

З точки зору позивача, справи показують, що суди можуть все ще застосовувати звичайні принципи до нових технологій, але тільки з真正ими експертними знаннями та технічними знаннями.

Сувора відповідальність та халатність: Конкуруючі юридичні теорії

Центральна дискусія полягає в тому, чи можна застосовувати звичайні рамки халатності до систем ШІ. Деякі вчені пропонують суворі режими відповідальності, стверджуючи, що потерпілі особи не повинні нести тягар доведення провини у високо складних технологічних середовищах.

Сувора відповідальність може бути особливо корисною, коли шкода передбачувана, але уникнення її неможливе, коли система ШІ розгорнута у великому масштабі, а ризики соціально розподілені. Чи технічна причинність не легко довести.

Також стверджується, що право про халатність може адаптуватися до технологічних змін. Порівняльні юридичні дослідження пропонують будувати на існуючих доктринах, з їх внутрішніми стабілізуючими ефектами та інкрементальною адаптацією до нових шкод.

Сувора відповідальність та халатність ілюструють політичні переваги, пов’язані з інноваціями, справедливістю та тим, як ризик та витрати повинні бути розподілені.

Чи повинні інноватори нести відповідальність за технологічний ризик? Чи повинен суспільство широко поділитися витратами на прогрес?

Бізнес-перспектива: Розподіл ризику та страхування

З бізнес-перспективи, відповідальність ШІ не тільки юридична проблема, а й питання управління ризиком. Організації, які розгортають системи ШІ, почали зосереджуватися на питаннях договору про розподіл ризику: 2. професійного страхування відповідальності, 3. кібербезпеки та 4. компенсації, а також нормативних рамок.

Страхові ринки можуть відігравати важливу роль у встановленні підзвітності за ШІ. Деякі дослідження пропонують, що певні шкоди від ШІ можуть бути найкраще розглянуті через гібридні схеми компенсації, які поєднують страхування та право про халатність.

Компанії, які інтегрують ШІ у процеси прийняття рішень, повинні враховувати ризик судових процесів під час своєї цифрової трансформації. Невиконання цього може залишити такі організації відкритими для репутаційних шкод, нормативних санкцій та цивільної відповідальності.

Етична відповідальність проти юридичної відповідальності

У багатьох випадках юридична відповідальність не еквівалентна етичній відповідальності. Дебати про управління ШІ включають такі принципи:

• Справедливість
• Прозорість
• Підзвітність
• Пояснюваність

Юридичні зобов’язання, однак, не автоматично випливають з етичних考虑ів.

Недавня робота пропонує концептуальні рамки для розподілу відповідальності в екосистемах ШІ з多акторами та для побудови доказових правил, які зв’язують рішення про проектування з юридичними результатами. Таким чином, юридичні системи, які прагнуть сприяти інноваціям, також повинні враховувати тих, хто постраждав від нової технології. Ця балансувальна дія формуватиме майбутнє управління ШІ.

Майбутнє халатності у віці штучного інтелекту

Штучний інтелект викликає питання про припущення, що влада прийняття рішень завжди лежить у ідентифікованих людських акторах. Але юридична відповідальність в кінцевому підсумку залишається людською.

У найближчому майбутньому малоймовірно, що суди визнають системи ШІ юридичними особами. Натомість очікується, що особи, які розробляють, розгортають та отримують прибуток від систем ШІ, будуть нести відповідальність.

Як системи ШІ стають більш незалежними, гібридні моделі можуть еволюціонувати, поєднуючи різні форми регулювання:

1. Принципи халатності
2. Доктрини відповідальності за продукт
3. Надзор за регулюванням
4. Страхові схеми компенсації

Натомість заміни загальних правових концепцій, ШІ може просто змусити суди роз’яснити їх. З точки зору позивача, питання полягає в тому, що відбулося.

Хто є творцем ризику? Хто може найкраще запобігти ризику, щоб він не зашкодив людям?

До тих пір, поки законодавчі органи не приймуть комплексні технології. У режимах відповідальності ШІ суди будуть застосовувати існуючі юридичні доктрини до нових технологій. Нейронні мережі можуть бути новими. Халатність не є.