Бредфорд Ньюман, голова практики торгівельних секретів Північної Америки – Серія інтерв’ю

Бредфорд спеціалізується на питаннях, пов’язаних з торгівельними секретами та штучним інтелектом. Він є головою підкомітету штучного інтелекту Американської асоціації юристів. Визнаний Daily Journal (DJCO ) у 2019 році одним з 20 найкращих юристів штучного інтелекту в Каліфорнії, Бредфорд був інструментальним у пропозиції федерального законодавства про штучний інтелект на робочому місці та інтелектуальну власність, яке у 2018 році було перетворено на проєкт закону Палати представників США. Він також розробив найкращі практики нагляду за штучним інтелектом та корпоративного управління, призначені для забезпечення алгоритмічної справедливості.

Що спочатку розгоріло вашу зацікавленість до штучного інтелекту?

Я представляв світових лідерів та виробників продуктів штучного інтелекту та технологій протягом багатьох років. Моя зацікавленість завжди полягала в тому, щоб зайти за куліси та зрозуміти юридичні та технічні аспекти машинного навчання, а також спостерігати за еволюцією штучного інтелекту. Мене цікавить те, що можливе для застосувань у різних галузях.

Ви є палким захисником раціонального регулювання штучного інтелекту, особливо у регулюванні, яке захищає громадське здоров’я, можете обговорити деякі з ваших основних проблем?

Я вважаю, що ми перебуваємо на початку однієї з найглибших революцій, яку пережила людство. Штучний інтелект має потенціал впливати на кожний аспект нашого життя, від моменту, коли ми прокидаємося вранці, до моменту, коли ми засинаємо — і навіть під час сну. Багато застосувань штучного інтелекту позитивно вплинуть на якість нашого життя, і, ймовірно, на нашу довголіття як виду.

На даний момент, з точки зору комп’ютерних наук та машинного навчання, люди все ще дуже залучені до процесу, від кодування алгоритмів до розуміння навчальних наборів даних, обробки результатів, виявлення недоліків та продуктизації технологій.

Але ми перебуваємо в гонці проти часу на двох основних фронтах. По-перше, так звана “проблема чорної скриньки”: участь людини та розуміння штучного інтелекту зменшаться з часом, оскільки складність штучного інтелекту (наприклад, штучні нейронні мережі) буде розвиватися. І по-друге, використання штучного інтелекту урядами та приватними інтересами збільшиться.

Моя проблема полягає в тому, що штучний інтелект буде використовуватися як свідомо, так і несвідомо, способами, які суперечать західним демократичним ідеалам індивідуальної свободи та свободи.

Як ми можемо звернутися до цих проблем?

Суспільство знаходиться на етапі, коли нам потрібно вирішити не те, що можливо щодо штучного інтелекту, а те, що повинно бути заборонено або частково обмежено.

По-перше, нам потрібно конкретно ідентифікувати рішення, які ніколи не можуть бути прийняті цілком або частково алгоритмічним виходом, згенерованим штучним інтелектом. Це означає, що навіть у ситуаціях, коли кожен експерт погоджується, що дані на вході та виході повністю необмежені, прозорі та точні, повинна існувати статутна заборона на використання його для будь-якого типу передбачувального або суттєвого прийняття рішень.

Визнано, що це суперечить інтуїції у світі, де ми прагнемо математичної певності, але встановлення “зони, забороненої для польотів” штучного інтелекту є суттєвим для збереження свобод, які ми всі цінуємо та які служать основою нашого суспільства.

По-друге, для інших ідентифікованих рішень на основі аналітики штучного інтелекту, які не заборонені зовсім, нам потрібно законодавство, яке чітко визначає ті рішення, у яких людина повинна бути залучена до процесу прийняття рішень.

Ви були інструментальними у пропозиції федерального законодавства про штучний інтелект на робочому місці та інтелектуальну власність, яке у 2018 році було перетворено на проєкт закону Палати представників США. Чи можете ви обговорити деякі з цих пропозицій?

Закон про захист даних штучного інтелекту призначений для сприяння інноваціям та розроблений для (1) збільшення прозорості у природі та використанні штучного інтелекту, а також для побудови довіри громадськості до штучного інтелекту; (2) вирішення впливу штучного інтелекту на ринок праці та (3) захисту громадського здоров’я та безпеки.

Він має кілька ключових компонентів. Наприклад, він забороняє виключну залежність компаній, які підлягають регулюванню, від штучного інтелекту для прийняття певних рішень, включаючи рішення щодо зайнятості осіб або відмови у медичному лікуванні, а також забороняє медичним страховикам приймати рішення щодо покриття медичного лікування лише на основі аналітики штучного інтелекту. Він також встановлює Раду штучного інтелекту — новий федеральний орган, відповідальний за регулювання штучного інтелекту щодо громадського здоров’я та безпеки. І він вимагає від компаній, які підлягають регулюванню, призначити головного офіцера штучного інтелекту.

Ви також розробили найкращі практики нагляду за штучним інтелектом та корпоративного управління, призначені для забезпечення алгоритмічної справедливості. Які деякі з поточних проблем, які ви бачите щодо справедливості або упередженості в системах штучного інтелекту?

Ця тема була предметом інтенсивної уваги вчених і тепер отримує інтерес урядових агентств США, таких як Комісія з рівних можливостей зайнятості (EEOC), та адвокатів позивачів. Більшість часу причиною стають або недоліки в навчальних наборах даних, або відсутність розуміння та прозорості щодо середовища тестування. Це посилюється відсутністю централізованої власності та нагляду за штучним інтелектом з боку вищого керівництва.

Ця відсутність технічного розуміння та ситуаційної свідомості є суттєвою проблемою відповідальності. Я розмовляв з кількома відомими адвокатами позивачів, які шукають справи про упередженість штучного інтелекту.

Глибоке навчання часто страждає від проблеми “чорної скриньки”, коли ми вводимо дані в штучну нейронну мережу, а потім отримуємо вихід, не знаючи, як цей вихід був згенерований. Чи вважаєте ви, що це велика проблема?

Так. І коли алгоритми та нейронні мережі продовжують розвиватися, а люди все менше “в циклі”, існує реальний ризик перетину точки, після якої ми вже не зможемо зрозуміти критичні елементи функції та виходу.

З COVID-19 країни всього світу ввели системи державного нагляду, що працюють на основі штучного інтелекту. Наскільки великою проблемою ви вважаєте потенційне зловживання цим типом нагляду?

Це наївно, а саме безвідповідально з точки зору індивідуальних прав та свобод, ігнорувати або занижувати ризик зловживання. Хоча відстеження контактів здається розсудливим у середині глобальної пандемії, а штучний інтелект на основі розпізнавання облич забезпечує ефективний засіб зробити те, чого люди самі не можуть зробити, суспільство повинно встановити юридичні заборони на зловживання, а також ефективні механізми нагляду та виконання. В іншому випадку ми здаємося державі основний елемент наших індивідуальних фундаментальних прав. Як тільки це буде віддано у великому масштабі, цей основний елемент нашої свободи та приватності не буде повернений.

Ви раніше заявили, що “Ми повинні встановити зону, заборонену для польотів штучного інтелекту, якщо ми хочемо зберегти свободи, які американці всі цінують та які служать основою нашого суспільства.” Чи можете ви поділитися деякими з цих проблем?

Коли ми обговорюємо штучний інтелект, ми повинні завжди фокусуватися на його суттєвій меті: виробляти точну передбачувальну аналітику з великих наборів даних, які потім використовуються для класифікації людей та прийняття рішень. Далі ми повинні вивчити, хто приймає рішення, про що вони вирішують, і на чому вони базують свої рішення.

Якщо ми розуміємо, що прийняття рішення здійснюють ті, хто має найбільший вплив на наше здоров’я, засоби до існування та свободи — роботодавці, домовласники, лікарі, страховики, правоохоронні органи та кожна інша приватна, комерційна та державна організація, яка може генерувати, збираючи або купуючи аналітику штучного інтелекту — стає легко побачити, що в західній ліберальній демократії, на відміну від тоталітарного режиму, повинні бути рішення, які не повинні, і не можуть бути залишені виключно штучному інтелекту.

Хоча багато очевидних рішень приходять на думку, таких як заборона ув’язнення людини до того, як вона вчинить злочин, широке впровадження штучного інтелекту в кожний аспект нашого життя представляє набагато більш складні випадки етичних дилем.

Ці спрощені приклади — лише кілька з багатьох рішень, де залежність виключно від штучного інтелекту суперечить нашим уявленням про те, що вимагають індивідуальні права людини.

Чи є щось інше, що ви хотіли б поділитися щодо штучного інтелекту або Baker McKenzie?

Я дуже енергізований, щоб допомогти очолити справді міжнародну практику штучного інтелекту Baker McKenzie серед еволюції ландшафту. Ми визнаємо, що наші клієнти голодні щодо керівництва з усіх питань штучного інтелекту, від переговорів про контракти до встановлення внутрішнього нагляду, уникнення заяв про упередженість, розуміння еволюції внутрішнього та міжнародного регуляторного кадру.

Компанії хочуть робити правильні речі, але дуже мало юридичних фірм мають необхідну експертизу та розуміння штучного інтелекту та машинного навчання, щоб бути能够 допомогти їм. Для тих з нас, хто є як залежними від штучного інтелекту, так і адвокатами, це цікавий час, щоб додати реальну цінність нашим клієнтам.

Дякуємо за фантастичні відповіді щодо деяких з цих великих суспільних проблем, пов’язаних зі штучним інтелектом. Читачам, які бажають дізнатися більше про Бредфорда Ньюмана, слід натиснути тут.