Рід Блекман, Ph.D, Засновник і Генеральний Директор Virtue Consultants – Серія Інтерв’ю

Рід Блекман є Засновником і Генеральним Директором Virtue Consultants. У цій якості він працював з компаніями для інтеграції етики та мінімізації етичних ризиків у корпоративну культуру та розвиток, розгортання та закупівлю продуктів нових технологій. Він також є Старшим Радником Ernst & Young і входить до складу їхньої Ради з питань штучного інтелекту, а також є членом Ініціативи з етично виправданого дизайну IEEE.

Робота Ріда була представлена у The Wall Street Journal і Dell Perspectives, а він також написав статті для The Harvard Business Review, TechCrunch, VentureBeat та Risk & Compliance Magazine. Його цитували у численних статтях, а він регулярно виступає на різних заходах, включаючи Всесвітній Економічний Форум, SAP, Cannes Lions, Forbes, NYU Stern School of Business, Колумбійський університет та AIG.

Ви були професором філософії в Університеті Колгейт з 2009 по 2018 рік. Коли ви почали включати етику штучного інтелекту у свої курси?

Я часто викладав курс соціальної та політичної філософії, де вивчав Маркса. Одним з центральних тез Маркса є те, що капіталізм в кінцевому підсумку призведе до комунізму через величезний зростання “засобів виробництва”. Інакше кажучи, капіталізм спонукає до все більшої ефективності у імені конкуренції та відкриття нових ринків, що означає зростання створення технологій, які можуть виробляти все більше і більше за все коротший час. Маркс також передбачав, що це все більше і більше поставить гроші у руках небагатьох і спровокує все більше людей до бідності, після чого капіталістичні структури будуть повалені революцією, яку очолять зростаючі маси бідних. Все це веде до дискусії навколо етики технологій, які усувають потребу в людській праці, що є центральним елементом етики штучного інтелекту.

Маленька сторона історії, якщо вас цікавить: У 2002 році я був аспірантом, який проводив дискусію про Маркса з студентами в Університеті Північного Західного. У якийсь момент студент підняв руку і сказав: “В кінцевому підсумку нам не буде потрібно, щоб люди виконували будь-яку роботу”. Клас був здивований. Я був здивований. Тому я сказав: “Ну, тоді хто буде виконувати роботу?” Він відповів дуже спокійним тоном: “Роботи”. Клас вибухнув сміхом. Я стримав свій власний. Але досить очевидно, хто отримав останнє слово.

У 2018 році ви запустили Virtue Consultants, консалтингову компанію з етики, яка надає можливість лідерам даних і штучного інтелекту ідентифікувати та мінімізувати етичні ризики своїх продуктів. Що спонукало вас розпочати це підприємницьке шлях?

Заздрість. Ну, частково. Я заснував компанію з оптової торгівлі феєрверками, коли був аспірантом, я думаю, близько 2003 або 2004 року. Це пішло краще, ніж я очікував, і компанія досі існує, хоча тепер я лише радник і не займаюсь щоденними операціями. Це має значення, оскільки пояснює, як я став наставником для стартапів у програмі підприємництва Колгейту (названій TIA, Thought Into Action, яку очолюють два чудові венчурні капіталісти, Енді Грінфілд і Віллс Хепворт, які керують TIA Ventures). Як наставник, я бачив студентів, які розпочинали цікаві проекти, намагаючись вирішити, як створити та розширити свої стартапи, і подумав: “Я хочу цього!” Але що буде моєю новою справою? Це мало б стосуватися моєї любові до філософії та етики, і перша річ, яка мала сенс, була консалтинговою компанією з етики. Я не бачив ринку таких послуг на той час, оскільки його не було, тому я чекав. А потім стався скандал з Cambridge Analytica, і відбулися рухи BLM і #MeToo, і раптом з’явилася більша свідомість щодо необхідності.

Як важливо для компаній вводити Заяву про етику штучного інтелекту?

Заява про етику штучного інтелекту не є суттєвою, але це дуже корисний інструмент для визначення цілей. Коли ви вводите програму етики штучного інтелекту у свою організацію, ви хочете ідентифікувати та мінімізувати різні етичні, репутаційні, регуляторні та юридичні ризики. Це її основна функція. Заява про етику допомагає у формулюванні того, яким все буде виглядати, коли у вас буде інфраструктура, процеси та практики для досягнення цієї мети. Наскільки стратегія потребує мети – що завжди відбувається – Заява про етику штучного інтелекту є хорошим способом формулювання цих цілей, хоча це не єдиний спосіб.

Як компанії можуть забезпечити, щоб заява про етику була перенесена у процес та практику?

Заява про етику – це лише малий крок у правильному напрямку. Якщо ви хочете продовжувати рухатися, наступним логічним кроком є проведення оцінки того, де ви знаходитеся відносно цілей, сформульованих у цій заяві. Як тільки ви знаєте, де найбільші, ризикованіші пробіли – тобто, де ви найбільш ризикуєте не досягти своїх цілей – тоді ви можете почати розробляти рішення для звуження цих пробілів. Можливо, це буде комітет з етики. Можливо, це буде процес ділової перевірки під час розробки продукту. Можливо, це буде поліпшення того, як ви працюєте з даними у не-виробничих відділах, таких як маркетинг та кадри. Ймовірно, це будуть усі ці речі та ще більше.

Які рішення компанії повинні реалізувати, щоб уникнути упередженості у фактичний алгоритм штучного інтелекту?

Є багато технічних інструментів для ідентифікації упередженості, але вони обмежені. Вони дозволять вам порівняти вивід вашої моделі з десятками кількісних метрик, які були запропоновані у літературі з етики машинного навчання, але вам потрібно бути обережним, оскільки ці метрики не є взаємно сумісними. Тому суттєве етичне рішення потрібно прийняти: яке, якщо таке є, з цих метрик є відповідним у цьому контексті?

Поза використанням інструменту, такого як цей, доповненим відповідним способом回答у на це питання, команди продукту повинні добре подумати про те, де упередженість може з’явитися, перш ніж вони почнуть будівництво. Як це може бути обмежено або відображено у навчальних наборах даних? Як щодо визначення об’єктивної функції? Що про визначення порогу? Є багато місць, де упередженість може з’явитися. Передбачення про те, де це може бути у вашому поточному проекті, і як це може туди потрапити, є суттєвими для ідентифікації та мінімізації упередженості.

Компанії штучного інтелекту часто домінують білі чоловіки, які можуть ненавмисно програмувати деякі упередженості у систему штучного інтелекту. Щоб уникнути цього, які риси повинні шукати відділи кадрів?

Я повністю підтримую більшу можливість та більшу різноманітність серед інженерів та команд продукту загалом. Однак я думаю, що це розглядається через неправильну лінзу. Основна проблема, коли мова йде про упереджені алгоритми, полягає не в тому, що упередженість якогось білого чоловіка веде до упередженого коду. Це те, що навчальні набори даних упереджені. Насправді недавня робота з Колумбійського університету – “Упереджені програмісти? Чи упереджені дані? Експеримент у операціоналізації етики штучного інтелекту” – показала, що “[п]рограмісти, які розуміють технічні вказівки, успішно зменшують упередженість”, і що “[а]лгоритмічні передбачення жінками та меншинами програмістами штучного інтелекту не демонструють меншу алгоритмічну упередженість чи дискримінацію”. Тому, хоча відділи кадрів повинні звернути увагу на питання різноманітності, це далеко не очевидно, що стратегії щодо зменшення упередженого виводу штучного інтелекту повинні в першу чергу – не кажучи виключно – зосереджуватися на рішеннях щодо прийому на роботу, пов’язаних із різноманітністю.

Чи можете ви обговорити, що таке етична ризикова ділова перевірка та чому компанії повинні її реалізувати?

Етична ризикова ділова перевірка – це спроба виявити різні етичні ризики, які можуть бути реалізовані за допомогою продукту, який ви створюєте, включаючи те, як він розгортається, як він може бути використаний і використаний неправильно тощо. Ви хочете зосередитися на особливостях продукту – як тих, які він має, так і тих, яких він не має – і тих, як ці особливості можуть привести, коли розгортаються у різних контекстах, до етичних порушень. Коли це робиться добре, це є систематичним і вичерпним інспекцією. Природно, хоча ви можете спробувати якнайкраще подивитися за ріг, є речі, які ви можете пропустити, тому важливо постійне моніторинг.

Що стосується того, чому компанії повинні її реалізувати: їм потрібно лише подумати про етичні, репутаційні, регуляторні та юридичні ризики за не реалізацію цього. Подумайте про Optum у новинах та під регуляторним розслідуванням за (алергійно) упереджений алгоритм, який рекомендував лікарям звернути більше уваги на білих пацієнтів, ніж на хворих чорних пацієнтів. Чи про Goldman Sachs (GS ), який знаходиться під розслідуванням щодо кредитних лімітів для картки Apple (AAPL ), які (алергійно) дискримінують жінок. Чи про програмне забезпечення Amazon (AMZN ) для прийому на роботу, яке було скасовано через побоювання щодо упередженості, перш ніж воно було розгорнуто. Чи про IBM, який судиться з Лос-Анджелесом за передбачуване неправильне використання даних, зібраних з його програми погоди. Чи про Facebook (META ) …

Чи є щось інше, що ви хотіли б поділитися про Virtue Consultants?

Virtue допомагає старшим керівникам впроваджувати етику штучного інтелекту на практиці, чи то допомагаючи освітити та підвищити кваліфікацію людей на цю тему, чи то написання Заяви про етику штучного інтелекту, чи то створення та впровадження дієвого етичного ризикового кадру, чи то просто служачи радниками з питань етики штучного інтелекту. Якщо це здається цікавим, люди повинні прийти та сказати привіт.

Дякую за велике інтерв’ю, читачам, які бажають дізнатися більше про Ріда, слід відвідати Рід Блекман, або ви можете відвідати Virtue Consultants.