Рид Блэкман, доктор философии, основатель и генеральный директор Virtue Consultants – Интервью

Рид Блэкман является основателем и генеральным директором Virtue Consultants. В этой роли он работал с компаниями, чтобы интегрировать этику и снижение этических рисков в корпоративную культуру и разработку, развертывание и закупку продуктов эмерджентных технологий. Он также является старшим советником компании Ernst & Young и входит в состав их консультативного совета по искусственному интеллекту, а также является членом инициативы IEEE по этически выровненной разработке.

Работа Рида была освещена в The Wall Street Journal и Dell Perspectives, и он написал статьи для The Harvard Business Review, TechCrunch, VentureBeat и Risk & Compliance Magazine. Он цитировался в многочисленных новостных статьях и регулярно выступает на различных площадках, включая Всемирный экономический форум, SAP, Cannes Lions, Forbes, Школу бизнеса Нью-Йоркского университета Стерна, Колумбийский университет и AIG.

Вы были профессором философии в Университете Колгейта с 2009 по 2018 год. Когда вы начали включать этику ИИ в свои курсы?

Я часто преподавал курс по социальной и политической философии, где мы обсуждали Маркса. Одним из центральных утверждений Маркса является то, что капитализм в конечном итоге уступит место коммунизму из-за огромного увеличения “средств производства”. Другими словами, капитализм стимулирует все большую эффективность во имя конкуренции и открытия новых рынков, что означает увеличение создания технологий, которые могут производить все больше и больше за более короткое время. Маркс также предсказал, что это приведет к тому, что деньги будут концентрироваться в руках немногих, а все больше и больше людей будут оттеснены к бедности, после чего структуры капитализма будут свергнуты революцией, возглавляемой все растущим числом обездоленных масс. Все это приводит к обсуждению этики технологий, которые делают ненужным человеческий труд, что является центральным элементом этики ИИ.

Маленькая история, если вас интересует: В 2002 году я был аспирантом, ведущим обсуждение Маркса с студентами в Университете Северного Иллинойса. В какой-то момент студент поднял руку и сказал: “В конце концов, нам не понадобятся люди, чтобы выполнять любую работу.” Класс был озадачен. Я был озадачен. Итак, я сказал: “Ну, тогда кто будет выполнять работу?” Он ответил очень деловым тоном: “Роботы.” Класс взорвался смехом. Я сдержал свой собственный. Но довольно очевидно, кто в итоге получил последний смех.

В 2018 году вы запустили Virtue Consultants, консалтинговую компанию по этике, которая помогает лидерам в области данных и ИИ выявлять и смягчать этические риски своих продуктов. Что вдохновило вас на этот предпринимательский шаг?

Ревность. Ну, примерно. Я основал компанию по оптовой торговле фейерверками, когда был аспирантом, думаю, около 2003 или 2004 года. Это пошло лучше, чем я ожидал, и компания до сих пор существует, хотя теперь я являюсь советником и не занимаюсь повседневной деятельностью. В любом случае, это имеет отношение, потому что объясняет, как я стал наставником для стартапов в программе предпринимательства Колгейта (называемой TIA, Thought Into Action, возглавляемой двумя отличными венчурными капиталистами, Энди Гринфилдом и Уиллсом Хэпвортом, которые возглавляют TIA Ventures). В качестве наставника я видел, как студенты начинали интересные проекты, пытаясь понять, как создать и масштабировать свои стартапы, и я подумал: “Я хочу это!” Но что будет моим новым проектом? Это должно было быть связано с моей любовью к философии и этике, и первое, что имело смысл, – это консалтинговая компания по этике. Я не видел рынка для таких услуг в то время, потому что его не было, и поэтому я подождал. А затем Cambridge Analytica, BLM и #MeToo стали национальными заголовками, и вдруг появилось большее осознание необходимости.

Насколько важно для компаний внедрять Заявление об этике ИИ?

Заявление об этике ИИ не является обязательным, но это очень полезный инструмент для постановки целей. Когда вы вводите программу этики ИИ в свою организацию, вы хотите выявить и смягчить различные этические, репутационные, нормативные и юридические риски. Это его основная функция. Заявление об этике помогает в формулировании того, как все будет выглядеть, когда у вас будет инфраструктура, процесс и практики, чтобы достичь этой функции. Насколько стратегия нуждается в цели – что она всегда делает – Заявление об этике ИИ является хорошим способом артикулировать эти цели, хотя это не единственный способ.

Как компании могут обеспечить, чтобы заявление об этике было переведено в процесс и практику?

Заявление об этике – это всего лишь маленький шаг в правильном направлении. Если вы хотите продолжать двигаться вперед, следующим естественным шагом является проведение оценки того, где вы находитесь относительно целей, сформулированных в этом заявлении. Как только вы узнаете, где самые большие, рискованные пробелы – то есть, где вы наиболее рискуете не оправдать своих целей – тогда вы можете начать разрабатывать решения, чтобы сузить эти пробелы. Может быть, это будет комитет по этике. Может быть, это будет процесс проверки во время разработки продукта. Может быть, это будет улучшение того, как вы обрабатываете данные в непродуктовых отделах, таких как маркетинг и кадры. Вероятно, это будет все это и многое другое.

Какие решения должны реализовать компании, чтобы избежать предвзятости в фактический алгоритм ИИ?

Существует множество технических инструментов для выявления предвзятости, но они ограничены. Они позволят вам сравнить выходы вашей модели с десятками количественных метрик, предложенных в академической литературе по этике ИИ, но вам нужно быть осторожным, потому что эти метрики не являются взаимно совместимыми. Итак, необходимо принять существенное, этическое решение: какая, если таковая имеется, из этих метрик является подходящей в этом контексте?

Помимо использования такого инструмента, дополненного ответственным способом ответа на этот вопрос, команды продукта должны подумать о том, где предвзятость может проникнуть, прежде чем они начнут строить. Как она может быть сдержана или отражена в наборах обучающих данных? Что касается определения функции цели? Что касается определения порога? Есть много мест, где предвзятость может проникнуть. Предварительное размышление о том, где это может быть в текущем проекте и как оно может туда попасть, является необходимым для выявления и смягчения предвзятости.

Компании ИИ известны тем, что доминируют в них белые мужчины, которые могут непреднамеренно запрограммировать некоторые предвзятости в систему ИИ. Чтобы избежать этого, какие черты должны искать отделы кадров?

Я все за большую возможность и большее разнообразие среди инженеров и команд продукта в целом. Однако я думаю, что это рассматривается через неправильную призму. Основная проблема с предвзятыми алгоритмами заключается не в том, что предвзятости какого-то белого парня приводят к предвзятым кодам. Это то, что обучающие наборы данных предвзяты. Фактически, недавняя статья в Колумбии – “Предвзятые программисты? Или предвзятые данные? Полевое исследование по операционализации этики ИИ” – заключила, что “[п]рограммисты, которые понимают технические рекомендации, успешно снижают предвзятость”, и что “[а]лгоритмические прогнозы женских и меньшинственных программистов ИИ не демонстрируют меньшей алгоритмической предвзятости или дискриминации”. Итак, хотя отделы кадров должны обращать внимание на вопросы разнообразия, далеко не ясно, что стратегии по снижению предвзятых выходов ИИ должны в первую очередь – или исключительно – сосредоточиться на решениях по найму, связанных с разнообразием.

Можете ли вы обсудить, что такое этический риск-диджест и почему компании должны его реализовать?

Этический риск-диджест – это попытка выявить различные этические риски, которые могут быть реализованы с продуктом, который вы создаете, включая то, как он развертывается, как он может быть использован и злоупотреблен и т. д. Вы хотите сосредоточиться на функциях продукта – как на тех, которые он имеет, так и на тех, которых он не имеет – и на том, как они могут привести, когда развертываются в различных контекстах, к этическим нарушениям. Когда это делается хорошо, это системный и исчерпывающий осмотр. Конечно, хотя вы можете попытаться как можно лучше заглянуть за угол, есть, возможно, некоторые вещи, которые вы пропустите, что является причиной, по которой непрерывный мониторинг важен.

Что касается того, почему компании должны его реализовать: им нужно учитывать только этические, репутационные, нормативные и юридические риски за неисполнение. Подумайте об Optum в новостях и под нормативным расследованием за (якобы) предвзятый алгоритм, который рекомендовал медицинским работникам уделять больше внимания белым пациентам, чем больным черным пациентам. Или Goldman Sachs (GS ), под расследованием за лимиты кредитов для Apple (AAPL ) Card, которые (якобы) дискриминируют женщин. Или программное обеспечение Amazon (AMZN ) для найма, которое было отменено из-за опасений по поводу предвзятости, прежде чем оно было развернуто. Или IBM, которую судят Лос-Анджелесом за (якобы) незаконное присвоение данных, собранных из его приложения Weather. Или Facebook…

Есть ли что-то еще, что вы хотели бы поделиться о Virtue Consultants?

Virtue помогает старшим лидерам внедрять этику ИИ на практике, будь то помощь в образовании и повышении квалификации людей по этой теме, написание Заявления об этике ИИ, создание и внедрение действенного этического риска ИИ или просто служение советниками по этике ИИ. Если это звучит интересно, люди должны подойти и поздороваться.

Спасибо за отличное интервью. Читателям, которые хотят узнать больше о Риде, следует посетить Рид Блэкман или посетить Virtue Consultants.