Принципы этики ИИ прошли мета-анализ, подчеркивающий права человека

В 2019 году внимание к этике ИИ было больше, чем когда-либо прежде. Однако большая часть этого обсуждения казалась неясной, без кодифицированного подхода. Вместо этого разные компании создали свои собственные рамки и политику в отношении этики ИИ. Иметь консенсус по вопросам этики ИИ важно, поскольку это помогает политикам создавать и корректировать политику, и также информирует работу исследователей и ученых. Кроме того, компании, работающие с ИИ, должны знать, где находятся этические пределы, если они希望 избежать неэтичного внедрения ИИ. Чтобы создать более четкую картину тенденций в этике ИИ, как сообщает VentureBeats, Центр Беркмана Клейна Гарвардского университета провел мета-анализ различных существующих принципов и рамок этики ИИ.

По словам авторов анализа, исследователи хотели сравнить принципы бок о бок, чтобы найти совпадения и расхождения. Джессика Фьельд, помощник директора Клиники киберправа Гарвардской школы права, объяснила, что исследовательская команда хотела “раскрыть скрытый импульс в разрозненной, глобальной дискуссии о будущем ИИ, что привело к этому белому бумаге и связанной с ним визуализации данных”.

Во время анализа команда изучила 36 различных документов по принципам ИИ, происходящих из разных частей мира и разных типов организаций. Результаты исследования показали, что существуют восемь тем, которые постоянно появлялись в различных документах.

Конфиденциальность и подотчетность были двумя наиболее часто встречающимися этическими темами, как и безопасность/защита ИИ. Прозрачность/объяснимость также была часто цитируемой целью, с многочисленными попытками сделать алгоритмы более объяснимыми в течение 2019 года. Справедливость/отсутствие дискриминации была еще одной этической точкой зрения, отражающей растущие опасения по поводу предвзятости данных. Обеспечение человеческого контроля над технологиями и не передача решающей власти ИИ также было сильно упомянуто. Профессиональная ответственность была седьмой общей темой, найденной исследователями. Наконец, исследователи обнаружили постоянные упоминания о продвижении человеческих ценностей в документации по этике ИИ, которую они изучали.

Исследовательская команда предоставила качественный и количественный анализ того, как эти темы проявлялись в документации по этике ИИ в своей статье и в сопровождающей карте. Карта показывает, где каждая из тем была упомянута.

Исследовательская команда отметила, что большая часть обсуждения этики ИИ вращалась вокруг заботы о человеческих ценностях и правах. Как отмечается в исследовательской статье:

“64% наших документов содержали ссылку на права человека, и пять документов [14%] приняли международные права человека в качестве рамки для их общих усилий”.

Ссылки на права человека и ценности были более распространены в документах, подготовленных частными секторами и группами гражданского общества. Это указывает на то, что компании частного сектора, работающие с ИИ, не заботятся только о прибыли, но и о производстве ИИ этическим способом. Тем временем государственные агентства, кажется, менее обеспокоены или осведомлены об этике ИИ в целом, с менее чем половиной документов, связанных с ИИ, исходящих от государственных агентств, занимающихся этикой ИИ.

Исследователи также отметили, что если документы, которые они изучали, были более недавними, они были более склонны решать все восемь наиболее заметных тем, а не только несколько. Этот факт подразумевает, что идеи о том, что составляет этичное использование ИИ, начинают объединяться среди тех, кто ведет дискуссию об этике ИИ. Наконец, исследователи заявляют, что успех этих принципов в руководстве разработкой ИИ будет зависеть от того, насколько хорошо они интегрированы в сообщество разработчиков ИИ в целом. Исследователи заявляют в статье:

“Более того, принципы являются начальной точкой для управления, а не конечной. Сам по себе набор принципов вряд ли будет более чем мягко убедительным. Его влияние, вероятно, будет зависеть от того, как он встроен в более крупную экосистему управления, включая, например, соответствующие политики (например, национальные планы ИИ), законы, правила, но также профессиональные практики и повседневные рутины”.