Стартап Unbiased направлен на увеличение прозрачности данных с помощью блокчейна, борьбу с предвзятостью данных

Эффекты предвзятости данных в искусственном интеллекте хорошо документированы, и поскольку алгоритмы ИИ и машинного обучения проникают все глубже в каждый уголок общества, компании, занимающиеся ИИ, ищут новые способы обеспечения того, чтобы разработанные ими алгоритмы не унаследовали человеческие предвзятости. Одним из новых игроков на рынке ИИ и машинного обучения, целью которого является снижение предвзятости данных, является стартап Unbiased. Unbiased запустил новый рынок данных на активной блокчейн-платформе Telos, надеясь предоставить клиентам децентрализованные, ориентированные на конфиденциальность инструменты и приложения для науки о данных и ИИ.

Глобальный рынок ИИ, как ожидается, будет продолжать свой быстрый рост в течение следующего десятилетия, достигнув примерно 266 миллиардов долларов к 2027 году. В течение следующих четырех лет мировые расходы на системы и компоненты ИИ, как ожидается, удвоятся, достигнув примерно 110 миллиардов долларов к 2024 году, согласно IDC. Быстрое внедрение алгоритмов ИИ в все больше и больше отраслей привело к растущим опасениям по поводу прозрачности, конфиденциальности, справедливости и представительности систем ИИ.

Снижение предвзятости за счет прозрачности

Согласно недавнему отчету Института исследований CapGemini, озаглавленному “ИИ и этическая дилемма: как организации могут создать этически прочные системы ИИ и завоевать доверие”, этическое использование ИИ стало серьезной проблемой для лидеров ИТ во всем мире, и большинство лидеров ИТ теперь выражают обеспокоенность по поводу потенциального неправильного использования систем ИИ. Приблизительно 9 из 10 организаций ИТ заявили, что они знают хотя бы один случай, когда этические проблемы были созданы применением системы ИИ. Приблизительно две трети руководителей ИТ заявили, что они знают о потенциальных дискриминационных предвзятостях в системах ИИ, и примерно половина всех организаций ИТ имеет этическую хартию, направленную на разработку ИИ, в отличие от только 5% организаций ИТ в 2019 году.

Хотя исследования того, как можно сделать алгоритмы ИИ более справедливыми, продолжаются, многие этики и специалисты по ИИ сосредотачивают внимание на данных, используемых для обучения ИИ. По мере того, как алгоритмы ИИ становятся более повсеместными и стандартизированными, внимание смещается в сторону получения данных, необходимых для обучения моделей.

Существует множество способов снизить предвзятость данных в алгоритмах ИИ. Некоторые методы включают внесение изменений в модель или в обучающие данные во время обучения модели. Эти методы являются “процессуальными” методами коррекции предвзятости. Это включает в себя использование методов обучения с противодействием, когда некоторая чувствительная особенность/переменная (например, пол или раса) контролируется путем наказания способности модели делать прогнозы, включающие эту особенность. Это делается одновременно с попыткой минимизировать ошибку модели. Напротив, сосредоточение внимания на удалении предвзятости из набора данных является методом предобработки. Обучающие данные для моделей машинного обучения часто маркируются вручную, и применение блокчейна может помочь компаниям отслеживать процесс маркировки своих данных, чтобы обеспечить представительность их наборов данных.

Unbiased обращается к блокчейну, чтобы создать культуру прозрачности внутри наборов данных и рынков данных. Большинство инструментов, используемых для генерации наборов данных для систем ИИ и алгоритмов машинного обучения, являются централизованными и поэтому часто лишены прозрачности. Unbiased стремится использовать природу блокчейна для записи действий, происходящих на их рынке данных, включая обмен данными, назначение задач и проектов, а также вклад работников. Цель состоит в том, чтобы децентрализованная природа блокчейна Telos обеспечила прозрачность, позволяя пользователям получать критическую информацию о своей науке о данных. Пользователи смогут проверить свои наборы данных и определить, были ли аннотации выполнены с учетом определенных этических принципов, таких как справедливость и конфиденциальность.

Согласно главному архитектору блокчейна Telos, пересечение ИИ/машинного обучения с блокчейном может привести к трансформационным новым методам работы с данными. Как цитируется Horn в AIthority:

«Unbiased покажет этим отраслям, как запись данных на высокопроизводительном, без комиссии блокчейне, таком как Telos, может добавить прозрачность, неизменность, микроплатежи и управление в их продукты для пользы всех заинтересованных сторон».

За пределами прозрачности обучающих данных некоторые ученые и исследователи потребовали большей прозрачности в алгоритмах, моделях и коде. Международная команда ученых призвала научные журналы привлечь исследователей компьютерных наук к более высоким стандартам прозрачности. Исследователи утверждали, что большая прозрачность в отношении моделей и кода ИИ не только поможет в воспроизводимости исследований, но также будет способствовать сотрудничеству между исследовательскими группами. Многие научные исследования не могут быть воспроизведены, и это еще большая проблема для исследований, ориентированных на ИИ, которые оставляют критические материалы. В будущем блокчейн может быть даже использован для улучшения отслеживания и оценки исследований в области ИИ.