Раскрытие предвзятости в искусственном интеллекте: проблемы и решения

Недавние достижения в области генеративного ИИ привели к爆лению применения этой технологии в различных отраслях, включая финансы, здравоохранение и транспорт. Разработка этой технологии также приведет к появлению других новых технологий, таких как технологии кибербезопасности, достижения в области квантовых вычислений и прорывные беспроводные коммуникационные методы. Однако этот взрыв новых технологий несет в себе свои собственные проблемы.

Например, внедрение ИИ может привести к более сложным кибератакам, проблемам с памятью и хранилищем из-за увеличения вычислительной мощности и этическим проблемам, связанным с предвзятостью моделей ИИ. Но хорошая новость заключается в том, что исследователи из NTT Research предложили способ преодолеть предвзятость в глубоких нейронных сетях (DNN), типе искусственного интеллекта.

Это исследование является значительным прорывом, поскольку модели ИИ без предвзятости будут способствовать найму, системе правосудия и здравоохранению, когда они не будут подвержены влиянию характеристик, таких как раса, пол. В будущем дискриминация может быть устранена с помощью этих автоматизированных систем, что улучшит инициативы бизнеса в области разнообразия и инклюзивности. Кроме того, модели ИИ с не предвзятыми результатами улучшат производительность и сократят время, необходимое для выполнения этих задач. Однако некоторые компании были вынуждены прекратить использование своих программ, сгенерированных ИИ, из-за предвзятых решений технологии.

Например, Amazon прекратил использование алгоритма найма, когда обнаружил, что алгоритм отдавал предпочтение заявителям, которые использовали слова как “исполнил” или “захватил” более часто, что было более характерно для резюме мужчин. Другой яркий пример предвзятости исходит от Джой Буоламвини, одного из наиболее влиятельных людей в области ИИ в 2023 году по версии TIME, в сотрудничестве с Тимнит Гебру в MIT, показал, что технологии анализа лица демонстрировали более высокие показатели ошибок при оценке меньшинств, особенно женщин из меньшинств, потенциально из-за недостаточно представительных тренировочных данных.

В последнее время DNN стали повсеместными в науке, инженерии и бизнесе, и даже в популярных приложениях, но они иногда полагаются на посторонние атрибуты, которые могут передавать предвзятость. Согласно исследованию MIT за последние несколько лет, ученые разработали глубокие нейронные сети, способные анализировать огромные объемы входных данных, включая звуки и изображения. Эти сети могут выявлять общие характеристики, что позволяет им классифицировать целевые слова или объекты. На данный момент эти модели являются основными для имитации биологических сенсорных систем.

Старший ученый NTT Research и ассоциированный профессор Центра нейробиологии Гарвардского университета Хиденори Танака и три других ученых предложили преодолеть ограничения наивной тонкой настройки, метода снижения ошибок или “потерь” DNN, с помощью нового алгоритма, который снижает зависимость модели от предвзятых атрибутов.

Они изучали ландшафт потерь нейронной сети через призму связности режимов, наблюдая, что минимизаторы нейронных сетей, полученные путем обучения на наборе данных, связаны простыми путями с низкими потерями. Конкретно, они задали вопрос: являются ли минимизаторы, которые полагаются на разные механизмы для своих прогнозов, связаны простыми путями с низкими потерями?

Они обнаружили, что наивная тонкая настройка не может фундаментально изменить механизм принятия решений модели, поскольку для этого необходимо переместиться в другую долину на ландшафте потерь. Вместо этого необходимо привести модель через барьеры, разделяющие “стоки” или “долины” с низкими потерями. Авторы называют этот корректирующий алгоритм Связность-основанной тонкой настройкой (CBFT).

До этого развития DNN, который классифицирует изображения, такие как рыба (иллюстрация, использованная в этом исследовании), использовал как форму объекта, так и фон в качестве входных параметров для прогнозирования. Его пути минимизации потерь, таким образом, работали в механически различных режимах: один полагался на законный атрибут формы, а другой – на посторонний атрибут фона. Таким образом, эти режимы не имели линейной связности или простого пути с низкими потерями.

Исследовательская группа понимает механистический взгляд на связность режимов, рассматривая два набора параметров, которые минимизируют потери, используя фоны и формы объектов в качестве входных атрибутов для прогнозирования. Затем они задали себе вопрос: являются ли такие механически различные минимизаторы связаны путями с низкими потерями в ландшафте? Влияет ли различие этих механизмов на простоту их связных путей? Можно ли использовать эту связность, чтобы переключаться между минимизаторами, которые используют желаемые механизмы?

Иными словами, глубокие нейронные сети, в зависимости от того, что они узнали во время обучения на конкретном наборе данных, могут вести себя очень по-разному, когда их тестируют на другом наборе данных. Предложение команды свелось к концепции общих сходств. Оно основано на предыдущей идее связности режимов, но с поворотом – оно учитывает, как работают подобные механизмы. Их исследование привело к следующим открытиям:

• минимизаторы, которые имеют разные механизмы, могут быть связаны довольно сложным, нелинейным образом
• когда два минимизатора линейно связаны, это тесно связано с тем, насколько похожи их модели по механизмам
• простая тонкая настройка может быть недостаточной, чтобы избавиться от нежелательных особенностей, которые были получены во время предыдущего обучения
• если вы найдете области, которые линейно не связаны в ландшафте, вы можете сделать эффективные изменения во внутренней работе модели.

Хотя это исследование является значительным шагом в освоении полного потенциала ИИ, этические проблемы, связанные с ИИ, могут все еще быть сложной задачей. Технологи и исследователи работают над преодолением других этических слабостей в ИИ и больших языковых моделях, таких как конфиденциальность, автономность, ответственность.

ИИ может быть использован для сбора и обработки огромных объемов личных данных. Неавторизованное или неэтичное использование этих данных может поставить под угрозу конфиденциальность людей, что приводит к проблемам слежки, утечек данных и кражи личности. ИИ также может представлять угрозу, когда речь идет об ответственности за автономные приложения, такие как самоходные автомобили. Установление правовых рамок и этических стандартов для ответственности и подотчетности будет крайне важно в ближайшие годы.

В заключение, быстрый рост технологии генеративного ИИ несет обещание для различных отраслей, от финансов и здравоохранения до транспорта. Несмотря на эти перспективные разработки, этические проблемы, окружающие ИИ, остаются значительными. Когда мы проходим через эту трансформирующую эпоху ИИ, важно, чтобы технологи, исследователи и политики работали вместе, чтобы установить правовые рамки и этические стандарты, которые будут обеспечивать ответственное и полезное использование технологии ИИ в ближайшие годы. Ученые из NTT Research и Университета Мичигана на шаг впереди с их предложением алгоритма, который потенциально может устранить предвзятость в ИИ.