Лидеры мнений

Как города развертывают передовые технологии, используя алгоритмы ИИ без предвзятости

Timothy Menard
Добавьте Unite.AI в избранные источники в Google
Ключевые моментыОбъективные системы управления дорожным движением на ИИ используют облачные данные для…
Показать больше
  • Объективные системы управления дорожным движением на ИИ используют облачные данные для справедливой оптимизации светофоров для всех транспортных средств.
  • ИИ YouTube рекомендует 70% видео, что создаёт серьёзные риски для конфиденциальности и распространения дезинформации.
  • Сан-Хосе проводит аудит алгоритмов ИИ для минимизации смещений при внедрении городских сервисов.

Сегодня практически каждый аспект нашей жизни затрагивает какую-то часть онлайн-сети. Хотя это, безусловно, улучшило многие области жизни, такие как то, как мы ходим с портативными устройствами, которые могут предоставить нам информацию в любое время, это также представляет определенные риски.

Эти риски выходят за рамки традиционного взлома и утечки данных из наших банковских счетов, например. Больше того, о чем я говорю здесь, это то, что существует так много частей нашей жизни, которые затрагиваются алгоритмами, используемыми искусственным интеллектом (ИИ). Мы предполагаем, что этот ИИ по своей сути использует алгоритмы, которые находятся в наших интересах. Однако, что происходит, когда в эти алгоритмы проникает неправильный тип предвзятости? Как это может повлиять на определенные результаты?

Что происходит, когда предвзятые алгоритмы проникают в системы ИИ?

Чтобы предложить другой пример, на YouTube, алгоритм ИИ рекомендует почти 70% всех видеороликов, и на социальных платформах, таких как Instagram и TikTok, процент еще выше. Хотя эти алгоритмы ИИ могут помочь пользователям найти контент, который их интересует, они вызывают серьезные проблемы с конфиденциальностью, и есть растущие доказательства того, что часть рекомендуемого контента, который люди потребляют в Интернете, даже опасна из-за дезинформации или, возможно, содержит определенную точку зрения, предназначенную для того, чтобы незаметно повлиять на политические мысли или убеждения человека.

Создание хорошо сбалансированного, адаптируемого ИИ – это сложное техническое и социальное начинание, но одно из наиболее важных.

Понятно, как ИИ может иметь негативное влияние на социальные нормы и модели использования Интернета, а также сосредотачиваться на положительных эффектах технологии. Онлайн-источники имеют значительное влияние на наше общество, и предвзятости в онлайн-алгоритмах непреднамеренно способствуют несправедливости, формируют убеждения людей, распространяют ложную информацию и создают конфликты между различными группами.

Это то место, где “плохой ИИ” может иметь действительно значительные последствия, связанные с нежелательными и/или несправедливыми предвзятостями.

Как предвзятый ИИ может негативно повлиять на перекрёстки

Рассмотрим перекрёстки, как более реальный пример. Длительные ожидания на светофорах становятся вещью прошлого благодаря новым технологиям ИИ, развертываемым на рынках по всей стране. Эти решения для предоставления приоритета общественному транспорту используют данные о движении в реальном времени и адаптируют светофоры к меняющимся условиям движения, поддерживая поток транспорта и снижая заторы.

Системы используют глубокое обучение, где программа понимает, когда она работает не хорошо, и пробует другой курс действий – или продолжает улучшаться, когда она делает прогресс.

Звучит как отличная идея, верно? Что происходит, если со временем алгоритмы ИИ, встроенные в технологию датчиков транспорта, начинают отдавать предпочтение более дорогим транспортным средствам над другими, на основе предвзятых алгоритмов, предназначенных для того, чтобы признать, что люди, которые ездят на определенном типе транспортного средства, заслуживают приоритета над другими?

Это то место, где “плохой ИИ” может негативно повлиять на очень важную часть нашей жизни.

Давайте возьмем пример этих систем приоритета общественного транспорта, которые являются частью более крупной интеллектуальной транспортной системы (ИТС), использующей силу технологий подключенных транспортных средств. Системы ИТС работают только так хорошо, как и нейтральные по отношению к поставщикам облачные платформы обмена данными, на которых они работают, и не все они созданы одинаково.

Устранение предвзятости в алгоритмах ИИ

Эти платформы обмена данными были доказаны как высокоэффективные, но только когда города и муниципалитеты, контролирующие системы транспорта, делают их открытыми для надлежащего обмена данными, где предвзятые алгоритмы не допускаются к участию. К сожалению, многие муниципалитеты остаются заблокированными в контрактах с поставщиками оборудования и устройств, которые утверждают, что работают под “открытой архитектурой”, но не желают работать на открытой платформе обмена данными, и эти города сильно ограничивают себя от истинных возможностей, которые может предоставить облачная платформа.

Облачные системы приоритета общественного транспорта учитывают глобальную картину системы и используют объективное, основанное на данных машинное обучение для предсказания оптимального времени для включения зелёного сигнала общественному транспорту в нужный момент. Они минимизируют помехи с пересекающимися маршрутами и одновременно максимизируют вероятность непрерывной поездки. Более важно, что нейтральная по отношению к поставщикам облачная платформа обеспечивает города постоянно обновляемой системой для максимизации потенциала транспорта, без предвзятости от нежелательных источников.

С учетом того, что эта технология теперь легко доступна, города, разработчики и муниципалитеты имеют технологии, необходимые для правильного ускорения строительства интеллектуальных сетей транспорта для пользы всех в регионе, справедливо и равноправно.

Регионы, такие как город Сан-Хосе, уже используют преимущества ИИ для улучшения предоставления услуг своим жителям. Поскольку город все больше использует инструменты ИИ, становится еще более важно обеспечить, чтобы эти системы ИИ были эффективными и заслуживающими доверия. Отслеживая алгоритмы, используемые в своих инструментах, Управление цифровой конфиденциальности (DPO) обеспечивает, чтобы приобретения технологий ИИ города работали точно, минимизировали предвзятость и были надежными. Когда департамент города хочет приобрести инструмент ИИ, DPO следует конкретным процессам проверки для оценки преимуществ и рисков любой системы ИИ.

Для этого региона мы гордимся тем, что присоединяемся к компаниям, таким как Google, как один из немногих одобренных поставщиков ИИ, участвующих в городских технологических развертываниях из-за алгоритмов без предвзятости. Поскольку разрабатываются все больше технологий ИИ, будет особенно важно обеспечить, чтобы они были построены без предвзятых алгоритмов ради действительно справедливого и равноправного использования местных муниципальных услуг.

Тимоти Менард является генеральным директором и основателем LYT, провайдера интеллектуальных подключенных технологий для управления трафиком, который предлагает облачную платформу, которая управляет современными Интеллектуальными системами транспорта.