Как города развертывают передовые технологии, используя алгоритмы ИИ без предвзятости

Сегодня практически каждый аспект нашей жизни затрагивает какую-то часть онлайн-сети. Хотя это, безусловно, улучшило многие области жизни, такие как то, как мы ходим с портативными устройствами, которые могут предоставить нам информацию в любое время, это также представляет определенные риски.

Эти риски выходят за рамки традиционного взлома и утечки данных из наших банковских счетов, например. Больше того, о чем я говорю здесь, это то, что существует так много частей нашей жизни, которые затрагиваются алгоритмами, используемыми искусственным интеллектом (ИИ). Мы предполагаем, что этот ИИ по своей сути использует алгоритмы, которые находятся в наших интересах. Однако, что происходит, когда в эти алгоритмы проникает неправильный тип предвзятости? Как это может повлиять на определенные результаты?

Что происходит, когда предвзятые алгоритмы проникают в системы ИИ?

Чтобы предложить другой пример, на YouTube, алгоритм ИИ рекомендует почти 70% всех видеороликов, и на социальных платформах, таких как Instagram и TikTok, процент еще выше. Хотя эти алгоритмы ИИ могут помочь пользователям найти контент, который их интересует, они вызывают серьезные проблемы с конфиденциальностью, и есть растущие доказательства того, что часть рекомендуемого контента, который люди потребляют в Интернете, даже опасна из-за дезинформации или, возможно, содержит определенную точку зрения, предназначенную для того, чтобы незаметно повлиять на политические мысли или убеждения человека.

Создание хорошо сбалансированного, адаптируемого ИИ – это сложное техническое и социальное начинание, но одно из наиболее важных.

Понятно, как ИИ может иметь негативное влияние на социальные нормы и модели использования Интернета, а также сосредотачиваться на положительных эффектах технологии. Онлайн-источники имеют значительное влияние на наше общество, и предвзятости в онлайн-алгоритмах непреднамеренно способствуют несправедливости, формируют убеждения людей, распространяют ложную информацию и создают конфликты между различными группами.

Это то место, где “плохой ИИ” может иметь действительно значительные последствия, связанные с нежелательными и/или несправедливыми предвзятостями.

Как предвзятый ИИ может негативно повлиять на пересечения дорог

Возьмем пересечения дорог, как более реальный пример. Длительные ожидания на светофорах становятся вещью прошлого благодаря новым технологиям ИИ, развертываемым на рынках по всей стране. Эти решения приоритета транспорта используют данные о движении в реальном времени и адаптируют светофоры к меняющимся условиям движения, поддерживая поток транспорта и снижая заторы.

Системы используют глубокое обучение, где программа понимает, когда она работает не хорошо, и пробует другой курс действий – или продолжает улучшаться, когда она делает прогресс.

Звучит как отличная идея, верно? Что происходит, если со временем алгоритмы ИИ, встроенные в технологию датчиков транспорта, начинают отдавать предпочтение более дорогим транспортным средствам над другими, на основе предвзятых алгоритмов, предназначенных для того, чтобы признать, что люди, которые ездят на определенном типе транспортного средства, заслуживают приоритета над другими?

Это то место, где “плохой ИИ” может негативно повлиять на очень важную часть нашей жизни.

Давайте возьмем пример этих систем приоритета транспорта, которые являются частью более крупной Интеллектуальной системы транспорта (ИСТ), использующей силу технологий подключенных транспортных средств. Системы ИСТ работают только так хорошо, как и агностические облачные платформы обмена данными, на которых они работают, и не все они созданы одинаково.

Устранение предвзятости в алгоритмах ИИ

Эти платформы обмена данными были доказаны как высокоэффективные, но только когда города и муниципалитеты, контролирующие системы транспорта, делают их открытыми для надлежащего обмена данными, где предвзятые алгоритмы не допускаются к участию. К сожалению, многие муниципалитеты остаются заблокированными в контрактах с поставщиками оборудования и устройств, которые утверждают, что работают под “открытой архитектурой”, но не желают работать на открытой платформе обмена данными, и эти города сильно ограничивают себя от истинных возможностей, которые может предоставить облачная платформа.

Облачные системы приоритета транспорта учитывают глобальную картину системы и используют объективное, основанное на данных машинное обучение для предсказания оптимального времени для предоставления зеленого света транспортным средствам в нужный момент. Они минимизируют помехи с пересекающимися маршрутами и одновременно максимизируют вероятность непрерывной поездки. Более важно, что агностическая облачная платформа обеспечивает города постоянно обновляемой системой для максимизации потенциала транспорта, без предвзятости от нежелательных источников.

С учетом того, что эта технология теперь легко доступна, города, разработчики и муниципалитеты имеют технологии, необходимые для правильного ускорения строительства интеллектуальных сетей транспорта для пользы всех в регионе, справедливо и равноправно.

Регионы, такие как город Сан-Хосе, теперь используют преимущества ИИ для улучшения предоставления услуг своим жителям. Поскольку город все больше использует инструменты ИИ, становится еще более важно обеспечить, чтобы эти системы ИИ были эффективными и заслуживающими доверия. Отслеживая алгоритмы, используемые в своих инструментах, Офис цифровой приватности (ОЦП) обеспечивает, чтобы приобретения технологий ИИ города работали точно, минимизировали предвзятость и были надежными. Когда департамент города хочет приобрести инструмент ИИ, ОЦП следует конкретным процессам проверки для оценки преимуществ и рисков любой системы ИИ.

Для этого региона мы гордимся тем, что присоединяемся к компаниям, таким как Google, как один из немногих одобренных поставщиков ИИ, участвующих в городских технологических развертываниях из-за алгоритмов без предвзятости. Поскольку разрабатываются все больше технологий ИИ, будет особенно важно обеспечить, чтобы они были построены без алгоритмов без предвзятости для пользы真正честного и равноправного использования местных муниципальных услуг.