Як міста впроваджують провідні технології, використовуючи алгоритми штучного інтелекту без упередженості

Сьогодні майже кожний аспект нашого життя торкається якоїсь частини онлайн-мережі. Хоча це безумовно покращило багато сфер життя, таких як те, як ми ходимо з портативними пристроями, які можуть доставити нам інформацію в будь-який час, це також створює певні ризики.

Ці ризики виходять за рамки традиційних хакерських атак і порушень даних у наших банківських рахунках, наприклад. Більше того, про що я зараз говорю, це те, що є так багато частин нашого життя сьогодні, які впливають на алгоритми, використовувані штучним інтелектом (ШІ). Ми припускаємо, що цей ШІ природно використовує алгоритми, які відповідають нашим інтересам. Однак, що відбувається, коли неправильний тип упередженості проникає в ці алгоритми? Як це може вплинути на певні результати?

Що відбувається, коли упереджені алгоритми проникають в системи ШІ?

Щоб надати інший приклад, на YouTube, алгоритм ШІ рекомендує майже 70% усіх відеороликів, а на соціальних платформах, таких як Instagram і TikTok, відсоток ще вищий. Хоча ці алгоритми ШІ можуть допомогти користувачам знайти контент, який їх цікавить, вони створюють серйозні питання щодо приватності, і є зростаючі докази того, що частина рекомендованого контенту, який люди споживають в Інтернеті, навіть небезпечна через дезінформацію або певну точку зору, яка призначена для підпільного впливу на політичну думку або переконання людини.

Створення добре обдуманого, адаптивного ШІ – це складна технічна і соціальна справа, але одна з найбільш важливих.

Розумно зрозуміти, як ШІ може мати негативний вплив на соціальні норми та онлайн-звички, а також зосередитися на позитивних ефектах технології. Онлайн-джерела мають значний вплив на наше суспільство, і упередженість в онлайн-алгоритмах ненавмисно сприятиме несправедливості, формуватиме переконання людей, поширюватиме помилкові відомості та сприятиме конфліктам між різними групами.

Це місце, де “поганий ШІ” може мати справді значні наслідки щодо нежаданих та/або несправедливих упереджень.

Як упереджений ШІ може негативно вплинути на перехрестя руху

Взявши за приклад перехрестя руху, як більш реальний приклад. Довгі очікувальні часи на світлофорах стають справою минулого завдяки новим технологіям ШІ, які впроваджуються на ринках по всій країні. Ці рішення пріоритету транспорту використовують дані реального часу про рух і адаптують світлофори до зміни руху, зберігаючи рух і знижуючи затори.

Системи використовують глибоке навчання, де програма розуміє, коли вона не працює добре, і намагається іншого варіанта дії – або продовжує покращуватися, коли вона робить прогрес.

Звучить як гарна ідея, правда? Що відбувається, якщо з часом алгоритми ШІ, вбудовані в технологію датчиків руху, починають пріоритезувати більш дорогі транспортні засоби над іншими, на основі упереджених алгоритмів, які призначені для визнання того, що люди, які водять певний тип транспортного засобу, заслуговують на пріоритет над іншими?

Це місце, де “поганий ШІ” міг би негативно вплинути на дуже важливу частину нашого життя.

Давайте розглянемо приклад цих систем пріоритету транспорту, які є частиною більшої системи інтелектуального транспорту (ІТС), яка використовує потужність технологій зв’язаних транспортних засобів. Системи ІТС працюють лише так добре, як і агностичні хмарні платформи обміну даними, на яких вони працюють, і не всі вони створені рівними.

Видалення упередженості в алгоритмах ШІ

Ці платформи обміну даними були доведені високоефективними, але лише тоді, коли міста і муніципалітети, які контролюють системи транспорту, роблять їх відкритими для належного обміну даними, де упереджені алгоритми не допускаються до участі. На жаль, багато муніципалітетів залишаються закритими в контрактах з постачальниками апаратного та програмного забезпечення, які стверджують, що працюють під “відкритою архітектурою”, але не бажають працювати на відкритій платформі обміну даними, і ці міста серйозно обмежують себе від справжніх можливостей, які може надати хмарна платформа.

Хмарні системи пріоритету транспорту беруть до уваги глобальну картину системи і використовують безупереджене машинне навчання, засноване на даних, для передбачення оптимального часу надання зеленого світла транспортним засобам у потрібний момент. Це мінімізує втручання в перехрестя маршрутів і одночасно максимізує ймовірність безперервної їзди. Що ще важливіше, агностична хмарна платформа забезпечує, щоб міста використовували постійно оновлювану систему для максимізації потенціалу транспорту, без упередженості з нежаданих джерел.

З появою цієї технології міста, розробники та муніципалітети мають технології, необхідні для належного прискорення будівництва інтелектуальних транспортних мереж на благо всіх у регіоні, справедливо та рівноправно.

Регіони, такі як місто Сан-Хосе, тепер використовують переваги ШІ, щоб покращити доставку послуг своїм жителям. Коли місто все більше використовує інструменти ШІ, ще важливіше, ніж будь-коли, забезпечити, щоб ці системи ШІ були ефективними та надійними. Оглядаючи алгоритми, використовувані в інструментах, Офіс цифрової приватності (ОЦП) забезпечує, щоб придбання технологій ШІ міста працювали точно, мінімізували упередженість та були надійними. Коли відділ міста бажає придбати інструмент ШІ, ОЦП слідує певним процесам огляду для оцінки переваг та ризиків будь-якої системи ШІ.

Для цього регіону ми з гордістю приєднуємося до компаній, таких як Google, як одні з небагатьох затверджених постачальників ШІ, які беруть участь у міських технологічних розгортаннях через безупереджені алгоритми. Коли розробляються все більше технологій ШІ, ще важливіше буде забезпечити, щоб вони будувалися без будь-яких упереджених алгоритмів для справедливого та рівноправного використання місцевих муніципальних послуг.