都市が先進的なテクノロジーを導入し、偏見のないAIアルゴリズムを利用する方法

現在、ほぼ私たちの生活のすべての側面がオンラインネットワークのある部分に触れています。そうは言っても、これは確かに生活の多くの側面を改善してきました。たとえば、手持ちのデバイスでいつでも情報を提供できるようになったことなどです。しかし、それはまた、特定のリスクをもたらします。

これらのリスクは、伝統的なハッキングや、たとえば銀行口座へのデータ漏洩などの問題を超えています。むしろ、ここで言及しているのは、人工知能（AI）によって使用されるアルゴリズムが、私たちの生活の多くの側面に影響を与えているということです。私たちは、AIが私たちの最善の利益のためにアルゴリズムを利用しているものと想定しています。しかし、間違ったタイプの偏見がこれらのアルゴリズムに入るとどうなりますか？ それが特定の結果にどのように影響する可能性がありますか？

偏ったアルゴリズムがAIシステムに侵入したときに何が起こるか

別の例を挙げると、YouTubeでは、AIアルゴリズムが約70％のすべてのビデオを推奨しています。また、InstagramやTikTokなどのソーシャルメディアプラットフォームでは、推奨されるビデオの割合はさらに高くなっています。これらのAIアルゴリズムは、ユーザーが関心を持つコンテンツを見つけるのを支援できますが、重大なプライバシー問題を引き起こし、オンラインで消費される推奨コンテンツの一部には、誤情報や潜在的な政治的思考や信念を潜在的に操作するように設計された特定の視点が含まれていることが証拠によって明らかになっています。

適応性のある、円熟したAIの創造は、技術的にも社会的にも困難な取り組みですが、最も重要なものの1つです。

AIが社会規範やオンライン使用パターンに悪影響を与える可能性があることは理解できますが、同時にテクノロジーの良い影響にも焦点を当てています。オンラインソースは私たちの社会に大きな影響を与えています。オンラインアルゴリズムの偏見は、不正義を助長し、人の信念を形作り、誤った情報を広め、さまざまなグループ間で対立を生み出すことになります。

これが「悪いAI」が、望ましくない、または不公平な偏見に関連して、真正に重大な結果をもたらす可能性がある場所です。

偏ったAIが交通信号に悪影響を与える方法

交通信号を例に挙げてみましょう。交通信号の長時間の待ち時間は、新しいAIテクノロジーが国中の市場で導入されているため、過去のものになりつつあります。これらの交通優先ソリューションは、リアルタイムの交通データを利用し、信号を変化する交通パターンに適応させ、交通を流れさせ、混雑を減らします。

これらのシステムは、深層学習を使用しており、プログラムは自分がうまくいっていないときに理解し、別の行動方針を試みるか、または進歩するときに改善し続けます。

素晴らしいアイデアのように聞こえますね？ しかし、時間の経過とともに、交通センサーテクノロジーに組み込まれたAIアルゴリズムが、特定のタイプの車両を他の車両よりも優先するように設計された偏ったアルゴリズムに基づいて、より高価な車両を優先するようになるとどうなりますか？

これが「悪いAI」が私たちの生活の非常に重要な側面に悪影響を与える可能性がある場所です。

例えば、これらのAIを搭載した交通優先システムは、接続車両テクノロジーの力を利用する、より大きなインテリジェント交通システム（ITS）の一部です。ITSシステムは、運用されている非偏りのクラウドベースのデータ共有プラットフォームと同じだけの良いものです。ただし、すべてのプラットフォームが同等に作成されているわけではありません。

AIアルゴリズムから偏見を排除する

これらのデータ共有プラットフォームは、高度に効果的であることが証明されていますが、交通システムを監督する都市や自治体が、偏ったアルゴリズムを許可しない適切なデータ共有のためにそれらを開く場合のみです。残念ながら、多くの自治体は、ハードウェアおよびデバイス提供者との契約に縛られており、「オープンアーキテクチャ」で動作することを主張していますが、オープンデータプラットフォームで動作することを拒否しており、これらの都市はクラウドベースのプラットフォームが提供できる真正の可能性から自身を制限しています。

クラウドベースの交通優先システムは、システムの世界的な状況を考慮し、偏見のないデータ中心の機械学習を使用して、交通車両に適切なタイミングで緑信号を与える最適な時間を予測します。交差するルートとの干渉を最小限に抑えると同時に、連続したドライブの可能性を最大化します。さらに重要なことは、非偏りのクラウドベースプラットフォームが、都市が偏見のない望ましくないソースからの、最大の交通の可能性を持続的に更新されたシステムを利用できるようにすることです。

このテクノロジーが今すぐに利用可能であるため、都市、開発者、および自治体には、地域全体が公平かつ公正に利益を得られるように、インテリジェントな交通ネットワークの構築を適切に促進するために必要なテクノロジーが利用可能です。

サンノゼ市のような地域は、AIの利点を利用して、住民へのサービス提供を改善しています。市がAIツールを使用するにつれて、それらのAIシステムが効果的で信頼できるものであることを保証することが重要です。デジタルプライバシーオフィス（DPO）は、使用されるツールのアルゴリズムをレビューすることで、市のAIを搭載したテクノロジー取得が正確に実行され、偏見を最小限に抑え、信頼性が高いことを保証します。市の部門がAIツールを取得したいとき、DPOは、AIシステムの利点とリスクを評価するための特定のレビュープロセスに従います。

この特定の地域では、私たちは、偏りのないアルゴリズムを持つため、Googleのような企業とともに、市全体のテクノロジー導入に参加する少数の承認済みAIベンダーの1つであることを誇りに思います。さらに多くのAIテクノロジーが開発されるにつれて、偏りのないアルゴリズムで構築されることを保証することが、真正に公平で公正な地元自治体サービスの使用のために、特に重要になります。