都市が偏ったアルゴリズムを使用しないAIアルゴリズムを活用して先端技術を導入する方法

今日、ほぼ私たちの生活のすべての側面がオンラインネットワークのある部分に触れています。そうすることで、多くの生活の分野が改善されたことは確かです。例えば、情報をいつでも提供できる携帯デバイスを持ち歩くことができるようになったことは、生活そのものを改善しました。しかし、それには特定のリスクも伴います。

これらのリスクは、従来のハッキングや銀行口座へのデータ漏洩などのリスクを超えています。ここで言及しているのは、人工知能（AI）が使用するアルゴリズムによって、私たちの生活の多くの側面が影響を受けるということです。私たちは、これらのアルゴリズムが私たちの最善の利益を促進するものであると想定しています。しかし、アルゴリズムに間違った種類の偏りが入り込むとどうなるでしょうか？それが特定の結果にどのような影響を与えるでしょうか？

偏ったアルゴリズムがAIシステムに浸透するときに何が起こるか

別の例を挙げてみましょう。 YouTubeでは、AIアルゴリズムが約70％のすべての動画を推奨し、InstagramやTikTokなどのソーシャルメディアプラットフォームでは、推奨される動画の割合はさらに高いです。これらのAIアルゴリズムは、ユーザーが関心を持つコンテンツを見つけるのを支援できますが、深刻なプライバシー問題を引き起こし、一部のオンラインで消費されるコンテンツは、誤情報や潜在的な政治的思考や信念を微妙に操作するように設計された特定の視点を含むため、危険であることが証明されています。

バランスのとれた、適応性の高いAIの作成は、技術的にも社会的にも困難な取り組みですが、最も重要な取り組みの一つです。

AIが社会規範やオンライン使用パターンに悪影響を与える可能性があることは理解できますが、同時に技術の良い影響にも焦点を当てています。オンラインソースは私たちの社会に大きな影響を与え、オンラインアルゴリズムの偏りは、不正義を生み出し、人の信念を形作り、誤った情報を広め、様々なグループ間の対立を生み出すことになります。

これは、「悪いAI」が、望ましくない、または不公平な偏りに関して、真正に重大な結果をもたらす可能性がある場所です。

偏ったAIが交通交差点に悪影響を与える方法

より実際的な例として、交通交差点を考えてみましょう。信号待ち時間の長い交通信号機は、新しいAI技術が国中の市場で導入されるにつれて、過去のものになりつつあります。これらの交通優先ソリューションは、リアルタイムの交通データを使用し、変化する交通パターンに適応して信号を調整し、交通をスムーズにし、混雑を減らします。

システムは、ディープラーニングを使用しており、プログラムは自分でうまくいっていないときに理解し、別の行動方針を試みるか、進歩を続けることで改善します。

素晴らしいアイデアのように聞こえますね？しかし、交通センサー技術に組み込まれたAIアルゴリズムが、時間の経過とともに、偏ったアルゴリズムによって、特定の種類の車両を他の車両よりも優先するようになっていったらどうなるでしょうか？

これは、「悪いAI」が私たちの生活の非常に重要な側面に悪影響を与える可能性がある場所です。

例えば、これらのAI駆動型交通優先システムは、接続された車両技術の力を活用するより大きなITS（Intelligent Transportation System）の一部です。ITSシステムは、運用されているクラウドベースのデータ共有プラットフォームがアグノスティックである限り、優れていますが、すべてのプラットフォームが同等に作成されているわけではありません。

AIアルゴリズムからの偏りの排除

これらのデータ共有プラットフォームは、都市や交通システムを監督する自治体が、偏ったアルゴリズムが参加しないように、適切なデータ共有を開放することで、高度に効果的であることが証明されています。残念ながら、多くの自治体は、ハードウェアやデバイス提供者との契約に縛られており、オープンアーキテクチャーで動作すると主張していますが、オープンデータプラットフォームで動作することを拒否しています。これらの都市は、クラウドベースのプラットフォームが提供できる真正の可能性から自らを制限しています。

クラウドベースの交通優先システムは、システムの全体像を考慮し、偏りのないデータ中心の機械学習を使用して、交通車両に適切なタイミングで緑信号を与える最適な時間を予測します。交差するルートとの干渉を最小限に抑えると同時に、連続した運転の可能性を最大化します。さらに重要なことは、クラウドベースのプラットフォームが、偏りのないソースからの偏りを確保し、交通の潜在能力を最大化するために、常に更新されたシステムを都市が活用できるようにすることです。

このテクノロジーが今や利用可能になったため、都市、開発者、自治体は、地域全体が公平かつ公正に利益を得られるように、知的交通ネットワークの構築を適切に促進するために必要なテクノロジーを備えています。

サンノゼ市のような地域は、AIの利点を活用して、住民へのサービス提供を改善しています。市がAIツールを使用するにつれて、AIシステムが効果的で信頼できるものであることを確認することが今までで最も重要なことです。デジタルプライバシーオフィス（DPO）は、使用するツールで使用されるアルゴリズムを確認し、市のAI駆動型テクノロジー取得が正確に機能し、偏りを最小限に抑え、信頼性があることを保証します。市の部門がAIツールを取得したい場合、DPOは、AIシステムの利点とリスクを評価するための特定のレビュープロセスに従います。

この特定の地域では、私たちは、偏りのないアルゴリズムを持つため、Googleのような会社と共に、都市全体のテクノロジー導入に参加する少数の承認されたAIベンダーの1つであることを誇りに思っています。さらに多くのAIテクノロジーが開発されるにつれて、それらが偏りのないアルゴリズムで構築されることを保証することが、真正に公平で公正な地元自治体サービス利用のために非常に重要になります。