ソートリーダー

偏りのないAIアルゴリズムを活用して先端技術を導入する都市の取り組み

Timothy Menard
Unite.AI を Google の優先ソースに追加
要点公平なAI交通システムはクラウドデータを活用し、全ての車両に対して公平に信号を最適化します。
もっと見る
  • 公平なAI交通システムはクラウドデータを活用し、全ての車両に対して公平に信号を最適化します。
  • YouTubeのAIは動画の70%を推薦しており、深刻なプライバシーと誤情報のリスクを引き起こしています。
  • サンノゼ市はAIアルゴリズムを検証し、市政サービス導入時のバイアスを最小限に抑えています。

今日、ほぼ私たちの生活のすべての側面がオンラインネットワークのある部分に触れています。そうすることで、多くの生活の分野が改善されたことは確かです。例えば、情報をいつでも提供できる携帯デバイスを持ち歩くことができるようになったことは、生活そのものを改善しました。しかし、それには特定のリスクも伴います。

これらのリスクは、従来のハッキングや銀行口座へのデータ漏洩などのリスクを超えています。ここで言及しているのは、人工知能(AI)が使用するアルゴリズムによって、私たちの生活の多くの側面が影響を受けるということです。私たちは、これらのアルゴリズムが私たちの最善の利益を促進するものであると想定しています。しかし、アルゴリズムに間違った種類の偏りが入り込むとどうなるでしょうか?それが特定の結果にどのような影響を与えるでしょうか?

偏ったアルゴリズムがAIシステムに浸透するときに何が起こるか

別の例を挙げてみましょう。 YouTubeでは、AIアルゴリズムが約70%のすべての動画を推奨し、InstagramやTikTokなどのソーシャルメディアプラットフォームでは、推奨される動画の割合はさらに高いです。これらのAIアルゴリズムは、ユーザーが関心を持つコンテンツを見つけるのを支援できますが、深刻なプライバシー問題を引き起こし、一部のオンラインで消費されるコンテンツは、誤情報や潜在的な政治的思考や信念を微妙に操作するように設計された特定の視点を含むため、危険である可能性を示す証拠が増えています。

バランスのとれた、適応性の高いAIの作成は、技術的にも社会的にも困難な取り組みですが、最も重要な取り組みの一つです。

AIが社会規範やオンライン使用パターンに悪影響を与える可能性があることは理解できますが、同時に技術の良い影響にも焦点を当てています。オンラインソースは私たちの社会に大きな影響を与え、オンラインアルゴリズムの偏りは、不正義を生み出し、人の信念を形作り、誤った情報を広め、様々なグループ間の対立を生み出すことになります。

これは、「悪いAI」が、望ましくない、または不公平な偏りに関して、真正に重大な結果をもたらす可能性がある場所です。

偏ったAIが交通交差点に悪影響を与える方法

より実際的な例として、交通交差点を考えてみましょう。信号待ち時間の長い交通信号機は、新しいAI技術が国中の市場で導入されるにつれて、過去のものになりつつあります。これらの交通優先ソリューションは、リアルタイムの交通データを使用し、変化する交通パターンに適応して信号を調整し、交通をスムーズにし、混雑を減らします。

システムは、ディープラーニングを使用しており、プログラムは自分でうまくいっていないときに理解し、別の行動方針を試みるか、進歩を続けることで改善します。

素晴らしいアイデアのように聞こえますね?しかし、交通センサー技術に組み込まれたAIアルゴリズムが、時間の経過とともに、偏ったアルゴリズムによって、特定の車種を運転する人は優先されるべきだと判断し、高価な車両を他の車両より優先するようになったらどうなるでしょうか?

これは、「悪いAI」が私たちの生活の非常に重要な側面に悪影響を与える可能性がある場所です。

例えば、これらのAI駆動型交通優先システムは、接続された車両技術の力を活用するより大きなITS(Intelligent Transportation System)の一部です。ITSの性能は、それを支える特定のベンダーに依存しないクラウド型データ共有プラットフォームの性能に左右されます。すべてのプラットフォームが同じ水準にあるわけではありません。

AIアルゴリズムからの偏りの排除

こうしたデータ共有プラットフォームは高い効果を示しています。ただし、それは交通システムを監督する都市や自治体が適切なデータ共有のためにプラットフォームを開放し、偏ったアルゴリズムの関与を認めない場合に限られます。残念ながら、多くの自治体は、ハードウェアやデバイス提供者との契約に縛られており、オープンアーキテクチャーで動作すると主張していますが、オープンデータプラットフォームで動作することを拒否しています。これらの都市は、クラウドベースのプラットフォームが提供できる真正の可能性から自らを制限しています。

クラウドベースの交通優先システムは、システムの全体像を考慮し、偏りのないデータ中心の機械学習を使用して、公共交通車両に適切なタイミングで青信号を与える最適な時間を予測します。交差するルートとの干渉を最小限に抑えると同時に、連続した運転の可能性を最大化します。さらに重要なことは、特定のベンダーに依存しないクラウド型プラットフォームにより、望ましくない要因による偏りを避けつつ、交通システムの能力を最大化するために継続的に更新される仕組みを都市が活用できることです。

このテクノロジーが今や利用可能になったため、都市、開発者、自治体は、地域全体が公平かつ公正に利益を得られるように、知的交通ネットワークの構築を適切に促進するために必要なテクノロジーを備えています。

サンノゼ市のような地域は、AIの利点を活用して、住民へのサービス提供を改善しています。市がAIツールを使用するにつれて、AIシステムが効果的で信頼できるものであることを確認することが今までで最も重要なことです。デジタルプライバシーオフィス(DPO)は、使用するツールで使用されるアルゴリズムを確認し、市のAI駆動型テクノロジー取得が正確に機能し、偏りを最小限に抑え、信頼性があることを保証します。市の部門がAIツールを取得したい場合、DPOは、AIシステムの利点とリスクを評価するための特定のレビュープロセスに従います。

この特定の地域では、私たちは、偏りのないアルゴリズムを持つため、Googleのような会社と共に、都市全体のテクノロジー導入に参加する少数の承認されたAIベンダーの1つであることを誇りに思っています。さらに多くのAIテクノロジーが開発されるにつれて、それらが偏りのないアルゴリズムで構築されることを保証することが、真正に公平で公正な地元自治体サービス利用のために非常に重要になります。

Timothy Menardは、LYTのCEO兼創設者です。LYTは、スマートでネットワークに接続された交通技術を提供する企業で、現在の高度道路交通システムを統合的に制御するクラウドベースのプラットフォームを提供しています。