Timothy Menard

都市が先進的なテクノロジーを導入し、偏見のないAIアルゴリズムを利用する方法

現代では、ほぼ私たちの生活のすべての側面が、ある程度のオンラインネットワークに触れています。こうしたことは、確かに生活の多くの側面を改善してきました。例えば、手持ちのデバイスでいつでも情報を入手できるようになったことなどです。しかし、同時に、特定のリスクも生じています。これらのリスクは、従来のハッキングや銀行口座へのデータ侵入などの問題を超えています。ここで言及しているのは、人工知能（AI）によって使用されるアルゴリズムが、私たちの生活の多くの側面に影響を与えているという点です。私たちは、これらのAIが私たちの最善の利益のためにアルゴリズムを利用しているものと想定しています。しかし、もし、間違ったタイプの偏見がこれらのアルゴリズムに入り込んでしまったらどうなるでしょうか。そうした偏見は、特定の結果にどのような影響を与えるでしょうか？偏ったアルゴリズムがAIシステムに浸透したときに何が起こるか別の例を挙げると、YouTubeでは、AIアルゴリズムが約70%のすべての動画を推奨しています。また、InstagramやTikTokなどのソーシャルメディアプラットフォームでは、推奨動画の割合はさらに高くなっています。これらのAIアルゴリズムは、ユーザーが興味を持つコンテンツを見つけるのを支援できますが、重大なプライバシー問題も引き起こし、オンラインで消費される推奨コンテンツの一部は、誤情報や特定の視点を含むため、潜在的に危険であることが証明されています。適応性とバランスのとれたAIの創造は、技術的にも社会的にも困難な取り組みですが、最も重要なものの一つです。AIが社会規範やオンライン使用パターンに悪影響を与える可能性がある一方で、テクノロジーの肯定的な影響にも焦点を当てることは理解できます。オンラインソースは私たちの社会に大きな影響を与えています。オンラインアルゴリズムの偏見は、不正義を生み出し、人の信念を形作り、誤った情報を広め、様々なグループ間の対立を生み出すことになります。これが「悪いAI」が、望ましくない、または不公平な偏見に関連して、真正に重大な結果をもたらす可能性がある場所です。偏ったAIが交通信号に悪影響を与える方法交通信号を例に挙げてみましょう。交通信号待ちの長い時間は、新しいAIテクノロジーが国中の市場で導入されることで、過去のものになりつつあります。これらの交通優先ソリューションは、リアルタイムの交通データを利用し、変化する交通パターンに応じて信号を調整し、交通をスムーズに流し、混雑を軽減します。これらのシステムは、深層学習を使用しており、プログラムは自分がうまくいっていないときに理解し、別の行動方針を試みるか、または進歩を続けることで改善します。素晴らしいアイデアのように聞こえますね。ただし、時間の経過とともに、交通センサー技術に組み込まれたAIアルゴリズムが、特定のタイプの車両よりも他の車両を優先するように、偏ったアルゴリズムによって設計された場合に何が起こるでしょうか。これが「悪いAI」が私たちの生活の非常に重要な側面に悪影響を与える可能性がある場所です。例えば、これらのAIを搭載した交通優先システムは、より大きなインテリジェント交通システム（ITS）のの一部であり、接続車両テクノロジーの力を利用しています。ITSシステムは、運用されているアグノスティックなクラウドベースのデータ共有プラットフォームの質によってのみ判断され、すべてのプラットフォームが同等に作成されているわけではありません。AIアルゴリズムからの偏見の除去これらのデータ共有プラットフォームは、高度に効果的であることが証明されています。しかし、交通システムを管理する都市や自治体が、交通システムを適切なデータ共有のために開放し、偏ったアルゴリズムが参加できないようにする場合にのみです。不幸にも、多くの自治体は、ハードウェアやデバイス提供者との契約に縛られており、「オープンアーキテクチャ」で動作することを主張していますが、オープンデータプラットフォームで動作することを拒否しています。これらの都市は、クラウドベースのプラットフォームが提供できる真正の可能性から自身を制限しています。クラウドベースの交通優先システムは、システムの全体像を考慮し、偏りのないデータ中心の機械学習を使用して、交通車両に適切なタイミングで緑信号を与える最適な時間を予測します。交差するルートとの干渉を最小限に抑えながら、連続した運転の確率を同時に最大化します。さらに重要な的是、アグノスティックなクラウドベースプラットフォームは、都市が、偏りのない、望ましくないソースからの偏見なしに、最大の交通の可能性を提供する継続的に更新されるシステムを利用できるようにします。このテクノロジーがすでに利用可能であるため、都市、開発者、自治体は、地域のすべての人が公平かつ公正に利益を得られるように、インテリジェントな交通ネットワークの構築を適切に促進するために必要なテクノロジーを持ち合わせています。サンノゼ市のような地域は、AIの利点を利用して、住民へのサービス提供を改善しています。市がAIツールを使用するにつれて、それらのAIシステムが効果的で信頼できるものであることを保証することがます。デジタルプライバシーオフィス（DPO）は、市のAI駆動テクノロジー取得物が正確に機能し、偏見を最小限に抑え、信頼性があることを確認するために、使用されるアルゴリズムをレビューしています。市の部門がAIツールを取得したいとき、DPOは、AIシステムの利点とリスクを評価するための特定のレビュープロセスに従います。この特定の地域では、私たちは、偏りのないアルゴリズムを持つため、Googleのような企業とともに、市全体のテクノロジー導入に参加する少数の承認されたAIベンダーのひとつであることを誇りに思います。さらに多くのAIテクノロジーが開発されるにつれて、偏りのないアルゴリズムで構築されることを保証することが、真正に公平で公正な地元自治体サービスの利用のために、特に重要になります。