倫理
スタートアップのUnbiased、データの透明性を高めるためにブロックチェーンを利用してデータバイアスと戦う
Unite.AI を Google の優先ソースに追加
人工知能におけるデータバイアスの影響はよく知られており、人工知能と機械学習アルゴリズムが社会のあらゆる分野に浸透するにつれて、人工知能企業は開発したアルゴリズムが人間のバイアスを継承しないようにする新しい方法を模索しています。人工知能と機械学習の分野でデータバイアスを減らすことを目的とした新しいプレーヤーの一つは、透明性という名前のスタートアップUnbiasedです。Unbiasedは、新しいデータマーケットプレイスを活発なブロックチェーンプラットフォームTelosに立ち上げ、クライアントに分散型、プライバシー優先のツールとデータサイエンスおよび人工知能のアプリケーションを提供することを目指しています。
世界のAI市場は、2027年までに約266億ドルに達するという予測で、急成長を続けることが予想されています。次の4年間で、世界のAIシステムと関連コンポーネントへの支出は110億ドルに達することが予想されており、IDCによると2024年までに約2倍になることが予想されています。AIアルゴリズムの採用がますます多くの業界で行われているため、AIシステムの透明性、プライバシー、公平性、代表性に関する懸念が高まっています。
透明性を通じてバイアスを減らす
最近のCapGemini Research Instituteの報告書によると、ITリーダーはAIの倫理的な使用に大きな懸念を抱いています。IT組織の9割以上が、少なくとも1つのAIシステムの適用によって倫理的な問題が生じたことを認識しています。IT幹部の約2/3が、AIシステムにおける潜在的な差別的なバイアスを認識しています。また、約半数のIT組織が、AIの開発に倫理憲章を設けているのに対し、2019年にはわずか5%でした。
AIアルゴリズムをより公平にする方法に関する研究が続行されている間、多くの倫理学者やAI専門家は、AIをトレーニングするために使用されるデータに焦点を当てています。AIアルゴリズムがより一般的になり、標準化されるにつれて、モデルをトレーニングするために必要なデータの取得に焦点が移っています。
AIアルゴリズムにおけるデータバイアスを減らす方法は多数あります。いくつかの技術は、モデルまたはトレーニングデータを修正するもので、これらは「処理中」のバイアス修正技術です。これには、敵対的なトレーニング技術が含まれます。これは、モデルが特定の特徴/変数（たとえば、性別または人種）を使用して予測を行う能力を罰することで行われ、同時にモデルエラーを最小限に抑えることを目指します。一方、データセットからのバイアスの除去は、前処理技術です。機械学習モデルのトレーニングデータは、通常、手動でラベル付けされます。ブロックチェーンの適用により、企業はデータのラベル付けプロセスを追跡し、データセットが代表的なものであることを保証することができます。
Unbiasedは、データセットとデータマーケットプレイスにおける透明性の文化を生み出すためにブロックチェーンを利用しようとしています。AIシステムと機械学習アルゴリズムのためのデータセットを生成するために使用されるツールのほとんどは、中央集権型であり、透明性が欠けていることが多いです。Unbiasedは、データマーケットプレイスでのアクション、データの交換、タスクとプロジェクトの割り当て、ワーカーの貢献を記録するために、ブロックチェーンの性質を利用しようとしています。Telosブロックチェーンの分散型性が透明性を促進し、ユーザーがデータサイエンスに関する重要な情報を入手できるようにすることを目指しています。ユーザーは、データセットを検証し、特定の倫理原則（たとえば、公平性とプライバシー）に従って注釈が行われたかどうかを判断することができます。
Telosブロックチェーンのチーフアーキテクトによると、人工知能/機械学習とブロックチェーンの交差点は、データを扱う新しい方法に革命をもたらす可能性があります。 HornはAIthorityに引用されています。
「Unbiasedは、これらの産業に、Telosのような高性能で手数料のないブロックチェーン上でデータを記録することで、透明性、不変性、マイクロペイメント、ガバナンスを製品に追加する方法を示します。」
トレーニングデータの透明性を超えて、一部の科学者や研究者は、アルゴリズム、モデル、コードの透明性を推進しています。国際的な科学者チームは、コンピューターサイエンスの研究者に高い透明性の基準を課すことを科学雑誌に求めています。研究者は、AIモデルやコードの透明性の向上は、研究の再現性を助けるだけでなく、研究グループ間のコラボレーションにも役立つと主張しています。多くの科学研究は再現できないことが問題であり、特に重要な資料を省略したAI関連研究では、より深刻な問題です。将来的には、ブロックチェーンを利用して、AI分野における研究の追跡と評価を改善することができます。
