倫理
スタートアップ Unbiased はブロックチェーンを通じてデータの透明性を高め、データバイアスと戦うことを目指す
人工知能におけるデータバイアスの影響は十分に文書化されており、AIと機械学習アルゴリズムが社会の隅々にまで浸透するにつれて、AI企業は、開発するアルゴリズムが人間のバイアスを引き継がないようにするための新しい方法を模索しています。データバイアスの削減を目指すAIと機械学習の分野で新しいプレーヤーの1つは、透明性のある名前のスタートアップ企業であるUnbiasedです。Unbiased 新しいデータマーケットプレイスを立ち上げました アクティブなブロックチェーンプラットフォーム上で テロス、データサイエンスとAIのための分散型のプライバシー最優先のツールとアプリケーションをクライアントに提供したいと考えています。
世界の AI 市場は今後 266 年間にわたって急速な成長を続け、2027 年までに約 110 億ドルに達すると予測されています。今後 2024 年以内に、AI システムおよび関連コンポーネントに対する世界の支出は XNUMX 倍になり、約IDC によると、XNUMX 年までに XNUMX 億ドル。 ますます多くの業界で AI アルゴリズムが急速に導入されているため、AI システムの透明性、プライバシー、公平性、代表性に対する懸念が高まっています。
透明性による偏見の軽減
によると、 CapGemini Research Institute が発表した最新レポート「AI と倫理的難題: 組織が倫理的に堅牢な AI システムを構築し、信頼を得るにはどうすればよいか」と題した、AI の倫理的使用は、全般的な IT リーダーにとって大きな懸念事項となっており、現在、IT リーダーの大多数が、倫理的問題について懸念を表明しています。 AI システムの悪用の可能性。 IT 組織 9 社中約 10 社は、AI システムの適用によって倫理上の問題が生じた事件を少なくとも 2019 件認識していると述べました。 IT 経営幹部の約 XNUMX 分の XNUMX が、AI システムにおける潜在的な差別的偏見を認識していると回答しており、XNUMX 年の IT 企業のわずか XNUMX% とは対照的に、全 IT 組織の約半数が AI の開発を目的とした倫理憲章を持っています。
AI アルゴリズムをより公平にする方法に関する研究は継続されていますが、多くの倫理学者や AI 専門家は、AI のトレーニングに使用されるデータに焦点を当てています。 AI アルゴリズムがより普及し、標準化されるにつれて、焦点はモデルのトレーニングに必要なデータの取得に移っています。
たくさんあります AI アルゴリズムにおけるデータの偏りを軽減する方法。 一部の手法では、モデルのトレーニング時にモデルまたはトレーニング データを微調整する必要があります。 これらの技術は「処理中」のバイアス補正技術です。 これには、敵対的トレーニング手法の使用が含まれます。これは、問題の特徴を含む予測を行うモデルの能力にペナルティを与えることによって、一部の機密性の高い特徴/変数 (性別や人種など) を制御する場合です。 これは、モデルの誤差を最小限に抑えると同時に行われます。 対照的に、データセットからバイアスを除去することに重点を置くのは前処理手法です。 機械学習モデルのトレーニング データは手動でラベル付けされることが多く、ブロックチェーンの適用は、企業がデータのラベル付けプロセスを追跡して、データセットが代表的なものであることを確認するのに役立つ可能性があります。
Unbiased は、データセットとデータ マーケットプレイス内に透明性の文化を生み出すためにブロックチェーンに注目しています。 AI システムや機械学習アルゴリズムのデータセットを生成するために使用されるツールのほとんどは一元化されており、そのため透明性が欠けていることがよくあります。 Unbiased は、ブロックチェーンの性質を活用して、データの交換、タスクとプロジェクトの均等化、従業員からの貢献など、データ マーケットプレイス全体で行われるアクションを記録することを目指しています。 目標は、Telos ブロックチェーンの分散型の性質により透明性が促進され、ユーザーがデータ サイエンスの性質に関する重要な情報を取得できるようにすることです。 ユーザーは自分のデータセットを検証し、公平性やプライバシーなどの特定の倫理原則に関して注釈が実行されているかどうかを判断できるようになります。
Telos Blockchain のチーフ アーキテクトによると、AI/機械学習とブロックチェーンの交差点は、データを扱う革新的な新しい方法につながる可能性があります。 AIthority はホーン氏の言葉を次のように引用しています。
「Unbiasedは、Telosのような高性能で手数料無料のブロックチェーンにデータを記録することで、すべての利害関係者の利益のために製品に透明性、不変性、マイクロペイメント、ガバナンスをどのように追加できるかをこれらの業界に示します。」
一部の科学者や研究者は、トレーニング データの透明性を超えて、 アルゴリズム、モデル、コードの透明性の向上を推進。 科学者の国際チームは、コンピューターサイエンスの研究者に高い透明性基準を課すよう科学雑誌に呼びかけた。 研究者らは、AIのモデルとコードに関する透明性の向上は、研究の再現性を高めるだけでなく、研究グループ間の協力にも役立つと主張した。 多くの科学研究は再現できず、これは重要な資料が漏れてしまう AI 中心の研究にとってはさらに大きな問題です。 将来的には、ブロックチェーンは AI 分野の研究の追跡と評価を改善するために利用される可能性もあります。
