AIの「知識」が50年古い場合：無視できないコンプライアンスリスク

AIによる誤った洞察の問題は、企業が生成ツールの使用を増やしているため、緊急の課題となっている。AIの採用に対する広範な熱狂にもかかわらず、批判的な意見も強い。批判的な評論家は、AIの出力における明らかにランダムで予測不可能な不正確さを指摘し、それがAIの価値を損なうだけでなく、ヘルスケアや交通などの分野で人間に実際的な危害をもたらす可能性もあると主張している。

これらの不正確さは、AIの「hallucinations」（幻覚）と呼ばれるものに起因することが多い。幻覚とは、AIが「ベストアンサー」を生成する際に、実際の回答と同じ自信を持って回答を出してしまうことを指す。つまり、AIは、自分の知識や能力の限界をユーザーに通知するのではなく、最も可能性の高い回答を生成することになる。幻覚は、最初の目で見ただけでは簡単に発見できないことが多い。

データ品質の負債：AIのアキレス腱

AIシステムが古くなった、不完全な、または不正確なデータから情報を抽出すると、誤った出力が発生する可能性がある。たとえば、AIに特定の病気の症状を尋ねた場合、最新の研究ではなく50年前の論文に基づいた回答が返される可能性がある。結果は、明らかに間違っているように見えないかもしれないが、初期の信憑性のある外見は、患者のもと以及ヘルスケア提供者にとって実際的なリスクをもたらす。

同様のことが、業界全体で起こり得る。AIモデルに古くなった、古くなった、または部分的な情報が含まれている場合、誤った出力のリスクが高くなる。企業がAIをビジネスクリティカルなプロセスに統合するにつれて、不十分なデータ管理から誤った結論を導き出すリスクも増大する。

規制当局のための精度

これは、日常業務だけでなく、コンプライアンス上の重大な課題でもある。規制要件は、AIの不正確さに関する懸念に対処するために急速に進化している。たとえば、イタリアはChatGPTを一時的に禁止し、EUデータ保護委員会はChatGPTに対する潜在的な措置を調整するための特別タスクフォースを立ち上げた。

最も重要な規制変更は、世界初の包括的なAI法規制であるEU AI法の制定である。同法は、AIシステムのリスクレベルに基づいて義務を定め、「受け入れられないリスク」のシステムは禁止され、「高リスク」のシステムは透明性、データ品質、ガバナンス、人間の監視に関する厳格な要件に従う必要がある。

EU AI法の重要性は、その雄大な範囲にあり、AIに対するバインディング可能な規則が適用され、組織はAIの採用においてコンプライアンスと透明性をintegralなものとして扱う必要があることを規定している。規制当局は、AIが規制されることを明確にし、組織はAIの使用方法と場所について透明性を保つ必要があることを強調している。

同法は、AI開発の多くに影響を及ぼす可能性がある。同法の中心は、AIを安全にし、基本的な権利と価値を尊重することにある。新しい原則に基づくエコシステムでは、AIの不正確さの潜在的な原因、つまりモデルに供給されるデータやデータセット、モデルの不透明性やアクセス、システム設計や使用などを診断する。AIソリューションは、これら3つの要素すべての構成であり、どれか1つの問題が悪影響を及ぼす可能性がある。また、AIの設計、開発、展開、運用に使用されるデータは、ビジネスレコードで構成されることが多く、自己がコンプライアンス要件の対象となる。

言い換えれば、AIを取り巻く規制環境は、より厳格化しつつあり、データ入力に対する規制も厳しくなっている。データ出力に対する規制も厳しくなっているが、後者はより多くの注目を集めている。

コンプライアントで現在で関連性のあるデータをAIに供給するための5つのステップ

この二重の課題、つまりコンプライアントなデータ処理と、高品質の入力による高品質の出力を保証するため、企業はトレーニングデータと推論データの管理を必要とする。残念ながら、これは多くの企業がまだ欠けているものである。

少なくとも、組織は、AIイニシアチブに対して、より広範なコンプライアンスおよびガバナンスプログラムを適用する必要がある。組織は、AIモデルに供給されるデータ、モデルの設計、システムの設計、AIを介した決定や生成されたコンテンツについて、適切なレコードを取得し、維持する必要がある。

しかし、組織はさらに重要なステップを踏む必要がある。AIの展開に使用される可能性のあるすべてのデータに対する完全な管理を確保する必要がある。つまり、高品質のデータ管理およびストレージ戦略が必要であり、すべての関連データを知的に収集、クリーン、ストア、分類、およびエンティティ化する必要がある。組織は、以下の4つの重要なステップを考慮する必要がある。

1. データの血統と出典

これには、データの源、起源、所有権、およびメタデータの変更（許可されている場合）の履歴を維持することが含まれる。また、メタデータを豊富に維持し、データが派生した元のドキュメントまたはアーティファクトをすべて維持することも含まれる。

2. データの真正性

これには、すべてのデータに対する明確な保管責任を維持し、オブジェクトをそのネイティブ形式で保存し、変更がないことを示すために受け取ったオブジェクトをハッシュ化することが含まれる。また、各オブジェクトに対する完全な監査履歴を維持し、すべての変更やイベントに対するアクションを記録することも含まれる。

3. データの分類

データセットまたはデータの種類の性質を確立することが重要である。組織は、構造化データ、半構造化データ、および構造化データのセットを管理する必要がある。各クラスに一意のスキーマを割り当てることで、組織は柔軟なデータ構造にデータを強制的に適合させることなく、多様なデータセットを管理できる。

4. データの正規化

メタデータの共通の定義と形式を確立することが重要である。分析およびAIソリューションで使用するために、明確に定義されたスキーマと、関連データの正規化されたビューを維持するためのツールが必要である。

5. データのエンティティ化

企業は、ユーザーまたはシステムのプロファイルに基づいて、オブジェクトまたはフィールドレベルでグラニュラーなエンティティ化コントロールを必要とする。つまり、ユーザーまたはシステムがアクセスを許可されているデータが利用可能であり、許可されていないユーザーまたはシステムにはアクセスが制限または拒否されることを意味する。

これらの重要な要素を整えることで、企業はAIモデルに供給されるデータが高品質でコンプライアントであることを保証することができる。AIは、業界全体で改善と効率性をもたらすが、それが起こるためには、堅実なデータ基盤が不可欠である。