Nick Kathmann, CISO, LogicGate Nick Kathmann CISO, LogicGate

エチカルなAIの使用はただ単に正しいことではなく、賢いビジネス上の決定でもある

AIの採用が急速に増加し、すべての業界の組織がAIベースのツールやアプリケーションを採用しているため、サイバー犯罪者がこれらのツールを標的にして悪用する方法を見つけることは驚くことではありません。しかし、AIを潜在的なサイバー攻撃から保護することは重要ですが、AIのリスク問題はセキュリティの範囲をはるかに超えています。世界中で、政府はAIの開発と使用を規制し始めており、企業がAIを不適切な方法で使用していると判定された場合、重大な評判被害を受ける可能性があります。今日の企業は、AIを倫理的かつ責任ある方法で使用することはただ単に正しいことではなく、信頼を築き、コンプライアンスを維持し、さらには製品の品質を向上させるために重要であることを発見しています。AIを取り巻く規制現実急速に進化している規制環境は、AIベースのソリューションを提供するベンダーにとって深刻な懸念事項であるべきです。例えば、2024年に採択されたEU AI Actは、AI規制に対してリスクベースのアプローチを採用し、ソーシャルスコアリング、操作的な行動、その他の潜在的に非倫理的な活動に従事するシステムを「受け入れられない」とみなします。これらのシステムは完全に禁止され、他の「高リスク」のAIシステムはリスク評価、データ品質、透明性に関する厳格な義務に従う必要があります。コンプライアンスに従わない場合の罰金は厳しいものです。AIを受け入れられない方法で使用していることが発覚した企業は、最大3,500万ユーロまたは年間売上の7%の罰金を科せられる可能性があります。 EU AI Actは単一の法律であるが、倫理的基準を満たさない場合の高額なコストを明確に示しています。カリフォルニア州、ニューヨーク州、コロラド州などの州はすべて、独自のAIガイドラインを制定しており、その大部分は透明性、データプライバシー、バイアス防止などの要素に焦点を当てています。また、国連には政府が享受するような執行機関がないものの、すべての193の国連加盟国が2024年の決議において「人権と基本的自由は、人工知能システムのライフサイクル全体を通じて尊重され、保護され、促進されるべきである」と一致団結して決議しました。世界中で、人権と倫理的考慮はAIに関してますます重要な問題となっています。貧弱なAI倫理の評判への影響コンプライアンスに関する懸念は非常にリアルですが、話はそこでは終わりません。事実は、倫理的な行動を優先することは、AIソリューションの品質を根本的に向上させることができます。AIシステムに内在するバイアスがある場合、それは倫理的な理由で悪いことですが、製品が期待どおりに機能していないことも意味します。たとえば、特定の顔認識テクノロジーは、暗い肌の顔を明るい肌の顔と同じように識別できないことで批判されてきました。顔認識ソリューションが多くの被写体を識別できない場合、それは重大な倫理的問題ですが、テクノロジー自体が期待される利点を提供していないことも意味し、顧客は満足しません。バイアスに対処することで、倫理的な懸念を軽減し、製品自体の品質も向上します。 バイアス、差別、公平性に関する懸念は、ベンダーを規制機関の炎上に巻き込む可能性がありますが、顧客の信頼も損ないます。AIの使用方法と提携先について「赤線」を設けることは賢いことです。デマ、大量監視、ソーシャルスコアリング、抑圧的な政府、または単に責任感の欠如と関連付けられるAIプロバイダーは、顧客に不安を与える可能性があり、AIベースのソリューションを提供するベンダーは、提携先を検討する際にこれを考慮する必要があります。透明性はほぼ常にベターです。AIの使用方法や提携先を非公開するベンダーは、隠し事をしているように見え、通常、市場では好意的な印象を与えません。倫理的警告信号の特定と軽減顧客は、非倫理的なAIの行動の兆候を探すことを学び始めています。ベンダーがAIの機能について過大な期待を抱かせながら説明を省略している場合、ベンダーはAIソリューションの実際の機能について正直ではない可能性があります。データの取り扱いが不適切である場合、たとえば過度のデータスクレイピングやAIモデルトレーニングからオプトアウトできない場合、警告信号を引き起こす可能性があります。今日、AIを製品やサービスに使用するベンダーは、説明責任を確保するためのメカニズムを備えた、明確な公開ガバナンスフレームワークを持つ必要があります。強制的な仲裁を義務付けたり、悪い場合にはまったく救済を提供しないベンダーは、良い提携先になる可能性は低いです。AIモデルにおけるバイアスの評価と対処方法に関する指標を提供することを拒否する、または提供できないベンダーも同様です。今日の顧客はブラックボックスソリューションを信頼しません。彼らは、信頼するソリューションでAIがいつ、どのように使用されているかを知りたいのです。 AIを製品に使用するベンダーにとって、顧客に倫理的考慮が最優先事項であることを伝えることは重要です。自社でAIモデルをトレーニングするベンダーは、バイアス防止プロセスを強化する必要があり、外部のAIベンダーに依存するベンダーは、公平な行動で知られるパートナーを優先する必要があります。さらに、顧客に選択肢を提供することも重要です。多くの顧客はまだAIソリューションにデータを信頼することに抵抗があり、AI機能の「オプトアウト」オプションを提供することで、顧客は自分のペースで実験できます。トレーニングデータの出典を透明性を持って提供することも重要です。これは倫理的ですが、賢いビジネス上の決定でもあります。顧客が、信頼するソリューションが著作権で保護されたデータでトレーニングされた場合、顧客は規制または法的措置の対象となる可能性があるからです。すべてを公開することで、ベンダーは顧客との信頼を築き、顧客が悪影響を回避できるように支援できます。倫理を優先することは賢いビジネス上の決定である信頼は、すべてのビジネス関係において重要な要素でした。AIはそれを変えていませんが、新しい考慮事項を導入しました。倫理的懸念は、ビジネスリーダーにとって常に最優先事項ではないかもしれませんが、AIの場合、非倫理的な行動は重大な結果をもたらす可能性があります。評判被害や潜在的な規制およびコンプライアンス違反を含みます。さらに、バイアス軽減などの倫理的考慮に対処しないと、ベンダーの製品やサービスの品質を実際に損なう可能性があります。AIの採用が進むにつれて、ベンダーは倫理的な行動を優先することはただ正しいことではなく、賢いビジネス上の決定であることをますます認識しています。AIの採用が進むにつれて、ベンダーは、倫理的な行動を優先することは、ただ正しいことではなく、賢いビジネス上の決定であることをますます認識しています。評判被害や潜在的な規制およびコンプライアンス違反を含む重大な結果をもたらす可能性のある非倫理的な行動から、ベンダーを守ることができます。さらに、バイアス軽減などの倫理的考慮に対処しないと、ベンダーの製品やサービスの品質を実際に損なう可能性があります。AIの採用が進むにつれて、ベンダーは倫理的な行動を優先することは、ただ正しいことではなく、賢いビジネス上の決定であることをますます認識しています。ns. さらに悪いことに、倫理的考慮事項であるバイアス軽減に注意を払わないと、ベンダーの製品やサービスの品質を実際に損なう可能性があります。AIの採用が進むにつれて、ベンダーは倫理的な行動を優先することは、ただ正しいことではなく、賢いビジネス上の決定であることをますます認識しています。