Nick Kathmann, CISO, LogicGate

倫理的なAIの使用は、ただ単に正しいことではなく、ビジネスにも良いことである

AIの採用が急速に増加し、すべての業界の組織がAIベースのツールとアプリケーションを採用しているため、サイバー犯罪者がすでにこれらのツールを標的にして悪用しようとしていることは驚くことではありません。ただし、AIを潜在的なサイバー攻撃から保護することは重要ですが、AIのリスクの問題はセキュリティの範囲をはるかに超えています。世界中の政府は、AIの開発と使用を規制し始めており、企業がAIを不適切な方法で使用している場合、重大な評判の損失を被る可能性があります。今日の企業は、AIを倫理的かつ責任ある方法で使用することは、ただ単に正しいことではなく、信頼を築き、コンプライアンスを維持し、さらには製品の品質を向上させるために重要であることを発見しています。AIを取り巻く規制の現実規制の急速に変化する状況は、AIベースのソリューションを提供するベンダーにとって深刻な懸念事項であるべきです。例えば、2024年に成立したEU AI Actは、AIの規制に対してリスクベースのアプローチを採用し、ソーシャルスコアリング、操作的な行動、その他の潜在的に非倫理的な活動に従事するシステムを「受け入れられない」とみなします。これらのシステムは禁止され、他の「高リスク」のAIシステムは、リスク評価、データ品質、透明性に関するより厳格な義務を課せられます。コンプライアンスに従わない場合の罰金は厳しいものです: AIを受け入れられない方法で使用していることが発覚した企業は、最大35億ユーロまたは年間売上の7%の罰金を科せられる可能性があります。 EU AI Actは、単一の法律ですが、倫理的しきい値を満たさない場合の高いコストを明確に示しています。カリフォルニア、ニューヨーク、コロラドなど、各州は、独自のAIガイドラインを制定しており、その大部分は透明性、データプライバシー、バイアス防止などの要素に焦点を当てています。国連には、政府が享受する執行機関がないものの、すべての193の国連加盟国が2024年の決議において「人権と基本的自由は、AIシステムのライフサイクル全体を通じて尊重され、保護され、促進されるべきである」と一致して表明しています。世界中で、人権と倫理的考慮は、AIの場合に増して重要になっています。AI倫理の低さによる評判への影響コンプライアンスの懸念は非常にリアルですが、話はそこでは終わりません。事実は、倫理的な行動を優先することは、根本的にAIソリューションの品質を向上させることができます。AIシステムに内在的なバイアスがある場合、それは倫理的な理由で悪いことですが、製品が期待どおりに機能していないことも意味します。たとえば、特定の顔認識テクノロジーは、暗い肌の顔を明るい肌の顔と同じように識別できないという批判を受けてきました。如果顔認識ソリューションが多くの被写体を識別できない場合、それは重大な倫理的問題を引き起こしますが、テクノロジー自体が期待される利点を提供していないことも意味し、顧客は満足しません。バイアスを解消することで、倫理的な懸念を軽減し、製品自体の品質も向上します。 バイアス、差別、公平性に関する懸念は、ベンダーを規制機関と対立させる可能性がありますが、顧客の信頼も損ないます。AIの使用方法とパートナーについて一定の「赤線」を設けることが賢明です。デマ、大量監視、ソーシャルスコアリング、抑圧的な政府、または単に責任感の欠如と関連付けられるAIプロバイダーは、顧客を不安にさせます。ベンダーは、AIベースのソリューションを提供する際にこれを念頭に置くべきです。透明性はほぼ常に良いことです: AIの使用方法やパートナーについて開示しないベンダーは、隠し事をしているように見えますが、通常、市場では好意的な感情を呼び起こしません。倫理的な赤信号の特定と軽減顧客は、非倫理的なAIの行動の兆候を探すことを学習しています。AIの能力について過大に説明するが、説明しないベンダーは、実際に何ができるかについて正直ではありません。データの悪い取り扱い、たとえば過度のデータスクレイピングやAIモデルトレーニングからオプトアウトできないことなども、赤信号を引き起こす可能性があります。今日、AIを製品やサービスで使用するベンダーには、説明責任のメカニズムを備えた明確なガバナンスフレームワークが公開されている必要があります。強制的な仲裁を義務付ける、またはそれよりも悪い、まったく救済がないベンダーは、おそらく良いパートナーではありません。AIモデル内のバイアスを評価して対処するためのメトリクスを提供することを拒否する、またはできないベンダーも同様です。今日の顧客は、ブラックボックスソリューションを信頼しません。彼らは、信頼するソリューションでAIがいつ、どのように展開されるかを知りたいのです。 AIを製品やサービスで使用するベンダーにとって、顧客に倫理的考慮が最優先事項であることを伝えることが重要です。自社でAIモデルをトレーニングするベンダーには、強力なバイアス防止プロセスが必要です。一方、外部のAIベンダーに依存するベンダーは、公平な行動で知られるパートナーを優先する必要があります。さらに、顧客に選択肢を提供することも重要です。多くの顧客はまだ、データをAIソリューションに任せることに不安を感じており、AI機能の「オプトアウト」機能を提供することで、自分で実験することができます。トレーニングデータの出所について透明性を保つことも重要です。再び、これは倫理的ですが、ビジネスにとっても良いことです。顧客が、頼りにしているソリューションが著作権で保護されたデータでトレーニングされたことを発見した場合、規制または法的措置につながる可能性があります。すべてを公開することで、ベンダーは顧客との信頼を築き、悪影響を避けることができます。倫理を優先することは賢明なビジネス上の決定である信頼は、常にビジネス関係の重要な部分でした。AIはそれを変えていませんが、新しい考慮事項を導入しました。倫理的な懸念は、常にビジネスリーダーの頭にあるわけではありませんが、AIの場合、非倫理的な行動は、評判の損失や潜在的な規制およびコンプライアンス違反を含む重大な結果をもたらす可能性があります。さらに、バイアス軽減などの倫理的考慮に注意を払わないと、実際に製品やサービスの品質を損なう可能性があります。AIの採用がさらに進むにつれて、ベンダーは、倫理的な行動を優先することは、ただ単に正しいことではなく、ビジネスにとっても良いことであることを認識しています。