AIを先に考えるときは、安全性を先に考えろ

子供に新しい自転車を買ってあげると、自転車の方が注目されるでしょう。つまり、自転車に付属するヘルメットは注目されません。しかし、親たちはヘルメットを大切にします。

私たちは、AIのことについて話すとき、子供のように考えているようです。私たちは、どれだけ速く進むことができるか、どれだけかっこいいかということだけに注目しています。安全性についてはあまり考えておりません。残念です。安全性がないと、AIの利点を享受することはできません。

簡単に言えば、安全性を考慮せずにAIを適用することは、単にリスクを冒すことではありません。崖から落ちることと同じです。

AIの安全性とは何ですか?

AIの安全性には、数多くのステップが含まれます。しかし、最も重要な要素は、いつそれらのステップを取るかです。AIの安全性を効果的に実現するには、設計段階で考慮する必要があります。

つまり、テストする前に、どのようにして害を防ぐかを考える必要があります。AIが私たちの価値観や社会的期待と一致した結果を生成するようにする方法を最初に考える必要があります。結果がひどいものになるまで待つ必要はありません。

AIの安全性を設計することも、AIをロバストにすることを意味します。つまり、AIは予測可能な方法で動作し、悪影響を受けても正常に機能することができます。AIを透明性を持たせることも重要です。つまり、AIがどのような判断を下したかが理解できるようにする必要があります。また、AIの判断は公平で偏見がないものである必要があります。

さらに、AIが機能する世界について考える必要があります。政府の規制に従うために、どのような制度的、法的安全対策が必要かを考える必要があります。また、AIを使用する人々への影響を考えることも重要です。

安全性を設計することは、AIの実装のすべてのプロセス、ワークフロー、運用に安全性を組み込むことを意味します。最初のコマンドを入力する前に、安全性を考慮する必要があります。

リスクは懸念を上回る

すべての人が同意しているわけではありません。「安全性を先に」という言葉を聞くと、「あまりにも慎重に進む」という意味に聞こえる人もいます。もちろん、安全性を先に考えるということは、そんなことではありません。イノベーションを妨げることではありません。市場に出るまでの時間を遅くすることではありません。無限に続くパイロットプロジェクトを実施することではありません。実際には、その逆です。

AIの安全性を設計しないことのリスクを理解することが重要です。以下は、数多くのリスクのうちのいくつかです。

• デロイトの金融サービスセンターは、GenAIが2027年までに米国だけで400億ドルの損失をもたらす可能性があると予測しています。2023年の123億ドルから32%の年間増加率です。
• 偏った判断。事例は、偏ったデータで訓練されたAIによって、偏った医療をもたらしたことを示しています。
• 悪い判断がさらに悪い判断をもたらす。AIによってもたらされた初期の悪い判断は、将来の判断にも影響を及ぼす可能性があります。研究によると、悪い判断は、将来の判断の基準となる可能性があります。
• 実際の結果。AIによってもたらされた悪い医療アドバイスは、致命的な結果をもたらす可能性があります。AIの妄想を法的根拠として引用した結果、法的問題が発生する可能性があります。また、AIアシスタントによってもたらされた誤った情報は、会社の製品や評判を損なう可能性があります。

そして、状況はさらに複雑になるでしょう。

エージェントAIの出現と急速な採用は、AIの安全性を設計することの重要性を高めるでしょう。エージェントAIは、自律的に判断し、行動することができます。

エージェントAIは、非常に役立つことができます。例えば、最適なフライトを探して予約することができます。返品する場合は、返品ポリシーを説明し、返品手続きを進めることができます。

しかし、エージェントAIが妄想することがあってはなりません。金融情報を誤って扱うことがあってはなりません。会社の返品ポリシーを誤って適用することがあってはなりません。

現在のAIの安全性のリスクは、エージェントAIが自律的に行動し、判断することによってさらに複雑になる可能性があります。エージェントAIは、単独で行動するのではなく、チームで行動し、協力してタスクを完了することが多いからです。

どうすれば、イノベーションを妨げることなく、AIの安全性を設計することができるのでしょうか。

安全性を設計する

アドホックな安全性チェックではありません。AIの実装のすべての段階で、安全性の実践を組み込む必要があります。

データから始めましょう。データがラベル付けされ、必要に応じて注釈が付けられ、偏見がないこと、質が高いことを確認しましょう。特に、訓練データの場合です。

モデルを人間のフィードバックで訓練しましょう。人間の判断は、モデルを安全で人間の価値観と一致したものにするために不可欠です。強化学習と人間のフィードバック（RLHF）などのテクニックを使用して、人間がモデルを評価し、安全で人間の価値観と一致した出力を生成するように導くことができます。

モデルをリリースする前に、ストレステストを実施しましょう。悪意のあるプロンプト、エッジケース、脱獄の試みなどを使用して、脆弱性を暴露しましょう。問題が発生する前にそれらを修正しましょう。

テストによって、AIモデルがロバストであることを確認しましょう。新たな脅威やモデルへの調整が必要になる可能性について、継続的に監視しましょう。

同様に、コンテンツソースやデジタルインタラクションを監視して、詐欺の兆候を探しましょう。AIの自動化を使用して大量のデータを処理し、熟練した人間が法執行のためのレビューと精度の確保を行うハイブリッドアプローチを採用しましょう。

エージェントAIを適用するには、さらに注意が必要です。基本的な要件は、エージェントが自分の限界を理解することです。エージェントが不確実性、倫理的ジレンマ、新しい状況、または特に重要な決定に直面した場合、助けを求める方法を知っていることを確認しましょう。

また、エージェントに追跡可能性を設計しましょう。特に、エージェントが検証されたユーザーとのみやり取りすることを保証するために重要です。詐欺師がエージェントの行動に影響を与えるのを防ぐためです。

エージェントが効果的に機能しているように見える場合、放っておくことができます。しかし、エージェントが実行するタスクを継続的に監視し、エラーまたは予期しない動作に注意する必要があります。自動チェックと人間のレビューの両方を使用しましょう。

実際、AIの安全性の重要な要素は、人間の関与です。人間は、重要な判断、共感、またはニュアンスと曖昧性が関与する決定や行動に意図的に関与する必要があります。

再び強調しますが、これらはすべて、AIの実装の前に組み込むべき実践です。何かが間違った後に、損害を最小限に抑える方法を急いで考えるのではなく、設計段階で実践します。

効果があるか?

私たちは、クライアントと協力して、GenAIの出現とエージェントAIへの急速な移行において、AIの安全性を先に考える哲学と「設計段階で」のフレームワークを適用してきました。心配していたように、イノベーションを妨げるのではなく、実際にはそれを促進することができます。

エージェントAIは、顧客サポートのコストを25〜50%削減し、顧客満足度を向上させる可能性があります。しかし、それは信頼に依存しています。

人間はAIを信頼する必要があります。AIとやり取りする顧客は、信頼を損なうような経験をしてはいけません。悪い経験が1度でもあれば、ブランドへの信頼を失う可能性があります。

私たちは、安全でないものは信頼できないことを知っています。したがって、AIのすべての層に安全性を組み込むと、自信を持って進めることができます。スケールアップする準備ができたら、自信を持って迅速に進めることができます。

AIの安全性を先に考える実践を始めることは、圧倒的なように感じるかもしれませんが、あなたは一人ではありません。多くの専門家が助けになり、パートナーが何を学んだか、どのように学んだかを共有してくれるので、AIの価値を安全に活用することができます。

AIの旅は今までとても楽しいものでした。旅が加速するにつれて、ワクワクするものがあります。不过、私はヘルメットを着用していることを幸いに思います。