ジョー・アンダーソンは、TaskUsのコンサルティングおよびデジタル・トランスフォーメーションのシニア・ディレクターであり、ゴー・トゥ・マーケット戦略とイノベーションのリーダーです。彼はAI、顧客体験、デジタルオペレーションの交差点に焦点を当て、TaskUsの新しいエージェントAIコンサルティング・プラクティスを率いています。
子供に新しい自転車を買ってあげると、自転車の方が注目されるでしょう。つまり、自転車に付属するヘルメットは注目されません。しかし、親たちはヘルメットを大切にします。私たちは、AIのことについて話すとき、子供のように考えているようです。私たちは、どれだけ速く進むことができるか、どれだけかっこいいかということだけに注目しています。安全性についてはあまり考えておりません。残念です。安全性がないと、AIの利点を享受することはできません。簡単に言えば、安全性を考慮せずにAIを適用することは、単にリスクを冒すことではありません。崖から落ちることと同じです。AIの安全性とは何ですか?AIの安全性には、数多くのステップが含まれます。しかし、最も重要な要素は、いつそれらのステップを取るかです。AIの安全性を効果的に実現するには、設計段階で考慮する必要があります。つまり、テストする前に、どのようにして害を防ぐかを考える必要があります。AIが私たちの価値観や社会的期待と一致した結果を生成するようにする方法を最初に考える必要があります。結果がひどいものになるまで待つ必要はありません。AIの安全性を設計することも、AIをロバストにすることを意味します。つまり、AIは予測可能な方法で動作し、悪影響を受けても正常に機能することができます。AIを透明性を持たせることも重要です。つまり、AIがどのような判断を下したかが理解できるようにする必要があります。また、AIの判断は公平で偏見がないものである必要があります。さらに、AIが機能する世界について考える必要があります。政府の規制に従うために、どのような制度的、法的安全対策が必要かを考える必要があります。また、AIを使用する人々への影響を考えることも重要です。安全性を設計することは、AIの実装のすべてのプロセス、ワークフロー、運用に安全性を組み込むことを意味します。最初のコマンドを入力する前に、安全性を考慮する必要があります。リスクは懸念を上回るすべての人が同意しているわけではありません。「安全性を先に」という言葉を聞くと、「あまりにも慎重に進む」という意味に聞こえる人もいます。もちろん、安全性を先に考えるということは、そんなことではありません。イノベーションを妨げることではありません。市場に出るまでの時間を遅くすることではありません。無限に続くパイロットプロジェクトを実施することではありません。実際には、その逆です。AIの安全性を設計しないことのリスクを理解することが重要です。以下は、数多くのリスクのうちのいくつかです。 デロイトの金融サービスセンターは、GenAIが2027年までに米国だけで400億ドルの損失をもたらす可能性があると予測しています。2023年の123億ドルから32%の年間増加率です。 偏った判断。事例は、偏ったデータで訓練されたAIによって、偏った医療をもたらしたことを示しています。 悪い判断がさらに悪い判断をもたらす。AIによってもたらされた初期の悪い判断は、将来の判断にも影響を及ぼす可能性があります。研究によると、悪い判断は、将来の判断の基準となる可能性があります。 実際の結果。AIによってもたらされた悪い医療アドバイスは、致命的な結果をもたらす可能性があります。AIの妄想を法的根拠として引用した結果、法的問題が発生する可能性があります。また、AIアシスタントによってもたらされた誤った情報は、会社の製品や評判を損なう可能性があります。 そして、状況はさらに複雑になるでしょう。エージェントAIの出現と急速な採用は、AIの安全性を設計することの重要性を高めるでしょう。エージェントAIは、自律的に判断し、行動することができます。エージェントAIは、非常に役立つことができます。例えば、最適なフライトを探して予約することができます。返品する場合は、返品ポリシーを説明し、返品手続きを進めることができます。しかし、エージェントAIが妄想することがあってはなりません。金融情報を誤って扱うことがあってはなりません。会社の返品ポリシーを誤って適用することがあってはなりません。現在のAIの安全性のリスクは、エージェントAIが自律的に行動し、判断することによってさらに複雑になる可能性があります。エージェントAIは、単独で行動するのではなく、チームで行動し、協力してタスクを完了することが多いからです。どうすれば、イノベーションを妨げることなく、AIの安全性を設計することができるのでしょうか。安全性を設計するアドホックな安全性チェックではありません。AIの実装のすべての段階で、安全性の実践を組み込む必要があります。データから始めましょう。データがラベル付けされ、必要に応じて注釈が付けられ、偏見がないこと、質が高いことを確認しましょう。特に、訓練データの場合です。モデルを人間のフィードバックで訓練しましょう。人間の判断は、モデルを安全で人間の価値観と一致したものにするために不可欠です。強化学習と人間のフィードバック（RLHF）などのテクニックを使用して、人間がモデルを評価し、安全で人間の価値観と一致した出力を生成するように導くことができます。モデルをリリースする前に、ストレステストを実施しましょう。悪意のあるプロンプト、エッジケース、脱獄の試みなどを使用して、脆弱性を暴露しましょう。問題が発生する前にそれらを修正しましょう。テストによって、AIモデルがロバストであることを確認しましょう。新たな脅威やモデルへの調整が必要になる可能性について、継続的に監視しましょう。同様に、コンテンツソースやデジタルインタラクションを監視して、詐欺の兆候を探しましょう。AIの自動化を使用して大量のデータを処理し、熟練した人間が法執行のためのレビューと精度の確保を行うハイブリッドアプローチを採用しましょう。エージェントAIを適用するには、さらに注意が必要です。基本的な要件は、エージェントが自分の限界を理解することです。エージェントが不確実性、倫理的ジレンマ、新しい状況、または特に重要な決定に直面した場合、助けを求める方法を知っていることを確認しましょう。また、エージェントに追跡可能性を設計しましょう。特に、エージェントが検証されたユーザーとのみやり取りすることを保証するために重要です。詐欺師がエージェントの行動に影響を与えるのを防ぐためです。エージェントが効果的に機能しているように見える場合、放っておくことができます。しかし、エージェントが実行するタスクを継続的に監視し、エラーまたは予期しない動作に注意する必要があります。自動チェックと人間のレビューの両方を使用しましょう。実際、AIの安全性の重要な要素は、人間の関与です。人間は、重要な判断、共感、またはニュアンスと曖昧性が関与する決定や行動に意図的に関与する必要があります。再び強調しますが、これらはすべて、AIの実装の前に組み込むべき実践です。何かが間違った後に、損害を最小限に抑える方法を急いで考えるのではなく、設計段階で実践します。効果があるか?私たちは、クライアントと協力して、GenAIの出現とエージェントAIへの急速な移行において、AIの安全性を先に考える哲学と「設計段階で」のフレームワークを適用してきました。心配していたように、イノベーションを妨げるのではなく、実際にはそれを促進することができます。エージェントAIは、顧客サポートのコストを25〜50%削減し、顧客満足度を向上させる可能性があります。しかし、それは信頼に依存しています。人間はAIを信頼する必要があります。AIとやり取りする顧客は、信頼を損なうような経験をしてはいけません。悪い経験が1度でもあれば、ブランドへの信頼を失う可能性があります。私たちは、安全でないものは信頼できないことを知っています。したがって、AIのすべての層に安全性を組み込むと、自信を持って進めることができます。スケールアップする準備ができたら、自信を持って迅速に進めることができます。AIの安全性を先に考える実践を始めることは、圧倒的なように感じるかもしれませんが、あなたは一人ではありません。多くの専門家が助けになり、パートナーが何を学んだか、どのように学んだかを共有してくれるので、AIの価値を安全に活用することができます。AIの旅は今までとても楽しいものでした。旅が加速するにつれて、ワクワクするものがあります。不过、私はヘルメットを着用していることを幸いに思います。
私も多くの人と同様、良いアドバイスが好きです。しかし、時には何かを実行するために助けが必要です。次のAIのバージョン — エージェントAI — は、 私たちをアドバイスから実行に移行させるでしょう。エージェントAIを活用する企業は、変革的な飛躍を実現することができるでしょう。しかし、どこへ飛躍するのか？どうやって変革するのか？エージェントAIは、単純なタスク実行を超えて、顧客サポートのコストを25〜50%削減しながら、品質と顧客満足度を大幅に向上させることができます。また、複雑なワークフローと顧客とのやり取りを自律的に解決することができます。たとえば、顧客サポートに適用された場合、エージェントは質問にただ応えるだけでなく、開始から終了まで徹底的に照会を解決し、人間の介入を減らし、効率性を高めることができます。新しいテクノロジーを採用する場合と同様に、エージェントAIの採用も課題を提起します。企業は、ワークフローを十分に文書化し、深く理解し、堅牢なナレッジベースを保有する必要があります。さらに、ジェネレーティブAIと同様に、データプライバシーとセキュリティに関する懸念が存在します。企業は、利用する大規模言語モデル（LLM）と情報の保存・転送方法を理解する必要があります。しかし、インテリジェントオートメーションの採用戦略が適切であれば、成功を収めることができます。最大の利益を得るために、企業は以下の3つのことを行う必要があります： 正しい場所から始める エージェントAIと人間の専門知識をバランスさせる エージェントの専門知識ネットワークにアクセスする まだ初期段階ではありますが、さまざまな業界のクライアントと協力してエージェントAIをワークフローと運用に統合することで得られた知見を以下に示します。小さく始めるのではなく、賢く始めるおそらく、逆説的に思えるかもしれませんが、最高の開始点は、最もボリュームの大きいユースケースからです。リスクが高くないでしょうか？適切に行えばそうではありません。実際、低ボリュームのユースケースから始めることは、投資の価値を証明するのに十分な影響が見られないリスクを増大させることになります。高ボリュームのユースケースから始めることで、投資収益率（ROI）の最大化が可能になり、企業は迅速に重大な影響を実現し、効率性の向上を最大化し、AIエージェントの使用価値を明確に示すことができます。大きく始めるリスクをどのように軽減しますか？最大のユースケースのボリュームの1％でエージェントを初期的に実装することによってです。このアプローチにより、潜在的な問題を特定して修正し、より広範な自動化に備えることができます。小売企業の場合、注文の状況を自動化すること、または返品処理ワークフローを自動化することが意味するかもしれません。企業のフルフィルメントネットワーク全体で出荷を監視することに加えて、AIエージェントは顧客の身分を確認し、リアルタイムのステータスを確認し、顧客を更新することができます。さらに、予期せぬ遅延が発生した場合は、選択肢を提供することもできます。返品の場合、エージェントは企業の返品ポリシーを確認し、返品に関する顧客情報を収集し、次のステップを提案し、関連タスク（返品ラベルの印刷、ピックアップのスケジュール設定、返金の発行など）を完了することができます。返品エージェントはまた、乱用のパターンを監視し、必要に応じて決定と次のステップを調整することができます。企業が高ボリュームのワークフローの一部にAIエージェントを展開した後、ワークフロー活動を監視して、調整が必要な箇所を特定する必要があります。エージェントがスムーズに機能する場合、企業は事前に定義された量でワークフロー全体のボリュームを扱うまで、エージェントの使用を段階的に拡大することができます。もちろん、すべてのタスクとワークフローはエージェントAIによる完全な自動化に適していません。実際、人間の専門家をAIエージェントの全体的な動作に接続しておくことで、最良の結果が得られます。AIと人間の専門知識をバランスさせる企業がワークフローとプロセスを自動化の候補として検討する際、人間の監視または直接の行動が最も適したインスタンスがあることがわかります。エージェントAIは、非常に高い能力を持つ革新的な技術ですが、限界があります。特に3つの限界があります。AIエージェントとそれをサポートするLLMは、現在、一般的な知能を備えていません。狭く、明確に定義された分野で最も効果的に機能します。したがって、人間は特定のタスクを実行する方法を学び、その知識から抽出された原則を異なる、無関係なタスクに適用することができますが、AIは現在そうすることはできません。次に、非常に複雑な意思決定マトリックスを必要とするワークフローがあり、重大な経験と経験に基づく判断が求められます。たとえば、小売企業がシンプルなマーケティングキャンペーンのコンテンツが必要な場合、エージェントはそれを処理し、キャンペーンを実行することができます。しかし、複数の市場をまたいでブランドの表現と約束を再検討したい場合はどうでしょうか？エージェントはそのタスクを遂行できません。市場の傾向、ブランドの認識、市場間の文化の違い、ブランドが感情を呼び起こす方法に関する洞察が必要です。最後に、人間のコミュニケーションの「汚い」側面や感情のニュアンスが必要なワークフローは、共感のような明確に人間的な要素を必要とするため、人間に残すべきです。怒っている顧客を扱う顧客サービス問題や、患者が感情的または精神的に危険にさらされている可能性のあるヘルスケアのやり取りを想像してください。しかし、私は二元的な意思決定プロセスを説明しているのではありません。人間に任せるもの、AIエージェントに任せるもの、というのではなく、実践ではハイブリッドモデルが最も効果的です。AIと人間の役割の間には明確な区別が必要です。しかし、人間の専門家がタスクを処理する必要がある場合でも、AIは人間の能力を拡張し、専門知識を最大限に活用するために利用されるべきです。一般に、企業は、取引可能な、繰り返しのタスクにエージェントAIを使用し、ハイリスクのやり取り、感情的に複雑なシナリオ、ニュアンスのある判断を必要とする状況では、人間の専門知識を利用するべきです。50ドル相当の保証請求は完全に自動化されるかもしれませんが、5,000ドルの請求は、人間の感情的知能とブランドに敏感な取り扱いから利益を得るでしょう。エージェントネットワークにアクセスするおそらく最も重要な点は、エージェントAIに単独で取り組むべきではないことです。専門家のパートナー網を作りましょう。新興のエージェントAIプラットフォームは、デジタルとボイスチャネルをまたいでテクノロジーを提供できます。顧客の運用環境を理解するシステムインテグレーターとアドバイザーは、特定の顧客ニーズにエージェントモデルをトレーニングし、それらを企業の運用に統合することができます。これらのモデルを企業システムに統合するには、複雑なワークフローと業界固有の課題に関する深い専門知識が必要です。また、ワークフローの意思決定ポイントと人間のインタラクションが最も必要である場所、または有益である場所を理解することも必要です。そうすることで、エージェントAIは労働者とチームの生産性にとって利益となります。エージェントAIは、企業に効率性を高め、顧客体験を向上させ、イノベーションを推進する強力な方法を提供します。しかし、成功するには、急いで参加することではなく、賢明で情報に基づいた選択をすることが重要です。正しい場所から始め、人間とAIのハイブリッドモデルを適用し、正しいネットワークにアクセスすることです。AIの世界が非常に速く変化しているため、単独で行うことはできません。
