AIが幻覚を起こしているなら、AIを責めてはいけない

AIの「幻覚」、つまり説得力があるように聞こえるが偽りの答えは、最近のニューヨークタイムズの記事のように、多くのメディアの注目を集めている。 AIはますます強力になっているが、その幻覚は悪化している消費者向けチャットボットを扱う上で、幻覚は深刻な危険です。AIのビジネス応用という観点では、さらに深刻な懸念事項となります。幸いなことに、ビジネステクノロジーのリーダーである私には、幻覚をより詳細に制御する権限があります。エージェントが適切なデータを使用して、意味のある回答を生成できるようにすることができます。

それが本当の問題です。ビジネスでは言い訳はできません AIの幻覚AIを責めるのはやめましょう。AIを適切に活用していない自分を責めましょう。

日時 generative AI ツールが幻覚を起こすとき、それは本来の目的、つまり利用可能なデータに基づいて可能な限り最善の答えを出すという動作をしているだけです。ツールが作り話をして、現実に基づかない答えを出すと、 それは、関連するデータが不足しているか、見つけられないか、質問を理解していないからです確かに、OpenAIのo3やo4-miniのような新しいモデルは、より多くの幻覚を生み出し、提示された質問に対する適切な答えが見つからない場合でも、より「創造的」に行動します。確かに、より強力なツールはより多くの幻覚を生み出す可能性がありますが、成功するように設定すれば、より強力で価値のある結果を生み出すこともできます。

AIに幻覚を起こさせたくなければ、データ不足に陥らないようにしてください。AIに解決させたい問題に最も関連性の高い、最適なデータを提供すれば、AIは誤った方向に進んでしまうことはありません。

それでも、AIツールを使う際には、批判的思考力を維持することをお勧めします。AIエージェントが提供する結果は生産的で満足のいくものになるかもしれませんが、重要なのは、脳を解放してソフトウェアにすべてを任せることではありません。質問し続けてください。AIエージェントが答えを出した時は、その答えに疑問を持ち、それが理にかなっていてデータに裏付けられているかどうかを確認してください。もしそうであれば、それは追加の質問をする価値があるという、心強いサインです。

質問すればするほど、よりよい洞察が得られます。

幻覚はなぜ起こるのか

これは謎ではありません。AIはあなたに嘘をついているわけではありません。大規模言語モデル（LLM）AIは基本的に、確率に基づいて次の単語や数字を予測しています。

大まかに言うと、ここで起こっていることは、LLMが文章や段落を一単語ずつつなぎ合わせ、学習データ内の数十億の例に基づいて、文章中に次に出現するべき単語を予測しているということです。LLMの祖先（Clippyを除く）は、テキストメッセージやコンピュータコードのオートコンプリートプロンプト、人間の言語の自動翻訳ツール、その他の確率的言語システムでした。ブルートフォース計算能力の向上とインターネット規模のデータによる学習により、これらのシステムはチャットで完全な会話を行えるほど「賢く」なり、ChatGPTの導入で世界がそれを実感しました。

AI反対論者は、AIは真の「知性」ではなく、人間の知能を抽出して吐き出すだけのソフトウェアに過ぎないとよく指摘する。AIに報告書のデータを要約するよう指示すると、他のライターが似たようなデータを要約した方法を真似する。

データが正しく、分析が有用である限り、それは学術的な議論であるように私には思えます。

AIがデータを持っていなかったらどうなるでしょうか？AIは空白を埋めます。面白い結果になることもありますし、全くの混乱になることもあります。

構築するとき AIエージェント、これはリスクが10倍になります。エージェントは実用的な洞察を提供することが期待されていますが、その過程でより多くの意思決定を行います。彼らは複数ステップのタスクを実行し、ステップ1の結果がステップ2、3、4、5、…10、…20へと反映されます。ステップ1の結果が誤っている場合、エラーが増幅され、ステップ20の出力はさらに悪化します。特に、エージェントは意思決定を行い、ステップを省略できるため、その傾向は顕著です。

適切に運用すれば、エージェントは導入企業に多大な成果をもたらします。しかし、AIプロダクトマネージャーとして、私たちはより大きなメリットにはより大きなリスクが伴うことを認識しなければなりません。

私たちのチームはまさにそれを実行しました。リスクを認識し、それに取り組みました。ただ派手なロボットを作るのではなく、適切なデータに基づいて動作するようにしました。私たちが正しく行ったと思う点は次のとおりです。

• エージェントが適切な質問をし、適切なデータを持っていることを検証できるように構築します。エージェントの初期データ入力プロセスは、実際にはより決定論的であり、「創造的」ではないことを確認してください。エージェントは、適切なデータがない場合にはそれを伝え、次のステップに進まないよう指示し、データでっち上げるようなことは避けるべきです。
• エージェント向けのプレイブックを構造化しましょう。毎回新しいプランを考案するのではなく、半構造化されたアプローチを採用するようにしてください。データ収集と分析の段階では、構造と文脈が非常に重要です。エージェントが事実を把握し、要約を作成する準備が整ったら、より「創造的」に行動させても構いませんが、まずは事実関係を正しく把握することが重要です。
• データ抽出のための高品質なツールを構築しましょう。単なるAPI呼び出しでは不十分です。適切な量と種類のデータを抽出するコード（今でもよく使われています）を時間をかけて記述し、プロセスに品質チェックを組み込みましょう。
• エージェントに作業内容を見せましょう。エージェントは情報源を明示し、ユーザーが元の情報源からデータを検証し、さらに詳しく調べられるリンクを貼る必要があります。決して軽率な行動は許されません！
• ガードレール：何が問題になるかを考え、絶対に許されないエラーに対する保護策を組み込む。私たちの場合、これは市場分析を担当するエージェントがデータ（Webからランダムに取得したデータソースではなく、Similarwebのデータ）を持っていない場合、エージェントがデータを捏造しないよう徹底することが不可欠なガードレールとなることを意味します。エージェントが誤った回答や誤解を招く回答をするよりも、回答できない方が賢明です。

これらの原則は、最近リリースした3つの新しいエージェントに取り入れられており、今後もさらに追加される予定です。例えば、営業担当者向けのAI会議準備エージェントは、対象企業の名前だけでなく、会議の目的や参加者の詳細も尋ね、より適切な回答を導き出します。豊富な企業データ、デジタルデータ、そして経営幹部のプロフィールに基づいて提案を行うため、推測する必要はありません。

私たちのエージェントは完璧でしょうか？いいえ。世界最大の企業でさえ、まだ完璧なAIを開発している人はいません。しかし、問題に正面から向き合うことは、無視するよりもはるかに良いことです。

幻覚を減らしたいですか？AIに十分な量の 高品質のデータ.

もし幻覚を起こしているなら、修正が必要なのはAIではないかもしれません。もしかしたら、これらの強力な新機能を正しく活用するための時間と労力を費やさずに、それを活用しようとするあなたのアプローチに問題があるのか​​もしれません。