LLMエージェントの機会と課題を解明する

私たちは、Generative AIアプリケーションが、プロンプトから検索を伴う生成（RAG）まで、そしてエージェントまで、進化しているのを目撃しています。エージェントは、業界と研究の分野で広く話題されており、その主な理由は、エンタープライズアプリケーションを変革し、優れた顧客体験を提供するためのこの技術の力です。エージェントを構築するための共通のパターンがあります。これらは、人工一般知能（AGI）への第一歩を可能にします。

以前の記事では、LLMパワードアプリケーションを構築するための知能の階梯パターンを見ました。プロンプトから始めて、問題ドメインをキャプチャし、LLMの内部メモリを使用して出力を生成します。RAGでは、プロンプトに外部の知識を追加して出力を制御します。次に、LLM呼び出しを連結して、複雑なアプリケーションを実現するワークフローを構築できます。エージェントは、これらのLLMチェーンをどのように形成するかを自動的に決定することで、これを次のレベルに引き上げます。詳しく見てみましょう。

エージェント – 内部メカニズム

エージェントの重要なパターンは、LLMの言語理解能力を使用して、与えられた問題を解決するための計画を立てることです。LLMは問題を理解し、問題を解決するためのステップのシーケンスを提供します。ただし、そこで終わりません。エージェントは、問題を解決するための推奨事項を提供し、それからバトンを渡すだけの純粋なサポートシステムではありません。エージェントは、行動を起こすためのツールでエンパワーメントされています。怖いですね！？

私たちがエージェントに基本的な質問をすると、

人間: 電話の発明者はどの会社を設立しましたか。

以下は、エージェントが取る可能性のある思考ステップのサンプルです。

エージェント（思考）:

• 思考: 電話の発明者を検索する必要があります。
• 行動: 検索[電話の発明者]
• 観察: アレクサンダー・グラハム・ベル
• 思考: アレクサンダー・グラハム・ベルによって設立された会社を検索する必要があります
• 行動: 検索[アレクサンダー・グラハム・ベルによって設立された会社]
• 観察: アレクサンダー・グラハム・ベルは1885年にアメリカン・テレフォン・アンド・テレグラフ・カンパニー（AT&T）を共同設立しました
• 思考: 答えを見つけたので、返します。

エージェント（応答）: アレクサンダー・グラハム・ベルは1885年にAT&Tを共同設立しました

エージェントは、問題を解決するために、特定のアクションを取ることができるサブ問題に分解する方法的な方法を使用していることがわかります。ここでのアクションは、LLMによって推奨され、特定のツールにマッピングして実装できます。検索ツールをエージェントに有効にした場合、LLMが検索をアクションとして提供したときに、エージェントはそのツールを呼び出してパラメータを提供できます。ここでの検索はインターネット上で行われますが、内部の知識ベースであるベクトルデータベースを検索するようにリダイレクトすることもできます。システムは теперь自己完結型となり、複雑な問題を解決するためのステップのシーケンスを決定できます。LangChainやLLaMAIndexなどのフレームワークを使用すると、エージェントを構築してツールとAPIに接続することが簡単になります。Amazonは最近、エージェントの設計用のビジュアルインターフェースを提供するBedrockエージェントフレームワークを発表しました。

エージェントは内部で、LLMにアクションプランを生成するようにプロンプトを送信する特殊なスタイルを使用します。上記の思考-行動-観察パターンは、ReAct（Reasoning and Acting）と呼ばれるエージェントのタイプで人気があります。他のタイプのエージェントには、MRKLとPlan & Executeがあり、主にプロンプトスタイルが異なります。

より複雑なエージェントの場合、アクションは、ソースシステムに変更を加えるツールに接続される場合があります。たとえば、エージェントを、休暇残高を確認し、ERPシステムで従業員のために休暇を申請するツールに接続できます。ここで、ユーザーと対話し、チャットコマンドでシステムに休暇を申請することができるチャットボットを構築できます。申請するための複雑な画面は不要で、シンプルな統一されたチャットインターフェースになります。興奮します！

注意点と責任あるAIの必要性

しかし、事前に承認されたAPIを使用して株式取引を実行するツールがあるとします。エージェントが株式の変化を研究し（ツールを使用）、あなたの代わりに買売を決定するアプリケーションを構築します。エージェントが間違った株式を売却するのは、幻覚を見て間違った決定を下したからです。LLMは巨大なモデルであるため、決定の理由を特定するのは難しいため、幻覚は適切なガードレールがない場合に一般的です。

エージェントはすべて魅力的ですが、間違ったアクションを取って、巨額の金銭的損失やエンタープライズシステムの重大な問題を引き起こす可能性があるため、危険であることはおそらくわかっているでしょう。したがって、LLMパワードアプリケーションの時代に、責任あるAIは非常に重要になっています。責任あるAIの原則は、エージェントが下した決定にガードレールを設け、人間の介入が必要なアクションを決定するためのリスク分析を提案することを目指しています。より複雑なエージェントが設計されるにつれて、より厳格な検討、透明性、説明責任が必要になります。

結論

エージェントが論理的なステップのパスを生成し、アクションを実行する能力は、人間の推論に非常に近いものです。より強力なツールでエージェントをエンパワーメントすると、超能力を与えることができます。ReActのようなパターンは、人間が問題を解決する方法を模倣しようとします。特定のコンテキストやドメイン（銀行、保険、ヘルスケア、産業など）に適したより良いエージェントパターンが見られるでしょう。未来はここにあり、エージェントの背後にある技術は私たちが使用する準備ができています。同時に、Skynet!を構築しないことを確認するために、責任あるAIのガードレールに注意を払う必要があります。