RAGからスクラッチを作成するためのLLMエージェントの構築とその先：包括的なガイド

LLM（大規模言語モデル）のように、GPT-3、GPT-4、およびそのオープンソースの代替品は、最新の情報の取得に苦労したり、時には妄想や不正確な情報を生成したりすることがあります。

Retrieval-Augmented Generation（RAG）は、LLMの力を外部の知識取得と組み合わせる技術です。RAGにより、LLMの応答を事実に基づいた最新の情報で裏付けることができ、AI生成コンテンツの精度と信頼性を大幅に向上させることができます。

このブログ投稿では、RAGの基礎から始めて、LLMエージェントの構築方法、詳細なアーキテクチャ、実装の詳細、そして高度なテクニックについて掘り下げていきます。

LLMエージェントを構築する前に、RAGが何であるか、そしてなぜ重要であるかを理解しましょう。

RAG、またはRetrieval-Augmented Generationは、情報取得とテキスト生成を組み合わせたハイブリッドアプローチです。RAGシステムでは：

• クエリを使用して、知識ベースから関連するドキュメントを取得します。
• これらのドキュメントを、元のクエリとともに言語モデルに供給します。
• モデルは、クエリと取得した情報に基づいて応答を生成します。

RAG

このアプローチには以下のような利点があります：

• 精度の向上：取得した情報に基づいて応答を生成することで、RAGは妄想を減らし、事実の精度を向上させます。
• 最新の情報：知識ベースを定期的に更新することで、システムは最新の情報にアクセスできます。
• 透明性：システムは情報源を提供できるため、信頼性が高まり、事実確認が可能になります。

LLMエージェントの理解

LLM Powered Agents

複雑な問題に直面したとき、単純な答えがない場合、複数のステップを踏み、慎重に考え、既に試したことを思い出す必要があります。LLMエージェントは、言語モデルのアプリケーションにおけるこれらの種の状況に特化して設計されています。データ分析、戦略的計画、データ取得、過去の行動から学ぶ能力を組み合わせて、複雑な問題を解決します。

LLMエージェントとは何か

LLMエージェントは、複雑なテキストを生成するために設計された高度なAIシステムです。シーケンシャルな推論を必要とする複雑なテキストを生成できます。未来を予測し、過去の会話を思い出し、状況とスタイルに応じて応答を調整することができます。

例えば、法的な分野での質問として、「カリフォルニア州で特定の種類の契約違反の潜在的な法的結果は何ですか？」とします。基本的なLLMとRAGシステムを使用して、法的なデータベースから必要な情報を取得できます。

さらに詳細なシナリオとして、「新しいデータプライバシー法の光で、企業が直面する一般的な法的課題は何ですか？また、裁判所はこれらの問題に対処するためにどのように対応していますか？」この質問は、単に事実を調べることよりも深い理解を必要とします。新しいルール、企業への影響、裁判所の対応について理解することです。LLMエージェントは、このタスクをサブタスクに分解し、最新の法律を取得し、歴史的なケースを分析し、法的文書を要約し、パターンに基づいて傾向を予測することができます。

LLMエージェントの構成要素

LLMエージェントは一般的に、4つの構成要素で構成されています：

1. エージェント/ブレイン：言語を処理し、理解するためのコア言語モデルです。
2. 計画：推論し、タスクを分解し、具体的な計画を立てる能力です。
3. メモリ：過去のやり取りの記録を保持し、そこから学習します。
4. ツールの使用：さまざまなリソースを統合してタスクを実行します。

エージェント/ブレイン

LLMエージェントの核心は、言語を理解するための言語モデルです。これは、大量のデータでトレーニングされています。特定のプロンプトを与えることで、エージェントに応答方法、使用するツール、目標を指示できます。エージェントを特定のタスクややり取りに適したペルソナでカスタマイズできます。

メモリ

メモリの構成要素は、LLMエージェントが複雑なタスクを処理するのに役立ちます。メモリには2つの種類があります：

• 短期メモリ：現在の会話を追跡するためのノートのような機能です。
• 長期メモリ：過去のやり取りから学習し、パターンを認識し、より良い決定を下すためのダイアリーのような機能です。

これらのメモリを組み合わせることで、エージェントはよりカスタマイズされた応答を提供し、ユーザーの好みを時間の経過とともに覚えることができます。

計画

計画は、LLMエージェントが推論し、タスクを分解し、計画を適応させることを可能にします。計画には2つの主要な段階があります：

• 計画の作成：タスクを小さなサブタスクに分解します。
• 計画の反省：計画の有効性を評価し、フィードバックを組み込んで戦略を改良します。

Chain of Thought（CoT）やTree of Thought（ToT）などの手法は、この分解プロセスに役立ち、エージェントが問題を解決するためのさまざまなパスを探索できるようにします。

AIエージェントの現在の能力と将来の可能性についてさらに深く知りたい場合は、「Auto-GPT & GPT-Engineer: Today’s Leading AI Agentsについての詳細ガイド」を参照してください。

環境の設定

RAGエージェントを構築するには、開発環境を設定する必要があります。Pythonといくつかの重要なライブラリを使用します：

• LangChain：LLMと取得コンポーネントのオーケストレーションに使用します。
• Chroma：ドキュメントの埋め込みを保存するベクトルストアとして使用します。
• OpenAIのGPTモデル：ベースのLLMとして使用します（好みに応じてオープンソースモデルに置き換えることができます）。
• FastAPI：エージェントとやり取りするためのシンプルなAPIを作成するために使用します。

環境の設定を開始しましょう：

<p># 新しい仮想環境を作成します
python -m venv rag_agent_env
source rag_agent_env/bin/activate # Windowsの場合は「rag_agent_env\Scripts\activate」を使用します</p>

<p># 必要なパッケージをインストールします
pip install langchain chromadb openai fastapi uvicorn

次に、rag_agent.pyという名前の新しいPythonファイルを作成し、必要なライブラリをインポートします：

<p>from langchain.embeddings import OpenAIEmbeddings
from langchain.vectorstores import Chroma
from langchain.text_splitter import CharacterTextSplitter
from langchain.llms import OpenAI
from langchain.chains import RetrievalQA
from langchain.document_loaders import TextLoader
import os</p>

<p># OpenAI APIキーを設定します
os.environ["OPENAI_API_KEY"] = "your-api-key-here"</p>

シンプルなRAGシステムの構築

環境が設定されたので、基本的なRAGシステムを構築しましょう。知識ベースを作成し、そこからクエリに答えることができます。

ステップ1：ドキュメントの準備

まず、ドキュメントを読み込み、準備します。この例では、knowledge_base.txtというテキストファイルにAIと機械学習に関する情報が含まれているとします。

<p># ドキュメントを読み込みます
loader = TextLoader("knowledge_base.txt")
documents = loader.load()</p>

<p># ドキュメントをチャンクに分割します
text_splitter = CharacterTextSplitter(chunk_size=1000, chunk_overlap=0)
texts = text_splitter.split_documents(documents)</p>

<p># 埋め込みを作成します
embeddings = OpenAIEmbeddings()</p>

<p># ベクトルストアを作成します
vectorstore = Chroma.from_documents(texts, embeddings)</p>

ステップ2：取得ベースのQAチェーンの作成

次に、取得ベースのQAチェーンを作成します：

<p># 取得ベースのQAチェーンを作成します
qa = RetrievalQA.from_chain_type(llm=OpenAI(), chain_type="stuff", retriever=vectorstore.as_retriever())</p>

ステップ3：システムのクエリ

RAGシステムにクエリを投げることができます：

<p>query = "機械学習の主な応用は何ですか？"
result = qa.run(query)
print(result)</p>

ステップ4：LLMエージェントの作成

シンプルなRAGシステムは便利ですが、かなり限界があります。エージェントを高度なテクニックで強化し、より複雑なタスクを実行できるようにしましょう。

LLMエージェントは、ツールを使用し、行動についての決定を下すことができるAIシステムです。質問に答えるだけでなく、ウェブ検索や基本的な計算も実行できるエージェントを作成します。

まず、エージェントのツールを定義します：

<p>from langchain.agents import Tool
from langchain.tools import DuckDuckGoSearchRun
from langchain.tools import BaseTool
from langchain.agents import initialize_agent
from langchain.agents import AgentType</p>

<p># 計算機ツールを定義します
class CalculatorTool(BaseTool):
name = "Calculator"
description = "数学に関する質問に答えるのに役立ちます"</p>

<p>def _run(self, query: str)
try:
return str(eval(query))
except:
return "計算できませんでした。入力が有効な数学的式であることを確認してください。"</p>

<p># ツールのインスタンスを作成します
search = DuckDuckGoSearchRun()
calculator = CalculatorTool()</p>

<p># ツールを定義します
tools = [Tool(name="Search", func=search.run, description="現在のイベントに関する質問に答えるのに役立ちます"),
Tool(name="RAG-QA", func=qa.run, description="AIと機械学習に関する質問に答えるのに役立ちます"),
Tool(name="Calculator", func=calculator._run, description="数学的な計算を実行するのに役立ちます")
]</p>

<p># エージェントを初期化します
agent = initialize_agent(tools, OpenAI(temperature=0), agent=AgentType.ZERO_SHOT_REACT_DESCRIPTION, verbose=True
)</p>

今、RAGシステム、ウェブ検索、計算を実行できるエージェントができました。テストしてみましょう：

<p>result = agent.run("教師あり学習と教師なし学習の違いは何ですか？また、80の15%は何ですか？")
print(result)</p>

このエージェントは、LLMエージェントの重要な利点を示しています。複数のツールと推論ステップを組み合わせて、複雑なクエリに答えることができます。

エージェントの高度なRAGテクニックによる強化

現在のRAGシステムはうまく機能していますが、パフォーマンスを向上させるために使用できる高度なテクニックがいくつかあります：

a) Dense Passage Retrieval（DPR）を使用したセマンティック検索

単純な埋め込みベースの取得ではなく、DPRを使用してより正確なセマンティック検索を実装できます：

<p>from transformers import DPRQuestionEncoder, DPRContextEncoder</p>

<p>question_encoder = DPRQuestionEncoder.from_pretrained("facebook/dpr-question_encoder-single-nq-base")
context_encoder = DPRContextEncoder.from_pretrained("facebook/dpr-ctx_encoder-single-nq-base")</p>

<p># パッセージをエンコードする関数
def encode_passages(passages):
return context_encoder(passages, max_length=512, return_tensors="pt").pooler_output</p>

<p># クエリをエンコードする関数
def encode_query(query):
return question_encoder(query, max_length=512, return_tensors="pt").pooler_output</p>

b) クエリの拡張

クエリの拡張を使用して取得のパフォーマンスを向上させることができます：

<p>from transformers import T5ForConditionalGeneration, T5Tokenizer</p>

<p>model = T5ForConditionalGeneration.from_pretrained("t5-small")
tokenizer = T5Tokenizer.from_pretrained("t5-small")</p>

<p>def expand_query(query):
input_text = f"expand query: {query}"
input_ids = tokenizer.encode(input_text, return_tensors="pt")
outputs = model.generate(input_ids, max_length=50, num_return_sequences=3)
expanded_queries = [tokenizer.decode(output, skip_special_tokens=True) for output in outputs]
return expanded_queries</p>

c) 反復的改良

エージェントが初期の取得を明確化または拡張するためのフォローアップ質問を出すことができる反復的改良プロセスを実装できます：

<p>def iterative_retrieval(initial_query, max_iterations=3):
query = initial_query
for _ in range(max_iterations):
result = qa.run(query)
clarification = agent.run(f"Based on this result: '{result}', what follow-up question should I ask to get more specific information?")
if clarification.lower().strip() == "none":
break
query = clarification
return result</p>

# この関数をエージェントのプロセスで使用します

マルチエージェントシステムの実装

より複雑なタスクを処理するために、マルチエージェントシステムを実装できます。ここでは、異なるエージェントが異なる分野に特化するシンプルな例を示します：

<p>class SpecialistAgent:
def __init__(self, name, tools):
self.name = name
self.agent = initialize_agent(tools, OpenAI(temperature=0), agent=AgentType.ZERO_SHOT_REACT_DESCRIPTION, verbose=True)</p>

<p>def run(self, query):
return self.agent.run(query)</p>

<p># スペシャリストエージェントを作成します
research_agent = SpecialistAgent("Research", [Tool(name="RAG-QA", func=qa.run, description="AIとMLに関する質問に答えるのに役立ちます")])
math_agent = SpecialistAgent("Math", [Tool(name="Calculator", func=calculator._run, description="計算に役立ちます")])
general_agent = SpecialistAgent("General", [Tool(name="Search", func=search.run, description="一般的な質問に答えるのに役立ちます")])</p>

<p>class Coordinator:
def __init__(self, agents):
self.agents = agents</p>

<p>def run(self, query):
# 使用するエージェントを決定します
if "calculate" in query.lower() or any(op in query for op in ['+', '-', '*', '/']):
return self.agents['Math'].run(query)
elif any(term in query.lower() for term in ['ai', 'machine learning', 'deep learning']):
return self.agents['Research'].run(query)
else:
return self.agents['General'].run(query)</p>

<p>coordinator = Coordinator({'Research': research_agent, 'Math': math_agent, 'General': general_agent})</p>

<p># マルチエージェントシステムをテストします
result = coordinator.run("CNNとRNNの違いは何ですか？また、120の25%は何ですか？")
print(result)</p>

このマルチエージェントシステムにより、専門化が可能になり、より幅広いクエリを効果的に処理できます。

RAGエージェントの評価と最適化

RAGエージェントがうまく機能していることを確認するために、評価メトリックと最適化テクニックを実装する必要があります：

a) 関連性の評価

BLEU、ROUGE、またはBERTScoreなどのメトリックを使用して、取得したドキュメントの関連性を評価できます：

from bert_score import score

<p>def evaluate_relevance(query, retrieved_doc, generated_answer):
P, R, F1 = score([generated_answer], [retrieved_doc], lang="en")
return F1.mean().item()</p>

b) 応答の品質の評価

人間の評価または自動メトリックを使用して、応答の品質を評価できます：

<p>from nltk.translate.bleu_score import sentence_bleu</p>

<p>def evaluate_answer_quality(reference_answer, generated_answer):
return sentence_bleu([reference_answer.split()], generated_answer.split())</p>

<p># この関数をエージェントの応答を評価するために使用します

将来の方向性と課題

RAGエージェントの将来について考える際に、以下のような興奮する方向性と課題が現れます：

a) マルチモーダルRAG：RAGを画像、音声、ビデオデータを含むように拡張します。

b) フェデレーテッドRAG：分散型、プライバシーを保った知識ベースにわたるRAGを実装します。

c) 継続的学習：RAGエージェントが知識ベースとモデルを時間の経過とともに更新する方法を開発します。

d) 倫理的考慮：RAGシステムにおける偏り、公平性、透明性に対処します。

e) スケーラビリティ：RAGを大規模なリアルタイムアプリケーションに最適化します。

結論

RAGからスクラッチを作成するためのLLMエージェントの構築は、複雑ですが、報われるプロセスです。RAGの基礎、シンプルなシステムの実装、LLMエージェントの作成、高度なテクニックによる強化、 マルチエージェントシステムの探索、評価と最適化の戦略について説明しました。