AGI 및 미래 AI
RAG를 사용한 LLM 에이전트 구축: 기본부터 고급까지의 종합 가이드
Unite.AI를 Google의 선호 소스에 추가
LLM은 GPT-3, GPT-4 및 그들의 오픈 소스 대응물과 같은 경우 최신 정보 검색에 어려움을 겪을 수 있으며 때때로 환각 또는 잘못된 정보를 생성할 수 있습니다.
검색 증강 생성(Retrieval-Augmented Generation, RAG)은 LLM의 강점과 외부 지식 검색을 결합하는 기술입니다. RAG를 사용하면 LLM 응답을 사실적인 최신 정보에 기반하여 정확도와 신뢰성을 크게 향상시킬 수 있습니다.
이 블로그 게시물에서는 RAG를 사용한 LLM 에이전트 구축 방법을探구하며, 기본부터 고급 तक의 아키텍처, 구현 세부 사항 및 고급 기술에 대해 다룰 것입니다. 우리는 RAG의 기본부터 복잡한推論 및 작업 실행이 가능한 정교한 에이전트 생성에 이르기까지 모든 것을 다룰 것입니다.
우리가 우리의 LLM 에이전트를 구축하기 전에 RAG가 무엇인지 및 왜 중요한지 이해해 보겠습니다.
RAG, 또는 검색 증강 생성은 정보 검색과 텍스트 생성을 결합하는 하이브리드 접근 방식입니다. RAG 시스템에서:
* 질의를 사용하여 지식 베이스에서 관련 문서를 검색합니다.
* 이러한 문서는 원래 질의와 함께 언어 모델에 입력됩니다.
* 모델은 검색된 정보와 질의를 기반으로 응답을 생성합니다.
이 접근 방식에는 다음과 같은 몇 가지 장점이 있습니다:
* 향상된 정확도: 검색된 정보를 기반으로 응답을 생성함으로써 RAG는 환각을 줄이고 사실적 정확도를 향상시킵니다.
* 최신 정보: 지식 베이스는 정기적으로 업데이트할 수 있으므로 시스템은 최신 정보에 액세스할 수 있습니다.
* 투명성: 시스템은 정보에 대한 출처를 제공할 수 있으므로 신뢰도를 높이고 사실 확인을 허용합니다.
LLM 에이전트 이해
LLM 에이전트는 복잡한 텍스트 생성에 필요한 순차적 推論을 위한 고급 AI 시스템입니다. 이러한 에이전트는 미래를 예상할 수 있으며 과거 대화와 다른 도구를 사용하여 상황과 스타일에 따라 응답을 조정할 수 있습니다.
LLM 에이전트란 무엇입니까?
LLM 에이전트는 복잡한 텍스트 생성에 필요한 순차적 推論을 위한 고급 AI 시스템입니다. 이러한 에이전트는 미래를 예상할 수 있으며 과거 대화와 다른 도구를 사용하여 상황과 스타일에 따라 응답을 조정할 수 있습니다.
예를 들어 법률 분야에서 다음과 같은 질문이 있을 수 있습니다: “캘리포니아에서 특정 유형의 계약 위반에 대한 잠재적인 법적 결과는 무엇입니까?” 기본 LLM과 RAG 시스템을 사용하면 법률 데이터베이스에서 필요한 정보를 검색할 수 있습니다.
보다 자세한 시나리오: “새로운 데이터 개인 정보 보호 법에 비추어 기업들이 직면하는 일반적인 법적 도전은 무엇이며 법원이 이러한 문제를 어떻게 해결했는지?” 이 질문은 단순히 사실을 조회하는 것보다 더 깊이 있는 것입니다. 새로운 규칙을 이해하고, 다양한 회사에 미치는 영향 및 법원의 반응을 분석하는 것입니다. LLM 에이전트는 작업을 하위 작업으로 나누는 것과 같이 더 복잡한 작업을 수행할 수 있습니다.
LLM 에이전트의 구성 요소
LLM 에이전트는 일반적으로 다음과 같은 네 가지 구성 요소로 구성됩니다:
- 에이전트/브레인: 언어를 처리하고 이해하는 핵심 언어 모델입니다.
- 계획: 작업을 분해하고 특정 계획을 개발하는 능력입니다.
- 기억: 과거 상호 작용의 기록을 유지하고 그로부터 학습합니다.
- 도구 사용: 다양한 리소스를 통합하여 작업을 수행합니다.
에이전트/브레인
LLM 에이전트의 핵심은 언어를 처리하고 이해하는 언어 모델입니다. 이 모델은 특정 프롬프트를 제공하여 에이전트가 어떻게 응답하고, 어떤 도구를 사용하며, 어떤 목표를 달성해야 하는지 지시합니다. 에이전트를 특정 작업이나 상호 작용에 적합한 페르소나로 사용자 정의할 수 있습니다.
기억
기억 구성 요소는 LLM 에이전트가 복잡한 작업을 처리할 수 있도록 과거 상호 작용의 기록을 유지합니다. 두 가지 유형의 기억이 있습니다:
- 단기 기억: 진행 중인 대화의 진행 상황을 추적하는 메모장과 같은 역할을 합니다.
- 장기 기억: 과거 상호 작용에서 정보를 저장하여 패턴을 학습하고 더 나은 결정을 내릴 수 있도록 합니다.
이 두 유형의 기억을 결합하여 에이전트는 더 개인화된 응답을 제공하고 시간이 지남에 따라 사용자 선호도를 기억할 수 있습니다.
계획
계획은 LLM 에이전트가 작업을 분해하고, 작업을 더 작은 부분으로 나누고, 작업이 진행됨에 따라 계획을 조정할 수 있도록 합니다. 계획에는 두 가지 주요 단계가 있습니다:
- 계획 수립: 작업을 더 작은 하위 작업으로 나누는 것입니다.
- 계획 반성: 계획의 효과를 평가하고, 피드백을 통합하여 전략을 개선하는 것입니다.
사슬思考(Chain of Thought) 및 트리思考(Tree of Thought)와 같은 방법을 사용하여 작업을 분해하고, 에이전트가 문제를 해결하기 위한 다양한 경로를 탐색할 수 있습니다.
환경 설정
우리의 RAG 에이전트를 구축하기 위해 개발 환경을 설정해야 합니다. Python 및 몇 가지 주요 라이브러리를 사용할 것입니다:
- LangChain: LLM 및 검색 구성 요소를 오케스트레이션하는 데 사용됩니다.
- Chroma: 문서 임베딩을 위한 벡터 저장소로 사용됩니다.
- OpenAI의 GPT 모델: 기본 LLM으로 사용됩니다(원한다면 오픈 소스 모델로 대체할 수 있습니다).
- FastAPI: 에이전트와 상호 작용하기 위한 간단한 API를 생성하는 데 사용됩니다.
다음과 같이 환경을 설정해 보겠습니다:
# 새로운 가상 환경을 생성합니다. python -m venv rag_agent_env source rag_agent_env/bin/activate # Windows의 경우 `rag_agent_env\Scripts\activate`를 사용합니다. # 필요한 패키지를 설치합니다. pip install langchain chromadb openai fastapi uvicorn
이제 새로운 Python 파일을 생성하여 필요한 라이브러리를 가져오겠습니다:
from langchain.embeddings import OpenAIEmbeddings from langchain.vectorstores import Chroma from langchain.text_splitter import CharacterTextSplitter from langchain.llms import OpenAI from langchain.chains import RetrievalQA from langchain.document_loaders import TextLoader import os # OpenAI API 키를 설정합니다. os.environ["OPENAI_API_KEY"] = "your-api-key-here"
간단한 RAG 시스템 구축
이제 환경을 설정했으므로 기본 RAG 시스템을 구축해 보겠습니다. 지식 베이스를 생성하고 이를 사용하여 질의에 응답하는 것으로 시작하겠습니다.
단계 1: 문서 준비
먼저 문서를 로드하고 준비해야 합니다. 이 예제에서는 AI 및 기계 학습에 대한 정보가 포함된 knowledge_base.txt라는 텍스트 파일이 있다고 가정하겠습니다.
# 문서를 로드합니다.
loader = TextLoader("knowledge_base.txt")
documents = loader.load()
# 문서를 청크로 분할합니다.
text_splitter = CharacterTextSplitter(chunk_size=1000, chunk_overlap=0)
texts = text_splitter.split_documents(documents)
# 임베딩을 생성합니다.
embeddings = OpenAIEmbeddings()
# 벡터 저장소를 생성합니다.
vectorstore = Chroma.from_documents(texts, embeddings)
단계 2: 검색 기반 QA 체인 생성
이제 벡터 저장소가 있으므로 검색 기반 QA 체인을 생성할 수 있습니다:
# 검색 기반 QA 체인을 생성합니다. qa = RetrievalQA.from_chain_type(llm=OpenAI(), chain_type="stuff", retriever=vectorstore.as_retriever())
단계 3: 시스템에 질의
이제 시스템에 질의할 수 있습니다:
query = "기계 학습의 주요 응용 분야는 무엇입니까?" result = qa.run(query) print(result)
단계 4: LLM 에이전트 생성
우리의 간단한 RAG 시스템은 유용하지만 제한적입니다. 더 복잡한 작업을 수행할 수 있는 LLM 에이전트를 생성하여 이를 향상시켜 보겠습니다.
LLM 에이전트는 도구를 사용하고 작업을 수행하기 위한 결정에 대해 생각할 수 있는 AI 시스템입니다. 웹 검색 및 기본 계산을 수행할 수 있는 에이전트를 생성하겠습니다.
다음과 같이 도구를 정의하겠습니다:
from langchain.agents import Tool from langchain.tools import DuckDuckGoSearchRun from langchain.tools import BaseTool from langchain.agents import initialize_agent from langchain.agents import AgentType # 계산기 도구를 정의합니다. class CalculatorTool(BaseTool): name = "Calculator" description = "수학 문제를 해결할 때 유용합니다." def _run(self, query: str) -> str: try: return str(eval(query)) except: return "계산할 수 없습니다. 입력이 유효한 수학식인지 확인하세요." # 도구 인스턴스를 생성합니다. search = DuckDuckGoSearchRun() calculator = CalculatorTool() # 도구를 정의합니다. tools = [ Tool(name="Search", func=search.run, description="현재 이벤트에 대한 질문에 유용합니다."), Tool(name="RAG-QA", func=qa.run, description="AI 및 기계 학습에 대한 질문에 유용합니다."), Tool(name="Calculator", func=calculator._run, description="수학 계산을 수행해야 할 때 유용합니다.") ] # 에이전트를 초기화합니다. agent = initialize_agent(tools, OpenAI(temperature=0), agent=AgentType.ZERO_SHOT_REACT_DESCRIPTION, verbose=True)
이제 우리는 RAG 시스템, 웹 검색 및 계산을 수행할 수 있는 에이전트를 생성했습니다. 이를 테스트해 보겠습니다:
result = agent.run("지도 학습과 비지도 학습의 차이는 무엇입니까? 또한 80의 15%는 무엇입니까?")
print(result)
이 에이전트는 LLM 에이전트의 주요优势을 보여줍니다. 즉, 여러 도구와 推論 단계를 결합하여 복잡한 질의에 응답할 수 있습니다.
RAG 고급 기술로 에이전트 향상
우리의 현재 RAG 시스템은 잘 작동하지만 몇 가지 고급 기술을 사용하여 성능을 향상시킬 수 있습니다.
a) DPR을 사용한 의미 검색
단순한 임베딩 기반 검색 대신 더 정확한 의미 검색을 위해 DPR을 구현할 수 있습니다:
from transformers import DPRQuestionEncoder, DPRContextEncoder
question_encoder = DPRQuestionEncoder.from_pretrained("facebook/dpr-question_encoder-single-nq-base")
context_encoder = DPRContextEncoder.from_pretrained("facebook/dpr-ctx_encoder-single-nq-base")
# 패스지를 인코딩하는 함수
def encode_passages(passages):
return context_encoder(passages, max_length=512, return_tensors="pt").pooler_output
# 질의를 인코딩하는 함수
def encode_query(query):
return question_encoder(query, max_length=512, return_tensors="pt").pooler_output
b) 질의 확장
검색 성능을 개선하기 위해 질의 확장을 사용할 수 있습니다:
from transformers import T5ForConditionalGeneration, T5Tokenizer
model = T5ForConditionalGeneration.from_pretrained("t5-small")
tokenizer = T5Tokenizer.from_pretrained("t5-small")
def expand_query(query):
input_text = f"expand query: {query}"
input_ids = tokenizer.encode(input_text, return_tensors="pt")
outputs = model.generate(input_ids, max_length=50, num_return_sequences=3)
expanded_queries = [tokenizer.decode(output, skip_special_tokens=True) for output in outputs]
return expanded_queries
c) 반복적 개선
에이전트가 초기 검색에 대한 후속 질문을 묻고 자세한 정보를 얻을 수 있도록 반복적 개선 프로세스를 구현할 수 있습니다:
def iterative_retrieval(initial_query, max_iterations=3):
query = initial_query
for _ in range(max_iterations):
result = qa.run(query)
clarification = agent.run(f"Based on this result: '{result}', what follow-up question should I ask to get more specific information?")
if clarification.lower().strip() == "none":
break
query = clarification
return result
다중 에이전트 시스템 구현
보다 복잡한 작업을 처리하기 위해 다양한 분야에 전문가인 여러 에이전트로 구성된 다중 에이전트 시스템을 구현할 수 있습니다. 다음은 간단한 예입니다:
class SpecialistAgent:
def __init__(self, name, tools):
self.name = name
self.agent = initialize_agent(tools, OpenAI(temperature=0), agent=AgentType.ZERO_SHOT_REACT_DESCRIPTION, verbose=True)
def run(self, query):
return self.agent.run(query)
# 전문가 에이전트를 생성합니다.
research_agent = SpecialistAgent("Research", [Tool(name="RAG-QA", func=qa.run, description="AI 및 ML 질문에 유용합니다.")])
math_agent = SpecialistAgent("Math", [Tool(name="Calculator", func=calculator._run, description="수학 계산에 유용합니다.")])
general_agent = SpecialistAgent("General", [Tool(name="Search", func=search.run, description="일반 질문에 유용합니다.")])
class Coordinator:
def __init__(self, agents):
self.agents = agents
def run(self, query):
# 에이전트를 결정합니다.
if "calculate" in query.lower() or any(op in query for op in ["+", "-", "*", "/"]):
return self.agents["Math"].run(query)
elif any(term in query.lower() for term in ["ai", "machine learning", "deep learning"]):
return self.agents["Research"].run(query)
else:
return self.agents["General"].run(query)
coordinator = Coordinator({"Research": research_agent, "Math": math_agent, "General": general_agent})
# 다중 에이전트 시스템을 테스트합니다.
result = coordinator.run("CNN과 RNN의 차이는 무엇입니까? 또한 120의 25%는 무엇입니까?")
print(result)
이 다중 에이전트 시스템은 전문 분야에 따라 에이전트를 분리하여 더广泛한 질의를 처리할 수 있습니다.
RAG 에이전트 평가 및 최적화
우리의 RAG 에이전트가 잘 작동하는지 확인하려면 평가 지표와 최적화 기술을 구현해야 합니다:
a) 관련성 평가
검색된 문서의 관련성을 평가하기 위해 BLEU, ROUGE 또는 BERTScore와 같은 지표를 사용할 수 있습니다:
from bert_score import score def evaluate_relevance(query, retrieved_doc, generated_answer): P, R, F1 = score([generated_answer], [retrieved_doc], lang="en") return F1.mean().item()
b) 답변 품질 평가
답변의 품질을 평가하기 위해 인간 평가 또는 자동화된 지표를 사용할 수 있습니다:
from nltk.translate.bleu_score import sentence_bleu def evaluate_answer_quality(reference_answer, generated_answer): return sentence_bleu([reference_answer.split()], generated_answer.split())
미래 방향 및 도전
RAG 에이전트의 미래를 살펴보면 다음과 같은 몇 가지 흥미로운 방향과 도전이 있습니다:
* 다중 모달 RAG: 이미지, 오디오 및 비디오 데이터를 포함하는 RAG를 확장합니다.
* 연합 RAG: 분산된 개인 정보 보호 지식 베이스에서 RAG를 구현합니다.
* 연속 학습: RAG 에이전트가 지식 베이스와 모델을 시간이 지남에 따라 업데이트할 수 있는 방법을 개발합니다.
* 윤리적 고려: RAG 시스템에서 편향, 공정성 및 투명성을 해결합니다.
* 확장성: 대규모 실시간 애플리케이션을 위한 RAG를 최적화합니다.
결론
RAG를 사용한 LLM 에이전트를 구축하는 것은 복잡하지만 보람 있는 과정입니다. 우리는 RAG의 기본, 구현, 고급 기술 및 다중 에이전트 시스템을 다루었으며, 평가 및 최적화 전략에 대해 논의했습니다. 이 가이드는 RAG의 중요성, 정보 검색과 텍스트 생성을 결합하는 방법, Python 및 주요 라이브러리(LangChain 및 Chroma)를 사용하여 개발 환경을 설정하는 단계별 지침을 제공합니다. 또한 LLM 에이전트를 생성하고, 고급 기술로 향상시키고, 다중 에이전트 시스템을 구현하는 방법에 대해 다룹니다. RAG 에이전트를 구축하여 복잡한 작업을 수행하고, 지식 베이스를 업데이트하고, 모델을 최적화하는 방법을 배우세요.
