사상 리더
생성형 AI에서 LLM 에이전트의 기회와 과제 살펴보기

핵심 포인트에이전트는 LLM을 활용하여 도구를 통해 자율적으로 행동을 계획하고 실행함으로써, 단순한 질의응답을 넘어 복잡한 문제 해결로 나아갑니다.
더 보기
- 에이전트는 LLM을 활용하여 도구를 통해 자율적으로 행동을 계획하고 실행함으로써, 단순한 질의응답을 넘어 복잡한 문제 해결로 나아갑니다.
- ReAct 에이전트 패턴은 문제를 검색 가능한 단계로 분해함으로써 인간의 사고 과정을 모방한 체계적인 추론을 보여줍니다.
- 에이전트의 행동이 환각(hallucination)이나 오류를 통해 현실 세계에 해를 끼칠 수 있으므로, 책임 있는 AI 가드레일이 중요합니다.
우리는 프롬프트에서 검색 보강 생성(RAG)까지, 그리고 에이전트까지의 생성형 인공지능 애플리케이션의 진행을 보게 됩니다. 에이전트는 산업 및 연구 분야에서 크게 논의되고 있으며, 주로 기업 애플리케이션을 변혁하고 우수한 고객 경험을 제공하는 데 필요한 기술력을 제공하기 때문입니다. 에이전트를 구축하는 공통된 패턴이 있으며, 이는 인공 일반 지능(AGI)의 첫 번째 단계를 가능하게 합니다.
이전의 기사에서, 우리는 LLM 기반 애플리케이션을 구축하는 지능의 사다리를 보았습니다. 프롬프트에서 시작하여 문제 도메인을 캡처하고 LLM 내부 메모리를 사용하여 출력을 생성합니다. RAG에서는 벡터 데이터베이스에서 검색한 외부 지식을 프롬프트에 추가하여 출력을 제어합니다. 다음으로 LLM 호출을 연결하여 복잡한 애플리케이션을 구축할 수 있습니다. 에이전트는 이러한 LLM 체인을 자동으로 결정하여 다음 단계로 이동합니다. 자세히 살펴보겠습니다.

에이전트 – 내부 작동
에이전트의 핵심 패턴은 LLM의 언어 이해 능력을 사용하여 주어진 문제를 해결하는 계획을 수립하는 것입니다. LLM은 문제를 이해하고 문제를 해결하는 일련의 단계를 제공합니다. 그러나 여기서 끝나지 않습니다. 에이전트는 단순한 지원 시스템이 아닙니다. 에이전트는 문제를 해결하는 추천을 제공하고 사용자가 추천된 단계를 수행하도록 넘기는 것이 아닙니다. 에이전트는 도구를 사용하여 작업을 수행할 수 있습니다. 무서워요!?
예를 들어, 에이전트에게 다음과 같은 기본적인 질문을 합니다.
인간: 전화의 발명자가 설립한 회사는 무엇인가?
다음은 에이전트가 생각할 수 있는 단계의 샘플입니다.
에이전트 (생각):
- 생각: 전화의 발명자를 검색해야 합니다.
- 작업: 검색 [전화의 발명자]
- 관찰: 알렉산더 그레이엄 벨
- 생각: 알렉산더 그레이엄 벨이 설립한 회사를 검색해야 합니다.
- 작업: 검색 [알렉산더 그레이엄 벨이 설립한 회사]
- 관찰: 알렉산더 그레이엄 벨은 1885년에 AT&T를 공동 설립했습니다.
- 생각: 답을 찾았습니다. 반환합니다.
에이전트 (응답): 알렉산더 그레이엄 벨은 1885년에 AT&T (T ) 를 공동 설립했습니다.
에이전트는 문제를 해결하기 위해 체계적인 방법을 따릅니다. 에이전트는 LLM이 제공한 작업을 수행하기 위해 도구를 사용할 수 있습니다. 우리는 에이전트를 검색 도구와 연결하여 LLM이 검색을 작업으로 제시하면 LLM이 제공한 매개변수로 그 도구를 호출하도록 할 수 있습니다. 검색은 인터넷에서 수행할 수 있지만 내부 지식 베이스인 벡터 데이터베이스로 리디렉션할 수도 있습니다. 시스템은 이제 자체적으로 작동하며 복잡한 문제를 해결하는 일련의 단계를 따라갈 수 있습니다. LangChain이나 LLaMAIndex와 같은 프레임워크를 사용하여 이러한 에이전트를 구축하고 도구와 API에 연결할 수 있습니다. 아마존 (AMZN )은 최근 Bedrock 에이전트 프레임워크를 출시하여 에이전트를 설계하기 위한 시각적 인터페이스를 제공합니다.
에이전트는 LLM에 특정한 프롬프트를 보내서 작업 계획을 생성하도록 합니다. 위의 생각-작업-관찰 패턴은 ReAct(Reasoning and Acting)라는 에이전트 유형에서 인기 있습니다. 다른 유형의 에이전트에는 MRKL과 Plan & Execute가 있으며, 주로 프롬프트 스타일이 다릅니다.
보다 복잡한 에이전트의 경우, 작업은 원본 시스템에 변경을 일으키는 도구에 연결될 수 있습니다. 예를 들어, 에이전트를 남은 휴가 일수을 확인하고 ERP 시스템에서 휴가를 신청하는 도구에 연결할 수 있습니다. 이제 사용자와 상호 작용하는 채팅봇을 구축하여 시스템에서 휴가를 신청할 수 있습니다. 복잡한 화면이 필요 없습니다. 단순한 통합 채팅 인터페이스입니다. 흥미롭습니다!
주의 사항과 책임 있는 AI의 필요성
사전 승인된 API를 사용해 주식 거래를 실행하는 도구가 있다고 가정해 봅시다. 도구로 주가 변동을 조사하고 사용자를 대신해 매수·매도를 결정하는 에이전트 애플리케이션을 만들 수 있습니다. 그런데 에이전트가 환각을 생성하고 잘못된 결정을 내려 엉뚱한 주식을 판다면 어떻게 될까요? LLM은 거대한 모델이므로 특정 결정을 내리는 이유를 정확히 짚기 어렵고, 적절한 안전장치가 없으면 환각이 흔히 발생합니다.
에이전트는 매력적이지만 얼마나 위험할 수 있는지도 짐작하셨을 것입니다. 환각 때문에 잘못된 행동을 실행하면 막대한 금전적 손실이나 기업 시스템의 중대한 문제를 초래할 수 있습니다. 따라서 LLM 기반 애플리케이션 시대에는 책임 있는 AI가 매우 중요합니다. 재현성, 투명성, 책임성이라는 원칙은 에이전트의 결정에 안전장치를 마련하고, 위험 분석을 통해 어느 행동에 인간의 검토가 필요한지 판단하도록 합니다. 더 복잡한 에이전트를 설계할수록 무엇을 하고 있는지 파악할 수 있도록 더 엄격한 검토와 투명성, 책임성이 필요합니다.
마무리 생각
에이전트가 논리적인 단계와 작업을 생성하는 능력은 인간의 추론에 매우 근접합니다. 더 강력한 도구를 제공하면 초능력을 가질 수 있습니다. ReAct와 같은 패턴은 인간이 문제를 해결하는 방식을 모방하고, 우리는 특정 컨텍스트와 도메인(은행, 보험, 의료, 산업 등)에 관련된 더 좋은 에이전트 패턴을 볼 수 있을 것입니다. 미래는 이미 여기 있으며 에이전트를 위한 기술은 준비되어 있습니다. 그러나 우리는 책임 있는 AI의 가이드를 주의 깊게 지켜야 합니다. 스카이넷을 구축하지 않도록 해야 합니다!












