LLM 에이전트의 기회와 도전을 해독하는 것

우리는 프롬프트에서 검색 보강 생성(RAG)까지, 그리고 에이전트까지의 생성적 인공지능 애플리케이션의 진행을 보게 됩니다. 에이전트는 산업 및 연구 분야에서 크게 논의되고 있으며, 주로 기업 애플리케이션을 변革하고 우수한 고객 경험을 제공하는 데 필요한 기술력을 제공하기 때문입니다. 에이전트를 구축하는 공통된 패턴이 있으며, 이는 인공 일반 지능(AGI)의 첫 번째 단계를 가능하게 합니다.

이전의 기사에서, 우리는 LLM 기반 애플리케이션을 구축하는 지능의 사다리를 보았습니다. 프롬프트에서 시작하여 문제 도메인을 캡처하고 LLM 내부 메모리를 사용하여 출력을 생성합니다. RAG에서는 프롬프트를 외부 지식과 함께 검색하여 출력을 제어합니다. 다음으로 LLM 호출을 연결하여 복잡한 애플리케이션을 구축할 수 있습니다. 에이전트는 이러한 LLM 체인을 자동으로 결정하여 다음 단계로 이동합니다. 자세히 살펴보겠습니다.

에이전트 – 내부 작동

에이전트의 핵심 패턴은 LLM의 언어 이해 능력을 사용하여 주어진 문제를 해결하는 계획을 수립하는 것입니다. LLM은 문제를 이해하고 문제를 해결하는 일련의 단계를 제공합니다. 그러나 여기서 끝나지 않습니다. 에이전트는 단순한 지원 시스템이 아닙니다. 에이전트는 문제를 해결하는 추천을 제공하고 사용자가 추천된 단계를 수행하도록 넘기는 것이 아닙니다. 에이전트는 도구를 사용하여 작업을 수행할 수 있습니다. 무서워요!?

예를 들어, 에이전트에게 다음과 같은 기본적인 질문을 합니다.

인간: 전화의 발명자가 설립한 회사는 무엇인가?

다음은 에이전트가 생각할 수 있는 단계의 샘플입니다.

에이전트 (생각):

• 생각: 전화의 발명자를 검색해야 합니다.
• 작업: 검색 [전화의 발명자]
• 관찰: 알렉산더 그레이엄 벨
• 생각: 알렉산더 그레이엄 벨이 설립한 회사를 검색해야 합니다.
• 작업: 검색 [알렉산더 그레이엄 벨이 설립한 회사]
• 관찰: 알렉산더 그레이엄 벨은 1885년에 AT&T를 공동 설립했습니다.
• 생각: 답을 찾았습니다. 반환합니다.

에이전트 (응답): 알렉산더 그레이엄 벨은 1885년에 AT&T를 공동 설립했습니다.

에이전트는 문제를 해결하기 위해 체계적인 방법을 따릅니다. 에이전트는 LLM이 제공한 작업을 수행하기 위해 도구를 사용할 수 있습니다. 우리는 에이전트를 검색 도구와 연결하여 LLM이 작업을 제공할 때 자동으로 검색을 수행할 수 있습니다. 검색은 인터넷에서 수행할 수 있지만 내부 지식 베이스인 벡터 데이터베이스로 리디렉션할 수도 있습니다. 시스템은 이제 자체적으로 작동하며 복잡한 문제를 해결하는 일련의 단계를 따라갈 수 있습니다. LangChain이나 LLaMAIndex와 같은 프레임워크를 사용하여 이러한 에이전트를 구축하고 도구와 API에 연결할 수 있습니다. 아마존은 최근 Bedrock 에이전트 프레임워크를 출시하여 에이전트를 설계하기 위한 시각적 인터페이스를 제공합니다.

에이전트는 LLM에 특정한 프롬프트를 보내서 작업 계획을 생성하도록 합니다. 위의 생각-작업-관찰 패턴은 ReAct(Reasoning and Acting)라는 에이전트 유형에서 인기 있습니다. 다른 유형의 에이전트에는 MRKL과 Plan & Execute가 있으며, 주로 프롬프트 스타일이 다릅니다.

보다 복잡한 에이전트의 경우, 작업은 원본 시스템에 변경을 일으키는 도구에 연결될 수 있습니다. 예를 들어, 에이전트를 휴가 잔액을 확인하고 ERP 시스템에서 휴가를 신청하는 도구에 연결할 수 있습니다. 이제 사용자와 상호 작용하는 채팅봇을 구축하여 시스템에서 휴가를 신청할 수 있습니다. 복잡한 화면이 필요 없습니다. 단순한統一된 채팅 인터페이스입니다. 흥미롭습니다!

주의 사항과 책임 있는 AI의 필요성

그러나 전자 거래를 위한 사전 승인된 API를 호출하는 도구가 있다고 가정해 보겠습니다. 에이전트가 주식 변동을 분석하고(도구를 사용하여) 매수와 매도를 결정하는 애플리케이션을 구축했습니다. 에이전트가 잘못된 주식을 판다고 가정해 보겠습니다. 왜냐하면 그것은 환상에 빠져 잘못된 결정을 내렸기 때문입니다. LLM은巨大한 모델이기 때문에 어떤 결정을 내리는지 정확히 알기 어렵습니다. 따라서 책임 있는 AI는 LLM 기반 애플리케이션의時代에서 매우 중요합니다. 책임 있는 AI의 원칙은 에이전트가 내린 결정에 대한 가이드를 제공하고, 위험 분석을 통해 인간의 개입이 필요한 작업을 결정합니다. 더 복잡한 에이전트가 설계됨에 따라, 더 많은 검토, 투명성, 책임성이 필요합니다.

마무리 생각

에이전트가 논리적인 단계와 작업을 생성하는 능력은 인간의推論에 매우 근접합니다. 더 강력한 도구를 제공하면 超能力을 가질 수 있습니다. ReAct와 같은 패턴은 인간이 문제를 해결하는 방식을 모방하고, 우리는 특정 컨텍스트와 도메인(은행, 보험, 의료, 산업 등)에 관련된 더好的 에이전트 패턴을 볼 수 있을 것입니다. 미래는 이미 여기 있으며 에이전트를 위한 기술은 준비되어 있습니다. 그러나 우리는 책임 있는 AI의 가이드를 주의 깊게 지켜야 합니다. 스카이넷을 구축하지 않도록 해야 합니다!