AI 모델 및 플랫폼

AutoGen: 차세대 대규모 언어 모델 애플리케이션 구동

Kunal Kejriwal
Unite.AI를 Google의 선호 소스에 추가
The AutoGen Framework
핵심 포인트AutoGen은 맞춤형 다중 에이전트 대화를 통해 복잡한 LLM 워크플로우를 자동화하여 개발 시간과 수작업을 획기적으로 줄입니다.
더 보기
  • AutoGen은 맞춤형 다중 에이전트 대화를 통해 복잡한 LLM 워크플로우를 자동화하여 개발 시간과 수작업을 획기적으로 줄입니다.
  • 이 프레임워크의 핵심 혁신은 자연어와 코드를 통해 에이전트를 조율하여 동적으로 과제를 해결하는 대화형 프로그래밍입니다.
  • AutoGen은 다중 에이전트 시스템을 접근성 높고 재사용 가능하게 만들어 수학 교육부터 대화형 체스까지 6가지 새로운 애플리케이션을 가능하게 합니다.

대규모 언어 모델(LLM)은 현재 주류 AI에서 가장 많이 논의되는 주제 중 하나입니다. 개발자들은 전 세계에서 LLM의 잠재적인 애플리케이션을 탐색하고 있습니다. 이러한 모델은 딥러닝 기술과 방대한 양의 훈련 데이터를 사용하여 광범위한 콘텐츠를 이해, 요약, 예측 및 생성하는 AI 알고리즘입니다. 이러한 콘텐츠에는 텍스트, 오디오, 이미지, 비디오 등이 포함됩니다.

대규모 언어 모델은 복잡한 AI 알고리즘입니다. 이러한 모델을 개발하는 것은 어려운 작업이며, LLM의 기능을 활용하는 애플리케이션을 구축하는 것도 마찬가지로 어렵습니다. 개발자는 이러한 워크플로우를 설계, 구현 및 최적화하기 위해 상당한 전문 지식, 노력 및 자원을 투입해야 합니다. LLM을 사용하는 애플리케이션을 개발하는 데 필요한 워크플로우를 자동화하는 것은 매우 중요합니다. 특히 이러한 워크플로우는 향후 더욱 복잡해질 것으로 예상되며, 개발자들은 더욱 복잡한 LLM 기반 애플리케이션을 개발할 것입니다. 또한 이러한 워크플로우에 필요한 설계 공간은 복잡하고 광범위하여, 기대 성능을 충족하는 최적의 강력한 워크플로우를 구축하는 데 더욱 많은 도전이 있습니다.

AutoGen은 마이크로소프트 팀에서 개발한 프레임워크로, LLM 워크플로우의 오케스트레이션 및 최적화를 자동화하여 간소화하는 것을 목표로 합니다. AutoGen 프레임워크는 대화형 및 사용자 정의 에이전트를 제공하며, 이러한 에이전트는 GPT-3 및 GPT-4와 같은 고급 LLM의 기능을 활용할 수 있습니다. 또한 AutoGen은 이러한 LLM을 도구 및 인간 입력과 통합해 현재의 한계를 보완하며 자동 채팅을 통해 여러 에이전트 간의 대화를 시작합니다.

(MSFT )

AutoGen 프레임워크를 사용하면, 복잡한 다중 에이전트 대화 시스템을 개발하는 데 필요한 단계는 두 가지입니다.

단계 1: 각 에이전트의 역할 및 기능을 정의합니다.

단계 2: 에이전트 간의 상호 작용을 정의합니다. 즉, 한 에이전트가 다른 에이전트로부터 메시지를 받았을 때 어떻게 응답할지 정의합니다.

위의 두 단계는 모듈식 및 직관적이므로 이러한 에이전트는 조합 가능하고 재사용할 수 있습니다. 아래 그림은 코드 기반 질문에 대한 대화형 시스템을 보여줍니다. 작가는 먼저 코드와 해석을 작성하고, 안전을 책임지는 에이전트는 코드의 개인 정보 및 안전을 보장합니다. 그런 다음 코드는 필요한 승인을 받은 후에 명령 에이전트에 의해 실행됩니다. 시스템이 런타임 중에 문제에 직면하면 프로세스가 완전히 해결될 때까지 반복됩니다. 이 프레임워크를 배포하면 공급망 최적화와 같은 애플리케이션에서 수동 상호 작용을 3배에서 10배까지 줄일 수 있습니다. 또한 AutoGen을 사용하면 코딩 노력을 최대 4배까지 줄일 수 있습니다.

AutoGen은 복잡한 애플리케이션을 개발하는 프로세스를 변혁할 수 있습니다. AutoGen을 사용하면 원하는 결과를 얻기 위해 필요한 수동 상호 작용을 줄일 수 있을 뿐만 아니라 이러한 복잡한 애플리케이션을 개발하는 데 필요한 코딩 노력을 줄일 수 있습니다. LLM 기반 애플리케이션을 개발하는 데 AutoGen을 사용하면 프로세스를 크게 가속화할 수 있을 뿐만 아니라 이러한 복잡한 애플리케이션을 개발하는 데 필요한 시간, 노력 및 자원을 줄일 수 있습니다.

이 기사에서는 AutoGen 프레임워크에 대해 더 깊이 다루어보고, AutoGen 프레임워크의 기본 구성 요소 및 아키텍처를 살펴보고, 잠재적인 애플리케이션을 탐구해 보겠습니다. 그러면 시작해 보겠습니다.

AutoGen 소개: 차세대 대규모 언어 모델 애플리케이션 구동

AutoGen은 마이크로소프트 팀에서 개발한 오픈 소스 프레임워크로, 개발자가 LLM의 기능을 활용하여 여러 에이전트가 대화할 수 있는 애플리케이션을 개발할 수 있도록 합니다. AutoGen의 에이전트는 대화형 및 사용자 정의 가능하며, 도구, 인간 입력, LLM을 조합하는 다양한 모드로 작동할 수 있습니다. 개발자는 또한 AutoGen 프레임워크를 사용하여 에이전트의 상호 작용을 정의할 수 있으며, 개발자는 컴퓨터 코드 및 자연어를 사용하여 유연한 대화 패턴을 프로그래밍할 수 있습니다. 오픈 소스 프레임워크이므로 AutoGen은 개발자가 다양한 복잡도의 애플리케이션 및 프레임워크를 구축하는 데 사용할 수 있는 일반적인 프레임워크로 간주될 수 있습니다.

대규모 언어 모델은 다양한 실제 애플리케이션에서 새로운 관찰, 도구 사용 및 추론에 적응하는 에이전트를 개발하는 데 중요한 역할을 합니다. 그러나 이러한 애플리케이션을 개발하는 것은 복잡한 문제입니다. LLM 수요 및 애플리케이션이 증가하고, 작업의 복잡성이 증가함에 따라, 이러한 에이전트의 기능을 여러 에이전트를 사용하여 강화하는 것이 중요합니다.그러나 어떻게하면 여러 에이전트를 사용하여 다양한 도메인에서 다양한 복잡도의 LLM 기반 애플리케이션을 개발할 수 있을까요? AutoGen 프레임워크는 여러 에이전트의 대화를 사용하여 이러한 질문에 답하려고 합니다.

AutoGen: 구성 요소 및 프레임워크

개발자가 다양한 도메인에서 복잡한 애플리케이션을 개발하는 데 필요한 노력을 줄이기 위해, AutoGen의 기본 원리는 여러 에이전트의 대화를 사용하여 다중 에이전트 워크플로우를 통합하고 간소화하면서 구현된 에이전트의 재사용성을 높이는 것입니다. AutoGen은 여러 에이전트를 사용하여 원하는 작업을 수행하며, 프레임워크는 두 가지 기본 개념으로 구성됩니다: 대화형 에이전트 및 대화형 프로그래밍.

대화형 에이전트

AutoGen의 대화형 에이전트는 미리 정의된 역할을 가진 엔티티로, 다른 대화형 에이전트와 메시지를 주고받을 수 있습니다. 대화형 에이전트는 받은 또는 보낸 메시지에 따라 내부 컨텍스트를 유지하며, 개발자는 이러한 에이전트를 고유한 기능을 갖도록 구성할 수 있습니다.

에이전트 기능: 인간, 도구 및 LLM

에이전트의 기능은 메시지에 대한 처리 및 응답과 직접 관련이 있습니다. AutoGen은 에이전트에 대한 몇 가지 일반적인 구성 가능한 기능을 지원합니다.

  1. LLM: LLM을 사용하는 에이전트는 상태에 대한 암묵적 추론, 역할극, 피드백 제공, 코딩 같은 고급 기능을 활용합니다. 개발자는 새로운 프롬프트 기법으로 이런 기능을 결합해 에이전트의 자율성과 역량을 높일 수 있습니다.
  2. 인간: 일부 애플리케이션은 인간의 참여가 필요합니다. AutoGen은 인간의 지원을 받는 에이전트를 통해 대화에 인간이 참여하도록 할 수 있습니다. 에이전트는 설정에 따라 특정 대화 차례에 사용자 입력을 요청할 수 있습니다.
  3. 도구: 도구의 지원을 받는 에이전트는 코드 실행 또는 함수 실행을 사용하여 도구를 실행할 수 있습니다.

에이전트 협력 및 사용자 정의

개발자는 애플리케이션의 구체적인 필요와 요구 사항에 따라 개별 에이전트를 구성하여 여러 에이전트가 함께 작동하도록 할 수 있습니다. AutoGen은 기본 에이전트를 확장하거나 재사용하여 특수한 역할과 기능을 쉽게 부여할 수 있게 합니다. 아래 그림의 최상위 에이전트 추상화인 ConversableAgent 클래스는 기본적으로 인간, 도구, LLM을 사용할 수 있습니다. UserProxyAgent와 AssistantAgent는 일반적인 사용 방식을 위해 미리 설정된 ConversableAgent 클래스입니다. LLM 기반 AI 도우미로 작동하거나, 도구 및 인간을 바탕으로 사용자를 대신해 입력을 요청하고 함수 호출이나 코드를 실행합니다.

아래 그림은 개발자가 맞춤형 응답 함수를 갖춘 두 에이전트 시스템을 만드는 방법과, 프로그램 실행 중 두 에이전트가 나누는 자동 대화의 예를 보여 줍니다.

대화형 에이전트는 AutoGen 프레임워크의 기본 구성 요소입니다. 그러나 개발자는 이러한 다중 에이전트 대화를 지정하고, 이러한 에이전트가 지정된 작업에서 실질적인 진행을 할 수 있도록 해야 합니다.

대화형 프로그래밍

위의 문제를 해결하기 위해, AutoGen 프레임워크는 대화형 프로그래밍을 사용합니다. 이는 두 가지 기본 개념으로 구성됩니다: 계산, 에이전트가 응답을 계산하는 작업 및 제어 흐름, 이러한 계산이 발생하는 조건 또는 순서입니다. 개발자는 두 요소를 프로그래밍해 다양한 유연한 다중 에이전트 대화 패턴을 구현합니다. 계산은 대화 중심으로 이루어지고, 각 에이전트의 행동은 해당 대화와 연관되어 메시지 전달과 후속 대화로 이어집니다. 이 과정은 종료 조건이 충족될 때까지 계속됩니다. 어떤 에이전트가 계산 과정에 메시지를 보내고 받는지도 참여 에이전트들의 대화에 따라 결정됩니다.

위 그림은 각 에이전트가 역할에 맞는 작업과 대화 중심 계산을 수행해 코드 실행 및 LLM 추론 호출 같은 응답을 만드는 과정을 보여 줍니다. 작업은 대화 상자에 표시된 대화를 통해 진행됩니다.

AutoGen 프레임워크는 대화형 프로그래밍을 지원하기 위해 다음 디자인 패턴을 제공합니다.

  • 자동 응답 메커니즘 및 자동 에이전트 채팅을 위한 통합 인터페이스

AutoGen 프레임워크는 대화 중심 계산을 위한 통합 인터페이스를 제공합니다. 메시지를 받거나 보내는 receive/send 함수와, 받은 메시지에 따라 응답을 생성하고 필요한 행동을 수행하는 generate_reply 함수가 포함됩니다. 에이전트 자동 응답 메커니즘도 기본으로 제공되어 대화를 통한 제어를 구현합니다.

  • 자연어와 프로그래밍을 결합한 제어

AutoGen은 LLM을 이용한 자연어 제어, 프로그래밍 언어 제어, 프로그래밍과 자연어 사이의 제어 전환 같은 다양한 제어 흐름 패턴을 지원합니다.

미리 정해진 흐름을 따르는 정적 대화뿐 아니라 여러 에이전트 사이의 동적 대화도 지원합니다. 개발자는 다음 두 방법을 사용할 수 있습니다.

  1. 함수 호출을 사용합니다.
  2. 맞춤형 generate_reply 함수를 사용합니다.

AutoGen의 애플리케이션

AutoGen 프레임워크의 잠재적인 애플리케이션을 보여주기 위해, 실제 활용과의 관련성, AutoGen이 향상시키는 문제 해결 능력, 혁신 가능성을 기준으로 여섯 가지 애플리케이션을 선택했습니다.

이 6개의 애플리케이션은

  1. 수학 문제 해결
  2. 검색 증강 대화
  3. ALF 대화
  4. 다중 에이전트 코딩
  5. 동적 그룹 채팅
  6. 대화형 체스

AutoGen 프레임워크의 애플리케이션

애플리케이션 1: 수학 문제 해결

수학은 LLM으로 복잡한 문제를 해결하는 핵심 분야로, AI 연구 지원과 개인 맞춤형 AI 교육 등 새로운 활용 가능성을 열어 줍니다.

위 그림은 AutoGen으로 수학 문제 해결에서 경쟁력 있는 성능을 달성하는 사례를 보여 줍니다.

애플리케이션 2: 질의응답 및 검색 증강 코드 생성

최근 몇 달 동안 검색 증강 코드 생성은 LLM이 외부 문서를 활용할 때의 한계를 극복하는 효과적이고 실용적인 접근법으로 부상했습니다. 아래 그림은 AutoGen이 검색 증강을 효과적으로 수행하고 질의응답 성능을 높이는 방법을 보여 줍니다.

애플리케이션 3: 텍스트 세계 환경에서의 의사 결정

AutoGen은 온라인 또는 상호작용 방식으로 의사결정을 하는 애플리케이션을 만드는 데 사용할 수 있습니다. 아래 그림은 환경에 근거를 연결하는 에이전트를 포함한 세 에이전트 대화 시스템이 성능을 크게 높이는 방법을 보여 줍니다.

애플리케이션 4: 다중 에이전트 코딩

개발자는 OptiGuide 프레임워크로 최적화된 솔루션을 구현하는 코드를 작성하고 사용자 질문에 답하는 다중 에이전트 코딩 시스템을 만들 수 있습니다. 아래 그림은 특히 안전장치가 필요한 코딩 작업에서 다중 에이전트 설계가 전반적인 성능을 크게 높이는 모습을 보여 줍니다.

애플리케이션 5: 동적 그룹 채팅

AutoGen은 여러 에이전트가 맥락을 공유하며 미리 정해진 명령 순서를 따르는 대신 동적으로 대화하는 통신 패턴을 지원합니다. 진행 중인 대화가 에이전트 간 상호작용의 흐름을 이끕니다.

위 그림은 GroupChatManager라는 특수 에이전트가 에이전트 사이의 동적 그룹 채팅을 지원하는 방법을 보여 줍니다.

애플리케이션 6: 대화형 체스

개발팀은 AutoGen으로 자연어를 사용하는 대화형 체스 애플리케이션을 만들었습니다. 플레이어는 LLM 또는 인간일 수 있으며, 별도의 에이전트가 관련 정보를 제공하고 미리 정해진 표준 규칙에 따라 체스판의 수를 검증합니다. 아래 그림처럼 플레이어는 농담, 역할극, 밈을 사용해 자신의 수를 창의적으로 표현할 수 있어 플레이어뿐 아니라 관객과 관찰자에게도 더 흥미로운 게임이 됩니다.

결론

이 기사에서는 AutoGen 프레임워크에 대해 논의했습니다. AutoGen은 대화형 프로그래밍 및 대화형 에이전트를 사용하여 LLM 워크플로우의 오케스트레이션 및 최적화를 자동화하는 오픈 소스 프레임워크입니다. AutoGen은 대화형 및 사용자 정의 가능한 에이전트를 제공하며, 이러한 에이전트는 GPT-3와 GPT-4 같은 고급 LLM의 기능을 활용할 수 있습니다. 또한 AutoGen은 이러한 LLM을 도구 및 인간 입력과 통합해 현재의 한계를 보완하며 자동 채팅을 통해 여러 에이전트 간의 대화를 시작합니다.

AutoGen 프레임워크는 아직 초기 실험 단계에 있지만, 이는 미래의 탐색 및 연구 기회를 열어줍니다. 또한 AutoGen은 LLM의 기능을 활용하는 애플리케이션의 개발 속도, 기능 및 개발의 용이성을 향상시키는 도구가 될 수 있습니다.

Kunal Kejriwal은 Python, PostgreSQL, Redis 및 GCP와 AWS의 클라우드 인프라를 전문으로 하는 백엔드 엔지니어입니다. 3년간 실서비스 운영 시스템을 구축하고 확장한 경험을 바탕으로 AI 인프라, 분산 시스템, 그리고 머신러닝 워크로드 배포의 아키텍처에 대해 글을 씁니다.