사상 리더

대형 언어 모델(Large Language Model, LLM)이 미래의 애플리케이션을 구동하는 방법

Dattaraj Rao
Unite.AI를 Google의 선호 소스에 추가
핵심 포인트에이전트는 GPT-4와 같은 고급 LLM을 사용하여 동적으로 작업을 계획하고 자율적으로 체인을 구축합니다.
더 보기
  • 에이전트는 GPT-4와 같은 고급 LLM을 사용하여 동적으로 작업을 계획하고 자율적으로 체인을 구축합니다.
  • 체인은 여러 LLM 호출과 외부 데이터를 결합하여 결정론적 애플리케이션 워크플로를 생성합니다.
  • 임베딩은 벡터 데이터베이스에서 검색된 컨텍스트를 활용하여 LLM이 쿼리에 답변할 수 있도록 합니다.

생성적 인공지능, 특히 언어 형태의 인공지능은 ChatGPT와 같은 기술이 모든 곳에 존재한다. 대형 언어 모델(Large Language Model, LLM) 기술은 미래의 애플리케이션 개발에서 중요한 역할을 할 것이다. 기반 모델이 코드를 포함한 수조 줄의 공개 텍스트로 광범위하게 사전학습되었기 때문에 LLM은 언어를 매우 잘 이해한다. 지도 미세조정과 인간 피드백을 활용한 강화학습(RLHF)은 구체적인 질문에 답하고 사용자와 대화하는 능력을 더욱 높인다. LLM 기반 AI 앱의 다음 단계에서는 아래 요소들이 핵심이 된다. 아래 그림의 단계를 올라갈수록 애플리케이션의 지능과 자율성이 높아진다. 각 단계를 살펴보자.

LLM 호출:

LLM 호출은 Azure OpenAI, Google PaLM, Amazon Bedrock 같은 LLM 제공업체가 제공하는 완성 또는 채팅 모델에 대한 직접 호출이다. 이러한 호출에는 매우 기본적인 프롬프트가 있으며 대부분 내부 메모리를 사용하여 출력을 생성한다.

예시: 기본 모델인 “text-davinci”에 “농담을 해줘”라고 요청하는 경우, 모델은 내부 사전 훈련된 메모리를 사용하여 응답을 생성한다이때 주어지는 맥락은 매우 적다(아래 그림에서 Azure OpenAI를 사용한 부분이 녹색으로 표시되어 있다).

프롬프트:

지능의 다음 단계는 프롬프트에 더 많은 컨텍스트를 추가하는 것이다. LLM에 적용할 수 있는 프롬프트 엔지니어링 기술이 있다. 예를 들어, 사용자에게 이메일을 생성할 때, 사용자에 대한 컨텍스트, 과거 구매 내역 및 행동 패턴을 프롬프트로 사용하여 이메일을 더 잘 맞춤설정할 수 있다. ChatGPT에 익숙한 사용자는 LLM이 응답을 구성할 때 참고할 예시를 제공하는 등의 다양한 프롬프팅 방법을 알고 있을 것이다. 프롬프트는 LLM의 내부 메모리를 추가 컨텍스트로 보강한다.

임베딩:

임베딩은 프롬프트를 다음 단계로 끌어올리는 것으로, 지식 저장소를 검색하여 컨텍스트를 얻고 이를 프롬프트에 추가한다. 첫 번째 단계는 큰 문서 저장소를 생성하여 비정형 텍스트를 색인화하고 벡터 데이터베이스를 채우는 것이다. 이를 위해 OpenAI의 ‘ada’와 같은 임베딩 모델을 사용하여 텍스트를 n차원 벡터로 변환한다. 이러한 임베딩은 텍스트의 컨텍스트를 캡처하여 유사한 문장이 벡터 공간에서 가까운 임베딩을 갖는다. 사용자가 쿼리를 입력하면, 쿼리도 임베딩으로 변환되어 데이터베이스의 벡터와 일치한다. 이렇게 쿼리와 가장 잘 맞는 텍스트 조각 5~10개를 검색하여 맥락으로 삼는다. 쿼리와 이 맥락을 LLM에 전달하여 인간과 같은 방식으로 응답을 생성한다.

체인:

현재 체인은 가장 발전된 기술로, 광범위하게 사용되고 있다. 체인은 결정론적이며, LLM 호출의 순서가 연결되어 하나의 출력이 하나 이상의 LLM으로 흐른다. 예를 들어, SQL 데이터베이스를 쿼리하여 고객 이메일 목록을 얻고, 이를 다른 LLM으로 전달하여 개인화된 이메일을 생성할 수 있다. 이러한 LLM 체인은 기존 애플리케이션 흐름에 통합하여 더 가치 있는 결과를 생성할 수 있다. 체인을 사용하여 API 호출 같은 외부 입력 및 지식 그래프를 통합하여 컨텍스트를 제공할 수 있다. 또한 OpenAI, AWS Bedrock, Google PaLM, MosaicML 등 여러 제공업체의 LLM 호출을 하나의 체인에 혼합할 수 있다. 지능이 적게 필요한 단계에는 ‘gpt3.5-turbo’ 같은 모델을, 더 복잡한 작업에는 ‘gpt4’를 사용할 수 있다. 체인은 데이터, 애플리케이션과 LLM 호출을 추상화한다.

에이전트:

에이전트는 범용 인공지능(AGI)와 관련하여 많은 온라인 논쟁의 주제이다. 에이전트는 사전 정의된 체인이 아닌 작업을 계획하기 위해 ‘gpt4’나 ‘PaLM2’ 같은 고급 LLM을 사용한다. 사용자 요청이 있을 때, 에이전트는 쿼리 기반으로 작업 세트를 결정하고 동적으로 체인을 구축한다. 예를 들어, 에이전트를 “정부 규제 업데이트로 대출 연이율(APR)이 변경되면 고객에게 알림”이라는 명령으로 구성할 수 있다. 에이전트 프레임워크는 LLM 호출을 통해 단계 또는 체인을 결정한다. 여기에서는 규제 웹사이트를 스크레이핑하여 최신 APR을 추출하고, 데이터베이스를 검색하여 영향을 받는 고객 이메일을 추출하고, 이를 알리는 이메일을 생성한다.

최종 생각

LLM은 빠르게 발전하는 기술이며, 더 나은 모델과 애플리케이션이 매주 출시되고 있다. LLM에서 에이전트까지는 지능 사다리이며, 위로 올라갈수록 복잡한 자율 애플리케이션을 구축한다. 더 나은 모델은 더 효과적인 에이전트를 의미하며, 차세대 애플리케이션은 이러한 에이전트에 의해 구동될 것이다. 시간이 지나면 차세대 애플리케이션이 얼마나 발전할지와 어떤 패턴으로 구동될지 알 수 있을 것이다.

Dattaraj Rao, Persistent Systems의 수석 데이터 과학자는 “Keras to Kubernetes: The Journey of a Machine Learning Model to Production”이라는 책의 저자입니다. Persistent Systems에서 Dattaraj는 컴퓨터 비전, 자연어 이해, 확률적 프로그래밍, 강화 학습, 설명 가능한 AI 등 최첨단 알고리즘을 탐구하는 AI 연구소를 이끌며 의료, 금융, 산업 분야에서 적용 가능성을 보여줍니다. Dattaraj는 기계 학습과 컴퓨터 비전 분야에서 11개의 특허를 보유하고 있습니다.