ChatGPT 및 고급 프롬프트 엔지니어링: AI의 진화를 주도하는 기술

OpenAI는 혁신적인 도구인 OpenAI Gym과 GPT-n 모델을 개발하는데 중요한 역할을 했습니다. DALL-E라는 도구도 있습니다. 이 도구는 텍스트 입력을 받아 이미지로 변환하는 AI 모델입니다. OpenAI의 ChatGPT도 주목을 받고 있습니다. ChatGPT는 대형 언어 모델의 대표적인 예입니다.

GPT-4: 프롬프트 엔지니어링

ChatGPT는 채팅봇의 지평을 넓히며 인간과 같은 대화를 제공하고 다양한 분야에서 응용할 수 있습니다. 소프트웨어 개발과 테스트, 비즈니스 커뮤니케이션, 심지어 시 창작에도 활용할 수 있습니다.

비즈니스와 개인이 GPT-4를 사용할 수 있다면, 수학, 생물학, 법학 등 다양한 주제에 대한 지식을 제공할 수 있습니다. 이러한 고급 언어 모델은 작업, 학습, 창의성의 미래를 재정의할 수 있습니다.

생성 모델인 GPT-4는 기존 입력을 기반으로 새로운 데이터를 생성할 수 있습니다. 이 특징으로 다양한 작업을 수행할 수 있습니다. 텍스트, 이미지, 음악, 비디오 생성이 가능합니다.

OpenAI 모델과 ChatGPT의 경우, 프롬프트는 사용자가 모델에 제공하는 입력입니다. 보통 텍스트 형식입니다. 프롬프트는 모델이 생성하는 출력을 제어하는 주요 수단입니다. 따라서 성공적인 대화를 위해 프롬프트의 질이 중요합니다.

프롬프트 품질의 영향

정확하게 정의된 프롬프트를 사용하는 것이 AI 시스템과 유용한 대화를 하는 데 중요합니다. 잘못 정의된 프롬프트는 사용자에게 도움이 되지 않는 출력을 생성할 수 있습니다. 심지어 잘못된 정보를 생성할 수도 있습니다.

프롬프트 품질의 영향력을 보여주기 위해 두 가지 다른 프롬프트를 비교해 보겠습니다. 첫 번째 프롬프트는 잘못 정의되어 있고 이전 지식을 가정합니다. 두 번째 프롬프트는 더 많은 컨텍스트와 예를 제공하여 더 관련性이 높은 응답을 생성합니다.

프롬프트 1: “컨볼루셔널 신경망에 대해 설명해 주세요.”

응답 1: “컨볼루셔널 신경망은 완전히 연결된 계층과 풀링 계층으로 구성된 다층 퍼셉트론입니다. 이미지 인식 작업에서 자주 사용됩니다. 이 과정에서는 입력 이미지에 필터를 적용하고 풀링 계층을 사용하여 다운샘플링합니다.”

프롬프트 2: “컨볼루셔널 신경망에 대해 배워보고 싶습니다. 그러나 인공 신경망에 대한 이전 지식이 없습니다. 초보자에게 쉽게 설명해 주시고 예를 들어주세요.”

응답 2: “컨볼루셔널 신경망은 주로 이미지 인식 작업에 사용되는 신경망의 한 종류입니다. 다른 신경망과 달리 컨볼루셔널 계층과 풀링 계층을 사용하여 이미지를 처리합니다. 고양이의 이미지를 생각해 보세요. 컨볼루셔널 신경망은 필터를 적용하고 풀링 계층을 사용하여 이미지를 다운샘플링하여 고양이의 다양한 특징을 식별할 수 있습니다. 이 과정으로 컨볼루셔널 신경망은 이미지에서 객체를 인식하는 데 매우 효과적입니다.”

두 응답을 비교하면 잘 정의된 프롬프트가 더 관련성 있고 사용자 친화적인 응답을 생성한다는 것을 알 수 있습니다. 프롬프트 설계와 엔지니어링은 AI 모델의 출력 품질을 최적화하는 발전하는 분야입니다.

이 기사의 다음 섹션에서 우리는 대형 언어 모델을 정교화하기 위한 고급 방법론에 대해 다룰 것입니다. 프롬프트 엔지니어링 기술과 전략을 포함합니다. 이는 몇샷 학습, ReAct, 체인 오브 사고, RAG 등입니다.

고급 엔지니어링 기술

계속하기 전에 대형 언어 모델에서 발생하는 주요 문제인 ‘홀루시네이션’에 대해 이해하는 것이 중요합니다. 대형 언어 모델의 контек스트에서 ‘홀루시네이션’은 이러한 모델이 사실과 컨텍스트에 근거하지 않는 출력을 생성하는 경향을 나타냅니다.

이 문제는 최근 법정에서 발생한 사건에서 명확하게 나타났습니다. 여기서 변호사가 법적 연구를 위해 ChatGPT를 사용했습니다. AI 도구는 홀루시네이션 문제로 인해 존재하지 않는 법적 사례를 인용했습니다. 이 실수는 혼란을 일으켰고 신뢰를 저하했습니다. 이 사건은 대형 언어 모델에서 홀루시네이션 문제를 해결할 필요성을 강조합니다.

프롬프트 엔지니어링 기술을 탐색함으로써 우리는 이러한 모델의 효율성과 안전성을 향상시키는 방법을 찾을 수 있습니다. 정보 추출과 같은 혁신적인 응용 프로그램에 대한 길을 열어줍니다. 또한 외부 도구와 데이터 소스와의 통합을 가능하게 해서 이러한 모델의 잠재적인 사용을 넓히는 데 도움이 됩니다.

제로샷 및 페우샷 학습: 예제를 사용한 최적화

생성형 사전 학습 트랜스포머(GPT-3)는 ‘페우샷 학습‘이라는 개념을 도입했습니다. 이 방법은 광범위한 사용 사례에서 효과적으로 작동할 수 있기 때문에 게임 체인저였습니다. GPT-3 프레임워크는 “언어 모델은 페우샷 러너“라는 논문에서 논의되며, 모델이 다양한 사용 사례에서 사용자 지정 데이터셋이나 코드가 필요하지 않음을 보여줍니다.

파인튜닝과 달리 지속적인 노력이 필요한 사용 사례를 해결하는 데 페우샷 모델이 더 쉽게 적응할 수 있습니다. 페우샷 모델은 더 실용적인 접근 방식입니다. 특히 프롬프트 엔지니어링과 결합할 때 특히 그렇습니다.

영어를 프랑스어로 번역하려고 한다고 가정해 보세요. 페우샷 학습에서 GPT-3에 몇 가지 번역 예를 제공합니다. 예를 들어, “sea otter -> loutre de mer”와 같은 예를 제공합니다. GPT-3는 이러한 예를 기반으로 정확한 번역을 계속 제공할 수 있습니다.

제로샷 학습은 페우샷 학습의 한 단계 더 나아간 것입니다. 여기서 모델에 예를 제공하지 않습니다. GPT-3는 여전히 영어를 프랑스어로 번역할 수 있습니다.

‘페우샷 학습’이라는 용어는 모델이 ‘학습’하기 위해 제한된 수의 예를 받는다는 아이디어에서 유래했습니다. 이 컨텍스트에서 ‘학습’은 모델의 매개변수나 가중치를 업데이트하는 것을 의미하지 않습니다. 모델의 성능에 영향을 미칩니다.

GPT-3 논문에서示된 페우샷 학습

제로샷 학습은 이 개념을 한 단계 더 나아갑니다. 여기서 모델에 작업 완성을 위한 예를 제공하지 않습니다. 모델은 초기 훈련에 따라 잘 작동해야 하므로 제로샷 학습은 오픈 도메인 질문 응답과 같은 시나리오에서 이상적인 방법입니다.

많은 경우에 제로샷 학습에 능한 모델은 페우샷 또는 심지어 싱글샷 예제가 제공될 때도 잘 작동할 수 있습니다. 이러한 모델의 적응성은 다양한 도메인에서 잠재적인 응용 프로그램을 증가시킵니다.

제로샷 학습 방법은 점점 더 普遍해지고 있습니다. 이러한 방법은 훈련 중에 보지 못한 객체를 인식하는 능력을 특징으로 합니다. 여기 페우샷 프롬프트의 실제 예가 있습니다:

다음 영어 구문을 프랑스어로 번역해 주세요:

'sea otter'은 'loutre de mer'로 번역됩니다
'sky'는 'ciel'로 번역됩니다
'cloud'는 프랑스어로 무엇인가요?"

모델에 몇 가지 예를 제공하고 질문을 하면 모델이 원하는 출력을 생성하도록 지시할 수 있습니다. 이 경우 GPT-3는 ‘cloud’를 프랑스어로 ‘nuage’로 올바르게 번역할 것입니다.

프롬프트 엔지니어링의 다양한 세부 사항과 모델의 성능을 최적화하는 데 중요한 역할을 탐색할 것입니다. 또한 이러한 기술을 사용하여 비용 효율적이고 확장 가능한 솔루션을 다양한 사용 사례에 생성하는 방법에 대해 살펴보겠습니다.

GPT 모델의 프롬프트 엔지니어링 기술의 복잡성을 더 깊이 탐구할 때, 이전 게시물 ‘ChatGPT의 프롬프트 엔지니어링에 대한 필수 가이드‘를 강조하는 것이 중요합니다. 이 가이드는 다양한 사용 사례에서 AI 모델을 효과적으로 지시하는 전략에 대한 통찰력을 제공합니다.

이전 토론에서 우리는 대형 언어 모델에서 제로샷 및 페우샷 학습과 같은 기본 프롬프트 방법에 대해 논의했습니다. 이러한 기술을 마스터하는 것이 더 복잡한 프롬프트 엔지니어링의 도전을 탐색하기 위해 필수적입니다.

페우샷 학습은 대부분의 대형 언어 모델의 제한된 컨텍스트 창으로 인해 제한될 수 있습니다. 또한 적절한 안전 장치가 없으면 모델은 잠재적으로 유해한 출력을 생성할 수 있습니다. 많은 모델은 추론 작업이나 다단계 지시에 따라 수행하기 어렵습니다.

이러한 제한을 고려하여 대형 언어 모델을 사용하여 복잡한 작업을 수행하는 데 도전이 있습니다. 명백한 해결책은 더 발전된 모델을 개발하거나 기존 모델을 개선하는 것입니다. 그러나 이는 상당한 노력을 필요로 할 수 있습니다. 따라서 현재 모델을 최적화하여 문제 해결 능력을 향상시키는 방법은 무엇일까요?

Unite AI의 ‘AI 아트 마스터링: Midjourney 및 프롬프트 엔지니어링에 대한 간결한 가이드‘에서 이 기술이 창의적인 응용 프로그램과 어떻게 상호 작용하는지 탐구하는 것도 흥미롭습니다. 이 가이드는 AI와 예술의 융합이 놀라운 예술로 이어질 수 있음을 설명합니다.

체인 오브 사고 프롬프트

체인 오브 사고 프롬프트는 대형 언어 모델의 내재된 자기 회귀적 속성을 활용합니다. 이러한 모델은 주어진 시퀀스에서 다음 단어를 예측하는 데 탁월합니다. 모델에 사고 과정을 설명하도록 프롬프트하면 더 철저하고 체계적인 아이디어 생성을 유도합니다. 이는 모델이 정보를 처리하고 제공하는 방식이 인간 전문가가 복잡한 개념을 설명하는 방식과 유사합니다. “단계별로 설명해 주세요”와 같은 간단한 문장이 이 더 자세한 출력을 트리거하는 데 충분할 수 있습니다.

제로샷 체인 오브 사고 프롬프트

従来의 체인 오브 사고 프롬프트는 데모네이션으로의 사전 훈련을 필요로 하지만, 제로샷 체인 오브 사고 프롬프트는 새로운 영역입니다. 이 접근 방식은 Kojima et al. (2022)에서 도입되었으며, 원래 프롬프트에 “단계별로 생각해 보겠습니다”라는 문장을 추가합니다.

고급 프롬프트를 생성하여 ChatGPT가 AI 및 NLP 연구 논문의 주요 내용을 요약하도록 지시합니다.

이 데모에서 모델의 능력을 사용하여 학술 텍스트에서 복잡한 정보를 요약합니다. 페우샷 학습 접근 방식을 사용하여 ChatGPT를 AI 및 NLP 연구 논문의 주요 내용을 요약하도록 가르칩니다:

1. 논문 제목: "Attention Is All You Need"
주요 내용: 트랜스포머 모델을 도입하여 시퀀스 전달 작업에서 재귀 계층보다 주의 메커니즘의 중요성을 강조합니다.

2. 논문 제목: "BERT: Pre-training of Deep Bidirectional Transformers for Language Understanding"
주요 내용: BERT를 도입하여 심층 양방향 모델의 사전 훈련의 효과를 보여주며 다양한 NLP 작업에서 최적의 결과를 달성합니다.

이 예를 바탕으로 다음 논문의 주요 내용을 요약해 보세요:

논문 제목: "프롬프트 엔지니어링을 사용한 대형 언어 모델의 검토"

이 프롬프트는 체인 오브 사고를 유지하고 페우샷 학습 접근 방식을 사용하여 모델을 안내합니다. 또한 키워드에 초점을 맞추고 AI 및 NLP 도메인에 집중하여 프롬프트 엔지니어링과 관련된 복잡한 작업을 수행하도록 ChatGPT에 지시합니다.

리액트 프롬프트

리액트(React)는 “이유와 행동”을 의미하며, Google의 “리액트: 언어 모델에서 이유와 행동의 상호 작용“이라는 논문에서革命적으로 언어 모델이 작업과 상호 작용하는 방식을 소개했습니다. 모델은 동적 생성과 행동을 동시에 생성하도록 프롬프트합니다.

요리사와 같은 인간을 상상해 보세요. 요리사는 일련의 행동(채소를 자르기, 물을 끓이기, 재료를 섞기)을 수행하고 내부적 대화나 내적 언어를 사용합니다(“이제 채소가 잘려 있으니 냄비를 불에 올려야 합니다”). 이 내적 대화는 프로세스를 전략화하고突然한 변경 사항에 적응하며(“올리브 오일이 없으니 버터를 사용하겠습니다”) 작업 순서를 기억하는 데 도움이 됩니다. 리액트는 이 인간의 능력을 모방하여 모델이 빠르게 새로운 작업을 학습하고 불확실한 상황에서 강건한 결정을 내릴 수 있도록 합니다.

리액트는 체인 오브 사고(Chain-of-Thought) 시스템에서 발생하는 홀루시네이션 문제를 해결할 수 있습니다. 체인 오브 사고는 효과적인 기술이지만 외부 세계와 상호 작용할 수 없기 때문에 사실 홀루시네이션과 오류 전파를 일으킬 수 있습니다. 리액트는 외부 정보源과 상호 작용함으로써 이를 보완합니다. 이 상호 작용은 시스템이 не仅 이유를 검증할 수 있지만 최신 정보를 기반으로 지식을 업데이트할 수도 있도록 합니다.

리액트의 기본 작동은 HotpotQA와 같은 작업에서 볼 수 있습니다. HotpotQA는 높은 수준의 추론을 요구하는 작업입니다. 질문을 받으면 리액트 모델은 질문을 관리 가능한 부분으로 나누고 행동 계획을 생성합니다. 모델은 추론을 생성하고 관련 행동을 식별합니다. 모델은 외부 정보源(예: 위키백과)에서 정보를 조회할 수 있습니다. 여러 생각-행동-관찰 단계를 통해 리액트는 추론을 지원하는 정보를 검색하고 다음에 검색해야 할 내용을 정제할 수 있습니다.

참고:

HotpotQA는 위키백과에서 파생된 데이터셋으로, 113k개의 질문-답변 쌍으로 구성되어 있으며 문서 간 추론이 필요한 질문을 통해 AI 시스템을 훈련하기 위해 설계되었습니다. 반면에 CommonsenseQA 2.0은 게임화를 통해 생성되었으며 14,343개의 예/아니요 질문으로 구성되어 있으며 AI의 상식 이해를 도전하기 위해 의도적으로 설계되었습니다.

이 프로세스는 다음과 같을 수 있습니다:

1. 생각: “애플 리모트와 호환되는 장치를 검색해야 합니다.”
2. 행동: 외부 정보源에서 “애플 리모트 호환 장치”를 검색합니다.
3. 관찰: 검색 결과에서 애플 리모트와 호환되는 장치 목록을 얻습니다.
4. 생각: “검색 결과에 따르면 애플 리모트 외에도 여러 장치가 원래 설계된 프로그램을 제어할 수 있습니다.”

결과는 동적으로 발전하는 추론 기반 프로세스가 됩니다. 이 프로세스는 상호 작용하는 정보에 따라 발전할 수 있습니다. 이는 더 정확하고 신뢰할 수 있는 응답을 생성합니다.

HotpotQA와 AlfWorld(https://arxiv.org/pdf/2210.03629.pdf)에서 네 가지 프롬프트 방법(표준, 체인 오브 사고, 행동 전용, 리액트)의 비교 시각화

리액트 에이전트를 설계하는 것은 전문적인 작업입니다. Langchain과 같은 도구는 이러한 에이전트를 설계하는 것을 더 간단하게 합니다. 예를 들어, 대화 에이전트는 대화 메모리를 포함하여 보다 풍부한 상호 작용을 제공할 수 있습니다.

컨텍스트 신뢰 프롬프트

‘대형 언어 모델을 위한 컨텍스트 신뢰 프롬프트‘라는 논문은 대형 언어 모델이 지식 주도적인 NLP 작업에서 상당한 성공을 거두었음에도 불구하고, 이러한 모델이 매개변수 지식에過度 의존하여 컨텍스트 감소 작업에서 벗어날 수 있음을 강조합니다. 예를 들어, 언어 모델이 구식 事実로 훈련된 경우, 컨텍스트에서 제공되는 최신 정보를 무시하고 잘못된 답변을 생성할 수 있습니다.

지식 충돌은 컨텍스트에 있는 事實이 모델의 사전 지식과 다를 때 발생합니다. 예를 들어, 2022년 월드컵 이전에 데이터로 훈련된 대형 언어 모델이 컨텍스트에서 프랑스가 대회에서 우승했다는 정보를 받았을 때, 모델은仍然 이전 우승 팀이 현재 우승 팀이라고 주장할 수 있습니다. 이는 ‘지식 충돌’의典型적인 예입니다.

본질적으로, 지식 충돌은 컨텍스트에서 제공되는 새로운 정보가 모델의 사전 지식과 충돌할 때 발생합니다. 모델이 컨텍스트보다 사전 지식에 더 의존하여 잘못된 출력을 생성할 수 있습니다. 한편, 홀루시네이션은 모델이 事實이나 컨텍스트에 근거하지 않는 출력을 생성할 때 발생합니다.

또 다른 문제는 제공된 컨텍스트가 질문에 정확하게 답변하기에 충분한 정보를 포함하지 않는 경우입니다. 이는 ‘예측과 금지’라고 하는 상황입니다. 예를 들어, 모델이 컨텍스트에서 제공되지 않은 정보(예: 마이크로소프트의 설립자)에 대한 질문을 받으면 모델은 추측을 하지 말고 답변을 거부해야 합니다.

지식 충돌과 금지의 힘 예

이러한 시나리오에서 모델의 컨텍스트 신뢰도를提高하기 위해 연구자들은 여러 프롬프트 전략을 제안했습니다. 이러한 전략은 모델의 답변을 컨텍스트에 더 잘 맞추는 것을 목표로 합니다.

한 가지 전략은 프롬프트를 의견 기반 질문으로 프레임하는 것입니다. 여기서 컨텍스트는 내레이터의 진술로 해석되고 질문은 내레이터의 의견과 관련이 있습니다. 이 접근 방식은 모델의 주의를 컨텍스트로 돌립니다.

컨텍스트 충돌의 경우에 프롬프트에 반事實적 데모를 추가하는 것도 효과적인 방법으로 나타났습니다. 이러한 데모는 거짓 事實을 포함하는 시나리오를 제공하여 모델이 컨텍스트를 더 주의 깊게 읽어야 합니다.

지시 미세 조정

지시 미세 조정은 모델에 특정 지시를 제공하여 모델이 지시에 따라 행동하도록 하는 지도 학습 단계입니다. 예를 들어, “일출과 일몰의 차이를 설명해 주세요”와 같은 지시를 모델에 제공하고, 모델은 “일출은 아침에 지평선 위로 나타나는 순간을 말하며, 일몰은 저녁에 지평선 아래로 사라지는 순간을 말합니다”와 같은 답변을 제공합니다. 이 접근 방식은 모델이 지시에 따라 행동하도록 학습합니다.

이 접근 방식은 대형 언어 모델을 프롬프트하는 방식을 크게 변화시키는 데 기여합니다. 지시 미세 조정된 모델은 즉시 제로샷 작업을 수행할 수 있습니다. 모델이 아직 미세 조정되지 않은 경우, 몇 가지 예를 포함하여 프롬프트에 모델을 안내하는 페우샷 학습 접근 방식이 필요할 수 있습니다.

“GPT-4를 사용한 지시 미세 조정“은 GPT-4를 사용하여 지시 미세 조정된 모델을 미세 조정하는 데 사용할 수 있는 지시-추종 데이터를 생성하는 시도를 논의합니다. 52,000개의 고유한 지시-추종 항목이 포함된 데이터셋을 사용했습니다.

이 데이터셋은 지시 미세 조정을 위한 LLaMA 모델의 미세 조정에 중요한 역할을 합니다. LLaMA는 오픈 소스 시리즈의 대형 언어 모델입니다. 결과는 새로운 작업에서 제로샷 성능을 향상시킵니다. 주목할 만한 프로젝트인 스坦포드 알파카는 효율적인 방법으로 인간의 의도와 모델을 일치시키는 데 효과적으로 자체 지시 미세 조정을 사용했습니다.

지시 미세 조정 연구의 주요 목표는 대형 언어 모델의 제로샷 및 페우샷 일반화 능력을 향상시키는 것입니다. 더 많은 데이터와 모델 확장은 귀중한 통찰력을 제공할 수 있습니다. 현재 GPT-4 데이터 크기가 52K이고 기본 LLaMA 모델 크기가 7억 매개변수인 경우, 더 많은 GPT-4 지시-추종 데이터를 수집하고 다른 데이터 소스와 결합하여 더 큰 LLaMA 모델을 훈련하여 더 나은 성능을 달성할 수 있는巨大的 잠재력이 있습니다.

STaR: 추론을 위한 추론 부트스트래핑

대형 언어 모델의 잠재력은 특히 수학이나 상식 질문 응답과 같은 복잡한 추론 작업에서 두드러집니다. 그러나 이러한 모델이 일련의 단계적 정당성을 생성하도록 유도하는 과정에는 여러 도전이 있습니다. 이는 대규모 정당성 데이터셋을 구축하거나 정확도 손실로 인해 페우샷 추론에 의존해야 할 수 있습니다.

“자체 교육 추론자”(STaR)는 이러한 도전을 해결하기 위한 혁신적인 솔루션을 제공합니다. STaR은 모델의 추론 능력을 지속적으로 개선하는 단순한 루프를 사용합니다. 이 반복 프로세스는 몇 가지 정당한 예제를 사용하여 여러 질문에 대한 답변을 생성하여 시작됩니다. 모델이 생성한 답변들이 잘못된 경우, 모델은 다시 시도하여 올바른 답변을 생성합니다. 모델은 올바른 답변을 생성하여 정당한 모든 경우에 미세 조정됩니다. 이 프로세스는 반복됩니다.

STaR 방법론과 공통 감각 질문 데이터셋에서 샘플 정당성 생성(https://arxiv.org/pdf/2203.14465.pdf)

예를 들어, “소형 개를 운반할 수 있는 것은 무엇인가?”라는 질문과 가능한 답변(수영장, 바구니 등)이 있습니다. STaR 모델은 정당성을 생성하여 바구니가 올바른 답변임을 식별합니다.

STaR의 접근 방식은 모델의 기존 추론 능력을 활용하여 모델이 자신의 정당성을 생성하고 점진적으로 더 어려운 문제를 해결할 수 있도록 하는 데 있습니다. 그러나 STaR의 루프에는 한계가 있습니다. 모델은 훈련 세트에서 풀리지 않는 문제에 대해 직접적인 훈련 신호를 받지 못할 수 있습니다. 이를 해결하기 위해 STaR는 정당화를 도입합니다. 모델이 올바르게 답변하지 못하는 각 문제에 대해, 모델에 올바른 답변을 제공하여 모델이 역추론을 수행하도록 합니다.

따라서 STaR는 모델이 자신의 정당성을 생성하고 점진적으로 더 어려운 문제를 해결할 수 있도록 하는 확장 가능한 부트스트래핑 방법입니다. STaR의 적용은 산수, 수학 단어 문제 및 공통 감각 추론 작업에서 유망한 결과를 보였습니다. 공통 감각 질문 데이터셋에서 STaR는 페우샷 기준선과 직접 답변을 예측하도록 미세 조정된 모델보다 나은 성능을 보였으며, 30배 더 큰 모델과 비교하여 유사한 성능을 보였습니다.

태그된 컨텍스트 프롬프트

‘태그된 컨텍스트 프롬프트‘의 개념은 입력에 추가적인 컨텍스트 레이어를 제공하여 모델이 컨텍스트를 정확하게 해석하고 관련성 및 사실성 있는 답변을 생성하도록 합니다. 이러한 태그는 모델에 대한 지시를 제공하여 모델이 컨텍스트를 더 잘 이해하도록 합니다.

예를 들어, 친구와 체스에 대한 대화를 나누고 있습니다. 체스에 대한 진술을 하고 ‘(출처: 위키백과)’와 같은 태그를 추가합니다. 이제 모델(이 경우 친구)은 정보가 어디에서 왔는지 정확하게 알고 있습니다. 이 접근 방식은 모델의 답변을 더 신뢰할 수 있게 하여 홀루시네이션의 위험을 줄입니다.

태그된 컨텍스트 프롬프트의 독특한 측면은 모델의 ‘컨텍스트 지능’을 향상시키는 잠재력을 가지고 있다는 것입니다. 예를 들어, 논문은 다양한 주제의 요약된 위키백과 문서와 최근 출판된 책의 일부를 포함하여 다양한 출처에서 추출된 질문을 사용하여 이를 보여줍니다. 질문은 태그가 지정되어 모델에 정보 출처에 대한 추가 컨텍스트를 제공합니다.

이 추가 컨텍스트는 답변을 생성할 때 특히 유용합니다. 모델은 컨텍스트를 더 잘 이해하고 관련성 및 사실성 있는 답변을 생성할 수 있습니다.

결론: 유망한 기술과 미래 방향에 대한 관점

OpenAI의 ChatGPT는 대형 언어 모델이 복잡한 작업을 수행하는 데 미치는 영향을 보여주는 대표적인 예입니다. 페우샷 학습, 리액트 프롬프트, 체인 오브 사고, STaR와 같은 고급 기술을 사용하면 이러한 모델의 잠재력을 활용할 수 있습니다. 이러한 방법론은 AI와 인간의 상호 작용을 더 풍부하고 안전하게 만드는 데 기여합니다.

지식 충돌, 매개변수 지식에 대한過度 의존, 홀루시네이션의 가능성과 같은 도전에도 불구하고, 이러한 모델은 올바른 프롬프트 엔지니어링을 통해 변혁적인 도구가 될 수 있습니다. 지시 미세 조정, 컨텍스트 신뢰 프롬프트, 외부 데이터 소스와의 통합은 이러한 모델의 능력을 더욱 강화합니다.