프롬프트 엔지니어링의 최신 최신 발전: 종합 가이드

신속한 엔지니어링, LLM으로부터 원하는 반응을 이끌어내는 프롬프트 작성의 예술과 과학은 연구 개발의 중요한 영역이 되었습니다.

추론 기능 향상부터 외부 도구 및 프로그램과의 원활한 통합까지, 신속한 엔지니어링의 최신 발전은 인공 지능의 새로운 지평을 열고 있습니다. 아래에서는 신속한 엔지니어링의 미래를 형성하는 최신 첨단 기술과 전략에 대해 논의합니다.

신속한 엔지니어링

복잡한 문제 해결을 위한 고급 프롬프트 전략

DaVinci에는 CoT 프롬프트 많은 추론 작업에 효과적인 것으로 입증되었으며, 연구자들은 훨씬 더 복잡한 문제를 해결하기 위해 보다 발전된 프롬프트 전략을 탐색했습니다. 그러한 접근 방식 중 하나는 최소 대 최대 프롬프트(Least-to-Most Prompting)입니다. 이는 복잡한 문제를 더 작고 관리하기 쉬운 하위 문제로 나누어 독립적으로 해결한 다음 결합하여 최종 솔루션에 도달합니다.

또 다른 혁신적인 기술은 LLM이 여러 줄의 추론 또는 "생각"을 병렬로 생성하고, 솔루션에 대한 자체 진행 상황을 평가하고, 필요에 따라 대체 경로를 역추적하거나 탐색할 수 있도록 하는 생각의 나무(ToT) 프롬프트입니다. 이 접근 방식은 너비 우선 또는 깊이 우선 검색과 같은 검색 알고리즘을 활용하여 LLM이 문제 해결 프로세스 중에 예측 및 역추적에 참여할 수 있도록 합니다.

LLM을 외부 도구 및 프로그램과 통합

LLM은 엄청나게 강력하지만 최신 정보에 액세스하거나 정확한 수학적 추론을 수행할 수 없는 등의 본질적인 한계가 있습니다. 이러한 단점을 해결하기 위해 연구자들은 LLM이 외부 도구 및 프로그램과 원활하게 통합될 수 있는 기술을 개발했습니다.

주목할만한 예 중 하나는 LLM에게 외부 도구 사용이 필요한 시나리오를 식별하고, 사용할 도구를 지정하고, 관련 입력을 제공하고, 도구의 출력을 최종 응답에 통합하도록 가르치는 Toolformer입니다. 이 접근 방식에는 다양한 텍스트-텍스트 API의 적절한 사용을 보여주는 합성 교육 데이터 세트 구성이 포함됩니다.

또 다른 혁신적인 프레임워크인 Chameleon은 "플러그 앤 플레이" 접근 방식을 사용하여 중앙 LLM 기반 컨트롤러가 LLM, 비전 모델, 웹 검색 엔진 및 파이썬 함수. 이 모듈식 접근 방식을 통해 Chameleon은 다양한 도구와 모델의 강점을 활용하여 복잡한 다중 모드 추론 작업을 처리할 수 있습니다.

근본적인 촉구 전략

제로 샷 프롬프팅

제로샷 프롬프팅에는 프롬프트에서 작업을 설명하고 모델에게 예제 없이 문제를 해결하도록 요청하는 것이 포함됩니다. 예를 들어 "치즈"를 프랑스어로 번역하려면 제로샷 프롬프트는 다음과 같을 수 있습니다.

이 접근 방식은 간단하지만 작업 설명이 모호하기 때문에 제한될 수 있습니다.

퓨샷 프롬프팅

Few-shot 프롬프트는 작업의 몇 가지 예를 포함하여 제로샷 시 개선됩니다. 예를 들어:

이 방법은 LLM의 상황 내 학습 기능을 활용하여 모호성을 줄이고 모델에 대한 보다 명확한 지침을 제공합니다.

지시 프롬프트

지침 프롬프트는 원하는 출력을 명시적으로 설명하며, 이는 지침을 따르도록 훈련된 모델에 특히 효과적입니다. 예를 들어:

GPT-4와 같은 모델은 이러한 지침을 정확하게 따르도록 특별히 미세 조정되었습니다.

고급 프롬프트 기술

일련의 사고 유도를 통한 추론 능력 강화

프롬프트 엔지니어링의 가장 중요한 혁신 중 하나는 CoT(사고 사슬) 프롬프트. 이 기술은 LLM이 최종 답변을 제공하기 전에 단계별 사고 과정이나 근거를 생성하도록 장려하여 LLM의 추론 능력을 끌어내고 향상시키는 것을 목표로 합니다.

왼쪽: LLM을 프롬프트하는 기존 방법은 일반 입력(0샷 CoT)에 의존하거나 레이블이 지정된 예(몇 샷 CoT)가 필요합니다. 오른쪽: 새로운 접근 방식을 통해 LLM은 문제 해결 전에 관련 사례를 자체 생성하여 라벨링의 필요성을 없애고 각 고유한 문제에 대한 사례를 사용자 정의합니다.

CoT 프롬프트는 입력 및 출력뿐만 아니라 솔루션으로 이어지는 중간 추론 단계 또는 "사고의 사슬"도 포함하는 예제를 LLM에 제시하는 방식으로 작동합니다. 이러한 모범 사례를 통해 LLM은 새로운 문제가 나타날 때 자체적인 사고 체계를 생성하여 복잡한 추론 작업을 처리하는 능력을 향상시킬 수 있습니다.

예:

입력: Natalie는 사과 3개를 가지고 있고 이를 친구 2명과 똑같이 나누고 싶어합니다. 각 사람은 몇 개의 사과를 받게 될까요? 생각의 사슬: 좋습니다. 단계별로 분석해 보겠습니다.

1. 나탈리는 사과 3개를 가지고 있어요
2. 그녀는 그것을 친구 2명과 동등하게 공유하고 싶어합니다.
3. 따라서 총 3명이 됩니다(Natalie와 그녀의 친구 2명).
4. 사과를 균등하게 나누기 위해 전체 사과 수(3)를 사람 수(3)로 나눕니다.
5. 3을 3으로 나누면 1
6. 따라서 각 사람은 사과 1개를 받게 됩니다. 결과: 각 사람은 사과 1개를 얻습니다.

추론 프로세스를 명시적으로 생성함으로써 GPT-3 및 Codex와 같은 LLM은 산술, 상식 및 기호 추론 작업에서 상당한 개선을 보여주었습니다.

자기 일관성

자체 일관성은 여러 사고 체인을 생성하고 최종 답변에 대해 과반수 투표를 함으로써 CoT 프롬프트의 신뢰성을 향상시킵니다. 이 방법은 단일 잘못된 추론 경로의 영향을 완화합니다.

최소에서 최대 프롬프트

최소 대 최대 프롬프트는 복잡한 문제를 더 간단한 하위 문제로 분해하여 각 문제를 순차적으로 해결하고 이전 솔루션의 컨텍스트를 사용하여 후속 단계에 정보를 제공합니다. 이 접근 방식은 다단계 추론 작업에 유용합니다.

프롬프트 엔지니어링의 최근 발전

프롬프트 엔지니어링은 빠르게 발전하고 있으며 LLM(대형 언어 모델)의 성능을 향상하기 위한 몇 가지 혁신적인 기술이 등장했습니다. 이러한 최첨단 방법 중 일부를 자세히 살펴보겠습니다.

Auto-CoT(자동 사고 연쇄 프롬프트)

그것은 무엇인가 : 자동 CoT LLM에 대한 추론 체인 생성을 자동화하여 수동으로 제작된 예제가 필요하지 않은 방법입니다. 이 기술은 모델이 추론 체인을 생성하기 위해 단계별로 생각하도록 안내되는 제로샷 CoT(사고 사슬) 프롬프트를 사용합니다.

그것은 작동하는 방법 :

1. 제로샷 CoT 프롬프트: 모델에는 "단계적으로 생각해 봅시다"와 같은 간단한 프롬프트가 제공되어 자세한 추론을 장려합니다.
2. 시연의 다양성: Auto-CoT는 다양한 질문을 선택하고 이러한 질문에 대한 추론 체인을 생성하여 다양한 문제 유형과 추론 패턴을 보장합니다.

장점:

• 자동화 : 추론 데모를 만드는 데 필요한 수동 작업이 줄어듭니다.
• 성능 : 다양한 벤치마크 추론 작업에서 Auto-CoT는 수동 CoT 프롬프트 성능과 일치하거나 그 이상이었습니다.

복잡성 기반 프롬프트

그것은 무엇인가 : 이 기술은 프롬프트에 포함할 가장 복잡한 예(즉, 가장 추론 단계)를 선택합니다. 이는 여러 단계의 추론이 필요한 작업에서 모델의 성능을 향상시키는 것을 목표로 합니다.

그것은 작동하는 방법 :

1. 예시 선택: 프롬프트는 포함된 추론 단계 수에 따라 선택됩니다.
2. 복잡성 기반 일관성: 디코딩하는 동안 여러 추론 체인이 샘플링되고 가장 복잡한 체인에서 다수결이 이루어집니다.

장점:

• 향상된 성능 : 다단계 추론 작업의 정확성이 크게 향상되었습니다.
• 견고성 : 다양한 프롬프트 분포와 시끄러운 데이터에서도 효과적입니다.

점진적 힌트 프롬프트(PHP)

그것은 무엇인가 : PHP 이전에 생성된 근거를 힌트로 사용하여 모델의 답변을 반복적으로 개선합니다. 이 방법은 모델의 이전 응답을 활용하여 여러 반복을 통해 정답을 향해 안내합니다.

그것은 작동하는 방법 :

1. 초기 답변: 모델은 표준 프롬프트를 사용하여 기본 답변을 생성합니다.
2. 힌트 및 개선 사항: 이 기본 답변은 후속 프롬프트에서 힌트로 사용되어 답변을 구체화합니다.
3. 반복 프로세스: 이 프로세스는 연속적인 반복을 통해 답변이 안정화될 때까지 계속됩니다.

장점:

• 정확도 : 추론 정확도가 크게 향상되었습니다.
• 효율성 : 필요한 샘플 경로 수를 줄여 계산 효율성을 향상시킵니다.

분해 프롬프트(DecomP)

그것은 무엇인가 : 분해 복잡한 작업을 더 간단한 하위 작업으로 나누고 각 작업은 특정 프롬프트나 모델에 의해 처리됩니다. 이 모듈식 접근 방식을 사용하면 복잡한 문제를 보다 효과적으로 처리할 수 있습니다.

그것은 작동하는 방법 :

1. 작업 분해: 주요 문제는 더 간단한 하위 작업으로 나뉩니다.
2. 하위 작업 처리기: 각 하위 작업은 전용 모델이나 프롬프트에 의해 관리됩니다.
3. 모듈식 통합: 이러한 핸들러는 복잡한 작업을 해결하기 위해 필요에 따라 최적화, 교체 또는 결합될 수 있습니다.

장점:

• 유연성: 특정 하위 작업을 디버깅하고 개선하기 쉽습니다.
• 확장성: 긴 컨텍스트와 복잡한 하위 작업이 포함된 작업을 효과적으로 처리합니다.

가설-이론(HtT) 유도

그것은 무엇인가 : HtT 모델이 복잡한 문제를 해결하기 위해 가설을 생성하고 검증하는 과학적 발견 프로세스를 사용합니다. 이 방법에는 모델이 추론에 사용하는 검증된 가설로부터 규칙 라이브러리를 생성하는 작업이 포함됩니다.

그것은 작동하는 방법 :

1. 유도 단계: 모델은 잠재적인 규칙을 생성하고 훈련 예제와 비교하여 이를 검증합니다.
2. 규칙 라이브러리 생성: 검증된 규칙을 수집하여 규칙 라이브러리를 구성합니다.
3. 공제 단계: 모델은 추론을 안내하기 위해 규칙 라이브러리를 사용하여 이러한 규칙을 새로운 문제에 적용합니다.

장점:

• 정확도 : 검증된 규칙 세트에 의존하여 오류 가능성을 줄입니다.
• 양도성: 학습된 규칙은 다양한 모델과 문제 형태에 걸쳐 전송될 수 있습니다.

도구로 강화된 프롬프트 기술

툴포머

툴포머 텍스트-텍스트 API를 통해 LLM을 외부 도구와 통합하여 모델이 이러한 도구를 사용하여 다른 방법으로는 해결할 수 없었던 문제를 해결할 수 있도록 합니다. 예를 들어, LLM은 계산기 API를 호출하여 산술 연산을 수행할 수 있습니다.

카멜레온

카멜레온 중앙 LLM 기반 컨트롤러를 사용하여 복잡한 추론 작업을 해결하기 위한 여러 도구를 구성하는 프로그램을 생성합니다. 이 접근 방식은 비전 모델 및 웹 검색 엔진을 포함한 광범위한 도구 세트를 활용하여 문제 해결 능력을 향상시킵니다.

GPT4도구

GPT4도구 자체 학습 접근 방식을 통해 다중 모드 도구를 사용하도록 오픈 소스 LLM을 미세 조정하여 비독점 모델이라도 성능 향상을 위해 외부 도구를 효과적으로 활용할 수 있음을 보여줍니다.

고릴라와 포옹GPT

고릴라와 둘 다 허깅GPT LLM을 온라인에서 사용할 수 있는 특수 딥 러닝 모델과 통합하세요. 이러한 시스템은 검색 인식 미세 조정 프로세스와 계획 및 조정 접근 방식을 각각 사용하여 여러 모델과 관련된 복잡한 작업을 해결합니다.

프로그램 지원 언어 모델(PAL) 및 사고 프로그램(PoT)

연구자들은 외부 도구와의 통합 외에도 자연어와 프로그래밍 구조를 결합하여 LLM의 문제 해결 능력을 향상시키는 방법을 모색했습니다. PAL(프로그램 지원 언어 모델) 및 PoT(사고 프로그램)는 코드를 활용하여 LLM의 추론 프로세스를 강화하는 두 가지 접근 방식입니다.

PAL 자연어를 코드(예: Python)와 인터리브하는 이론적 근거를 생성하도록 LLM에 요청합니다. 그런 다음 이를 실행하여 최종 솔루션을 생성할 수 있습니다. 이 접근 방식은 LLM이 올바른 추론을 생성하지만 잘못된 최종 답변을 생성하는 일반적인 실패 사례를 해결합니다.

마찬가지로 PoT는 SymPy와 같은 기호 수학 라이브러리를 사용하므로 LLM이 SymPy의 해결 기능을 사용하여 결합하고 평가할 수 있는 수학적 기호와 표현식을 정의할 수 있습니다. 복잡한 계산을 코드 해석기에 위임함으로써 이러한 기술은 추론과 계산을 분리하여 LLM이 보다 복잡한 문제를 효과적으로 해결할 수 있도록 해줍니다.

컨텍스트 창 이해 및 활용

LLM의 성과는 프롬프트에 제공된 컨텍스트를 처리하고 활용하는 능력에 크게 좌우됩니다. 연구자들은 LLM이 긴 맥락을 처리하는 방법과 관련이 없거나 방해가 되는 정보가 결과에 미치는 영향을 조사했습니다.

"중간 손실" 현상은 LLM이 맥락의 시작과 끝 부분에 있는 정보에 더 많은 주의를 기울이는 반면, 중간에 있는 정보는 종종 간과되거나 "분실"되는 경향이 있음을 강조합니다. 이러한 통찰력은 신속한 엔지니어링에 영향을 미칩니다. 컨텍스트 내에서 관련 정보를 신중하게 배치하면 성능에 큰 영향을 미칠 수 있기 때문입니다.

또 다른 연구 라인은 LLM 성능을 심각하게 저하시킬 수 있는 관련 없는 컨텍스트의 해로운 영향을 완화하는 데 중점을 두고 있습니다. 일관성, 관련 없는 정보를 무시하라는 명시적 지침, 관련 없는 상황에서 문제 해결을 보여주는 예시 포함 등의 기술은 LLM이 가장 관련 있는 정보에 집중하는 방법을 배우는 데 도움이 될 수 있습니다.

프롬프트 전략을 통한 글쓰기 능력 향상

LLM은 인간과 유사한 텍스트를 생성하는 데 탁월하지만 전문적인 프롬프트 전략을 통해 쓰기 능력을 더욱 향상시킬 수 있습니다. 그러한 기술 중 하나가 SoT(Skeleton-of-Thought) 프롬프트입니다. 이는 사람의 쓰기 프로세스를 모방하여 순차 디코딩의 대기 시간을 줄이는 것을 목표로 합니다.

SoT 프롬프트에는 먼저 답변의 기본 또는 개요를 생성하도록 LLM에 요청한 다음 병렬 API 호출을 통해 각 개요 요소의 세부 정보를 채우도록 요청하는 작업이 포함됩니다. 이 접근 방식은 추론 대기 시간을 향상시킬 뿐만 아니라 LLM이 출력을 보다 효과적으로 계획하고 구성하도록 장려하여 쓰기 품질도 향상시킬 수 있습니다.

또 다른 프롬프트 전략인 CoD(밀도 사슬) 프롬프트는 LLM에서 생성된 요약의 정보 밀도를 향상시키는 데 중점을 둡니다. CoD 프롬프트는 길이를 고정하면서 요약에 엔터티를 반복적으로 추가함으로써 사용자가 간결성과 완전성 사이의 균형을 탐색할 수 있게 하여 궁극적으로 더 유익하고 읽기 쉬운 요약을 생성할 수 있게 해줍니다.

새로운 방향과 미래 전망

고급 프롬프트 엔지니어링

프롬프트 엔지니어링 분야는 연구원들이 지속적으로 새로운 영역을 탐구하고 LLM으로 가능한 것의 경계를 넓히면서 빠르게 발전하고 있습니다. 몇 가지 새로운 방향은 다음과 같습니다.

1. 적극적인 프롬프트: 불확실성 기반 능동 학습 원리를 활용하여 특정 추론 문제를 해결하는 데 가장 유용한 예시를 식별하고 주석을 추가하는 기술입니다.
2. 다중 모드 프롬프트: 텍스트, 이미지 및 기타 데이터 형식을 결합하는 다중 모드 입력을 처리하기 위해 프롬프트 전략을 확장합니다.
3. 자동 프롬프트 생성: 특정 작업이나 영역에 맞는 효과적인 프롬프트를 자동으로 생성하는 최적화 기술을 개발합니다.
4. 해석 가능성 및 설명 가능성: LLM 결과의 해석 가능성 및 설명 가능성을 향상시켜 의사 결정 프로세스의 투명성과 신뢰도를 높이는 프롬프트 방법을 탐색합니다.

LLM이 지속적으로 발전하고 다양한 도메인에서 응용 프로그램을 찾으면 신속한 엔지니어링이 잠재력을 최대한 발휘하는 데 중요한 역할을 할 것입니다. 연구자와 실무자는 최신 프롬프트 기술과 전략을 활용하여 자연어 처리의 한계를 뛰어넘는 더욱 강력하고 안정적이며 작업별 AI 솔루션을 개발할 수 있습니다.

결론

대규모 언어 모델을 위한 신속한 엔지니어링 분야는 연구자들이 가능한 것의 경계를 지속적으로 확장하면서 빠르게 발전하고 있습니다. 생각의 연쇄 유도와 같은 기술로 추론 능력을 강화하는 것부터 LLM을 외부 도구 및 프로그램과 통합하는 것까지 프롬프트 엔지니어링의 최신 발전은 인공 지능의 새로운 지평을 열고 있습니다.