ChatGPT의 신속한 엔지니어링을 위한 필수 가이드

그것의 발사부터, ChatGPT 기록적인 시간 내에 100억 명 이상의 사용자를 유치하면서 AI 영역에서 파도를 일으키고 있습니다. ChatGPT의 인상적인 성능과 다재다능함의 비결은 프로그래밍에 미묘하게 자리잡은 예술, 즉 프롬프트 엔지니어링에 있습니다.

2022년에 출시된 DALL-E, MidJourney 및 StableDiffusion은 Generative AI의 파괴적 잠재력을 강조했습니다. 하지만 그것은 AI 열기의 ChatGPT는 2022년 후반에 진정으로 중심 무대를 차지했습니다. 그리고 이 모멘텀은 둔화될 기미를 보이지 않았습니다.

Google의 Bard 발표 및 메타의 라마 2  OpenAI의 ChatGPT에 대한 반응은 AI 경쟁의 모멘텀을 크게 증폭시켰습니다. 이러한 모델에 입력을 제공함으로써 모델의 동작과 응답을 안내합니다. 이것은 우리 모두를 어느 정도 신속한 엔지니어로 만듭니다. 기술 업계는 주목했습니다. 벤처 캐피털리스트들은 다음과 같은 신속한 엔지니어링에 중점을 둔 스타트업에 자금을 쏟아 붓고 있습니다. 피지 AI. 또한 Forbes는 엔지니어의 명령을 프롬프트한다고 보고합니다. 연봉 $300,000 초과, 번창하고 가치 있는 직업 시장을 나타냅니다.

이 기사에서는 ChatGPT의 맥락에서 신속한 엔지니어링의 세계를 설명합니다. 우리는 핵심 원리와 기술을 탐구하고 상업적 응용을 검토할 것입니다.

먼저 ChatGPT가 어떻게 작동하는지, 그리고 이 프로세스에서 프롬프트 엔지니어링이 수행하는 중추적인 역할을 이해해 보겠습니다.

ChatGPT Prompt Engineering의 역학

ChatGPT의 성공 비결은 인간 대화의 뉘앙스를 이해하고 모방하는 능력입니다. 이 모델은 다양한 범위의 인터넷 텍스트에 대해 학습되지만 결정적으로 학습 세트의 특정 문서나 소스를 알지 못하므로 특이성에 대한 일반화가 보장됩니다. 이 교육 방식을 통해 ChatGPT는 창의적인 응답을 생성하고 복잡한 대화를 탐색하며 유머 감각을 발휘할 수 있습니다. 그러나 ChatGPT는 진정으로 이해하거나 신념을 가지고 있지 않다는 점을 기억하는 것이 중요합니다. 학습 중에 학습한 패턴을 기반으로 응답을 생성합니다.

미묘한 차이와 상황 인식 방식으로 인간의 언어를 이해하고 응답하는 ChatGPT의 기능은 놀라울 정도로 다재다능한 도구입니다.

이러한 모델의 메커니즘은 단일 문자에서 전체 단어에 이르기까지 다양한 언어의 개별 덩어리인 '토큰' 개념에 기반합니다. 이러한 모델은 한 번에 특정 수의 토큰(GPT-4096-Turbo의 경우 3.5, GPT-8192의 경우 32768 또는 4)으로 작동하여 가능성이 있는 다음 토큰 시퀀스를 예측합니다. 모델은 가장 가능성이 높은 후속 토큰을 예측하는 복잡한 선형 대수학을 사용하여 토큰을 처리합니다.

예를 들어 간단한 XNUMX단어 문장은 XNUMX개의 토큰으로 바뀔 수 있습니다. 하나의 복잡한 단어도 여러 토큰으로 바뀔 수 있으므로 모델이 언어를 더 잘 이해하고 생성하는 데 도움이 됩니다. 독일어와 같이 단어 구조가 복잡한 언어도 토큰화를 통해 관리됩니다.

GPT(Generative Pre-trained Transformer) 모델은 첫 번째 토큰부터 시작하여 마지막 토큰까지 한 번에 하나의 토큰을 생성하는 방식으로 작동합니다. 각 토큰을 생성한 후 모델은 전체 시퀀스를 다시 방문하고 다시 처리하여 다음 토큰을 생성합니다. 이 반복 프로세스는 최종 토큰이 생성될 때까지 계속되어 큰 for-loop와 유사한 텍스트 생성을 만듭니다.

그러나 여기에 문제가 있습니다. 이러한 응답의 품질은 수신하는 프롬프트에 따라 크게 달라집니다. 사람과 대화를 주도하는 것처럼 ChatGPT로 대화를 주도하려면 일정 수준의 기술과 이해가 필요합니다. 바로 여기에서 신속한 엔지니어링이 필요합니다.

프롬프트 엔지니어링이란 무엇입니까?

Prompt Engineering은 AI를 안내하기 위해 정확하고 효과적인 프롬프트/입력을 만드는 기술입니다.NLP/Vision) ChatGPT와 같은 모델을 사용하여 가장 비용 효율적이고 정확하며 유용하고 안전한 출력을 생성합니다.

프롬프트 엔지니어링은 텍스트 생성에만 국한되지 않고 AI 도메인 전반에 걸쳐 광범위하게 적용됩니다. 로봇 프로세스 자동화 봇, 3D 자산, 스크립트, 로봇 지침, 기타 유형의 콘텐츠 및 디지털 미디어와 같은 영역에서 점점 더 많이 사용되고 있습니다. 이는 논리, 코딩, 예술 및 경우에 따라 특수 수정자의 고유한 조합을 제공합니다.

프롬프트에는 자연어 텍스트, 이미지 또는 기타 유형의 입력 데이터가 포함될 수 있지만 출력은 AI 서비스 및 도구에 따라 크게 다를 수 있습니다. 모든 도구에는 원하는 응답의 단어, 스타일, 관점, 레이아웃 또는 기타 속성의 가중치를 설명하는 특수 수정자가 있습니다.

이 분야는 더 나은 AI 기반 서비스를 만들고 기존 생성 AI 도구에서 우수한 결과를 얻는 데 필수적입니다. 예를 들어 엔터프라이즈 개발자는 종종 프롬프트 엔지니어링을 활용하여 GPT-3과 같은 LLM(Large Language Model)을 맞춤화하여 고객 대면 솔루션을 강화합니다. 채팅 봇 또는 산업별 계약 작성과 같은 작업을 처리합니다.

신속한 개선 및 AI 성능 측정의 이 반복적인 프로세스는 AI 모델이 다양한 상황에서 고도로 표적화되고 유용한 응답을 생성할 수 있도록 하는 핵심 요소입니다.

신속한 엔지니어 되기

복잡한 지침을 이해하고 복잡한 문제를 정확하게 해결하는 GPT-4 모델의 능력은 매우 귀중한 리소스입니다. 그러나 이 모델의 기능에 액세스하는 방법에는 여러 가지가 있으며 이를 이해하는 것은 효율성과 비용 효율성을 모두 최적화하는 신속한 엔지니어의 역할에 매우 중요할 수 있습니다.

GPT-4와 같은 GPT 모델을 사용하는 방법에는 기본적으로 두 가지가 있습니다. 한 가지 방법은 입력 및 출력 토큰당 비용이 계산되는 OpenAI의 API를 이용하는 것입니다. 이 시나리오에서 1K 토큰당 비용은 컨텍스트 크기에 따라 변동될 수 있습니다. 예를 들어 더 큰 32K 컨텍스트에서 비용은 입력 토큰의 경우 $0.06, 출력 토큰의 경우 $0.12까지 올라갈 수 있습니다. 따라서 많은 양의 요청을 처리할 때 사용 비용이 빠르게 누적될 수 있습니다.

또는 GPT-4 모델을 활용하는 ChatGPT는 구독 기반 모델에서 작동합니다.

프롬프트 엔지니어링의 또 다른 핵심 작업에는 모델 매개변수 튜닝이 포함됩니다. 이 프로세스에는 모델이 예측을 수행하는 데 사용하는 변수를 조정하는 작업이 포함됩니다. 이러한 매개변수를 미세 조정함으로써 프롬프트 엔지니어는 모델 응답의 품질과 정확도를 개선하여 상황에 더 적합하고 유용하게 만들 수 있습니다.

많은 신속한 엔지니어가 기술 배경을 가지고 있지만 이 분야의 종합적 특성으로 인해 다양한 전문 배경을 가진 개인이 접근할 수 있습니다. 점점 더 많은 작가, 연구원, 심지어 예술가까지 고유한 기술을 활용하여 AI 모델의 효율성을 높이고 있습니다. 이러한 변화는 고용 시장에도 반영되어 다양한 기술과 배경을 가진 신속한 엔지니어를 찾는 회사가 점점 늘어나고 있습니다.

ChatGPT의 신속한 설계 및 엔지니어링

신속한 설계 및 엔지니어링은 언어 모델의 성능을 최적화하는 데 중요한 역할을 하며 단순한 질문 작성 이상을 포함합니다. AI 모델에 대한 깊은 이해와 고도로 반복적이고 세련된 접근 방식이 필요합니다.

신속한 디자인

프롬프트 디자인의 핵심은 명확하게 명시된 목표를 달성하기 위해 ChatGPT와 같은 주어진 대규모 언어 모델(LLM)에 대한 완벽한 프롬프트를 생성하는 예술이자 과학입니다. 그것은 다음의 혼합입니다 :

• LLM에 대한 이해: 다른 언어 모델은 동일한 프롬프트에 다양하게 응답할 수 있습니다. 또한 특정 언어 모델에는 특정 방식으로 해석하는 고유한 키워드 또는 트리거가 있을 수 있습니다.
• 도메인 지식: 관련 분야의 전문 지식은 프롬프트를 디자인할 때 매우 중요합니다. 예를 들어 의학적 진단을 추론하는 프롬프트를 생성하려면 의학적 지식이 필요합니다.
• 반복적 접근 및 품질 측정: 이상적인 프롬프트를 생성하는 과정에는 시행착오가 수반되는 경우가 많습니다. 따라서 주관적인 판단을 넘어 출력 품질을 평가할 수 있는 방법을 갖는 것이 특히 더 큰 규모에서 프롬프트를 사용할 때 중요합니다.

신속한 엔지니어링

프롬프트 엔지니어링은 다음과 같은 몇 가지 중요한 프로세스를 포함하는 확장된 프롬프트 설계 영역입니다.

• 대규모 프롬프트 디자인: 이 프로세스에는 메타 프롬프트(다른 프롬프트를 생성하는 프롬프트) 및 런타임에 인스턴스화할 수 있는 매개 변수화된 프롬프트인 프롬프트 템플릿의 디자인이 포함됩니다.
• 도구 설계 및 통합: 프롬프트는 때때로 외부 도구의 결과를 포함할 수 있으며 이러한 도구를 시스템에 원활하게 통합하는 것이 중요합니다.
• 워크플로, 계획 및 프롬프트 관리: 챗봇과 같은 LLM 애플리케이션을 배포하려면 종종 프롬프트 라이브러리 관리, 올바른 프롬프트 계획 및 선택, 다양한 도구의 효율적인 통합이 필요합니다.
• 프롬프트 평가 및 품질 보증: 이 측면에는 프롬프트를 자동으로 평가하고 사람의 개입을 통해 평가하기 위한 메트릭 및 프로세스 정의가 포함됩니다.
• 프롬프트 최적화: AI 모델의 비용과 대기 시간은 모델 선택과 프롬프트 길이(토큰 수)에 따라 달라질 수 있습니다.

대규모 프롬프트를 관리하기 위해 많은 자동화된 프롬프트 디자인 접근 방식, 도구 및 프레임워크가 개발되었습니다. 그러나 이러한 도구 중 어느 것도 노련한 프롬프트 엔지니어의 미묘한 이해, 판단 및 경험을 대체할 수 없다는 점을 이해하는 것이 중요합니다.

신속한 엔지니어링: 기술 및 모범 사례

1) 프롬프트 배치 및 설명

프롬프트 시작 부분에 지침을 배치하면 AI의 이해와 응답에 상당한 영향을 미칠 수 있습니다. 글머리 기호 형식으로 텍스트를 요약하는 작업을 고려하십시오. 덜 효과적인 접근 방식은 다음과 같습니다.

사용자: 아래 텍스트를 가장 중요한 사항의 글머리 기호 목록으로 요약합니다.
{여기에 텍스트 입력}

반면에 보다 효과적인 기술은 다음과 같습니다.

사용자: 아래 텍스트를 가장 중요한 사항의 글머리 기호 목록으로 요약합니다.
텍스트: """
{여기에 텍스트 입력}
"" "

### 또는 """와 같은 기호로 지침과 컨텍스트를 명확하게 구분함으로써 AI 모델은 작업과 처리해야 하는 텍스트를 더 잘 설명할 수 있으므로 보다 정확하고 적절한 응답을 제공할 수 있습니다.

둘째, 맥락, 예상 결과, 길이, 형식, 스타일 등에 대해 구체적이고 설명적이며 상세하면 AI 응답의 정확성을 크게 향상시킬 수 있습니다. 흥미롭고 평신도 친화적인 스타일로 과학 논문에 대한 간략한 개요를 생성해야 한다고 가정합니다. "과학 논문 요약"과 같은 모호한 지시는 구체적이고 상세한 프롬프트에 비해 덜 효과적인 결과를 산출합니다.

사용자: 다음 과학 논문에 대한 간략한 요약(약 200단어)을 생성합니다. 요약은 과학적 배경이 없는 사람도 이해할 수 있어야 하며 논문의 주요 결과를 정확하게 반영해야 합니다.
종이: """
{여기에 과학 논문 텍스트}
"" "

2) 페르소나 패턴

페르소나 패턴은 AI가 전문적인 역할이나 가상의 인물과 같은 특정 관점에서 작동하도록 설정하는 전략입니다. 이 전술을 통해 모델은 페르소나가 처리할 특정 역할과 관련된 출력을 제공할 수 있습니다. 예를 들어 코드 검토 중에 AI가 사이버 보안 전문가 역할을 하도록 지시할 수 있습니다. 이 패턴은 사용자가 도움이 필요하지만 출력에 필요한 정확한 세부 정보에 대해 확신이 없을 때 특히 유용합니다.

다음을 예로 들어 보겠습니다.

사용자: “프랑스 혁명을 전문으로 하는 선임 역사가의 페르소나를 가정합니다. 그 페르소나를 바탕으로 프랑스 군주제의 몰락으로 이어지는 주요 사건과 이유를 설명하십시오.”

이 시나리오에서 AI는 역사가처럼 군주제의 몰락에 초점을 맞춘 프랑스 혁명에 대한 심층 분석으로 대응할 것으로 예상됩니다.

새로운 정보 소개

ChatGPT는 훈련 컷오프 이상의 지식을 보유하지 않으므로 훈련 후 최근 이벤트 또는 업데이트에 대한 정보를 제공할 수 없습니다. 그러나 프롬프트를 통해 모델에 새 정보를 도입할 수 있습니다.

사용자: “암호화폐란?”
ChatGPT: “암호화폐는 보안을 위해 암호를 사용하는 일종의 디지털 또는 가상 화폐입니다. 가장 잘 알려진 암호화폐는 비트코인입니다.”

이제 프롬프트에 컨텍스트를 조금 더 추가하면 설명을 더욱 직관적으로 만들 수 있습니다.

사용자: “디지털 금융을 공부하는 고등학생에게 암호화폐의 개념을 설명하다”
ChatGPT: “당신이 온라인 비디오 게임을 하고 있고 업그레이드나 새로운 캐릭터를 구입하기 위해 벌 수 있는 게임 머니가 있다고 상상해보세요. Cryptocurrency는 이와 비슷하지만 게임에 국한되지 않고 실제 상품과 서비스를 구매하는 데 실제로 사용할 수 있습니다. 은행이나 정부가 통제하지 않는 디지털 화폐와 같습니다.”

3) 프롬프트 크기 제한

ChatGPT의 크기 제한을 이해하는 것은 우리가 입력할 수 있는 정보의 양과 유형에 직접적인 영향을 미치기 때문에 필수적입니다. 언어 모델은 한 번에 무제한 데이터를 처리하도록 구축되지 않았습니다. 그들은 우리가 만들고 입력할 수 있는 프롬프트의 크기에 대한 본질적인 제약이 있습니다. 이 제한 사항은 프롬프트의 디자인 및 실행에 중대한 영향을 미칩니다.

ChatGPT에는 프롬프트와 생성된 응답을 모두 포함하는 토큰 제한(일반적으로 2048 토큰)이 있습니다. 즉, 긴 프롬프트는 응답 길이를 제한할 수 있습니다. 따라서 프롬프트를 간결하면서도 유익하게 유지하는 것이 중요합니다.

실제 사용에서 우리는 당면한 작업에 가장 관련 있는 정보를 선택적으로 선택하는 편집자 역할을 해야 합니다. 단어 또는 페이지 제한이 있는 논문이나 기사를 작성한다고 상상해 보십시오. 임의의 사실을 덤프할 수는 없지만 주제와 관련된 정보를 신중하게 선택하고 구조화할 수 있습니다.

사용자: "모델의 토큰 제한을 감안할 때 1000차 세계 대전의 주요 사건을 XNUMX단어 미만으로 요약하십시오."

이 프롬프트는 모델의 토큰 제한을 인정함으로써 AI가 제XNUMX차 세계 대전에 대한 간결하면서도 포괄적인 요약을 제공하도록 지시합니다.

반복 사용을 위한 프롬프트: 대화형 시나리오에서 프롬프트를 재사용하거나 이전 응답을 기반으로 세분화할 수 있습니다. 이것은 대화 흐름을 제공하고 상호 작용에서 컨텍스트를 유지합니다.

4) 질문 세분화 패턴

ChatGPT는 또한 질문을 구체화하는 데 도움이 될 수 있습니다. 예를 들어 질문을 하면 더 정확한 결과를 위해 더 잘 구성된 질문을 제안할 수 있습니다.

질문 구체화 패턴에는 사용자가 묻는 질문을 구체화하는 LLM이 포함됩니다. 사용자가 도메인의 전문가가 아니거나 질문을 표현하는 방법을 잘 모르는 경우 특히 유용합니다.

예제 프롬프트는 다음과 같습니다.

사용자: “데이터 사이언스에 대한 질문을 할 때마다 통계 분석 특성을 고려하여 좀 더 세분화된 질문을 제시하고 세분화된 질문으로 진행할 것인지 묻습니다.”

여기서 AI는 사용자의 일반적인 데이터 과학 질문을 통계 분석 측면을 고려하여 보다 세부적인 질문으로 세분화할 것으로 기대됩니다.

5) 인지 검증자 패턴

Cognitive Verifier 패턴은 복잡한 질문을 더 작고 관리 가능한 하위 질문으로 나눕니다. 그런 다음 이러한 하위 질문에 대한 답변을 결합하여 주요 질문에 대한 포괄적인 답변을 제공합니다. 이 접근 방식은 초기 질문이 너무 높은 수준이거나 완전한 답변을 제공하기 위해 추가 명확성이 필요한 경우에 유용합니다.

예를 들어 :

사용자: “기후 변화에 대해 질문을 하면 더 정확한 답을 제공하는 데 도움이 될 세 가지 작은 질문으로 나눕니다. 이러한 하위 질문에 대한 답변을 결합하여 최종 답변을 제공합니다.”

이 시나리오에서 AI는 기후 변화에 대한 복잡한 질문을 세 가지 관리 가능한 하위 질문으로 분류합니다. 이러한 하위 질문에 대한 답변을 받은 후 AI는 이를 결합하여 보다 포괄적이고 정확한 답변을 제공합니다.

이 패턴에는 보다 정확한 최종 답변을 얻기 위해 여러 질문을 생성하는 것이 포함됩니다. 강력한 최종 출력을 위해 정보를 확인하고 통합하는 프로세스입니다.

6) Few-Shot Prompting 접근법

퓨샷 프롬프트는 AI 모델이 특정 패턴을 따르거나 작업을 수행하도록 가르치는 강력한 접근 방식입니다. 아이디어는 원하는 질문을 하기 전에 모델에 여러 가지 예를 제공하는 것입니다. 이는 원하는 동작을 설정하고 모델의 응답을 안내하는 데 도움이 됩니다.

사용자가 새로운 기술 장치에 대한 간결하고 설득력 있는 마케팅 카피를 작성하려고 시도하는 시나리오를 고려하십시오.

사용자: “다음은 기술 마케팅 문구의 몇 가지 예입니다. '최첨단 무선 헤드폰으로 이전과는 다른 음악을 경험하십시오.' '매우 날렵한 액션 카메라로 멋진 4K로 세상을 캡처하세요.' 이러한 예를 바탕으로 새로운 AI 기반 스마트워치의 마케팅 카피 초안을 작성하세요.”

ChatGPT: "건강, 연결 및 생산성을 위한 동반자인 AI 기반 스마트워치로 라이프스타일을 강화하십시오." 퓨샷 학습의 놀라운 특징은 작업을 수행하는 방법에 대한 자세한 설명이 필요하지 않다는 것입니다. 대신 수행 중인 작업에 대한 데모가 필요하므로 많은 애플리케이션에 적합할 수 있습니다.

또한 이 기술은 단순한 입력-출력 페어링을 넘어 확장됩니다. 목표를 달성하기 위해 중간 단계를 처리하도록 모델을 학습시킬 수도 있습니다.

7) 생각의 연쇄 촉진

그들의 최근 연구 논문에서 “생각의 사슬 프롬프트는 대규모 언어 모델에서 추론을 이끌어냅니다.” 저자 Jason Wei와 팀은 대규모 언어 모델 내에서 추론을 자극하는 것을 목표로 합니다. 전통적인 직접적인 프롬프트를 사용하는 대신 팀은 일련의 상호 연결된 프롬프트를 사용하여 '생각의 사슬'을 형성합니다.

예를 들어 사용자는 인공 지능이 직업 시장에 미치는 잠재적 영향에 관심을 가질 수 있습니다.

사용자: “인공지능의 개념에 대해 간단히 설명해 주시겠습니까?”

ChatGPT: “인공지능(AI)은 인간의 지능적인 행동을 모방하는 기계의 능력을 의미합니다. 인간처럼 생각하고 배울 수 있는 기계를 설계하여 언어 번역, 의사 결정 및 문제 해결과 같은 작업을 수행할 수 있도록 하는 것입니다.”

사용자: “AI는 현재 고용 시장에 어떤 영향을 미치고 있습니까?”

ChatGPT: “AI는 새로운 일자리를 창출하는 동시에 기존 일자리의 성격을 변화시키고 있습니다. 한편으로는 일상적인 작업을 자동화하여 특정 부문에서 일자리를 대체합니다. 반면 AI 윤리 담당자, 데이터 분석가, 머신러닝 엔지니어 등 이전에는 존재하지 않았던 역할에 대한 수요도 창출되고 있습니다. 또한 AI는 인간의 역할을 강화하여 사람들이 작업을 보다 효율적이고 정확하게 수행할 수 있도록 해줍니다.”

일련의 사고 프롬프팅은 관련된 프롬트의 진행을 따라가며 보다 정확하고 상황에 맞는 응답으로 안내하는 모델과 '대화'를 유지합니다.

개발자 관점에서 ChatGPT API 및 프롬프트 엔지니어링 이해

개발자 또는 연구원의 관점에서 신속한 엔지니어링은 보다 복잡한 프로세스입니다. 여기에는 AI 모델이 프롬프트를 보다 효과적으로 이해하고 응답하는 데 도움이 되는 알고리즘 및 기술 설계가 포함됩니다. 여기에는 모호한 프롬프트를 처리하거나 프롬프트의 컨텍스트를 식별하거나 프롬프트를 함께 연결하여 AI에서 더 복잡한 사고 프로세스를 자극하기 위한 전략이 포함될 수 있습니다.

위 그림에서 사용자는 GPT-4로 구동되는 채팅 인터페이스와 상호 작용합니다. 그들의 입력은 AI 모델에 공급되기 전에 특수 모듈에 의해 명확성과 맥락적 일관성을 위해 향상됩니다. 이 모듈의 역할은 대화의 맥락을 유지하면서 더 나은 이해를 위해 사용자 입력을 개선하고 향상시키는 것입니다. 세련된 프롬프트를 기반으로 만들어진 AI의 응답은 채팅 인터페이스를 통해 사용자에게 반환됩니다. 상호 작용 기록은 일관되게 업데이트되어 대화 내용을 유지합니다. 전반적으로 이 다이어그램은 신속한 엔지니어링 기술로 지원되는 동적 사용자-AI 대화 흐름을 보여줍니다.

XNUMXD덴탈의 ChatGPT API의 인터페이스는 사용자가 프롬프트에 대한 AI의 응답을 세분화하여 보다 효과적이고 다재다능하게 만들 수 있는 다양한 하이퍼파라미터로 엔지니어링됩니다. 여기에는 온도, 최대 길이 및 중지 시퀀스 매개변수가 포함됩니다. 그것들이 어떻게 기능하고 다양한 맥락에서 활용될 수 있는지 살펴봅시다.

1) 온도

온도 매개변수는 AI 응답의 무작위성에 영향을 미칩니다. 1.0과 같은 더 높은 온도는 더 많은 무작위 출력을 장려하여 다양하지만 잠재적으로 주제에서 벗어난 응답을 생성합니다. 반대로 0.2와 같은 낮은 온도는 AI가 보다 결정적인 응답을 선택하도록 유도하여 집중적이고 구체적인 출력에 도움이 될 수 있지만 다양성이 부족할 수 있습니다.

예: 창의적인 이야기를 작성 중이고 예측할 수 없는 상상력이 풍부한 요소를 원하는 경우 온도를 더 높은 값으로 설정합니다. 프롬프트는 "시간 여행을 하는 고양이에 대한 짧은 이야기를 작성하세요."일 수 있습니다. 온도가 높으면 예측할 수 없는 우여곡절이 있는 거칠고 환상적인 이야기를 접할 수 있습니다.

2) 최대 길이

이 매개변수는 메시지 입력 및 메시지 출력의 토큰을 모두 포함하는 모델 출력의 최대 토큰 길이를 제어합니다. 더 높은 제한을 설정하면 더 확장된 응답이 가능하고 더 낮은 제한은 출력을 짧고 간결하게 유지합니다.

예: "2020년 노벨 문학상을 수상한 사람은 누구입니까?"와 같은 퀴즈 질문에 대한 간단한 답변 응답이 간결하고 직접적인지 확인하기 위해 최대 길이를 낮은 값으로 설정할 수 있습니다.

3) 정지 시퀀스

중지 시퀀스는 모델이 이를 만나면 추가 출력 생성을 중지하는 특정 텍스트 문자열입니다. 이 기능은 출력 길이를 제어하거나 모델이 논리적 끝점에서 중지하도록 지시하는 데 유용할 수 있습니다.

예: 공식적인 편지의 경우 AI가 편지의 적절한 끝을 넘어서는 추가 텍스트를 생성하지 않도록 정지 시퀀스로 "Yours Sincere"를 사용할 수 있습니다.

4) 탑 P

핵 샘플링이라고도 하는 'Top P' 매개변수는 모델 예측의 각 단계에서 고려되는 단어 수의 동적 선택을 제공하는 방법입니다. 0.5와 같은 낮은 값은 더 안전하고 집중된 출력으로 이어집니다. 0.9와 같이 더 높은 값은 더 다양한 단어 선택을 포함하여 더 다양한 출력으로 이어집니다.

예: 시를 쓰기 위해 AI를 생성하고 다양한 어휘와 문체 구문을 사용하도록 하려면 '상위 P'를 더 높은 값으로 설정할 수 있습니다. 프롬프트는 "가을의 아름다움에 대한 시를 작성하세요."일 수 있습니다.

5) 주파수 페널티

빈도 페널티는 모델이 빈도가 낮은 단어를 선호하는 정도를 제어합니다. 페널티가 높을수록(최대 1) 모델이 덜 일반적인 단어를 사용하도록 권장하고 값이 낮을수록(-1까지) 모델이 더 일반적인 단어를 사용하도록 권장합니다.

예: 비즈니스 제안을 생성하려고 하고 전문 용어를 사용하지 않으려면 빈도 페널티를 더 낮은 값으로 설정하여 언어를 명확하고 접근 가능하게 유지할 수 있습니다.

6) 출석 페널티

Presence Penalty 매개변수는 대화 기록에 없는 새로운 아이디어나 주제를 생성하기 위해 모델이 얼마나 많은 패널티를 받는지에 영향을 미칩니다. 값이 높을수록 모델이 이미 언급한 주제에 충실하도록 하고 값이 낮을수록 모델이 새로운 개념을 더 자유롭게 도입할 수 있도록 합니다.

예: 브레인스토밍 세션의 경우 다양한 아이디어를 장려하기 위해 현재 상태 패널티를 더 낮은 값으로 설정할 수 있습니다. "온라인 교육 플랫폼을 위한 혁신적인 마케팅 전략 생성"과 같은 프롬프트를 사용할 수 있습니다.

Prompt Engineering의 산업적 응용