ChatGPT에서 프롬프트 엔지니어링에 대한 필수 가이드

출시 이후, ChatGPT는 AI 영역에서 큰 물결을 일으키며 기록적인 시간에 1억 명 이상의 사용자를 끌어모았습니다. ChatGPT의 인상적인 성능과 다채로운 기능의 비결은 프로그래밍 안에 미묘하게 자리 잡은 한 가지 기술에 있습니다. 바로 프롬프트 엔지니어링입니다.

2022년에 출시된 DALL-E, MidJourney, StableDiffusion은 생성적 AI의 파괴적인 잠재력을 강조했습니다. 그러나 Open AI의 ChatGPT는 실제로 2022년 후반에 주목을 받았으며, 이 모멘텀은 감소하는 기미를 보이지 않았습니다.

구글의 Bard 발표와 메타의 Llama 2는 OpenAI의 ChatGPT에 대한 대응으로서 AI 경쟁의 모멘텀을 크게 증폭시켰습니다. 입력을 제공함으로써, 우리는 모델의 행동과 응답을 안내합니다. 이것은 우리 모두를 어느 정도 프롬프트 엔지니어로 만듭니다. 기술 산업은 이를 주목했습니다. 벤처 자본가들은 프롬프트 엔지니어링에 중점을 둔 스타트업에 자금을 투자하고 있습니다. 예를 들어, Vellum AI는 이러한 스타트업 중 하나입니다. 또한, 포브스는 프롬프트 엔지니어가 30만 달러 이상의 연봉을 받는다는 보고서를 발표했습니다. 이는 번창하고 가치 있는 직업 시장을 나타냅니다.

이 기사에서, 우리는 ChatGPT의 맥락에서 프롬프트 엔지니어링의 세계를 밝히고자 합니다. 우리는 핵심 원리와 기술을 탐구하고, 상업적 응용 프로그램을 조사할 것입니다.

まず, ChatGPT의 기능과 프롬프트 엔지니어링이 이 과정에서 핵심적인 역할을 하는 방법을 이해해 보겠습니다.

ChatGPT 프롬프트 엔지니어링의 메커니즘

ChatGPT의 성공 비결은 인간 대화의细微한 점을 이해하고 모방하는 능력에 있습니다. 이 모델은 다양한 인터넷 텍스트에 대한 훈련을 받았지만, 훈련 세트의 특정 문서나 출처를 알지 못하므로 일반화가 특이성보다 우선합니다. 이 훈련 접근 방식은 ChatGPT가 창의적인 응답을 생성하고, 복잡한 대화를 탐색하며, 심지어 유머 감각을 보여줄 수 있도록 합니다. 그러나 ChatGPT가真正로 이해하거나 믿음을 가지는 것은 아니라는 점을 기억하는 것이 중요합니다. 모델은 훈련 중에 학습한 패턴에 따라 응답을 생성합니다.

ChatGPT의 인간 언어를 이해하고 응답하는 능력은 매우 다재다능한 도구를 만듭니다.

이러한 모델의 메커니즘은 ‘토큰’이라는 개념에 기반합니다. 토큰은 언어의离散한 조각으로, 하나의 문자에서 하나의 단어까지 다양한 크기를 가질 수 있습니다. 이러한 모델은 특정 수의 토큰(예: GPT-3.5-Turbo의 경우 4096, GPT-4의 경우 8192 또는 32768)을 동시에 처리하며, 다음에 오는 가장 вероят적인 토큰 시퀀스를 예측합니다. 모델은 복잡한 선형 대수를 사용하여 토큰을 처리하고, 가장 вероят적인 다음 토큰을 예측합니다.

예를 들어, 9개의 단어가 포함된 간단한 문장은 10개의 토큰으로 변환될 수 있습니다. 또한, 하나의 복잡한 단어는 여러 토큰으로 변환될 수 있으며, 이는 모델이 언어를 더 잘 이해하고 생성하도록 도와줍니다. 독일어와 같은 복잡한 단어 구조를 가진 언어도 토큰화 통해 관리됩니다.

GPT(생성적 프리트레인드 트랜스포머) 모델은 하나의 토큰씩 생성하여, 첫 번째 토큰부터 마지막 토큰까지 계속 생성합니다. 각 토큰을 생성한 후, 모델은 전체 시퀀스를 다시 처리하여 다음 토큰을 생성합니다. 이 반복적인 과정은 마지막 토큰이 생성될 때까지 지속되며, 텍스트 생성은 큰 for-루프와 유사합니다.

그러나 여기에는 하나의 문제가 있습니다. 이러한 응답의 품질은 모델이 받는 프롬프트의 품질에 크게 의존합니다. 인간과 대화하는 것과 마찬가지로, ChatGPT와의 대화를 안내하려면 일정 수준의 기술과 이해가 필요합니다. 바로 이때 프롬프트 엔지니어링이 등장합니다.

프롬프트 엔지니어링이란?

프롬프트 엔지니어링은 AI(자연어 처리/비전) 모델과 같은 ChatGPT를 위한 정확하고 효과적인 프롬프트/입력을 만드는 기술입니다. 이는 텍스트 생성에만 국한되지 않고, 로봇 프로세스 자동화 봇, 3D 자산, 스크립트, 로봇 지시, 기타 유형의 콘텐츠 및 디지털 미디어와 같은 광범위한 응용 분야에서 사용됩니다. 또한, 논리, 코딩, 예술, 특정 경우에는 특별한 수정자를 결합합니다.

프롬프트는 자연어 텍스트, 이미지 또는 기타 유형의 입력 데이터를 포함할 수 있지만, AI 서비스 및 도구에 따라 출력은 크게 다를 수 있습니다. 각 도구에는 단어의 가중치, 스타일, 관점, 레이아웃 또는 원하는 응답의 속성과 같은 특수 수정자가 있습니다.

이 분야는 더 나은 AI 기반 서비스를 만들고 기존의 생성적 AI 도구에서 더 나은 결과를 얻는 데 필수적입니다. 예를 들어, 기업 개발자는 대규모 언어 모델(Large Language Model, LLM)을 사용하여 고객용 챗봇을 구축하거나 산업별 계약과 같은 작업을 처리하는 데 프롬프트 엔지니어링을 사용합니다.

이 반복적인 프롬프트 개선 및 AI 성능 측정 과정은 다양한 상황에서 AI 모델이 목표를 달성하기 위해 매우 집중적이고 유용한 응답을 생성하도록 하는 데 중요한 요소입니다.

프롬프트 엔지니어가 되는 방법

GPT-4 모델은 복잡한 지시를 이해하고 정확하게 해결하는 능력으로 인해 매우 귀중한 자원이 됩니다. 그러나 이 모델의 능력을 접근하는 방법은 여러 가지가 있으며, 이러한 방법을 이해하는 것은 프롬프트 엔지니어의 역할에서 효율성과 비용 효율성을 최적화하는 데 중요합니다.

GPT 모델과 같은 GPT-4를 사용하는 두 가지 방법이 있습니다. 하나는 OpenAI의 API를 통해 접근하는 방법으로, 비용은 입력 및 출력 토큰당 계산됩니다. 이 경우, 컨텍스트 크기에 따라 1K 토큰당 비용이 달라질 수 있습니다. 예를 들어, 32K 컨텍스트에서 입력 토큰의 비용은 0.06달러, 출력 토큰의 비용은 0.12달러가 될 수 있습니다. 따라서 높은 요청량을 처리할 때, 사용 비용은 빠르게 증가할 수 있습니다.

또 다른 방법은 GPT-4 모델을 사용하는 ChatGPT로, 구독 기반 모델입니다.

프롬프트 엔지니어링의 또 다른 중요한 작업은 모델 파라미터 조정입니다. 이 과정은 모델이 예측을 위해 사용하는 변수를 조정하는 것을 포함합니다. 이러한 파라미터를 미세 조정함으로써, 프롬프트 엔지니어는 모델의 응답의 품질과 정확성을 향상시킬 수 있으며, 이를 통해 더 контек스트에 적합하고 유용한 응답을 생성할 수 있습니다.

많은 프롬프트 엔지니어는 기술 배경을 가지고 있지만, 이 분야의 다학제적 특성으로 인해 다양한 전문 배경을 가진 개인에게도开放적입니다. 점점 더 많은 작가, 연구자, 예술가들이 자신의 고유한 기술을 활용하여 AI 모델의 효율성을 향상시키고 있습니다. 이는 직업 시장에서도 반영되며, 다양한 기술과 배경을 가진 프롬프트 엔지니어를 찾는 회사의 수가 증가하고 있습니다.

ChatGPT의 프롬프트 디자인 및 엔지니어링

프롬프트 디자인 및 엔지니어링은 언어 모델의 성능을 최적화하는 데 중요한 역할을 하며, 이는 단순히 질문을 작성하는 것보다 더 많은 것을 포함합니다. 이는 AI 모델과 깊은 이해 및 매우 반복적이고 정교한 접근 방식을 필요로 합니다.

프롬프트 디자인

프롬프트 디자인은 본질적으로 대규모 언어 모델(Large Language Model, LLM)과 같은 ChatGPT를 위한 완벽한 프롬프트를 만드는 예술과 과학입니다. 이는 다음을 포함합니다:

• LLM에 대한 이해: 다른 언어 모델은 동일한 프롬프트에 대해 다르게 응답할 수 있습니다. 또한, 특정 언어 모델은 고유한 키워드 또는 트리거를 가질 수 있으며, 이를 특정 방식으로 해석합니다.
• 도메인 지식: 관련 분야의 전문 지식은 프롬프트를 설계할 때 필수적입니다. 예를 들어, 의학적 진단을 추론하는 프롬프트를 생성하려면 의학 지식이 필요합니다.
• 반복적인 접근 및 품질 측정: 완벽한 프롬프트를 만드는 과정은 종종 시도와 오류를 포함합니다. 따라서 출력 품질을 주관적인 판단을 넘어 측정하는 방법이 중요합니다. 특히 대규모에서 프롬프트를 사용할 때 더욱 중요합니다.

프롬프트 엔지니어링

프롬프트 엔지니어링은 프롬프트 디자인의 확장된 영역으로, 여러 중요한 프로세스를 포함합니다:

• 대규모 프롬프트 디자인: 이는 메타 프롬프트(다른 프롬프트를 생성하는 프롬프트) 및 프롬프트 템플릿의 디자인을 포함하며, 템플릿은 런타임에 인스턴스화될 수 있는 매개변수화된 프롬프트입니다.
• 도구 디자인 및 통합: 프롬프트는 때때로 외부 도구의 결과를 포함할 수 있으며, 이러한 도구를 시스템에 무결하게 통합하는 것이 중요합니다.
• 워크플로, 계획, 프롬프트 관리: LLM 애플리케이션(예: 챗봇)을 배포하는 경우, 프롬프트 라이브러리를 관리하고, 올바른 프롬프트를 선택하며, 다양한 도구를 효율적으로 통합하는 것이 필요합니다.
• 프롬프트의 평가 및 품질 보증: 이는 자동 및 인간 참여를 통한 메트릭과 프로세스를 정의하여 프롬프트를 평가하는 것을 포함합니다.
• 프롬프트 최적화: AI 모델의 비용과 대기 시간은 모델의 선택과 프롬프트의 길이(토큰 수)에 따라 달라질 수 있습니다.

프롬프트를 대규모로 관리하기 위한 자동화된 프롬프트 디자인 접근 방식, 도구, 프레임워크가 개발되었습니다. 그러나 이러한 도구는 경험丰富한 프롬프트 엔지니어의 세련된 이해, 판단, 경험을 대체할 수 없다는 점을 이해하는 것이 중요합니다.

프롬프트 엔지니어링: 기술 및 모범 사례

1) 프롬프트 배치 및 설명

프롬프트의 시작 부분에 지시를 배치하면 AI의 이해와 응답에 큰 영향을 미칠 수 있습니다. 텍스트를 글머리 기호 형식으로 요약하는 작업을 고려해 보겠습니다. 덜 효과적인 접근 방식은 다음과 같습니다:

사용자: 다음 텍스트를 가장 중요한 점으로 요약하여 글머리 기호 형식으로 표시하십시오.
{text 입력 여기}

반면에, 더 효과적인 기술은 다음과 같습니다:

사용자: 다음 텍스트를 가장 중요한 점으로 요약하여 글머리 기호 형식으로 표시하십시오.
텍스트: “””
{text 입력 여기}
“””

명확한 기호(예: ### 또는 “”)를 사용하여 지시와 컨텍스트를 분리하면, AI 모델이 작업과 처리해야 할 텍스트를 더 잘 구분할 수 있으며, 더 정확하고 관련性 높은 응답을 제공할 수 있습니다.

두 번째로, 컨텍스트, 예상 결과, 길이, 형식, 스타일 등에 대해 구체적이고 설명적이어야 합니다. 이는 AI의 응답의 정확도를 크게 향상시킬 수 있습니다. 과학 논문에 대한 흥미로운 요약을 생성해야 하는 경우, 다음과 같은 모호한 지시를 사용하는 것보다:

사용자: 과학 논문을 요약하십시오.

다음과 같은 구체적이고 자세한 프롬프트를 사용하는 것이 더 효과적입니다:

사용자: 다음 과학 논문을 약 200단어로 요약하여 비전공자도 이해할 수 있도록 흥미로운 요약을 생성하십시오. 요약은 논문의 주요发现을 정확하게 반영해야 합니다.
논문: “””
{과학 논문 텍스트 여기}
“””

2) 페르소나 패턴

페르소나 패턴은 AI를 특정 角色(예: 전문가 역할 또는 가공의 인물)에서 작동하도록 설정하는 전략입니다. 이 전략은 모델이 해당 角色에서 처리하는 출력을 생성할 수 있도록 합니다. 예를 들어, 코드 리뷰 중에 사이버 보안 전문가로 작동하도록 지시할 수 있습니다. 이 패턴은 사용자가 세부 정보에 대해 확신이 서지 않거나 도메인에 대해 전문가가 아닐 때 특히 유용합니다.

다음 예를 고려해 보십시오:

사용자: “프랑스 혁명의 전문가인 고급 역사학자를 가정하여, 프랑스 왕조의 몰락으로 이어진 주요 사건과 이유를 설명하십시오.”

이 시나리오에서, AI는 프랑스 혁명에 대한 심층 분석을 제공해야 하며, 역사학자로서 왕조의 몰락에 초점을 맞춥니다.

새로운 정보를 도입하는 방법

ChatGPT는 훈련 데이터의 범위를 넘어서는 정보를 제공할 수 없습니다. 그러나, 프롬프트를 통해 모델에 새로운 정보를 제공할 수 있습니다.

사용자: “암호화폐는 무엇입니까?”
ChatGPT: “암호화폐는 디지털 또는 가상의 통화로, 보안을 위해 암호화를 사용합니다. 가장 잘 알려진 암호화폐는 비트코인입니다.”

프롬프트에 조금 더 컨텍스트를 추가하면 설명을 더 직관적으로 만들 수 있습니다:

사용자: “디지털 금융을 공부하는 고등학교 학생에게 암호화폐의 개념을 설명하십시오”
ChatGPT: “온라인 비디오 게임에서 게임 화폐를 얻어 업그레이드 또는 새로운 캐릭터를 구매하는 것을 상상해 보십시오. 암호화폐는 비슷한 개념입니다. 게임 화폐와 달리, 암호화폐는 실제 상품과 서비스를 구매하는 데 사용할 수 있습니다. 이는 디지털 화폐로, 은행이나 정부가 통제하지 않습니다.”

3) 프롬프트 크기 제한

ChatGPT의 크기 제한을 이해하는 것은 필수적입니다. 이는 입력할 수 있는 정보의 양과 유형에 직접적인 영향을 미칩니다. 언어 모델은 무제한의 데이터를 동시에 처리하도록 설계되지 않았습니다. 프롬프트의 크기에 대한 내재된 제한이 있으며, 이는 프롬프트의 설계와 실행에重大한 영향을 미칩니다.

ChatGPT에는 일반적으로 2048개의 토큰으로 제한되며, 이는 프롬프트와 생성된 응답을 모두 포함합니다. 이는 긴 프롬프트가 응답의 길이를 제한할 수 있음을 의미합니다. 따라서 프롬프트를 간결하면서 정보가 풍부하게 유지하는 것이 중요합니다.

실제 사용에서, 우리는 작업에 필요한 가장 관련성 높은 정보를 선택적으로 선택하여 편집자로 작동해야 합니다. 페이지 또는 단어 제한이 있는 문서 또는 기사를 작성하는 것과 마찬가지로, 무작위로 사실을 던지기보다 관련성 있는 정보를 구조화하고 선택해야 합니다.

사용자: “모델의 토큰 제한을 고려하여, 제2차 세계 대전의 주요 사건을 1000단어 미만으로 요약하십시오.”

이 프롬프트는 모델이 제2차 세계 대전에 대한 간결하면서도 포괄적인 요약을 제공하도록 지시합니다.

반복 사용을 위한 프롬프트: 대화 상황에서, 이전 응답에 따라 프롬프트를 반복하거나 개선할 수 있습니다. 이는 대화 흐름을 유지하고 상호 작용의 컨텍스트를 유지하는 데 도움이 됩니다.

4) 질문 정제 패턴

ChatGPT는 또한 질문을 정제하는 데 도움을 줄 수 있습니다. 예를 들어, 질문을 하면, 더 정확한 결과를 얻기 위해 질문을 더 잘 구성된 버전으로 제안할 수 있습니다.

질문 정제 패턴은 LLM이 사용자에 의해 제기된 질문을 정제합니다. 이는 사용자가 특정 도메인에 전문가가 아니거나 질문을 어떻게 형식화해야 할지 확신이 서지 않을 때 특히 유용합니다.

다음 예를 고려해 보십시오:

사용자: “데이터 과학에 대한 질문을 할 때, 통계 분석 세부 정보를 고려하여 더 정제된 질문을 제안하고, 정제된 질문으로 계속 진행할지 여부를 묻습니다.”

이 경우, AI는 사용자의 일반적인 데이터 과학 질문을 더 자세한 통계 분석 질문으로 정제합니다.

5) 인지 확인 패턴

인지 확인 패턴은 복잡한 질문을 더 작은 하위 질문으로 나눕니다. 이러한 하위 질문에 대한 답변은 결합되어 주요 질문에 대한 포괄적인 답변을 제공합니다. 이는 초기 질문이 너무 높은 수준이거나 추가적인 명확성이 필요한 경우에 유용한 접근 방식입니다.

예를 들어:

사용자: “기후 변화에 대한 질문을 하면, 더 정확한 답변을 제공하기 위해 세 개의 더 작은 질문으로 나눕니다. 이러한 하위 질문에 대한 답변을 결합하여 최종 답변을 제공하십시오.”

이 시나리오에서, AI는 기후 변화에 대한 복잡한 질문을 세 개의 더 작은 하위 질문으로 나눕니다. 이러한 하위 질문에 대한 답변을 받은 후, AI는 이를 결합하여 더 포괄적이고 정확한 응답을 제공합니다.

이 패턴은 더 정확한 최종 출력을 얻기 위해 여러 질문을 생성하는 과정입니다. 이는 정보의 검증 및 통합의 과정입니다.

6) Few-Shot 프롬프트링 접근 방식

Few-Shot 프롬프트링은 AI 모델이 특정 패턴을 따르거나 작업을 수행하도록 가르치는 강력한 접근 방식입니다. 아이디어는 모델에 예를 제공한 후 원하는 질문을 하는 것입니다. 이는 원하는 행동을 설정하고 모델의 응답을 안내하는 데 도움이 됩니다.

예를 들어, 사용자가 새로운 기술 가젯에 대한 간결하고 매력적인 마케팅 복지를 작성하려고 하는 경우를 고려해 보십시오:

사용자: “다음은 기술 마케팅 복지의 예시입니다: ‘새로운 무선 헤드폰으로 음악을 경험하십시오.’ ‘초고선명 4K로您的 세계를 캡처하십시오.’ 이러한 예시를 고려하여, 우리의 새로운 AI 기반 스마트ウォ치를 위한 마케팅 복지를 작성하십시오.”

ChatGPT: “라이프스타イル을 강화하기 위해 우리의 AI 기반 스마트ウォ치를 사용하십시오. 건강, 연결성, 생산성을 위한 동반자입니다.” Few-Shot 학습의 놀라운 기능은 작업을 수행하는 방법에 대한 자세한 설명이 필요하지 않다는 것입니다. 대신, 수행 중인 작업의 예시가 필요합니다. 이는 많은 응용 분야에 적합합니다.

さらに, 이 기술은 간단한 입력-출력 페어링을 넘어선다. 모델은 중간 단계를 처리하여 목표를 달성하는 데도 사용될 수 있습니다.

7) 체인-오브-사고 프롬프트링

최근 연구 논문 “체인-오브-사고 프롬프트링은 대규모 언어 모델에서 추론을 유발한다“에서, 제이슨 웨이와 그의 팀은 대규모 언어 모델에서 추론을 자극하는 체인-오브-사고 프롬프트링을 사용했습니다. 전통적인 직접적인 프롬프트 대신, 모델은 일련의 상호 연결된 프롬프트를 사용하여 ‘사고의 연쇄’를 형성합니다.

예를 들어, 사용자가 인공 지능이 노동 시장에 미치는 잠재적인 영향에 관심이 있는 경우:

사용자: “인공 지능의 개념을 간단히 설명하십시오.”

ChatGPT: “인공 지능, 또는 AI,는 기계가 인간과 같은 지능적인 행동을 모방하는 능력입니다. 이는 기계를 설계하여 인간과 같은 생각하고 학습할 수 있도록 하는 것입니다. 이는 언어 번역, 의사 결정, 문제 해결 등을 포함한 작업을 수행할 수 있도록 합니다.”

사용자: “인공 지능은 현재 노동 시장에 어떤 영향을 미치고 있습니까?”

ChatGPT: “인공 지능은 새로운 일자리를 창출하고 기존의 일자리를 변경하고 있습니다. 한편으로, 인공 지능은 반복적인 작업을 자동화하여 특정 분야에서 일자리 감소를 초래할 수 있습니다. 다른 한편으로, 인공 지능은 이전에 존재하지 않았던 역할을 창출하고 있으며, 또한 인간의 역할을 강화하여 사람들이 작업을 더 효율적이고 정확하게 수행할 수 있도록 합니다.”

체인-오브-사고 프롬프트링은 모델을 더 정교하고 컨텍스트에 적합한 응답으로 안내하는 일련의 관련된 프롬프트를 따릅니다.

개발자의 관점에서 ChatGPT API 및 프롬프트 엔지니어링 이해

개발자 또는 연구자의 관점에서, 프롬프트 엔지니어링은 더 복잡한 프로세스입니다. 이는 AI 모델이 프롬프트에 더 효과적으로 응답하도록 도와주는 알고리즘 및 기술의 설계를 포함합니다. 이는 모호한 프롬프트를 처리하는 전략, 프롬프트의 컨텍스트를 식별하는 것, 또는 더 복잡한 사고 프로세스를 자극하기 위해 프롬프트를 연결하는 것을 포함할 수 있습니다.

위의 다이어그램에서, 사용자는 GPT-4를 사용하는 채팅 인터페이스와 상호 작용합니다. 사용자의 입력은 모델에 제공되기 전에 특수 모듈에 의해 명확성과 컨텍스트 일관성을 위해 개선됩니다. 이 모듈의 역할은 사용자의 입력을 모델이 이해하고 처리할 수 있도록 개선하는 것입니다. 모델의 응답은 채팅 인터페이스를 통해 사용자에게 반환됩니다. 상호 작용 기록은 일관되게 업데이트되어 대화의 컨텍스트가 유지됩니다. 전반적으로, 이 다이어그램은 프롬프트 엔지니어링 기술에 의해 활성화된 동적 사용자-AI 대화 흐름을 보여줍니다.

ChatGPT API의 인터페이스는 다양한 하이퍼파라미터로 설계되어 있습니다. 이는 사용자가 AI의 응답을 더 효과적이고 다재다능하게 만들 수 있도록 합니다. 이러한 하이퍼파라미터에는 온도, 최대 길이, 중지 시퀀스가 포함됩니다. 이러한 하이퍼파라미터가 어떻게 작동하는지 및 다양한 컨텍스트에서 어떻게 사용될 수 있는지 살펴보겠습니다.

1) 온도

온도 파라미터는 AI의 응답의 임의성을 영향을 미칩니다. 높은 온도(예: 1.0)는 더 임의의 출력을鼓励하며, 이는 다양하지만 때때로 오프토픽의 응답을 생성할 수 있습니다. 반면에, 낮은 온도(예: 0.2)는 모델이 더 결정적인 응답을 선택하도록鼓励하며, 이는 더 집중적이고 구체적인 출력에 유용할 수 있지만, 다양성이 부족할 수 있습니다.

예: 창의적인 이야기를 작성하고 싶고, 예상치 못한 요소가 포함된 판타지적인 이야기를 원한다면, 온도를 더 높은 값으로 설정할 수 있습니다. 프롬프트는 “시간 여행하는 고양이에 대한 짧은 이야기를 작성하십시오”와 같은 형식일 수 있습니다. 높은 온도에서, 모델은 예상치 못한 전환과 поворот이 포함된 와일드하고 판타지적인 이야기를 생성할 수 있습니다.

2) 최대 길이

이 파라미터는 모델의 출력 토큰의 최대 길이를 제어합니다. 이는 입력 메시지와 출력 메시지에 포함된 토큰을 모두 포함합니다. 더 높은 제한을 설정하면 더 긴 응답을 허용할 수 있습니다. 반면에, 더 낮은 제한은 출력을 더 짧고 간결하게 유지합니다.

예: 트리비아 질문(예: “2020년 노벨 문학상을 수상한 사람은 누구입니까?”)에 대한 짧은 답변을 원한다면, 최대 길이를 낮은 값으로 설정하여 응답이 간결하고 직접적이도록 할 수 있습니다.

3) 중지 시퀀스

중지 시퀀스는 모델이 특정 문자열을遇하면 출력을 중단하는 시퀀스입니다. 이는 출력의 길이를 제어하거나 모델이 논리적인 끝점에서 중단하도록 지시하는 데 유용할 수 있습니다.

예: 공식적인 편지의 경우, “진심으로”를 중지 시퀀스로 사용하여 모델이 편지의 적절한 끝에서 중단하도록 할 수 있습니다.

4) Top P

‘Top P’ 파라미터, 즉 핵심 샘플링은 모델의 예측 단계에서 고려할 단어의 동적 선택을 제공하는 방법입니다. 낮은 값(예: 0.5)은 더 안전하고 집중적인 출력을 생성합니다. 높은 값(예: 0.9)은 더广い 단어 선택을 포함하여 더 다양한 출력을 생성합니다.

예: 시를 작성하는 AI를 만들고 싶고, 다양한 어휘와 스타일을 사용하고 싶다면, ‘Top P’를 더 높은 값으로 설정할 수 있습니다. 프롬프트는 “가을의 아름다움에 대한 시를 작곡하십시오”와 같은 형식일 수 있습니다.

5) 빈도 페널티

빈도 페널티는 모델이 덜 빈번한 단어를 얼마나 선호하는지 제어합니다. 높은 페널티(최대 1)는 모델이 덜 일반적인 단어를 사용하도록鼓励합니다. 반면에, 낮은 값(최소 -1)은 모델이 더 일반적인 단어를 사용하도록鼓励합니다.

예: 비즈니스 제안을 생성하고 싶지만 전문 용어를 피하고 싶다면, 빈도 페널티를 낮은 값으로 설정하여 언어를 명확하고 접근하기 쉽게 유지할 수 있습니다.

6) 존재 페널티

존재 페널티 파라미터는 모델이 이전에 언급되지 않은 새로운 아이디어 또는 주제를 생성할 때 페널티를 얼마나 받는지 영향을 미칩니다. 높은 값은 모델이 이전에 언급된 주제에 더 많이 집중하도록鼓励합니다. 반면에, 낮은 값은 모델이 더 자유롭게 새로운 개념을 도입하도록 허용합니다.

예: 브레인스토밍 세션에서, 존재 페널티를 낮은 값으로 설정하여 모델이 다양한 아이디어를 생성하도록鼓励할 수 있습니다. 프롬프트는 “온라인 교육 플랫폼을 위한 혁신적인 마케팅 전략을 생성하십시오”와 같은 형식일 수 있습니다.

프롬프트 엔지니어링의 산업 적용