ChatGPT의 신속한 엔지니어링을 위한 필수 가이드

그것의 발사부터, ChatGPT AI 분야에서 큰 반향을 일으키며 기록적인 시간 안에 100억 명이 넘는 사용자를 확보했습니다. ChatGPT의 놀라운 성능과 다재다능함의 비결은 프로그래밍 언어에 은밀하게 자리 잡은 기술, 바로 신속한 엔지니어링에 있습니다.

2022년에 출시된 DALL-E, MidJourney 및 StableDiffusion은 Generative AI의 파괴적 잠재력을 강조했습니다. 하지만 그것은 AI 열기의 ChatGPT는 2022년 후반에 진정으로 중심 무대를 차지했습니다. 그리고 이 모멘텀은 둔화될 기미를 보이지 않았습니다.

구글의 바드 발표 그리고 메타의 라마 2  OpenAI의 ChatGPT에 대한 반응은 AI 경쟁의 추진력을 크게 증폭시켰습니다. 이러한 모델에 입력값을 제공함으로써 우리는 모델의 행동과 반응을 유도하고 있습니다. 이는 우리 모두가 어느 정도 신속한 엔지니어가 되도록 만듭니다. 기술 업계가 이를 주목하고 있습니다. 벤처 캐피털들은 신속한 엔지니어링에 중점을 둔 스타트업에 자금을 쏟아붓고 있습니다. 피지 AI. 또한 Forbes는 엔지니어의 명령을 프롬프트한다고 보고합니다. 연봉 $300,000 초과, 번창하고 가치 있는 직업 시장을 나타냅니다.

이 글에서는 ChatGPT를 기반으로 프롬프트 엔지니어링의 세계를 자세히 살펴보겠습니다. 핵심 원리와 기술을 살펴보고, 그 상업적 활용 사례를 살펴보겠습니다.

먼저 ChatGPT가 어떻게 작동하는지, 그리고 이 과정에서 프롬프트 엔지니어링이 어떤 중요한 역할을 하는지 알아보겠습니다.

ChatGPT Prompt Engineering의 역학

ChatGPT 성공의 비결은 인간 대화의 뉘앙스를 이해하고 모방하는 능력입니다. 이 모델은 다양한 인터넷 텍스트를 기반으로 학습되지만, 핵심은 학습 세트에 특정 문서나 출처가 존재하지 않아 특수성보다는 일반성을 보장한다는 것입니다. 이러한 학습 방식을 통해 ChatGPT는 창의적인 답변을 생성하고, 복잡한 대화를 탐색하며, 심지어 유머 감각까지 발휘할 수 있습니다. 하지만 ChatGPT는 실제로 이해하거나 신념을 가지고 있지 않다는 점을 기억해야 합니다. 훈련 과정에서 학습한 패턴을 기반으로 답변을 생성합니다.

ChatGPT는 인간의 언어를 섬세하고 상황에 맞는 방식으로 이해하고 응답할 수 있는 능력을 갖추고 있어 놀라울 정도로 다재다능한 도구입니다.

이 모델의 메커니즘은 '토큰'이라는 개념에 기반합니다. 토큰은 단일 문자부터 전체 단어까지 다양한 범위를 아우르는 언어의 개별적인 덩어리입니다. 이 모델은 한 번에 특정 개수의 토큰(GPT-4096-Turbo의 경우 3.5개, GPT-8192의 경우 32768개 또는 4개)을 사용하여 다음에 나올 가능성이 높은 토큰 시퀀스를 예측합니다. 이 모델은 복소 선형 대수를 사용하여 토큰을 처리하고, 가장 가능성이 높은 후속 토큰을 예측합니다.

예를 들어 간단한 XNUMX단어 문장은 XNUMX개의 토큰으로 바뀔 수 있습니다. 하나의 복잡한 단어도 여러 토큰으로 바뀔 수 있으므로 모델이 언어를 더 잘 이해하고 생성하는 데 도움이 됩니다. 독일어와 같이 단어 구조가 복잡한 언어도 토큰화를 통해 관리됩니다.

GPT(Generative Pre-trained Transformer) 모델은 첫 번째 토큰부터 시작하여 마지막 토큰까지 한 번에 하나의 토큰을 생성하는 방식으로 작동합니다. 각 토큰을 생성한 후 모델은 전체 시퀀스를 다시 방문하고 다시 처리하여 다음 토큰을 생성합니다. 이 반복 프로세스는 최종 토큰이 생성될 때까지 계속되어 큰 for-loop와 유사한 텍스트 생성을 만듭니다.

하지만 여기서 중요한 점은 이러한 응답의 품질이 주로 수신되는 프롬프트에 따라 달라진다는 것입니다. 사람과 대화를 진행하는 것과 마찬가지로, ChatGPT에서 대화를 유도하려면 일정 수준의 기술과 이해가 필요합니다. 바로 이 부분에서 프롬프트 엔지니어링이 중요한 역할을 합니다.

프롬프트 엔지니어링이란 무엇입니까?

Prompt Engineering은 AI를 안내하기 위해 정확하고 효과적인 프롬프트/입력을 만드는 기술입니다.NLP/Vision) ChatGPT와 같은 모델을 사용하여 가장 비용 효율적이고 정확하며 유용하고 안전한 출력을 생성합니다.

프롬프트 엔지니어링은 텍스트 생성에만 국한되지 않고 AI 도메인 전반에 걸쳐 광범위하게 적용됩니다. 로봇 프로세스 자동화 봇, 3D 자산, 스크립트, 로봇 지침, 기타 유형의 콘텐츠 및 디지털 미디어와 같은 영역에서 점점 더 많이 사용되고 있습니다. 이는 논리, 코딩, 예술 및 경우에 따라 특수 수정자의 고유한 조합을 제공합니다.

프롬프트에는 자연어 텍스트, 이미지 또는 기타 유형의 입력 데이터가 포함될 수 있지만 출력은 AI 서비스 및 도구에 따라 크게 다를 수 있습니다. 모든 도구에는 원하는 응답의 단어, 스타일, 관점, 레이아웃 또는 기타 속성의 가중치를 설명하는 특수 수정자가 있습니다.

이 분야는 더 나은 AI 기반 서비스를 만들고 기존 생성 AI 도구에서 우수한 결과를 얻는 데 필수적입니다. 예를 들어 엔터프라이즈 개발자는 종종 프롬프트 엔지니어링을 활용하여 GPT-3과 같은 LLM(Large Language Model)을 맞춤화하여 고객 대면 솔루션을 강화합니다. 채팅 봇 또는 산업별 계약 작성과 같은 작업을 처리합니다.

신속한 개선 및 AI 성능 측정의 이 반복적인 프로세스는 AI 모델이 다양한 상황에서 고도로 표적화되고 유용한 응답을 생성할 수 있도록 하는 핵심 요소입니다.

신속한 엔지니어 되기

GPT-4 모델은 복잡한 명령어를 이해하고 복잡한 문제를 정확하게 해결하는 뛰어난 능력을 갖추고 있어 매우 귀중한 리소스입니다. 하지만 이 모델의 기능에 접근하는 방법은 다양하며, 이러한 방법을 이해하는 것은 신속하고 효율적인 엔지니어가 효율성과 비용 효율성을 최적화하는 데 매우 중요할 수 있습니다.

GPT-4와 같은 GPT 모델을 사용하는 방법은 기본적으로 두 가지가 있습니다. 첫 번째 방법은 OpenAI API를 사용하는 것입니다. 이 경우 비용은 입력 및 출력 토큰별로 계산됩니다. 이 경우 1개 토큰당 비용은 컨텍스트 크기에 따라 변동될 수 있습니다. 예를 들어, 32개 이상의 컨텍스트에서 입력 토큰 비용은 최대 $0.06, 출력 토큰 비용은 최대 $0.12까지 증가할 수 있습니다. 따라서 대량의 요청을 처리할 때 사용 비용이 빠르게 누적될 수 있습니다.

또는 GPT-4 모델을 활용하는 ChatGPT는 구독 기반 모델에서 작동합니다.

신속한 엔지니어링의 또 다른 핵심 작업은 모델 매개변수 튜닝입니다. 이 프로세스는 모델이 예측에 사용하는 변수를 조정하는 것을 포함합니다. 신속한 엔지니어는 이러한 매개변수를 미세 조정함으로써 모델 응답의 품질과 정확도를 향상시켜 맥락적으로 더욱 관련성 있고 유용한 결과를 제공할 수 있습니다.

많은 프롬프터 엔지니어가 기술 분야 출신이지만, 이 분야의 다학제적 특성 덕분에 다양한 전문 분야를 가진 사람들이 이 분야에 진출할 수 있습니다. 작가, 연구자, 심지어 예술가들까지 AI 모델의 효율성을 높이기 위해 자신만의 고유한 기술을 활용하는 사례가 점점 늘어나고 있습니다. 이러한 변화는 취업 시장에도 반영되어, 다양한 기술과 배경을 가진 프롬프터 엔지니어를 찾는 기업들이 늘어나고 있습니다.

ChatGPT의 신속한 설계 및 엔지니어링

신속한 설계 및 엔지니어링은 언어 모델의 성능을 최적화하는 데 중요한 역할을 하며 단순한 질문 작성 이상을 포함합니다. AI 모델에 대한 깊은 이해와 고도로 반복적이고 세련된 접근 방식이 필요합니다.

신속한 디자인

프롬프트 디자인은 본질적으로 ChatGPT와 같은 대규모 언어 모델(LLM)이 명확하게 정의된 목표를 달성할 수 있도록 완벽한 프롬프트를 만드는 기술과 과학입니다. 이는 다음 요소들의 조합으로 이루어집니다.

• LLM에 대한 이해: 다른 언어 모델은 동일한 프롬프트에 다양하게 응답할 수 있습니다. 또한 특정 언어 모델에는 특정 방식으로 해석하는 고유한 키워드 또는 트리거가 있을 수 있습니다.
• 도메인 지식: 관련 분야의 전문 지식은 프롬프트를 디자인할 때 매우 중요합니다. 예를 들어 의학적 진단을 추론하는 프롬프트를 생성하려면 의학적 지식이 필요합니다.
• 반복적 접근 및 품질 측정: 이상적인 프롬프트를 생성하는 과정에는 시행착오가 수반되는 경우가 많습니다. 따라서 주관적인 판단을 넘어 출력 품질을 평가할 수 있는 방법을 갖는 것이 특히 더 큰 규모에서 프롬프트를 사용할 때 중요합니다.

신속한 엔지니어링

프롬프트 엔지니어링은 다음과 같은 몇 가지 중요한 프로세스를 포함하는 확장된 프롬프트 설계 영역입니다.

• 대규모 프롬프트 디자인: 이 프로세스에는 메타 프롬프트(다른 프롬프트를 생성하는 프롬프트) 및 런타임에 인스턴스화할 수 있는 매개 변수화된 프롬프트인 프롬프트 템플릿의 디자인이 포함됩니다.
• 도구 설계 및 통합: 프롬프트는 때때로 외부 도구의 결과를 포함할 수 있으며 이러한 도구를 시스템에 원활하게 통합하는 것이 중요합니다.
• 워크플로, 계획 및 프롬프트 관리: 챗봇과 같은 LLM 애플리케이션을 배포하려면 종종 프롬프트 라이브러리 관리, 올바른 프롬프트 계획 및 선택, 다양한 도구의 효율적인 통합이 필요합니다.
• 프롬프트 평가 및 품질 보증: 이 측면에는 프롬프트를 자동으로 평가하고 사람의 개입을 통해 평가하기 위한 메트릭 및 프로세스 정의가 포함됩니다.
• 프롬프트 최적화: AI 모델의 비용과 대기 시간은 모델 선택과 프롬프트 길이(토큰 수)에 따라 달라질 수 있습니다.

대규모 프롬프트를 관리하기 위해 자동화된 프롬프트 설계 방식, 도구 및 프레임워크가 많이 개발되었습니다. 하지만 이러한 도구 중 어떤 것도 숙련된 프롬프트 엔지니어의 섬세한 이해, 판단력, 그리고 경험을 대체할 수는 없다는 점을 이해하는 것이 중요합니다.

신속한 엔지니어링: 기술 및 모범 사례

1) 프롬프트 배치 및 설명

프롬프트의 시작 부분에 지침을 배치하면 AI의 이해와 응답에 상당한 영향을 미칠 수 있습니다. 예를 들어, 글을 요점 형식으로 요약하는 작업을 생각해 보세요. 덜 효과적인 방법은 다음과 같습니다.

사용자: 아래 텍스트를 가장 중요한 사항의 글머리 기호 목록으로 요약합니다.
{여기에 텍스트 입력}

반면에 보다 효과적인 기술은 다음과 같습니다.

사용자: 아래 텍스트를 가장 중요한 사항의 글머리 기호 목록으로 요약합니다.
텍스트: """
{여기에 텍스트 입력}
"" "

### 또는 """와 같은 기호로 지침과 컨텍스트를 명확하게 구분함으로써 AI 모델은 작업과 처리해야 하는 텍스트를 더 잘 설명할 수 있으므로 보다 정확하고 적절한 응답을 제공할 수 있습니다.

둘째, 맥락, 예상 결과, 길이, 형식, 스타일 등에 대해 구체적이고 설명적이며 상세하면 AI 응답의 정확성을 크게 향상시킬 수 있습니다. 흥미롭고 평신도 친화적인 스타일로 과학 논문에 대한 간략한 개요를 생성해야 한다고 가정합니다. "과학 논문 요약"과 같은 모호한 지시는 구체적이고 상세한 프롬프트에 비해 덜 효과적인 결과를 산출합니다.

사용자다음 과학 논문을 간략하고 매력적인 요약(약 200단어)으로 작성하세요. 요약은 과학적 배경 지식이 없는 사람도 이해할 수 있어야 하며, 논문의 주요 결과를 정확하게 반영해야 합니다.
종이: """
{여기에 과학 논문 텍스트}
"" "

2) 페르소나 패턴

페르소나 패턴은 AI가 전문적인 역할이나 가상의 인물과 같은 특정 관점에서 작동하도록 설정하는 전략입니다. 이 전술을 통해 모델은 페르소나가 처리할 특정 역할과 관련된 출력을 제공할 수 있습니다. 예를 들어 코드 검토 중에 AI가 사이버 보안 전문가 역할을 하도록 지시할 수 있습니다. 이 패턴은 사용자가 도움이 필요하지만 출력에 필요한 정확한 세부 정보에 대해 확신이 없을 때 특히 유용합니다.

다음을 예로 들어 보겠습니다.

사용자: “프랑스 혁명을 전문으로 하는 선임 역사가의 페르소나를 가정합니다. 그 페르소나를 바탕으로 프랑스 군주제의 몰락으로 이어지는 주요 사건과 이유를 설명하십시오.”

이 시나리오에서 AI는 역사가처럼 군주제의 몰락에 초점을 맞춘 프랑스 혁명에 대한 심층 분석으로 대응할 것으로 예상됩니다.

새로운 정보 소개

ChatGPT는 학습 한계를 넘어서는 지식을 보유하고 있지 않으므로, 최근 이벤트나 학습 후 업데이트에 대한 정보를 제공할 수 없습니다. 하지만 프롬프트를 통해 모델에 새로운 정보를 제공할 수 있습니다.

사용자: “암호화폐란?”
ChatGPT: “암호화폐는 보안을 위해 암호를 사용하는 일종의 디지털 또는 가상 화폐입니다. 가장 잘 알려진 암호화폐는 비트코인입니다.”

이제 프롬프트에 컨텍스트를 조금 더 추가하면 설명을 더욱 직관적으로 만들 수 있습니다.

사용자: “디지털 금융을 공부하는 고등학생에게 암호화폐의 개념을 설명하다”
ChatGPT: "온라인 비디오 게임을 하고 있다고 상상해 보세요. 게임 머니를 벌어서 업그레이드나 새 캐릭터를 구매할 수 있죠. 암호화폐도 이와 비슷하지만, 게임 내에서만 사용할 수 있는 것이 아니라 실제로 현실 세계의 상품과 서비스를 구매하는 데 사용할 수 있습니다. 은행이나 정부의 통제를 받지 않는 디지털 화폐와 같은 것이죠."

3) 프롬프트 크기 제한

ChatGPT의 크기 제한을 이해하는 것은 우리가 입력할 수 있는 정보의 양과 유형에 직접적인 영향을 미치기 때문에 필수적입니다. 언어 모델은 한 번에 무제한 데이터를 처리하도록 구축되지 않았습니다. 그들은 우리가 만들고 입력할 수 있는 프롬프트의 크기에 대한 본질적인 제약이 있습니다. 이 제한 사항은 프롬프트의 디자인 및 실행에 중대한 영향을 미칩니다.

ChatGPT에는 토큰 제한(일반적으로 2048개)이 있으며, 여기에는 프롬프트와 생성된 응답이 모두 포함됩니다. 즉, 프롬프트가 길면 응답 길이가 제한될 수 있습니다. 따라서 프롬프트는 간결하면서도 정보를 제공하는 것이 중요합니다.

실제로 우리는 편집자 역할을 하며, 당면한 과제에 가장 관련성 있는 정보를 선택적으로 선택해야 합니다. 단어 수나 페이지 제한이 있는 논문이나 기사를 쓴다고 상상해 보세요. 무작위적인 사실들을 무작정 쏟아낼 수는 없고, 주제와 관련된 정보를 신중하게 선택하고 구성할 수 있습니다.

사용자: "모델의 토큰 제한을 감안할 때 1000차 세계 대전의 주요 사건을 XNUMX단어 미만으로 요약하십시오."

이 프롬프트는 모델의 상징적 한계를 인정함으로써 AI가 2차 세계 대전에 대한 간결하면서도 포괄적인 요약을 제공하도록 지시합니다.

반복 사용을 위한 프롬프트: 대화형 시나리오에서 프롬프트를 재사용하거나 이전 응답을 기반으로 세분화할 수 있습니다. 이것은 대화 흐름을 제공하고 상호 작용에서 컨텍스트를 유지합니다.

4) 질문 세분화 패턴

ChatGPT는 또한 질문을 구체화하는 데 도움이 될 수 있습니다. 예를 들어 질문을 하면 더 정확한 결과를 위해 더 잘 구성된 질문을 제안할 수 있습니다.

질문 개선 패턴은 LLM이 사용자가 묻는 질문을 개선하는 것을 포함합니다. 특히 사용자가 특정 분야의 전문가가 아니거나 질문을 어떻게 표현해야 할지 모를 때 유용합니다.

예제 프롬프트는 다음과 같습니다.

사용자: “데이터 사이언스에 대한 질문을 할 때마다 통계 분석 특성을 고려하여 좀 더 세분화된 질문을 제시하고 세분화된 질문으로 진행할 것인지 묻습니다.”

여기에서 AI는 사용자의 일반적인 데이터 과학 질문을 통계 분석 측면을 고려하여 더욱 자세한 질문으로 구체화할 것으로 기대됩니다.

5) 인지 검증자 패턴

Cognitive Verifier 패턴은 복잡한 질문을 더 작고 관리 가능한 하위 질문으로 나눕니다. 그런 다음 이러한 하위 질문에 대한 답변을 결합하여 주요 질문에 대한 포괄적인 답변을 제공합니다. 이 접근 방식은 초기 질문이 너무 높은 수준이거나 완전한 답변을 제공하기 위해 추가 명확성이 필요한 경우에 유용합니다.

예를 들어 :

사용자: “기후 변화에 대해 질문을 하면 더 정확한 답을 제공하는 데 도움이 될 세 가지 작은 질문으로 나눕니다. 이러한 하위 질문에 대한 답변을 결합하여 최종 답변을 제공합니다.”

이 시나리오에서 AI는 기후 변화에 대한 복잡한 질문을 세 가지 관리 가능한 하위 질문으로 분류합니다. 이러한 하위 질문에 대한 답변을 받은 후 AI는 이를 결합하여 보다 포괄적이고 정확한 답변을 제공합니다.

이 패턴은 더욱 정확한 최종 답변을 얻기 위해 여러 질문을 생성하는 것을 포함합니다. 이는 견고한 최종 결과를 위한 정보 검증 및 통합 과정입니다.

6) Few-Shot Prompting 접근법

퓨샷 프롬프팅은 AI 모델이 특정 패턴을 따르거나 작업을 수행하도록 가르치는 강력한 방법입니다. 원하는 질문을 하기 전에 모델에 여러 예시를 제공하는 것이 핵심입니다. 이를 통해 원하는 행동을 설정하고 모델의 응답을 유도할 수 있습니다.

사용자가 새로운 기술 장치에 대한 간결하고 설득력 있는 마케팅 카피를 작성하려고 시도하는 시나리오를 고려하십시오.

사용자: "다음은 몇 가지 기술 마케팅 문구 예시입니다. '첨단 무선 헤드폰으로 전에 없던 음악을 경험하세요.' '매끈한 디자인의 액션 카메라로 놀라운 4K 화질로 세상을 포착하세요.' 이러한 예시를 바탕으로 AI 기반 스마트워치의 마케팅 문구를 작성해 보세요."

ChatGPT: "건강, 연결성, 그리고 생산성을 위한 동반자인 AI 기반 스마트워치로 당신의 라이프스타일을 강화하세요." 퓨샷 러닝의 놀라운 특징은 작업 수행 방법에 대한 자세한 설명이 필요 없다는 것입니다. 대신, 수행 중인 작업을 보여주는 데모만 있으면 되므로 다양한 애플리케이션에 적합합니다.

또한 이 기술은 단순한 입력-출력 페어링을 넘어 확장됩니다. 목표를 달성하기 위해 중간 단계를 처리하도록 모델을 학습시킬 수도 있습니다.

7) 생각의 연쇄 촉진

그들의 최근 연구 논문에서 “생각의 사슬 프롬프트는 대규모 언어 모델에서 추론을 이끌어냅니다.저자 제이슨 웨이와 그의 팀은 대규모 언어 모델 내에서 추론을 자극하는 것을 목표로 합니다. 전통적인 직접적인 프롬프트를 사용하는 대신, 연구팀은 일련의 상호 연결된 프롬프트를 활용하여 '생각의 사슬'을 형성합니다.

예를 들어 사용자는 인공 지능이 직업 시장에 미치는 잠재적 영향에 관심을 가질 수 있습니다.

사용자: “인공지능의 개념에 대해 간단히 설명해 주시겠습니까?”

ChatGPT: "인공지능(AI)은 기계가 인간의 지능적인 행동을 모방하는 능력을 의미합니다. 인간처럼 생각하고 학습하여 언어 번역, 의사 결정, 문제 해결 등의 작업을 수행할 수 있도록 하는 기계를 설계하는 것을 의미합니다."

사용자: “AI는 현재 고용 시장에 어떤 영향을 미치고 있습니까?”

ChatGPT: "AI는 새로운 일자리를 창출하는 동시에 기존 일자리의 본질을 변화시키고 있습니다. 한편으로는 일상적인 업무를 자동화하여 특정 분야의 일자리를 대체하고 있습니다. 다른 한편으로는 AI 윤리 담당자, 데이터 분석가, 머신러닝 엔지니어처럼 이전에는 존재하지 않았던 직종에 대한 수요를 창출하고 있습니다. 또한, AI는 인간의 역할을 보완하여 사람들이 더욱 효율적이고 정확하게 업무를 수행할 수 있도록 해줍니다."

사고의 사슬을 통한 프롬프트는 관련된 프롬프트의 진행을 따르며, 더 정확하고 상황에 맞는 응답을 이끌어내는 모델과의 '대화'를 유지합니다.

개발자 관점에서 ChatGPT API 및 프롬프트 엔지니어링 이해

개발자나 연구자의 관점에서 보면 프롬프트 엔지니어링은 더욱 복잡한 과정입니다. AI 모델이 프롬프트를 더욱 효과적으로 이해하고 대응할 수 있도록 알고리즘과 기법을 설계하는 과정이 포함됩니다. 여기에는 모호한 프롬프트 처리, 프롬프트의 맥락 파악, 또는 AI의 더욱 복잡한 사고 과정을 자극하기 위한 프롬프트 연결 전략이 포함될 수 있습니다.

위 그림에서 사용자는 GPT-4 기반 채팅 인터페이스와 상호작용합니다. 사용자의 입력은 AI 모델에 입력되기 전에 특수 모듈을 통해 명확성과 맥락적 일관성을 위해 개선됩니다. 이 모듈의 역할은 대화의 맥락을 유지하면서도 사용자의 입력을 더 잘 이해할 수 있도록 다듬고 강화하는 것입니다. 다듬어진 프롬프트를 기반으로 제작된 AI의 응답은 채팅 인터페이스를 통해 사용자에게 반환됩니다. 상호작용 기록은 지속적으로 업데이트되어 대화 맥락을 유지합니다. 전반적으로, 이 다이어그램은 프롬프트 엔지니어링 기술을 통해 구현된 동적 사용자-AI 대화 흐름을 보여줍니다.

The ChatGPT API 이 인터페이스는 사용자가 AI의 프롬프트 응답을 개선하여 더욱 효과적이고 다재다능하게 만들 수 있도록 다양한 하이퍼파라미터를 기반으로 설계되었습니다. 여기에는 온도, 최대 길이, 정지 시퀀스 매개변수가 포함됩니다. 이 매개변수들이 어떻게 작동하고 다양한 상황에서 어떻게 활용될 수 있는지 살펴보겠습니다.

1) 온도

온도 매개변수는 AI 응답의 무작위성에 영향을 미칩니다. 1.0과 같이 높은 온도는 더 무작위적인 출력을 유도하여 다양하지만 주제에서 벗어난 응답을 초래할 수 있습니다. 반대로 0.2와 같이 낮은 온도는 AI가 더 결정적인 응답을 선택하도록 유도하여 집중적이고 구체적인 출력에는 유용하지만 다양성이 부족할 수 있습니다.

예: 창의적인 이야기를 쓰고 있고 예측 불가능하고 상상력이 풍부한 요소를 원한다면 온도 값을 높게 설정하세요. "시간 여행 고양이에 대한 단편 소설을 써 보세요."와 같은 프롬프트를 만들 수 있습니다. 높은 온도를 사용하면 예측할 수 없는 반전과 함께 야성적이고 환상적인 이야기를 얻을 수 있습니다.

2) 최대 길이

이 매개변수는 모델 출력의 최대 토큰 길이를 제어하며, 여기에는 메시지 입력과 출력의 토큰이 모두 포함됩니다. 토큰 길이를 높게 설정하면 더 긴 응답이 가능하고, 토큰 길이를 낮게 설정하면 출력이 짧고 간결하게 유지됩니다.

예: "2020년 노벨 문학상을 수상한 사람은 누구입니까?"와 같은 퀴즈 질문에 대한 간단한 답변 응답이 간결하고 직접적인지 확인하기 위해 최대 길이를 낮은 값으로 설정할 수 있습니다.

3) 정지 시퀀스

중지 시퀀스는 모델이 이를 만나면 추가 출력 생성을 중지하는 특정 텍스트 문자열입니다. 이 기능은 출력 길이를 제어하거나 모델이 논리적 끝점에서 중지하도록 지시하는 데 유용할 수 있습니다.

예: 공식적인 편지의 경우 AI가 편지의 적절한 끝을 넘어서는 추가 텍스트를 생성하지 않도록 정지 시퀀스로 "Yours Sincere"를 사용할 수 있습니다.

4) 탑 P

'Top P' 매개변수는 핵 샘플링이라고도 하며, 모델 예측의 각 단계에서 고려되는 단어 수를 동적으로 선택하는 방법입니다. 0.5와 같이 값이 낮을수록 더 안전하고 집중적인 결과를 얻을 수 있습니다. 0.9와 같이 값이 높을수록 더 다양한 단어가 포함되어 더 다양한 결과를 얻을 수 있습니다.

예: AI가 시를 쓰도록 만들고 다양한 어휘와 문체 표현을 사용하도록 하려면 'Top P' 값을 더 높게 설정할 수 있습니다. 프롬프트는 "가을의 아름다움에 대한 시를 지어 보세요"와 같이 설정할 수 있습니다.

5) 주파수 페널티

빈도 페널티는 모델이 빈도가 낮은 단어를 선호하는 정도를 제어합니다. 페널티가 높을수록(최대 1) 모델이 덜 일반적인 단어를 사용하도록 권장하고 값이 낮을수록(-1까지) 모델이 더 일반적인 단어를 사용하도록 권장합니다.

예: 사업 제안서를 작성하면서 전문 용어를 피하고 싶다면, 언어를 명확하고 접근하기 쉽게 유지하기 위해 빈도 패널티를 낮은 값으로 설정할 수 있습니다.

6) 출석 페널티

Presence Penalty 매개변수는 대화 기록에 없는 새로운 아이디어나 주제를 생성하기 위해 모델이 얼마나 많은 패널티를 받는지에 영향을 미칩니다. 값이 높을수록 모델이 이미 언급한 주제에 충실하도록 하고 값이 낮을수록 모델이 새로운 개념을 더 자유롭게 도입할 수 있도록 합니다.

예: 브레인스토밍 세션의 경우 다양한 아이디어를 장려하기 위해 현재 상태 패널티를 더 낮은 값으로 설정할 수 있습니다. "온라인 교육 플랫폼을 위한 혁신적인 마케팅 전략 생성"과 같은 프롬프트를 사용할 수 있습니다.

Prompt Engineering의 산업적 응용