Rekayasa prompt

Panduan Utama untuk Teknik Prompt Engineering di ChatGPT

mm
Tambahkan Unite.AI ke sumber pilihan Anda di Google

Sejak diluncurkan, ChatGPT telah membuat gelombang di bidang AI, menarik lebih dari 100 juta pengguna dalam waktu singkat. Rahasia di balik kinerja impresif dan kelenturan ChatGPT terletak pada seni yang halus tersembunyi dalam pemrogramannya – teknik prompt engineering.

Diluncurkan pada 2022, DALL-E, MidJourney, dan StableDiffusion menekankan potensi mengganggu AI Generatif. Namun, ChatGPT dari Open AI yang benar-benar mengambil alih panggung kemudian pada 2022. Dan momentum ini tidak menunjukkan tanda-tanda melambat.

Pengumuman Google tentang Bard (GOOGL ) dan Meta’s Lamma 2 sebagai respons terhadap ChatGPT dari OpenAI telah secara signifikan meningkatkan momentum perlombaan AI. Dengan memberikan input pada model ini, kita mengarahkan perilaku dan respons mereka. Ini membuat kita semua menjadi insinyur prompt hingga tingkat tertentu. Industri teknologi telah memperhatikan hal ini. Venture capitalist mengalirkan dana ke startup yang fokus pada teknik prompt engineering, seperti Vellum AI. Selain itu, Forbes melaporkan bahwa insinyur prompt memerintahkan gaji melebihi $300.000, yang menunjukkan pasar kerja yang berkembang dan berharga.

Dalam artikel ini, kita akan memahami dunia teknik prompt engineering dalam konteks ChatGPT. Kita akan menjelajahi prinsip-prinsip inti dan tekniknya, serta mengeksplorasi aplikasi komersialnya.

Mari kita mulai dengan memahami bagaimana ChatGPT berfungsi dan peran kunci teknik prompt engineering dalam proses ini.

Mekanisme di Balik Teknik Prompt Engineering ChatGPT

Rahasia di balik kesuksesan ChatGPT terletak pada kemampuannya untuk memahami dan meniru nuansa percakapan manusia. Model ini dilatih pada berbagai teks internet, tetapi secara kritis, itu tidak mengetahui dokumen atau sumber tertentu dalam set pelatihannya, memastikan generalisasi lebih dari spesifisitas. Pendekatan pelatihan ini memungkinkan ChatGPT untuk menghasilkan respons kreatif, menavigasi dialog kompleks, dan bahkan menampilkan rasa humor. Namun, penting untuk diingat bahwa ChatGPT tidak benar-benar memahami atau memiliki keyakinan; itu menghasilkan respons berdasarkan pola yang dipelajari selama pelatihan.

Kemampuan ChatGPT untuk memahami dan merespons bahasa manusia dengan cara yang halus dan sadar konteks membuatnya menjadi alat yang sangat serbaguna.

Mekanisme model ini beristirahat pada konsep ‘token’ – potongan bahasa diskrit yang dapat berkisar dari satu karakter hingga satu kata. Model ini bekerja dengan jumlah token tertentu pada satu waktu (4096 untuk GPT-3.5-Turbo atau 8192 atau 32768 untuk GPT-4), memprediksi urutan token berikutnya yang paling mungkin. Model ini memproses token menggunakan aljabar linear kompleks, memprediksi token berikutnya yang paling mungkin.


ChatGPT Tokenizer - Teknik Prompt Engineering - Unite AI

Sebagai contoh, kalimat sederhana dengan sembilan kata dapat berubah menjadi sepuluh token. Bahkan satu kata kompleks dapat berubah menjadi beberapa token, yang membantu model memahami dan menghasilkan bahasa dengan lebih baik. Bahasa dengan struktur kata kompleks, seperti Jerman, dikelola melalui tokenisasi.

teknik prompt engineering - Ilustrasi token dan prediksi model bahasa besar

 

Model GPT (Generative Pre-trained Transformer) bekerja dengan menghasilkan satu token pada satu waktu, dimulai dari token pertama dan berlanjut hingga token terakhir. Setelah menghasilkan setiap token, model tersebut mengunjungi kembali seluruh urutan dan memprosesnya lagi untuk menghasilkan token berikutnya. Proses iteratif ini berlanjut hingga token terakhir dihasilkan, membuat generasi teks mirip dengan loop besar.

Tapi ada satu hal yang perlu diperhatikan – kualitas respons ini sebagian besar bergantung pada prompt yang diterima. Sama seperti mengarahkan percakapan dengan manusia, mengarahkan dialog dengan ChatGPT memerlukan tingkat keterampilan dan pemahaman tertentu. Itulah di mana teknik prompt engineering masuk.

Apa itu Teknik Prompt Engineering?

Teknik Prompt Engineering adalah seni mengembangkan prompt yang presisi dan efektif untuk memandu model AI (NLP/Vision) seperti ChatGPT untuk menghasilkan output yang paling efektif, akurat, berguna, dan aman.

Teknik prompt engineering tidak hanya terbatas pada generasi teks tetapi memiliki aplikasi yang luas di seluruh domain AI. Ini semakin banyak digunakan dalam bidang seperti otomatisasi proses robot, aset 3D, skrip, instruksi robot, dan jenis konten dan media digital lainnya. Ini menyediakan campuran unik dari logika, pengkodean, seni, dan dalam beberapa kasus, modifikasi khusus.

Sementara prompt dapat mencakup teks bahasa alami, gambar, atau jenis data input lainnya, output dapat bervariasi secara signifikan di seluruh layanan dan alat AI. Setiap alat memiliki modifikasi khusus yang menjelaskan bobot kata, gaya, perspektif, tata letak, atau properti lain dari respons yang diinginkan.

Bidang ini sangat penting untuk menciptakan layanan AI yang lebih baik dan mendapatkan hasil yang lebih baik dari alat AI generatif yang ada. Pengembang perusahaan, misalnya, sering menggunakan teknik prompt engineering untuk menyesuaikan Model Bahasa Besar (LLM) seperti GPT-3 untuk mengaktifkan chatbot yang menghadap pelanggan atau menangani tugas seperti membuat kontrak spesifik industri.

Proses iteratif ini dari penghalusan prompt dan pengukuran kinerja AI adalah elemen kunci dalam memungkinkan model AI untuk menghasilkan respons yang sangat terarah dan berguna dalam berbagai konteks.

Menjadi Insinyur Prompt

Model GPT-4 memiliki kemampuan luar biasa dalam memahami instruksi kompleks dan memecahkan masalah dengan akurat, membuatnya menjadi sumber daya yang sangat berharga. Namun, ada beberapa metode untuk mengakses kemampuan model ini, dan memahami metode ini dapat sangat penting bagi peran insinyur prompt dalam mengoptimalkan efisiensi dan biaya.

Ada dua cara untuk berinteraksi dengan model GPT seperti GPT-4. Satu cara adalah melalui API OpenAI, di mana biaya dihitung per token input dan output. Dalam skenario ini, biaya per 1K token dapat berfluktuasi berdasarkan ukuran konteks. Sebagai contoh, dalam konteks 32K yang lebih besar, biaya bisa naik hingga $0.06 untuk token input dan $0.12 untuk token output. Jadi, ketika menangani volume permintaan yang tinggi, biaya penggunaan dapat dengan cepat menumpuk.

Alternatifnya, ChatGPT, yang menggunakan model GPT-4, beroperasi pada model berlangganan.

Tugas kunci lainnya dalam teknik prompt engineering melibatkan penyesuaian parameter model. Proses ini melibatkan penyesuaian variabel yang digunakan model untuk membuat prediksi. Dengan menyesuaikan parameter ini, insinyur prompt dapat meningkatkan kualitas dan akurasi respons model, membuatnya lebih relevan dan berguna dalam konteks.

Meskipun banyak insinyur prompt berasal dari latar belakang teknis, sifat multidisiplin dari bidang ini membuatnya dapat diakses oleh individu dari berbagai latar belakang profesional. Semakin banyak, penulis, peneliti, dan bahkan seniman menggunakan keterampilan unik mereka untuk meningkatkan efikasi model AI. Perubahan ini tercermin di pasar kerja juga, dengan semakin banyak perusahaan mencari insinyur prompt dengan berbagai keterampilan dan latar belakang.

Desain dan Teknik Prompt di ChatGPT

Desain dan teknik prompt memainkan peran kritis dalam mengoptimalkan kinerja model bahasa dan melibatkan lebih dari sekadar membuat pertanyaan; mereka memerlukan pemahaman yang mendalam tentang model AI dan pendekatan yang sangat iteratif dan rafinasi.

Contoh Prompt ChatGPT - Teknik Prompt Engineering - Unite AI

Desain Prompt

Desain prompt, pada intinya, adalah seni dan ilmu membuat prompt yang sempurna untuk model bahasa besar (LLM) seperti ChatGPT untuk mencapai tujuan yang jelas. Ini adalah campuran dari:

  • Pemahaman tentang LLM: Model bahasa yang berbeda mungkin merespons secara berbeda terhadap prompt yang sama. Selain itu, model bahasa tertentu mungkin memiliki kata kunci atau pemicu unik yang mereka interpretasikan dengan cara tertentu.
  • Pengetahuan Domain: Keahlian dalam bidang yang relevan sangat penting ketika merancang prompt. Sebagai contoh, menghasilkan prompt untuk menginferensi diagnosis medis akan memerlukan pengetahuan medis.
  • Pendekatan Iteratif dan Pengukuran Kualitas: Proses menciptakan prompt ideal sering melibatkan trial dan error. Oleh karena itu, memiliki cara untuk mengevaluasi kualitas output di luar penilaian subjektif sangat penting, terutama ketika menggunakan prompt pada skala yang lebih besar.

Teknik Prompt Engineering

Teknik prompt engineering adalah ranah yang diperluas dari desain prompt yang mencakup beberapa proses kritis:

  • Desain Prompt pada Skala Besar: Proses ini mencakup desain meta prompt (prompt yang menghasilkan prompt lain) dan template prompt, yang merupakan prompt yang diparameterkan yang dapat diinstansiasi pada runtime.
  • Desain Alat dan Integrasi: Prompt dapat terkadang mencakup hasil dari alat eksternal, dan mengintegrasikan alat-alat ini secara lancar ke dalam sistem sangat penting.
  • Alur Kerja, Perencanaan, dan Manajemen Prompt: Menggelar aplikasi LLM, seperti chatbot, sering memerlukan pengelolaan perpustakaan prompt, perencanaan dan pemilihan prompt yang tepat, dan integrasi alat yang efisien.
  • Evaluasi dan Jaminan Kualitas Prompt: Aspek ini mencakup mendefinisikan metrik dan proses untuk mengevaluasi prompt baik secara otomatis maupun dengan keterlibatan manusia.
  • Optimasi Prompt: Biaya dan latensi model AI dapat bergantung pada pilihan model dan panjang prompt (jumlah token).

Banyak pendekatan desain prompt otomatis, alat, dan kerangka kerja telah dikembangkan untuk mengelola prompt pada skala besar. Namun, penting untuk memahami bahwa tidak ada alat yang dapat menggantikan pemahaman, penilaian, dan pengalaman yang halus dari insinyur prompt yang berpengalaman.

Teknik Prompt Engineering: Teknik dan Praktik Terbaik

1) Penempatan dan Deskripsi Prompt

Menempatkan instruksi di awal prompt dapat secara signifikan mempengaruhi pemahaman dan respons AI. Pertimbangkan tugas untuk meringkas teks dalam format daftar poin. Pendekatan yang kurang efektif akan seperti:

Pengguna: “Ringkas teks di bawah ini sebagai daftar poin dari poin-poin terpenting.”
{input teks di sini}

Di sisi lain, teknik yang lebih efektif bisa seperti:

Pengguna: “Ringkas teks di bawah ini sebagai daftar poin dari poin-poin terpenting.
Teks: “””
{input teks di sini}
“””

Dengan memisahkan instruksi dan konteks dengan simbol seperti ### atau “”, model AI dapat lebih baik memahami tugasnya dan teks yang perlu diproses, sehingga memberikan respons yang lebih akurat dan relevan.

Kedua, menjadi spesifik, deskriptif, dan terperinci tentang konteks, hasil yang diharapkan, panjang, format, gaya, dan sebagainya dapat secara signifikan meningkatkan presisi respons AI. Misalkan Anda perlu menghasilkan ringkasan singkat dari sebuah makalah ilmiah dalam gaya yang menarik dan mudah dipahami oleh awam. Instruksi yang samar seperti “Ringkas makalah ilmiah” akan menghasilkan hasil yang kurang efektif dibandingkan dengan prompt yang spesifik dan terperinci:

Pengguna: “Buat ringkasan singkat (sekitar 200 kata) dari makalah ilmiah berikut. Ringkasan harus dapat dipahami oleh seseorang tanpa latar belakang ilmiah, sambil secara akurat mencerminkan temuan utama makalah.
Makalah: “””
{teks makalah ilmiah di sini}
“””

2) Pola Persona

Pola Persona adalah strategi yang menetapkan AI untuk berfungsi dari perspektif tertentu, seperti peran profesional atau karakter fiksi. Taktik ini memungkinkan model untuk memberikan output yang terkait dengan peran yang diambil persona. Sebagai contoh, Anda bisa menginstruksikan AI untuk bertindak sebagai ahli keamanan siber selama tinjauan kode. Pola ini sangat berguna ketika pengguna memerlukan bantuan tetapi tidak yakin tentang detail yang diperlukan dalam output.

Ambil contoh berikut:

Pengguna: “Ambil persona sebagai sejarawan senior yang mengkhususkan diri dalam Revolusi Perancis. Dengan persona tersebut, jelaskan peristiwa dan alasan utama yang menyebabkan kejatuhan monarki Perancis.”

Di skenario ini, AI diharapkan merespons dengan analisis mendalam tentang Revolusi Perancis, fokus pada kejatuhan monarki, seperti yang dilakukan sejarawan.

Mengenalkan Informasi Baru

ChatGPT tidak memiliki pengetahuan di luar pemotongan pelatihan, sehingga tidak dapat memberikan informasi tentang peristiwa atau pembaruan terbaru setelah pemotongan tersebut. Namun, Anda dapat mengenalkan informasi baru ke model melalui prompt Anda.

Pengguna: “Apa itu cryptocurrency?”
ChatGPT: “Cryptocurrency adalah jenis mata uang digital atau virtual yang menggunakan kriptografi untuk keamanan. Cryptocurrency yang paling dikenal adalah Bitcoin.”

Sekarang, jika kita menambahkan sedikit konteks ke prompt, kita dapat membuat penjelasan lebih intuitif:

Pengguna: “Jelaskan konsep cryptocurrency kepada siswa sekolah menengah yang mempelajari keuangan digital”
ChatGPT: “Bayangkan Anda bermain game online dan ada uang dalam game yang bisa Anda dapatkan untuk membeli upgrade atau karakter baru. Cryptocurrency seperti itu, tapi bukan hanya terbatas pada game, Anda bisa menggunakannya untuk membeli barang dan jasa di dunia nyata. Ini seperti uang digital yang tidak dikendalikan oleh bank atau pemerintah.”

3) Batasan Ukuran Prompt

Memahami batasan ukuran ChatGPT sangat penting karena langsung mempengaruhi volume dan jenis informasi yang dapat kita input. Model bahasa tidak dirancang untuk memproses data tak terbatas sekaligus. Mereka memiliki keterbatasan bawaan pada ukuran prompt yang dapat kita buat dan input. Keterbatasan ini memiliki implikasi mendalam untuk desain dan eksekusi prompt.

ChatGPT memiliki batas token (umumnya 2048 token), yang mencakup baik prompt dan respons yang dihasilkan. Ini berarti prompt panjang dapat membatasi panjang respons. Oleh karena itu, penting untuk menjaga prompt tetap ringkas namun informatif.

Dalam penggunaan praktis, kita harus bertindak sebagai editor, memilih informasi yang paling relevan untuk tugas yang dihadapi. Bayangkan menulis makalah atau artikel dengan batasan kata atau halaman – Anda tidak bisa hanya memasukkan fakta acak, tetapi harus memilih dan menyusun informasi yang relevan dengan topik.

Pengguna: “Dengan mempertimbangkan batasan token model, ringkas peristiwa utama Perang Dunia II dalam kurang dari 1000 kata.”

Dengan mengakui batasan token model, prompt ini mengarahkan AI untuk memberikan ringkasan yang singkat namun komprehensif tentang Perang Dunia II.

Prompt untuk Penggunaan Berulang: Dalam skenario percakapan, Anda dapat menggunakan kembali prompt atau memperbaikinya berdasarkan respons sebelumnya. Ini memberikan aliran percakapan dan mempertahankan konteks dalam interaksi.

4) Pola Pemurnian Pertanyaan

ChatGPT juga dapat membantu memperbaiki pertanyaan Anda. Misalnya, jika Anda bertanya sebuah pertanyaan, itu dapat menyarankan pertanyaan yang lebih terstruktur untuk hasil yang lebih akurat.

Pola Pemurnian Pertanyaan melibatkan LLM yang memperbaiki pertanyaan yang diajukan oleh pengguna. Ini sangat berguna ketika pengguna tidak ahli dalam domain atau tidak yakin tentang detail yang diperlukan dalam output.

Contoh prompt mungkin terlihat seperti ini:

Pengguna: “Setiap kali saya bertanya tentang ilmu data, sarankan pertanyaan yang lebih terstruktur dengan mempertimbangkan spesifik analisis statistik dan tanyakan apakah saya ingin melanjutkan dengan pertanyaan yang diperbarui.”

Di sini, AI diharapkan memperbaiki pertanyaan umum tentang ilmu data menjadi pertanyaan yang lebih terperinci dengan mempertimbangkan aspek analisis statistik.

5) Pola Verifikasi Kognitif

Pola Verifikasi Kognitif memecah pertanyaan kompleks menjadi sub-pertanyaan yang lebih kecil dan dapat dikelola. Jawaban dari sub-pertanyaan ini kemudian digabungkan untuk memberikan jawaban komprehensif untuk pertanyaan utama. Pendekatan ini berguna ketika pertanyaan awal terlalu umum atau ketika diperlukan klarifikasi tambahan untuk memberikan jawaban lengkap.

Sebagai contoh:

Pengguna: “Jika saya bertanya tentang perubahan iklim, pecah menjadi tiga pertanyaan kecil yang akan membantu Anda memberikan jawaban yang lebih akurat. Gabungkan jawaban dari sub-pertanyaan ini untuk memberikan jawaban akhir.”

Di skenario ini, AI akan memecah pertanyaan kompleks tentang perubahan iklim menjadi tiga sub-pertanyaan yang dapat dikelola. Setelah menerima jawaban dari sub-pertanyaan ini, AI kemudian akan menggabungkannya untuk memberikan respons yang lebih komprehensif dan akurat.

Pola ini melibatkan menghasilkan beberapa pertanyaan untuk mendapatkan jawaban akhir yang lebih akurat. Ini adalah proses verifikasi dan konsolidasi informasi untuk output yang kuat.

6) Pendekatan Prompt Sedikit

Pendekatan prompt sedikit adalah metode kuat untuk mengajar model AI mengikuti pola tertentu atau melakukan tugas. Ideanya adalah memberi model beberapa contoh sebelum mengajukan pertanyaan yang diinginkan. Ini membantu menetapkan perilaku yang diinginkan dan memandu respons model.

Pertimbangkan skenario di mana pengguna mencoba membuat draft copy pemasaran yang ringkas dan menarik untuk gadget teknologi baru:

Pengguna: “Berikut beberapa contoh copy pemasaran teknologi: ‘Alami musik seperti tidak pernah dengan headphone nirkabel canggih kami.’ ‘Tangkap duniamu dalam 4K yang luar biasa dengan kamera aksi ultra-sleek kami.’ Dengan contoh ini, buatlah copy pemasaran untuk jam tangan pintar AI kami.”

ChatGPT: “Berdayakan gaya hidup Anda dengan jam tangan pintar AI kami, teman Anda untuk kesehatan, koneksi, dan produktivitas.” Fitur luar biasa dari pembelajaran sedikit adalah bahwa tidak memerlukan deskripsi terperinci tentang cara melakukan tugas. Sebaliknya, memerlukan demonstrasi tentang apa yang dilakukan, yang dapat membuatnya cocok untuk banyak aplikasi.

Selain itu, teknik ini dapat diperluas melampaui pasangan input-output sederhana. Model juga dapat diajarkan untuk menangani langkah-langkah intermediate untuk mencapai tujuan.

7) Pendekatan Rantai Pikiran

Dalam penelitian terbaru mereka, “Pendekatan Rantai Pikiran untuk Menghasilkan Alasan dalam Model Bahasa Besar” penulis Jason Wei dan tim bertujuan untuk memicu alasan dalam model bahasa besar. Alih-alih menggunakan prompt tradisional, tim menggunakan serangkaian prompt terhubung, membentuk ‘rantai pikiran’.

Sebagai contoh, pengguna mungkin tertarik dengan dampak potensial kecerdasan buatan pada pasar kerja:

Pengguna: “Bisakah Anda menjelaskan konsep kecerdasan buatan?”

ChatGPT: “Kecerdasan Buatan, atau AI, merujuk pada kemampuan mesin untuk meniru perilaku cerdas manusia. Ini tentang merancang mesin yang dapat berpikir dan belajar seperti manusia, memungkinkan mereka melakukan tugas seperti terjemahan bahasa, pengambilan keputusan, dan pemecahan masalah, di antara lainnya.”

Pengguna: “Bagaimana AI mempengaruhi pasar kerja saat ini?”

ChatGPT: “AI baik menciptakan pekerjaan baru dan mengubah sifat pekerjaan yang ada. Di satu sisi, itu mengotomatisasi tugas rutin, menyebabkan pengangguran di sektor tertentu. Di sisi lain, itu menciptakan permintaan untuk peran yang sebelumnya tidak ada, seperti petugas etika AI, analis data, dan insinyur pembelajaran mesin. Selain itu, AI dapat melengkapi peran manusia, memungkinkan orang untuk menyelesaikan tugas dengan lebih efisien dan akurat.”

Pendekatan rantai pikiran mengikuti progresi prompt terkait, mempertahankan ‘percakapan’ dengan model yang memandu respons yang lebih presisi dan kontekstual.

Memahami API ChatGPT dan Teknik Prompt Engineering dari Perspektif Pengembang

Dari perspektif pengembang atau peneliti, teknik prompt engineering adalah proses yang lebih kompleks. Ini melibatkan desain algoritma dan teknik untuk membantu model AI memahami dan merespons prompt dengan lebih efektif. Ini bisa mencakup strategi untuk menangani prompt yang ambigu, mengidentifikasi konteks prompt, atau menghubungkan prompt untuk memicu proses berpikir yang lebih kompleks dalam AI

 

Antarmuka API ChatGPT

Di ilustrasi di atas, pengguna berinteraksi dengan antarmuka chat yang ditenagai oleh GPT-4. Input pengguna diperbarui untuk kejelasan dan konsistensi konteks oleh modul khusus sebelum diumpankan ke model AI. Peran modul ini adalah untuk memperbarui dan memperkuat input pengguna untuk pemahaman yang lebih baik sambil mempertahankan konteks percakapan. Respons AI, yang dirancang berdasarkan prompt yang diperbarui, dikembalikan ke pengguna melalui antarmuka chat. Riwayat interaksi diperbarui secara konsisten, mempertahankan konteks percakapan. Secara keseluruhan, diagram ini menggambarkan aliran percakapan dinamis antara pengguna dan AI yang dimungkinkan oleh teknik prompt engineering.

Antarmuka API ChatGPT dirancang dengan berbagai hiperparameter yang memungkinkan pengguna untuk memperbaiki respons AI terhadap prompt, membuatnya lebih efektif dan serbaguna. Ini termasuk parameter Suhu, Panjang Maksimum, dan Urutan Berhenti. Mari kita jelajahi bagaimana mereka berfungsi dan dapat digunakan dalam konteks yang berbeda.

 

Open AI ChatGPT API - Hiperparameter

1) Suhu

Parameter suhu mempengaruhi acaknya respons AI. Suhu yang lebih tinggi, seperti 1,0, mendorong output yang lebih acak, menghasilkan respons yang beragam tetapi mungkin tidak relevan. Di sisi lain, suhu yang lebih rendah, seperti 0,2, mendorong AI untuk memilih respons yang lebih deterministik, yang dapat bermanfaat untuk output yang fokus dan spesifik tetapi mungkin kekurangan variasi.

Contoh: Jika Anda menulis cerita kreatif dan ingin elemen yang tidak terduga dan imajinatif, atur suhu ke nilai yang lebih tinggi. Prompt bisa seperti: “Tulis cerita pendek tentang kucing yang melakukan perjalanan waktu.” Dengan suhu yang tinggi, Anda mungkin mendapatkan cerita yang liar dan fantastis dengan plot twist yang tidak terduga.

2) Panjang Maksimum

Parameter ini mengontrol panjang token maksimum dari output model, yang mencakup baik token dalam input pesan maupun output pesan. Mengatur batas yang lebih tinggi memungkinkan respons yang lebih panjang, sementara batas yang lebih rendah menjaga output tetap singkat dan ringkas.

Contoh: Untuk jawaban singkat atas pertanyaan trivia seperti, “Siapa yang memenangkan Hadiah Nobel Sastra pada 2020?” Anda mungkin ingin mengatur panjang maksimum ke nilai yang rendah, memastikan respons yang singkat dan langsung.

3) Urutan Berhenti

Urutan berhenti adalah string teks tertentu di mana, ketika model menemukannya, model berhenti menghasilkan output lebih lanjut. Fitur ini dapat berguna untuk mengontrol panjang output atau menginstruksikan model untuk berhenti pada titik logis.

Contoh: Untuk surat formal, Anda bisa menggunakan “Yours sincerely,” sebagai urutan berhenti untuk memastikan AI tidak menghasilkan teks tambahan setelah penutup surat yang tepat.

4) Top P

Parameter ‘Top P’, juga dikenal sebagai sampling inti, adalah metode yang menyediakan pemilihan dinamis jumlah kata yang dipertimbangkan pada setiap langkah prediksi model. Nilai yang lebih rendah, seperti 0,5, mengarah pada output yang lebih aman dan fokus. Nilai yang lebih tinggi, seperti 0,9, mencakup seleksi kata yang lebih luas, menghasilkan output yang lebih beragam.

Contoh: Jika Anda membuat AI untuk menulis puisi dan ingin menggunakan kosa kata yang luas dan gaya yang beragam, Anda mungkin mengatur ‘Top P’ ke nilai yang lebih tinggi. Prompt bisa seperti: “Buat puisi tentang keindahan musim gugur.”

5) Hukuman Frekuensi

Hukuman Frekuensi mengontrol seberapa banyak model harus memfavoritkan kata yang kurang umum. Hukuman yang lebih tinggi (hingga 1) mendorong model untuk menggunakan kata yang kurang umum, sementara nilai yang lebih rendah (hingga -1) mendorong model untuk menggunakan kata yang lebih umum.

Contoh: Jika Anda menghasilkan proposal bisnis dan ingin menghindari jargon, Anda mungkin mengatur hukuman frekuensi ke nilai yang lebih rendah untuk menjaga bahasa tetap jelas dan dapat diakses.

6) Hukuman Kehadiran

Parameter Hukuman Kehadiran mempengaruhi seberapa banyak model dikenakan hukuman untuk menghasilkan ide atau topik baru yang tidak hadir dalam riwayat percakapan. Nilai yang lebih tinggi mendorong model untuk tetap pada topik yang sudah disebutkan, sementara nilai yang lebih rendah memungkinkan model untuk memperkenalkan konsep baru lebih bebas.

Contoh: Untuk sesi brainstorming, Anda mungkin mengatur hukuman kehadiran ke nilai yang lebih rendah untuk mendorong berbagai ide. Anda bisa menggunakan prompt seperti: “Hasilkan strategi pemasaran inovatif untuk platform pendidikan online.”

Aplikasi Industri dari Teknik Prompt Engineering

Generasi FAQ dan Dukungan Pelanggan

Dalam dunia dukungan pelanggan, utilitas teknik prompt engineering tidak dapat diremehkan. Salah satu aplikasi paling canggih AI dalam sektor ini adalah munculnya chatbot yang ditenagai AI. Sebagai contoh, pertimbangkan platform e-commerce seperti eBay. Mereka menggunakan sistem chatbot canggih yang telah diperhalus dengan teknik prompt engineering untuk menangani pertanyaan pelanggan. Chatbot ini dapat menangani berbagai masalah, termasuk memberikan pembaruan pengiriman, memproses permintaan pengembalian, dan menjawab pertanyaan tentang spesifikasi produk.

Ketika pelanggan bertanya, “Di mana pesanan saya?”, chatbot AI tidak hanya merespons dengan pesan generik; sebaliknya, ia mengakses sistem manajemen pesanan, mengambil data waktu nyata, dan memberikan respons yang dipersonalisasi seperti, “Pesanan Anda #1234 saat ini sedang dikirim dan diperkirakan akan tiba besok malam.” Respons yang dipersonalisasi dan relevan seperti ini adalah hasil langsung dari prompt yang dirancang dengan baik, yang membentuk inti dari sistem chatbot cerdas ini.

Kreasi Konten dan Pemasaran

Dalam domain kreasi konten dan pemasaran, teknik prompt engineering berfungsi sebagai fondasi dari inovasi AI yang didorong. Perusahaan seperti Grammarly menggunakan mesin AI yang ditenagai untuk membantu pengguna membuat konten yang menarik dan bebas dari kesalahan tata bahasa. Platform ini bekerja berdasarkan prompt, memandu model AI untuk menghasilkan saran atau koreksi yang dapat meningkatkan kualitas konten secara keseluruhan.

Pertimbangkan pengguna yang bertujuan untuk membuat konten menarik tentang kemajuan AI. Mereka bisa menggunakan prompt seperti: “Jelaskan kemajuan terbaru dalam AI dengan cara yang sederhana dan menarik untuk pemula.” AI, dengan memanfaatkan prompt ini, dapat menghasilkan potongan yang ringkas dan ramah-pembaca tentang konsep AI yang kompleks, sehingga menjembatani kesenjangan pengetahuan dan memicu minat pembaca. Ini hanya salah satu contoh dari banyak cara teknik prompt engineering dapat meningkatkan kreasi konten.

Bantuan Pengkodean dan Interpretasi Kode

Teknik prompt engineering, dalam konteks ini, seperti percakapan dua arah antara pengembang dan AI. Pengembang memberikan AI prompt – deskripsi masalah atau fungsionalitas yang perlu diimplementasikan, dan AI merespons dengan potongan kode relevan atau saran, membantu proses pengembangan perangkat lunak.

Selain itu, alat pengkodean yang ditingkatkan AI, seperti GitHub Copilot, telah dikembangkan dengan keahlian OpenAI. Alat-alat canggih ini telah menjalani pelatihan ekstensif untuk melakukan tugas kompleks seperti mengisi file kode yang tidak lengkap. Mereka melakukannya meskipun ada perbedaan yang jelas antara proses menulis kode dan menyelesaikannya.

Pendidikan dan Pembelajaran yang Dipersonalisasi

Integrasi AI ke dalam sektor pendidikan telah mengalami peningkatan yang signifikan dalam beberapa tahun terakhir, dengan teknik prompt engineering memainkan peran kunci. Tutor AI telah dikembangkan untuk memberikan pengalaman pembelajaran yang dipersonalisasi, menyesuaikan diri dengan kecepatan dan gaya belajar setiap siswa.

Sebagai contoh, platform pembelajaran berbasis AI seperti Duolingo menggunakan prompt yang dirancang dengan baik untuk menilai kemampuan siswa dalam bahasa baru dan memberikan latihan yang sesuai. Jika siswa mengalami kesulitan dengan konjugasi, tutor AI dapat memperkenalkan latihan yang disesuaikan seperti, “Konjugasikan kata kerja ‘makan’ (to eat) dalam bentuk sekarang.” Kinerja dan kemajuan siswa terus dievaluasi, dan prompt diperbarui dan disesuaikan sesuai, memastikan pengalaman pembelajaran yang dipersonalisasi dan efisien.

Saya telah menghabiskan lima tahun terakhir dengan membenamkan diri dalam dunia Machine Learning dan Deep Learning yang menarik. Minat dan keahlian saya telah memimpin saya untuk berkontribusi pada lebih dari 50 proyek rekayasa perangkat lunak yang beragam, dengan fokus khusus pada AI/ML. Rasa ingin tahu saya yang terus-menerus juga telah menarik saya ke arah Natural Language Processing, sebuah bidang yang saya ingin jelajahi lebih lanjut.