ChatGPT'de Mühendislik İstemi için Temel Kılavuz

Lansmanından bu yana ChatGPT rekor sürede 100 milyondan fazla kullanıcıyı kendine çekerek yapay zeka alanında dalgalar yaratıyor. ChatGPT'nin etkileyici performansının ve çok yönlülüğünün gizli sosu, programlamasında ustaca yerleştirilmiş bir sanatta, yani hızlı mühendislikte yatmaktadır.

2022'de kullanıma sunulan DALL-E, MidJourney ve StableDiffusion, Üretken Yapay Zekanın yıkıcı potansiyelinin altını çizdi. Ama öyleydi AI'yi aç2022'nin sonlarında gerçekten ilgi odağı haline gelen ChatGPT. Ve bu momentum hiçbir yavaşlama belirtisi göstermedi.

Google'ın Bard duyurusu ve Meta'nın Lamması 2  OpenAI'nin ChatGPT'sine verilen yanıt, AI yarışının ivmesini önemli ölçüde artırdı. Bu modellere girdi sağlayarak, davranışlarına ve tepkilerine rehberlik ediyoruz. Bu, hepimizi belirli bir dereceye kadar hızlı mühendis yapar. Teknoloji endüstrisi dikkat çekti. Risk sermayedarları, hızlı mühendisliğe odaklanan girişimlere fon akıtıyor, örneğin parşömen AI. Ayrıca Forbes, mühendislerin komut istemi 300,000 doları aşan maaşlar, gelişen ve değerli bir iş piyasasının göstergesi.

Bu makalede, ChatGPT bağlamında hızlı mühendislik dünyasının gizemini açığa çıkaracağız. Temel ilkeleri ve teknikleri keşfedeceğiz ve bunların ticari uygulamalarını inceleyeceğiz.

Öncelikle ChatGPT'nin nasıl çalıştığını ve istem mühendisliğinin bu süreçte oynadığı önemli rolü anlayalım.

ChatGPT Bilgi İstemi Mühendisliğinin Arkasındaki Mekanik

ChatGPT'nin başarısının arkasındaki gizli sos, insan konuşmasının nüanslarını anlama ve taklit etme yeteneğidir. Model, çeşitli internet metinleri üzerinde eğitilmiştir, ancak en önemlisi, eğitim setindeki belirli belgeleri veya kaynakları bilmemesi, özgüllük yerine genelleme sağlar. Bu eğitim yaklaşımı, ChatGPT'nin yaratıcı yanıtlar üretmesine, karmaşık diyaloglarda gezinmesine ve hatta bir mizah duygusu sergilemesine olanak tanır. Ancak, ChatGPT'nin gerçekten anlamadığını veya inançları olmadığını unutmamak önemlidir; eğitim sırasında öğrendiği kalıplara dayalı yanıtlar üretir.

ChatGPT'nin insan dilini incelikli ve bağlama duyarlı bir şekilde anlama ve yanıt verme yeteneği, onları inanılmaz derecede çok yönlü araçlar haline getirir.

Bu modellerin mekaniği, tek bir karakterden tam bir kelimeye kadar değişebilen ayrık dil parçaları olan 'belirteçler' kavramına dayanır. Bu modeller, bir sonraki olası belirteç dizisini tahmin ederek aynı anda belirli sayıda belirteçle çalışır (GPT-4096-Turbo için 3.5 veya GPT-8192 için 32768 veya 4). Modeller, jetonları karmaşık lineer cebir kullanarak işler ve sonraki en olası jetonu tahmin eder.

Örneğin, dokuz kelimelik basit bir cümle on simgeye dönüşebilir. Tek bir karmaşık kelime bile, modelin dili daha iyi anlamasına ve üretmesine yardımcı olan birden fazla simgeye dönüşebilir. Almanca gibi karmaşık kelime yapılarına sahip diller bile tokenizasyon yoluyla yönetilir.

GPT (Generative Pre-trained Transformer) modelleri, ilk belirteçten başlayıp sonuncuya kadar devam ederek her seferinde bir belirteç üreterek çalışır. Her belirteci oluşturduktan sonra, model tüm diziyi yeniden ziyaret eder ve bir sonraki belirteci oluşturmak için onu yeniden işler. Bu yinelemeli süreç, son belirteç oluşturulana kadar devam eder ve metnin oluşturulmasını büyük bir for döngüsüne benzer hale getirir.

Ancak işin püf noktası şu: Bu yanıtların kalitesi büyük ölçüde aldığı istemlere bağlıdır. Tıpkı bir insanla sohbeti yönlendirmek gibi, ChatGPT ile diyalogu yönlendirmek de belirli bir düzeyde beceri ve anlayış gerektirir. Hızlı mühendisliğin devreye girdiği yer burasıdır.

Hızlı Mühendislik nedir?

İstem Mühendisliği, yapay zekaya rehberlik etmek için kesin, etkili komutlar/girdiler oluşturma sanatıdır (NLP/Vision) en uygun maliyetli, doğru, yararlı ve güvenli çıktıları oluşturmaya yönelik ChatGPT gibi modeller.

Hızlı mühendislik yalnızca metin oluşturmayla sınırlı değildir, aynı zamanda yapay zeka alanında geniş kapsamlı uygulamalara sahiptir. Robotik süreç otomasyonu botları, 3D varlıklar, komut dosyaları, robot talimatları ve diğer içerik ve dijital medya türleri gibi alanlarda giderek daha fazla kullanılıyor. Mantık, kodlama, sanat ve bazı durumlarda özel değiştiricilerin benzersiz bir karışımını sağlar.

Bir bilgi istemi, doğal dilde metin, resim veya diğer girdi verisi türlerini içerebilirken, çıktı, yapay zeka hizmetleri ve araçları arasında önemli ölçüde farklılık gösterebilir. Her aracın, kelimelerin ağırlığını, stilleri, perspektifleri, düzeni veya istenen yanıtın diğer özelliklerini tanımlayan özel değiştiricileri vardır.

Bu alan, yapay zeka destekli daha iyi hizmetler oluşturmak ve mevcut üretken yapay zeka araçlarından üstün sonuçlar elde etmek için gereklidir. Örneğin kurumsal geliştiriciler, müşteriyle yüz yüze iletişim kurmak için GPT-3 gibi Büyük Dil Modellerini (LLM'ler) uyarlamak için genellikle hızlı mühendislikten yararlanır. chatbot veya sektöre özel sözleşmeler oluşturmak gibi görevleri yerine getirin.

Hızlı iyileştirme ve yapay zeka performansını ölçmeye yönelik bu yinelemeli süreç, yapay zeka modellerinin çeşitli bağlamlarda yüksek oranda hedeflenmiş, yararlı yanıtlar üretmesini sağlamada kilit bir unsurdur.

Hızlı Mühendis Olmak

GPT-4 modelinin karmaşık talimatları anlama ve karmaşık sorunları doğru bir şekilde çözme becerisi, onu paha biçilmez bir kaynak haline getirir. Ancak, bu modelin yeteneklerine erişmenin farklı yöntemleri vardır ve bunların anlaşılması, hızlı bir mühendisin hem verimliliği hem de maliyet etkinliğini optimize etmedeki rolü için çok önemli olabilir.

GPT-4 gibi GPT modelleriyle etkileşime geçmenin esasen iki yolu vardır. Bunun bir yolu, girdi ve çıktı belirteçleri başına maliyetlerin hesaplandığı OpenAI'nin API'sidir. Bu senaryoda, 1 jeton başına maliyetler bağlam boyutuna göre dalgalanabilir. Örneğin, daha geniş bir 32K bağlamında, maliyet girdi belirteçleri için 0.06 ABD dolarına ve çıktı belirteçleri için 0.12 ABD dolarına kadar çıkabilir. Bu nedenle, yüksek hacimli istekler işlenirken kullanım maliyeti hızla birikebilir.

Alternatif olarak, GPT-4 modelinden yararlanan ChatGPT, abonelik tabanlı bir model üzerinde çalışır.

Hızlı mühendislikteki bir diğer önemli görev, model parametre ayarlamasını içerir. Bu süreç, modelin tahmin yapmak için kullandığı değişkenlerin ayarlanmasını içerir. Hızlı mühendisler, bu parametrelerde ince ayar yaparak, modelin yanıtlarının kalitesini ve doğruluğunu iyileştirerek onları bağlamsal olarak daha alakalı ve yararlı hale getirebilir.

Hızlı mühendislerin çoğu teknoloji geçmişinden gelse de, alanın çok disiplinli doğası, onu farklı profesyonel geçmişlere sahip bireyler için erişilebilir kılar. Yazarlar, araştırmacılar ve hatta sanatçılar, yapay zeka modellerinin etkinliğini artırmak için benzersiz becerilerinden giderek daha fazla yararlanıyor. Bu değişim, çeşitli beceri ve geçmişlere sahip hızlı mühendisler arayan artan sayıda şirketle iş piyasasına da yansıdı.

ChatGPT'de Hızlı Tasarım ve Mühendislik

Bilgi İstemi Tasarımı ve Mühendisliği, dil modellerinin performansını optimize etmede kritik bir rol oynar ve yalnızca sorular hazırlamaktan daha fazlasını içerir; AI modelinin derinlemesine anlaşılmasını ve oldukça yinelemeli ve rafine bir yaklaşımı gerektirirler.

Hızlı Tasarım

Bilgi istemi tasarımı, özünde, açıkça belirtilen bir hedefe ulaşmak için ChatGPT gibi belirli bir büyük dil modeli (LLM) için mükemmel istemi yaratma sanatı ve bilimidir. Şunların bir karışımıdır:

• LLM'yi Anlamak: Farklı dil modelleri aynı istemi değişken şekilde yanıtlayabilir. Ayrıca, belirli dil modelleri, belirli bir şekilde yorumladıkları benzersiz anahtar sözcüklere veya tetikleyicilere sahip olabilir.
• Etki Alanı Bilgisi: İstemleri tasarlarken ilgili alandaki uzmanlık çok önemlidir. Örneğin, tıbbi bir teşhis çıkarımı yapmak için bir bilgi istemi oluşturmak, tıbbi bilgi gerektirecektir.
• Yinelemeli Yaklaşım ve Kalite Ölçümü: İdeal istemi oluşturma süreci genellikle deneme yanılma içerir. Bu nedenle, çıktı kalitesini yalnızca sübjektif yargının ötesinde değerlendirmek için bir yola sahip olmak, özellikle bilgi istemini daha büyük ölçekte kullanırken hayati önem taşır.

Hızlı Mühendislik

Bilgi istemi mühendisliği, birkaç kritik süreci içeren genişletilmiş bir hızlı tasarım alanıdır:

• Geniş Ölçekte İstemlerin Tasarımı: Bu süreç, çalışma zamanında başlatılabilen parametreleştirilmiş bilgi istemleri olan meta bilgi istemlerinin (diğer istemleri oluşturan istemler) ve bilgi istemi şablonlarının tasarımını içerir.
• Araç Tasarımı ve Entegrasyonu: İstemler bazen harici araçlardan alınan sonuçları içerebilir ve bu araçları sorunsuz bir şekilde sisteme entegre etmek çok önemlidir.
• İş Akışı, Planlama ve Bilgi İstemi Yönetimi: Bir sohbet robotu gibi bir LLM uygulaması dağıtmak, genellikle bilgi istemi kitaplıklarının yönetilmesini, doğru bilgi istemlerinin planlanıp seçilmesini ve çeşitli araçların verimli bir şekilde entegre edilmesini gerektirir.
• İstemlerin Değerlendirilmesi ve Kalite Güvencesi: Bu özellik, istemleri hem otomatik olarak hem de insan katılımıyla değerlendirmek için metriklerin ve süreçlerin tanımlanmasını içerir.
• Bilgi İstemi Optimizasyonu: AI modelinin maliyeti ve gecikme süresi, model seçimine ve istemin uzunluğuna (belirteç sayısı) bağlı olabilir.

Bilgi istemlerini geniş ölçekte yönetmek için birçok otomatik bilgi istemi tasarım yaklaşımı, aracı ve çerçevesi geliştirilmiştir. Ancak, bu araçlardan hiçbirinin deneyimli bir hızlı mühendisin incelikli anlayışının, yargısının ve deneyiminin yerini alamayacağını anlamak önemlidir.

Hızlı Mühendislik: Teknikler ve En İyi Uygulamalar

1) Bilgi İstemi Yerleştirme ve Açıklama

Talimatların istemin başına yerleştirilmesi, yapay zekanın anlayışını ve yanıtını önemli ölçüde etkileyebilir. Bir metni madde işareti biçiminde özetleme görevini düşünün. Daha az etkili bir yaklaşım şöyle olacaktır:

kullanıcı: Aşağıdaki metni en önemli noktaların bir madde işareti listesi olarak özetleyin.
{buraya metin girişi}

Öte yandan, daha etkili bir teknik şu olabilir:

kullanıcı: Aşağıdaki metni en önemli noktaların bir madde işareti listesi olarak özetleyin.
Metin: """
{buraya metin girişi}
"" "

Yapay zeka modeli, talimatları ve bağlamı ### veya """ gibi simgelerle net bir şekilde ayırarak görevini ve işlemesi gereken metni daha iyi tanımlayabilir ve böylece daha doğru ve ilgili yanıtlar verebilir.

İkinci olarak, bağlam, beklenen sonuç, uzunluk, format, stil vb. hakkında spesifik, açıklayıcı ve ayrıntılı olmak, AI yanıtlarının kesinliğini önemli ölçüde artırabilir. İlgi çekici, meslekten olmayan kişilere uygun bir tarzda bilimsel bir makaleye ilişkin kısa bir genel bakış oluşturmanız gerektiğini varsayalım. "Bilimsel makaleyi özetleyin" gibi belirsiz bir talimat, belirli, ayrıntılı bir istemle karşılaştırıldığında daha az etkili sonuçlar verir:

kullanıcı: Aşağıdaki bilimsel makalenin kısa (yaklaşık 200 kelime) ilgi çekici bir özetini oluşturun. Özet, makalenin temel bulgularını doğru bir şekilde yansıtırken, bilimsel geçmişi olmayan kişiler için anlaşılabilir olmalıdır.
Kağıt: """
{burada bilimsel makale metni}
"" "

2) Kişi Kalıbı

Persona Modeli, AI'yı profesyonel bir rol veya kurgusal karakter gibi belirli bir perspektiften çalışacak şekilde ayarlayan bir stratejidir. Bu taktik, modelin, kişinin üstleneceği belirli rollerle ilgili çıktılar sağlamasını sağlar. Örneğin, yapay zekaya bir kod incelemesi sırasında bir siber güvenlik uzmanı gibi davranması talimatı verilebilir. Bu model, özellikle kullanıcıların yardıma ihtiyacı olduğunda ancak çıktıda gereken tam ayrıntılardan emin olmadıklarında kullanışlıdır.

Aşağıdakileri örnek olarak alın:

kullanıcı: "Fransız Devrimi konusunda uzmanlaşmış kıdemli bir tarihçinin kişiliğini varsayın. Bu kişilik göz önüne alındığında, Fransız monarşisinin çöküşüne yol açan önemli olayları ve nedenleri açıklayın.

Bu senaryoda yapay zekanın, bir tarihçinin yapacağı gibi monarşinin düşüşüne odaklanarak Fransız Devrimi'nin derinlemesine bir analiziyle yanıt vermesi bekleniyor.

Yeni Bilgilerin Tanıtılması

ChatGPT, eğitim sınırının ötesinde bilgiye sahip değildir, bu nedenle eğitiminden sonra son olaylar veya güncellemeler hakkında bilgi sağlayamaz. Ancak, istemleriniz aracılığıyla modele yeni bilgiler sunabilirsiniz.

kullanıcı: "Kripto para birimi nedir?"
ChatGPT: “Kripto para birimi, güvenlik için kriptografi kullanan bir tür dijital veya sanal para birimidir. En iyi bilinen kripto para birimi Bitcoin'dir.”

Şimdi, isteme biraz daha bağlam eklersek, açıklamayı daha da sezgisel hale getirebiliriz:

kullanıcı: “Dijital finans okuyan bir lise öğrencisine kripto para birimi kavramını açıklayın”
ChatGPT: “Çevrimiçi bir video oyunu oynadığınızı ve yükseltmeler veya yeni karakterler satın almak için kazanabileceğiniz oyun parası olduğunu hayal edin. Cryptocurrency biraz buna benzer, ancak oyunla sınırlı olmak yerine, onu gerçek dünyadan mal ve hizmetler satın almak için kullanabilirsiniz. Hiçbir bankanın veya hükümetin kontrol etmediği dijital para gibi.”

3) İstem Boyutu Sınırlamaları

ChatGPT'nin boyut sınırlamasını anlamak, girebileceğimiz bilgilerin hacmini ve türünü doğrudan etkilediği için önemlidir. Dil modelleri, aynı anda sınırsız veriyi işlemek için oluşturulmamıştır. Yaratabileceğimiz ve girebileceğimiz bilgi isteminin boyutu konusunda doğal bir kısıtlamaları var. Bu sınırlama, bilgi istemlerinin tasarımı ve yürütülmesi için derin etkilere sahiptir.

ChatGPT'nin hem istemi hem de oluşturulan yanıtı içeren bir belirteç sınırı (genellikle 2048 belirteç) vardır. Bu, uzun istemlerin yanıtın uzunluğunu sınırlayabileceği anlamına gelir. Bu nedenle, bilgi istemlerini kısa ama bilgilendirici tutmak önemlidir.

Pratik kullanımda, elimizdeki görev için en uygun bilgileri seçerek editörler olarak hareket etmeliyiz. Bir kelime veya sayfa sınırı olan bir makale veya makale yazdığınızı hayal edin - rastgele gerçekleri atamazsınız, aynı zamanda konuyla ilgili bilgileri dikkatlice seçip yapılandırabilirsiniz.

kullanıcı: "Modelin sembolik sınırlamaları göz önüne alındığında, 1000. Dünya Savaşı'nın önemli olaylarını XNUMX kelimeden daha az özetleyin."

Bu istem, modelin belirteç sınırlamalarını kabul ederek, yapay zekayı II. Dünya Savaşı'nın kısa ama kapsamlı bir özetini sağlamaya yönlendirir.

Tekrarlanan Kullanım İçin İstemler: Konuşma senaryosunda, istemleri yeniden kullanabilir veya önceki yanıtlara göre hassaslaştırabilirsiniz. Bu, bir konuşma akışı sağlar ve etkileşimde bağlamı korur.

4) Soru İyileştirme Modeli

ChatGPT, sorularınızı iyileştirmenize de yardımcı olabilir. Örneğin, bir soru sorarsanız, daha doğru sonuçlar için daha iyi formüle edilmiş bir soru önerebilir.

Soru İyileştirme Modeli, LLM'nin kullanıcı tarafından sorulan soruları iyileştirmesini içerir. Kullanıcılar bir alanda uzman olmadıklarında veya sorularını nasıl ifade edeceklerinden emin olmadıklarında özellikle yararlıdır.

Örnek bir bilgi istemi şöyle görünebilir:

kullanıcı: "Veri bilimi hakkında bir soru sorduğumda, istatistiksel analiz özelliklerini göz önünde bulundurarak daha rafine bir soru öner ve rafine soruyla devam etmek isteyip istemediğimi sor."

Burada yapay zekanın, kullanıcının genel veri bilimi sorularını istatistiksel analiz yönlerini göz önünde bulundurarak daha ayrıntılı sorular haline getirmesi bekleniyor.

5) Bilişsel Doğrulayıcı Modeli

Bilişsel Doğrulayıcı Modeli, karmaşık soruları daha küçük, yönetilebilir alt sorulara ayırır. Bu alt soruların cevapları daha sonra ana soruya kapsamlı bir cevap sağlamak için birleştirilir. Bu yaklaşım, ilk sorular çok yüksek olduğunda veya eksiksiz bir yanıt sağlamak için ek netlik gerektiğinde yararlıdır.

Örneğin:

kullanıcı: "İklim değişikliği hakkında bir soru sorarsam, daha doğru bir yanıt vermenize yardımcı olacak daha küçük üç soruya bölün. Nihai cevabı vermek için bu alt soruların cevaplarını birleştirin.”

Bu senaryoda yapay zeka, iklim değişikliği ile ilgili karmaşık soruyu yönetilebilir üç alt soruya ayıracaktır. Bu alt soruların yanıtlarını aldıktan sonra, AI daha kapsamlı ve doğru bir yanıt sağlamak için bunları birleştirecektir.

Bu model, daha doğru bir nihai cevap elde etmek için birden fazla soru üretmeyi içerir. Sağlam bir nihai çıktı için bilgilerin doğrulanması ve birleştirilmesi sürecidir.

6) Az Atışla İsteme Yaklaşımı

Birkaç adımda yönlendirme, yapay zeka modellerine belirli kalıpları takip etmeyi veya görevleri yerine getirmeyi öğretmek için güçlü bir yaklaşımdır. Fikir, istenen soruyu sormadan önce modeli bir dizi örnekle beslemektir. Bu, istenen davranışı belirlemeye ve modelin yanıtlarını yönlendirmeye yardımcı olur.

Bir kullanıcının yeni bir teknoloji aygıtı için özlü, ikna edici bir pazarlama kopyası hazırlamaya çalıştığı bir senaryo düşünün:

kullanıcı: "İşte teknoloji pazarlama kopyalarından bazı örnekler: 'Son teknoloji kablosuz kulaklıklarımızla müziği daha önce hiç olmadığı gibi deneyimleyin.' "Ultra şık aksiyon kameramızla dünyanızı çarpıcı 4K ile yakalayın." Bu örnekler göz önüne alındığında, yapay zeka destekli yeni akıllı saatimiz için bir pazarlama kopyası hazırlayın."

ChatGPT: "Sağlık, bağlantı ve üretkenlik için yol arkadaşınız olan AI destekli akıllı saatimiz ile yaşam tarzınızı güçlendirin." Az atışla öğrenmenin dikkat çekici özelliği, görevin nasıl gerçekleştirileceğine dair ayrıntılı bir açıklama gerektirmemesidir. Bunun yerine, ne yapıldığına dair gösteriler gerektirir, bu da onu birçok uygulama için uygun hale getirebilir.

Ayrıca, bu teknik basit girdi-çıktı eşleşmesinin ötesine geçer. Modele ayrıca bir hedefe ulaşmak için ara adımların üstesinden gelmesi öğretilebilir.

7) Düşünce Zinciri Yönlendirmesi

Son araştırma makalelerinde, “Düşünce Zinciri İstemi, Büyük Dil Modellerinde Akıl Yürütmeyi Ortaya ÇıkarırYazarlar Jason Wei ve ekibi, büyük dil modellerinde akıl yürütmeyi teşvik etmeyi amaçlıyor. Ekip, geleneksel, doğrudan istemleri kullanmak yerine, bir "düşünce zinciri" oluşturan bir dizi birbirine bağlı istemi kullanır.

Örneğin, bir kullanıcı yapay zekanın iş piyasaları üzerindeki potansiyel etkisiyle ilgilenebilir:

kullanıcı: “Yapay zeka kavramını kısaca anlatır mısınız?”

ChatGPT: “Yapay Zeka veya AI, bir makinenin akıllı insan davranışını taklit etme yeteneğini ifade eder. İnsanlar gibi düşünebilen ve öğrenebilen makineler tasarlamakla ilgili, diğerlerinin yanı sıra dil çevirisi, karar verme ve problem çözme gibi görevleri yerine getirmelerini sağlıyor.”

kullanıcı: "Yapay zeka mevcut iş piyasasını nasıl etkiliyor?"

ChatGPT: “Yapay zeka hem yeni işler yaratıyor hem de mevcut işlerin doğasını değiştiriyor. Bir yandan rutin görevleri otomatikleştirerek belirli sektörlerde işten çıkarmalara yol açıyor. Öte yandan, yapay zeka etik görevlileri, veri analistleri ve makine öğrenimi mühendisleri gibi daha önce var olmayan roller için talep yaratıyor. Ayrıca yapay zeka insan rollerini geliştirerek insanların görevleri daha verimli ve doğru bir şekilde yerine getirmesine olanak tanıyabilir."

Düşünce zinciri yönlendirmesi, onu daha kesin ve bağlamsal olarak uygun yanıtlara yönlendiren modelle bir 'sohbet' sürdürerek ilgili istemlerin ilerleyişini takip eder.

Bir Geliştiricinin Bakış Açısından ChatGPT API ve Prompt Engineering'i Anlamak

Bir geliştirici veya araştırmacının bakış açısından, hızlı mühendislik daha karmaşık bir süreçtir. Yapay zeka modelinin istemleri daha etkili bir şekilde anlamasına ve bunlara yanıt vermesine yardımcı olacak algoritmaların ve tekniklerin tasarımını içerir. Bu, yapay zekada daha karmaşık düşünce süreçlerini teşvik etmek için belirsiz istemleri ele alma, istemlerin bağlamını belirleme veya istemleri birlikte zincirleme için stratejiler içerebilir.

Yukarıdaki çizimde, bir kullanıcı, GPT-4 tarafından desteklenen bir sohbet arabirimiyle etkileşime giriyor. Girdileri, yapay zeka modeline beslenmeden önce özel bir modül tarafından netlik ve bağlamsal tutarlılık için geliştirilmiştir. Bu modülün rolü, konuşmanın bağlamını korurken daha iyi anlaşılması için kullanıcının girişini iyileştirmek ve geliştirmektir. İyileştirilmiş komut istemine göre hazırlanmış yapay zekanın yanıtı, sohbet arabirimi aracılığıyla kullanıcıya döndürülür. Etkileşim geçmişi, konuşma bağlamını koruyarak tutarlı bir şekilde güncellenir. Genel olarak, bu şema, hızlı mühendislik teknikleri tarafından etkinleştirilen dinamik bir kullanıcı-AI konuşma akışını göstermektedir.

The ChatGPT API'leri arayüz, kullanıcıların yapay zekanın istemlere verdiği yanıtları iyileştirmesine olanak tanıyan çeşitli hiperparametrelerle tasarlanmıştır, bu da onları daha etkili ve çok yönlü hale getirir. Bunlar, Sıcaklık, Maksimum Uzunluk ve Durdurma Dizileri parametrelerini içerir. Nasıl çalıştıklarını ve farklı bağlamlarda kullanılabileceğini keşfedelim.

1) Sıcaklık

Sıcaklık parametresi, yapay zekanın yanıtlarının rastgeleliğini etkiler. 1.0 gibi daha yüksek bir sıcaklık, daha fazla rasgele çıktıyı teşvik ederek çeşitli ancak potansiyel olarak konu dışı yanıtlarla sonuçlanır. Buna karşılık, 0.2 gibi daha düşük bir sıcaklık, AI'yı daha belirleyici yanıtlar seçmeye yönlendirir; bu, odaklanmış ve belirli çıktılar için faydalı olabilir, ancak çeşitlilikten yoksun olabilir.

Örnek: Yaratıcı bir hikaye yazıyorsanız ve öngörülemeyen, yaratıcı öğeler istiyorsanız, sıcaklığı daha yüksek bir değere ayarlayın. Bir istem şöyle olabilir: "Zamanda yolculuk yapan bir kedi hakkında kısa bir hikaye yazın." Yüksek sıcaklıkta, öngörülemeyen kıvrımlar ve dönüşlerle vahşi, fantastik bir hikaye elde edebilirsiniz.

2) Maksimum Uzunluk

Bu parametre, hem mesaj girişindeki hem de mesaj çıkışındaki jetonları içeren model çıktısının maksimum jeton uzunluğunu kontrol eder. Daha yüksek bir sınır belirlemek, daha uzun yanıtlara izin verirken, daha düşük bir sınır çıktıyı kısa ve öz tutar.

Örnek: "2020'de Nobel Edebiyat Ödülü'nü kim kazandı?" gibi önemsiz soruların kısa yanıtları için. Yanıtın kısa ve doğrudan olmasını sağlamak için maksimum uzunluğu düşük bir değere ayarlamak isteyebilirsiniz.

3) Dizileri Durdur

Durdurma dizileri, modelin bunlarla karşılaştığında daha fazla çıktı üretmeyi bıraktığı belirli metin dizileridir. Bu özellik, çıktının uzunluğunu kontrol etmek veya modele mantıksal uç noktalarda durma talimatı vermek için yararlı olabilir.

Örnek: Resmi bir mektup için, yapay zekanın mektubun uygun sonunun ötesinde herhangi bir ek metin oluşturmamasını sağlamak için bir durdurma dizisi olarak "Saygılarımla" ifadesini kullanabilirsiniz.

4) Üst P

Çekirdek örnekleme olarak da bilinen 'Top P' parametresi, modelin tahminlerinin her adımında dikkate alınan kelime sayısının dinamik seçimini sağlayan bir yöntemdir. 0.5 gibi daha düşük bir değer, daha güvenli, daha odaklı çıktılara yol açar. 0.9 gibi daha yüksek bir değer, daha çeşitli çıktılara yol açan daha geniş bir kelime seçimini içerir.

Örnek: Şiir yazmak için bir yapay zeka oluşturuyorsanız ve bunun çok çeşitli sözcük dağarcığı ve biçimsel ifadeler kullanmasını istiyorsanız, 'Üst P'yi daha yüksek bir değere ayarlayabilirsiniz. Bir istem şöyle olabilir: "Sonbaharın güzelliği hakkında bir şiir yazın."

5) Frekans Cezası

Sıklık Cezası, modelin daha az kullanılan sözcükleri ne kadar tercih etmesi gerektiğini kontrol eder. Daha yüksek bir ceza (1'e kadar) modeli daha az yaygın kelimeler kullanmaya teşvik ederken, daha düşük bir değer (-1'e kadar) modeli daha yaygın kelimeler kullanmaya teşvik eder.

Örnek: Bir iş teklifi oluşturmaya çalışıyorsanız ve jargondan kaçınmak istiyorsanız, dili anlaşılır ve erişilebilir tutmak için sıklık cezasını daha düşük bir değere ayarlayabilirsiniz.

6) Bulunma Cezası

Varlık Cezası parametresi, modelin konuşma geçmişinde olmayan yeni fikirler veya konular ürettiği için ne kadar cezalandırılacağını etkiler. Daha yüksek değerler, modeli daha önce bahsedilen konulara bağlı kalmaya teşvik ederken, daha düşük değerler, modelin yeni kavramları daha özgürce tanıtmasına olanak tanır.

Örnek: Beyin fırtınası oturumları için, çeşitli fikirler dizisini teşvik etmek için varlık cezasını daha düşük bir değere ayarlayabilirsiniz. "Çevrimiçi bir eğitim platformu için yenilikçi pazarlama stratejileri oluşturun" gibi bir komut istemi kullanabilirsiniz.

İstem Mühendisliğinin Endüstri Uygulaması