ChatGPT'de Mühendislik İstemi için Temel Kılavuz

Lansmanından bu yana ChatGPT Yapay zeka alanında ses getirerek rekor sürede 100 milyondan fazla kullanıcıya ulaştı. ChatGPT'nin etkileyici performansının ve çok yönlülüğünün sırrı, programlamasının içine ustaca yerleştirilmiş bir sanatta yatıyor: hızlı mühendislik.

2022'de kullanıma sunulan DALL-E, MidJourney ve StableDiffusion, Üretken Yapay Zekanın yıkıcı potansiyelinin altını çizdi. Ama öyleydi AI'yi aç2022'nin sonlarında gerçekten ilgi odağı haline gelen ChatGPT. Ve bu momentum hiçbir yavaşlama belirtisi göstermedi.

Google'ın Bard duyurusu ve Meta'nın Lamma 2'si  OpenAI'nin ChatGPT'sine verilen yanıt, yapay zeka yarışının ivmesini önemli ölçüde artırdı. Bu modellere girdiler sağlayarak davranışlarını ve tepkilerini yönlendiriyoruz. Bu da hepimizi bir dereceye kadar hızlı mühendisler haline getiriyor. Teknoloji sektörü bunu fark etti. Girişim sermayedarları, hızlı mühendisliğe odaklanan girişimlere fon akıtıyor, örneğin: parşömen AI. Ayrıca Forbes, mühendislerin komut istemi 300,000 doları aşan maaşlar, gelişen ve değerli bir iş piyasasının göstergesi.

Bu yazıda, ChatGPT bağlamında hızlı programlama mühendisliğinin gizemini çözeceğiz. Temel prensipleri ve teknikleri inceleyecek ve ticari uygulamalarını inceleyeceğiz.

Öncelikle ChatGPT'nin nasıl çalıştığını ve bu süreçte istem mühendisliğinin oynadığı önemli rolü anlayalım.

ChatGPT Bilgi İstemi Mühendisliğinin Arkasındaki Mekanik

ChatGPT'nin başarısının ardındaki gizli sır, insan konuşmalarındaki nüansları anlama ve taklit etme becerisidir. Model, çeşitli internet metinleriyle eğitilmiş olsa da, eğitim setinde belirli belge veya kaynakları bilmemesi, genellemeyi özgüllükten üstün tutmasını sağlar. Bu eğitim yaklaşımı, ChatGPT'nin yaratıcı yanıtlar üretmesini, karmaşık diyaloglarda yol almasını ve hatta mizah anlayışı sergilemesini sağlar. Ancak, ChatGPT'nin inançları gerçekten anlamadığını veya bunlara sahip olmadığını; eğitim sırasında öğrendiği kalıplara dayanarak yanıtlar ürettiğini unutmamak önemlidir.

ChatGPT'nin insan dilini incelikli ve bağlam farkında bir şekilde anlama ve yanıtlama yeteneği, onları inanılmaz derecede çok yönlü araçlar haline getiriyor.

Bu modellerin mekaniği, tek bir karakterden bir kelimeye kadar değişebilen ayrı dil parçaları olan 'jeton' kavramına dayanır. Bu modeller, belirli sayıda jetonla (GPT-4096-Turbo için 3.5 veya GPT-8192 için 32768 veya 4) çalışır ve olası jetonların bir sonraki sırasını tahmin eder. Modeller, jetonları karmaşık doğrusal cebir kullanarak işler ve en olası sonraki jetonu tahmin eder.

Örneğin, dokuz kelimelik basit bir cümle on simgeye dönüşebilir. Tek bir karmaşık kelime bile, modelin dili daha iyi anlamasına ve üretmesine yardımcı olan birden fazla simgeye dönüşebilir. Almanca gibi karmaşık kelime yapılarına sahip diller bile tokenizasyon yoluyla yönetilir.

GPT (Generative Pre-trained Transformer) modelleri, ilk belirteçten başlayıp sonuncuya kadar devam ederek her seferinde bir belirteç üreterek çalışır. Her belirteci oluşturduktan sonra, model tüm diziyi yeniden ziyaret eder ve bir sonraki belirteci oluşturmak için onu yeniden işler. Bu yinelemeli süreç, son belirteç oluşturulana kadar devam eder ve metnin oluşturulmasını büyük bir for döngüsüne benzer hale getirir.

Ancak asıl mesele şu: Bu yanıtların kalitesi büyük ölçüde aldığı komutlara bağlı. Tıpkı bir insanla sohbeti yönetmek gibi, ChatGPT ile diyaloğu yönetmek de belirli bir beceri ve anlayış seviyesi gerektiriyor. İşte komut mühendisliğinin devreye girdiği nokta burası.

Hızlı Mühendislik nedir?

İstem Mühendisliği, yapay zekaya rehberlik etmek için kesin, etkili komutlar/girdiler oluşturma sanatıdır (NLP/Vision) en uygun maliyetli, doğru, yararlı ve güvenli çıktıları oluşturmaya yönelik ChatGPT gibi modeller.

Hızlı mühendislik yalnızca metin oluşturmayla sınırlı değildir, aynı zamanda yapay zeka alanında geniş kapsamlı uygulamalara sahiptir. Robotik süreç otomasyonu botları, 3D varlıklar, komut dosyaları, robot talimatları ve diğer içerik ve dijital medya türleri gibi alanlarda giderek daha fazla kullanılıyor. Mantık, kodlama, sanat ve bazı durumlarda özel değiştiricilerin benzersiz bir karışımını sağlar.

Bir bilgi istemi, doğal dilde metin, resim veya diğer girdi verisi türlerini içerebilirken, çıktı, yapay zeka hizmetleri ve araçları arasında önemli ölçüde farklılık gösterebilir. Her aracın, kelimelerin ağırlığını, stilleri, perspektifleri, düzeni veya istenen yanıtın diğer özelliklerini tanımlayan özel değiştiricileri vardır.

Bu alan, yapay zeka destekli daha iyi hizmetler oluşturmak ve mevcut üretken yapay zeka araçlarından üstün sonuçlar elde etmek için gereklidir. Örneğin kurumsal geliştiriciler, müşteriyle yüz yüze iletişim kurmak için GPT-3 gibi Büyük Dil Modellerini (LLM'ler) uyarlamak için genellikle hızlı mühendislikten yararlanır. chatbot veya sektöre özel sözleşmeler oluşturmak gibi görevleri yerine getirin.

Hızlı iyileştirme ve yapay zeka performansını ölçmeye yönelik bu yinelemeli süreç, yapay zeka modellerinin çeşitli bağlamlarda yüksek oranda hedeflenmiş, yararlı yanıtlar üretmesini sağlamada kilit bir unsurdur.

Hızlı Mühendis Olmak

GPT-4 modelinin karmaşık talimatları anlama ve karmaşık problemleri doğru bir şekilde çözme konusundaki becerisi, onu paha biçilmez bir kaynak haline getirir. Ancak, bu modelin yeteneklerine erişmenin farklı yöntemleri vardır ve bunları anlamak, bir mühendisin hem verimliliği hem de maliyet etkinliğini optimize etmedeki rolü açısından hayati önem taşıyabilir.

GPT-4 gibi GPT modelleriyle etkileşim kurmanın esasen iki yolu vardır. Bunlardan biri, maliyetlerin girdi ve çıktı token'ları başına hesaplandığı OpenAI API'sidir. Bu senaryoda, 1K token başına maliyetler bağlam boyutuna göre dalgalanabilir. Örneğin, daha büyük bir 32K bağlamda, girdi token'ları için maliyet 0.06 ABD dolarına, çıktı token'ları içinse 0.12 ABD dolarına kadar çıkabilir. Bu nedenle, yüksek hacimli istekler işlenirken kullanım maliyeti hızla artabilir.

Alternatif olarak, GPT-4 modelinden yararlanan ChatGPT, abonelik tabanlı bir model üzerinde çalışır.

Hızlı mühendislikteki bir diğer önemli görev, model parametre ayarlamasıdır. Bu süreç, modelin tahminlerde bulunmak için kullandığı değişkenlerin ayarlanmasını içerir. Hızlı mühendisler, bu parametreleri hassas bir şekilde ayarlayarak modelin yanıtlarının kalitesini ve doğruluğunu artırabilir, böylece bunları bağlamsal olarak daha alakalı ve faydalı hale getirebilirler.

Birçok hızlı mühendis teknoloji geçmişine sahip olsa da, alanın çok disiplinli yapısı onu farklı mesleki geçmişlere sahip bireyler için erişilebilir kılıyor. Yazarlar, araştırmacılar ve hatta sanatçılar, yapay zeka modellerinin etkinliğini artırmak için benzersiz becerilerinden giderek daha fazla yararlanıyor. Bu değişim, iş piyasasına da yansıyor ve giderek daha fazla şirket, çeşitli beceri ve geçmişlere sahip hızlı mühendisler arıyor.

ChatGPT'de Hızlı Tasarım ve Mühendislik

Bilgi İstemi Tasarımı ve Mühendisliği, dil modellerinin performansını optimize etmede kritik bir rol oynar ve yalnızca sorular hazırlamaktan daha fazlasını içerir; AI modelinin derinlemesine anlaşılmasını ve oldukça yinelemeli ve rafine bir yaklaşımı gerektirirler.

Hızlı Tasarım

İstem tasarımı, özünde, ChatGPT gibi belirli bir büyük dil modeli (LLM) için açıkça belirlenmiş bir hedefe ulaşmak amacıyla mükemmel istemi oluşturma sanatı ve bilimidir. Aşağıdakilerin bir karışımıdır:

• LLM'yi Anlamak: Farklı dil modelleri aynı istemi değişken şekilde yanıtlayabilir. Ayrıca, belirli dil modelleri, belirli bir şekilde yorumladıkları benzersiz anahtar sözcüklere veya tetikleyicilere sahip olabilir.
• Etki Alanı Bilgisi: İstemleri tasarlarken ilgili alandaki uzmanlık çok önemlidir. Örneğin, tıbbi bir teşhis çıkarımı yapmak için bir bilgi istemi oluşturmak, tıbbi bilgi gerektirecektir.
• Yinelemeli Yaklaşım ve Kalite Ölçümü: İdeal istemi oluşturma süreci genellikle deneme yanılma içerir. Bu nedenle, çıktı kalitesini yalnızca sübjektif yargının ötesinde değerlendirmek için bir yola sahip olmak, özellikle bilgi istemini daha büyük ölçekte kullanırken hayati önem taşır.

Hızlı Mühendislik

Bilgi istemi mühendisliği, birkaç kritik süreci içeren genişletilmiş bir hızlı tasarım alanıdır:

• Geniş Ölçekte İstemlerin Tasarımı: Bu süreç, çalışma zamanında başlatılabilen parametreleştirilmiş bilgi istemleri olan meta bilgi istemlerinin (diğer istemleri oluşturan istemler) ve bilgi istemi şablonlarının tasarımını içerir.
• Araç Tasarımı ve Entegrasyonu: İstemler bazen harici araçlardan alınan sonuçları içerebilir ve bu araçları sorunsuz bir şekilde sisteme entegre etmek çok önemlidir.
• İş Akışı, Planlama ve Bilgi İstemi Yönetimi: Bir sohbet robotu gibi bir LLM uygulaması dağıtmak, genellikle bilgi istemi kitaplıklarının yönetilmesini, doğru bilgi istemlerinin planlanıp seçilmesini ve çeşitli araçların verimli bir şekilde entegre edilmesini gerektirir.
• İstemlerin Değerlendirilmesi ve Kalite Güvencesi: Bu özellik, istemleri hem otomatik olarak hem de insan katılımıyla değerlendirmek için metriklerin ve süreçlerin tanımlanmasını içerir.
• Bilgi İstemi Optimizasyonu: AI modelinin maliyeti ve gecikme süresi, model seçimine ve istemin uzunluğuna (belirteç sayısı) bağlı olabilir.

Ölçekli istemleri yönetmek için birçok otomatik istem tasarımı yaklaşımı, aracı ve çerçevesi geliştirilmiştir. Ancak, bu araçların hiçbirinin deneyimli bir istem mühendisinin nüanslı anlayışının, yargısının ve deneyiminin yerini alamayacağını anlamak önemlidir.

Hızlı Mühendislik: Teknikler ve En İyi Uygulamalar

1) Bilgi İstemi Yerleştirme ve Açıklama

Talimatları komutun başına yerleştirmek, yapay zekanın anlama ve tepkisini önemli ölçüde etkileyebilir. Bir metni madde işaretli bir formatta özetlemeyi düşünün. Daha az etkili bir yaklaşım ise şudur:

kullanıcı: Aşağıdaki metni en önemli noktaların bir madde işareti listesi olarak özetleyin.
{buraya metin girişi}

Öte yandan, daha etkili bir teknik şu olabilir:

kullanıcı: Aşağıdaki metni en önemli noktaların bir madde işareti listesi olarak özetleyin.
Metin: """
{buraya metin girişi}
"" "

Yapay zeka modeli, talimatları ve bağlamı ### veya """ gibi simgelerle net bir şekilde ayırarak görevini ve işlemesi gereken metni daha iyi tanımlayabilir ve böylece daha doğru ve ilgili yanıtlar verebilir.

İkinci olarak, bağlam, beklenen sonuç, uzunluk, format, stil vb. hakkında spesifik, açıklayıcı ve ayrıntılı olmak, AI yanıtlarının kesinliğini önemli ölçüde artırabilir. İlgi çekici, meslekten olmayan kişilere uygun bir tarzda bilimsel bir makaleye ilişkin kısa bir genel bakış oluşturmanız gerektiğini varsayalım. "Bilimsel makaleyi özetleyin" gibi belirsiz bir talimat, belirli, ayrıntılı bir istemle karşılaştırıldığında daha az etkili sonuçlar verir:

kullanıcıAşağıdaki bilimsel makalenin kısa (yaklaşık 200 kelime) ve ilgi çekici bir özetini oluşturun. Özet, bilimsel geçmişi olmayan biri için anlaşılır olmalı ve makalenin temel bulgularını doğru bir şekilde yansıtmalıdır.
Kağıt: """
{burada bilimsel makale metni}
"" "

2) Kişi Kalıbı

Persona Modeli, AI'yı profesyonel bir rol veya kurgusal karakter gibi belirli bir perspektiften çalışacak şekilde ayarlayan bir stratejidir. Bu taktik, modelin, kişinin üstleneceği belirli rollerle ilgili çıktılar sağlamasını sağlar. Örneğin, yapay zekaya bir kod incelemesi sırasında bir siber güvenlik uzmanı gibi davranması talimatı verilebilir. Bu model, özellikle kullanıcıların yardıma ihtiyacı olduğunda ancak çıktıda gereken tam ayrıntılardan emin olmadıklarında kullanışlıdır.

Aşağıdakileri örnek olarak alın:

kullanıcı: "Fransız Devrimi konusunda uzmanlaşmış kıdemli bir tarihçinin kişiliğini varsayın. Bu kişilik göz önüne alındığında, Fransız monarşisinin çöküşüne yol açan önemli olayları ve nedenleri açıklayın.

Bu senaryoda yapay zekanın, bir tarihçinin yapacağı gibi monarşinin düşüşüne odaklanarak Fransız Devrimi'nin derinlemesine bir analiziyle yanıt vermesi bekleniyor.

Yeni Bilgilerin Tanıtılması

ChatGPT, eğitim sınırının ötesinde bilgiye sahip olmadığından, eğitim sonrası son olaylar veya güncellemeler hakkında bilgi sağlayamaz. Ancak, istemleriniz aracılığıyla modele yeni bilgiler ekleyebilirsiniz.

kullanıcı: "Kripto para birimi nedir?"
ChatGPT: “Kripto para birimi, güvenlik için kriptografi kullanan bir tür dijital veya sanal para birimidir. En iyi bilinen kripto para birimi Bitcoin'dir.”

Şimdi, isteme biraz daha bağlam eklersek, açıklamayı daha da sezgisel hale getirebiliriz:

kullanıcı: “Dijital finans okuyan bir lise öğrencisine kripto para birimi kavramını açıklayın”
ChatGPT: "Çevrimiçi bir video oyunu oynadığınızı ve yükseltmeler veya yeni karakterler satın almak için kazanabileceğiniz oyun parası olduğunu hayal edin. Kripto para da buna benzer, ancak oyunla sınırlı kalmak yerine, gerçek dünya mal ve hizmetlerini satın almak için kullanabilirsiniz. Hiçbir banka veya hükümetin kontrol etmediği dijital para gibidir."

3) İstem Boyutu Sınırlamaları

ChatGPT'nin boyut sınırlamasını anlamak, girebileceğimiz bilgilerin hacmini ve türünü doğrudan etkilediği için önemlidir. Dil modelleri, aynı anda sınırsız veriyi işlemek için oluşturulmamıştır. Yaratabileceğimiz ve girebileceğimiz bilgi isteminin boyutu konusunda doğal bir kısıtlamaları var. Bu sınırlama, bilgi istemlerinin tasarımı ve yürütülmesi için derin etkilere sahiptir.

ChatGPT'nin hem komut istemini hem de oluşturulan yanıtı içeren bir belirteç sınırı (genellikle 2048 belirteç) vardır. Bu, uzun istemlerin yanıt uzunluğunu sınırlayabileceği anlamına gelir. Bu nedenle, istemleri özlü ama bilgilendirici tutmak önemlidir.

Pratik kullanımda, editör gibi davranmalı ve elimizdeki görev için en alakalı bilgileri seçici bir şekilde seçmeliyiz. Kelime veya sayfa sınırı olan bir makale veya makale yazdığınızı düşünün; rastgele bilgilerle yetinmek yerine, konuyla ilgili bilgileri dikkatlice seçip yapılandırmalısınız.

kullanıcı: "Modelin sembolik sınırlamaları göz önüne alındığında, 1000. Dünya Savaşı'nın önemli olaylarını XNUMX kelimeden daha az özetleyin."

Modelin simgesel sınırlamalarını kabul ederek, bu komut yapay zekanın II. Dünya Savaşı'nın özlü ancak kapsamlı bir özetini sunmasını sağlar.

Tekrarlanan Kullanım İçin İstemler: Konuşma senaryosunda, istemleri yeniden kullanabilir veya önceki yanıtlara göre hassaslaştırabilirsiniz. Bu, bir konuşma akışı sağlar ve etkileşimde bağlamı korur.

4) Soru İyileştirme Modeli

ChatGPT, sorularınızı iyileştirmenize de yardımcı olabilir. Örneğin, bir soru sorarsanız, daha doğru sonuçlar için daha iyi formüle edilmiş bir soru önerebilir.

Soru Geliştirme Modeli, LLM'nin kullanıcı tarafından sorulan soruları geliştirmesini içerir. Özellikle kullanıcılar bir alanda uzman olmadıklarında veya sorularını nasıl soracaklarından emin olmadıklarında faydalıdır.

Örnek bir bilgi istemi şöyle görünebilir:

kullanıcı: "Veri bilimi hakkında bir soru sorduğumda, istatistiksel analiz özelliklerini göz önünde bulundurarak daha rafine bir soru öner ve rafine soruyla devam etmek isteyip istemediğimi sor."

Burada yapay zekanın, istatistiksel analiz yönlerini de göz önünde bulundurarak kullanıcının genel veri bilimi sorularını daha detaylı sorulara dönüştürmesi bekleniyor.

5) Bilişsel Doğrulayıcı Modeli

Bilişsel Doğrulayıcı Modeli, karmaşık soruları daha küçük, yönetilebilir alt sorulara ayırır. Bu alt soruların cevapları daha sonra ana soruya kapsamlı bir cevap sağlamak için birleştirilir. Bu yaklaşım, ilk sorular çok yüksek olduğunda veya eksiksiz bir yanıt sağlamak için ek netlik gerektiğinde yararlıdır.

Örneğin:

kullanıcı: "İklim değişikliği hakkında bir soru sorarsam, daha doğru bir yanıt vermenize yardımcı olacak daha küçük üç soruya bölün. Nihai cevabı vermek için bu alt soruların cevaplarını birleştirin.”

Bu senaryoda yapay zeka, iklim değişikliği ile ilgili karmaşık soruyu yönetilebilir üç alt soruya ayıracaktır. Bu alt soruların yanıtlarını aldıktan sonra, AI daha kapsamlı ve doğru bir yanıt sağlamak için bunları birleştirecektir.

Bu model, daha doğru bir nihai cevap elde etmek için birden fazla soru oluşturmayı içerir. Bu, sağlam bir nihai çıktı için bilgilerin doğrulanması ve pekiştirilmesi sürecidir.

6) Az Atışla İsteme Yaklaşımı

Az sayıda örnekle yönlendirme, yapay zeka modellerine belirli kalıpları takip etmeyi veya görevleri yerine getirmeyi öğretmek için güçlü bir yaklaşımdır. Buradaki fikir, istenen soruyu sormadan önce modeli birkaç örnekle beslemektir. Bu, istenen davranışı belirlemeye ve modelin yanıtlarını yönlendirmeye yardımcı olur.

Bir kullanıcının yeni bir teknoloji aygıtı için özlü, ikna edici bir pazarlama kopyası hazırlamaya çalıştığı bir senaryo düşünün:

kullanıcı: "İşte teknoloji pazarlama metinlerine dair bazı örnekler: 'Son teknoloji kablosuz kulaklıklarımızla müziği daha önce hiç olmadığı gibi deneyimleyin.' 'Ultra şık aksiyon kameramızla dünyanızı göz alıcı 4K kalitesinde yakalayın.' Bu örnekleri göz önünde bulundurarak, yeni yapay zeka destekli akıllı saatimiz için bir pazarlama metni taslağı hazırlayın."

ChatGPT: "Sağlık, bağlantı ve üretkenlik konusunda yol arkadaşınız olan yapay zeka destekli akıllı saatimiz ile yaşam tarzınızı güçlendirin." Birkaç adımlı öğrenmenin dikkat çekici özelliği, görevin nasıl gerçekleştirileceğine dair ayrıntılı bir açıklama gerektirmemesidir. Bunun yerine, yapılan işin gösterimlerini gerektirir ve bu da onu birçok uygulama için uygun hale getirebilir.

Ayrıca, bu teknik basit girdi-çıktı eşleşmesinin ötesine geçer. Modele ayrıca bir hedefe ulaşmak için ara adımların üstesinden gelmesi öğretilebilir.

7) Düşünce Zinciri Yönlendirmesi

Son araştırma makalelerinde, “Düşünce Zinciri İstemi, Büyük Dil Modellerinde Akıl Yürütmeyi Ortaya ÇıkarırYazarlar Jason Wei ve ekibi, geniş dil modelleri içinde akıl yürütmeyi teşvik etmeyi amaçlıyor. Ekip, geleneksel, doğrudan ipuçları kullanmak yerine, birbiriyle bağlantılı bir dizi ipucu kullanarak bir 'düşünce zinciri' oluşturuyor.

Örneğin, bir kullanıcı yapay zekanın iş piyasaları üzerindeki potansiyel etkisiyle ilgilenebilir:

kullanıcı: “Yapay zeka kavramını kısaca anlatır mısınız?”

ChatGPT: "Yapay Zeka veya YZ, bir makinenin zeki insan davranışlarını taklit etme yeteneğini ifade eder. İnsanlar gibi düşünebilen ve öğrenebilen, dil çevirisi, karar verme ve problem çözme gibi görevleri yerine getirebilen makineler tasarlamakla ilgilidir."

kullanıcı: "Yapay zeka mevcut iş piyasasını nasıl etkiliyor?"

ChatGPT: "Yapay zeka hem yeni işler yaratıyor hem de mevcut işlerin doğasını değiştiriyor. Bir yandan rutin görevleri otomatikleştirerek belirli sektörlerde iş kayıplarına yol açıyor. Diğer yandan, yapay zeka etik görevlileri, veri analistleri ve makine öğrenimi mühendisleri gibi daha önce var olmayan rollere talep yaratıyor. Ayrıca yapay zeka, insan rollerini zenginleştirerek insanların görevleri daha verimli ve doğru bir şekilde yerine getirmelerini sağlıyor."

Düşünce zinciri yönlendirmesi, ilgili yönlendirmelerin ilerlemesini takip ederek, modelle bir 'sohbet' sürdürür ve modeli daha kesin ve bağlamsal olarak uygun yanıtlar almaya yönlendirir.

ChatGPT API'sini ve İstem Mühendisliğini Bir Geliştiricinin Bakış Açısıyla Anlamak

Bir geliştirici veya araştırmacının bakış açısından, istem mühendisliği daha karmaşık bir süreçtir. Yapay zeka modelinin istemleri daha etkili bir şekilde anlamasına ve yanıt vermesine yardımcı olacak algoritma ve tekniklerin tasarlanmasını içerir. Bu, belirsiz istemlerle başa çıkma, istemlerin bağlamını belirleme veya yapay zekada daha karmaşık düşünce süreçlerini teşvik etmek için istemleri birbirine bağlama stratejilerini içerebilir.

Yukarıdaki çizimde, bir kullanıcı GPT-4 destekli bir sohbet arayüzüyle etkileşime girmektedir. Kullanıcının girdisi, yapay zeka modeline aktarılmadan önce özel bir modül tarafından netlik ve bağlamsal tutarlılık açısından geliştirilir. Bu modülün görevi, kullanıcının girdisini daha iyi anlaşılır hale getirmek ve aynı zamanda konuşmanın bağlamını korumaktır. Geliştirilmiş komut istemine göre oluşturulan yapay zeka yanıtı, sohbet arayüzü aracılığıyla kullanıcıya geri gönderilir. Etkileşim geçmişi, konuşma bağlamını koruyarak sürekli olarak güncellenir. Genel olarak bu diyagram, komut istemi mühendisliği teknikleriyle etkinleştirilen dinamik bir kullanıcı-yapay zeka konuşma akışını göstermektedir.

MKS ChatGPT API'leri Arayüz, kullanıcıların yapay zekanın komutlara verdiği yanıtları iyileştirmesini ve böylece daha etkili ve çok yönlü olmasını sağlayan çeşitli hiperparametrelerle tasarlanmıştır. Bunlar arasında Sıcaklık, Maksimum Uzunluk ve Durdurma Dizileri parametreleri bulunur. Bunların nasıl işlediğini ve farklı bağlamlarda nasıl kullanılabileceğini inceleyelim.

1) Sıcaklık

Sıcaklık parametresi, yapay zekanın tepkilerinin rastgeleliğini etkiler. 1.0 gibi daha yüksek bir sıcaklık, daha fazla rastgele çıktıyı teşvik ederek çeşitli ancak potansiyel olarak konuyla alakasız tepkiler verir. Buna karşılık, 0.2 gibi daha düşük bir sıcaklık, yapay zekanın daha kesin tepkiler seçmesini sağlar; bu da odaklı ve spesifik çıktılar için faydalı olabilir, ancak çeşitlilikten yoksun olabilir.

Örnek: Yaratıcı bir hikaye yazıyorsanız ve öngörülemeyen, yaratıcı öğeler istiyorsanız, sıcaklığı daha yüksek bir değere ayarlayın. "Zaman yolculuğu yapan bir kedi hakkında kısa bir hikaye yazın" gibi bir komut verilebilir. Yüksek bir sıcaklıkla, öngörülemeyen iniş çıkışlarla dolu çılgın, fantastik bir hikaye elde edebilirsiniz.

2) Maksimum Uzunluk

Bu parametre, hem mesaj girişindeki hem de mesaj çıktısındaki belirteçleri içeren model çıktısının maksimum belirteç uzunluğunu kontrol eder. Daha yüksek bir sınır belirlemek daha uzun yanıtlar sağlarken, daha düşük bir sınır belirlemek çıktının kısa ve öz kalmasını sağlar.

Örnek: "2020'de Nobel Edebiyat Ödülü'nü kim kazandı?" gibi önemsiz soruların kısa yanıtları için. Yanıtın kısa ve doğrudan olmasını sağlamak için maksimum uzunluğu düşük bir değere ayarlamak isteyebilirsiniz.

3) Dizileri Durdur

Durdurma dizileri, modelin bunlarla karşılaştığında daha fazla çıktı üretmeyi bıraktığı belirli metin dizileridir. Bu özellik, çıktının uzunluğunu kontrol etmek veya modele mantıksal uç noktalarda durma talimatı vermek için yararlı olabilir.

Örnek: Resmi bir mektup için, yapay zekanın mektubun uygun sonunun ötesinde herhangi bir ek metin oluşturmamasını sağlamak için bir durdurma dizisi olarak "Saygılarımla" ifadesini kullanabilirsiniz.

4) Üst P

Çekirdek örnekleme olarak da bilinen 'En İyi P' parametresi, modelin tahminlerinin her adımında dikkate alınan kelime sayısının dinamik bir seçimini sağlayan bir yöntemdir. 0.5 gibi daha düşük bir değer, daha güvenli ve daha odaklı çıktılar sağlar. 0.9 gibi daha yüksek bir değer ise daha geniş bir kelime yelpazesini kapsayarak daha çeşitli çıktılar sağlar.

Örnek: Şiir yazacak bir yapay zeka geliştiriyorsanız ve geniş bir kelime ve üslup yelpazesi kullanmasını istiyorsanız, "En İyi P" değerini daha yüksek bir değere ayarlayabilirsiniz. Bir komut şöyle olabilir: "Sonbaharın güzelliği hakkında bir şiir yazın."

5) Frekans Cezası

Sıklık Cezası, modelin daha az kullanılan sözcükleri ne kadar tercih etmesi gerektiğini kontrol eder. Daha yüksek bir ceza (1'e kadar) modeli daha az yaygın kelimeler kullanmaya teşvik ederken, daha düşük bir değer (-1'e kadar) modeli daha yaygın kelimeler kullanmaya teşvik eder.

Örnek: Bir iş teklifi oluşturmaya çalışıyorsanız ve jargon kullanmak istemiyorsanız, dili açık ve erişilebilir tutmak için sıklık cezasını daha düşük bir değere ayarlayabilirsiniz.

6) Bulunma Cezası

Varlık Cezası parametresi, modelin konuşma geçmişinde olmayan yeni fikirler veya konular ürettiği için ne kadar cezalandırılacağını etkiler. Daha yüksek değerler, modeli daha önce bahsedilen konulara bağlı kalmaya teşvik ederken, daha düşük değerler, modelin yeni kavramları daha özgürce tanıtmasına olanak tanır.

Örnek: Beyin fırtınası oturumları için, çeşitli fikirler dizisini teşvik etmek için varlık cezasını daha düşük bir değere ayarlayabilirsiniz. "Çevrimiçi bir eğitim platformu için yenilikçi pazarlama stratejileri oluşturun" gibi bir komut istemi kullanabilirsiniz.

İstem Mühendisliğinin Endüstri Uygulaması