Yönerge mühendisliği ile model çıktısını optimize etme
Tavsiye
Daha fazla ayrıntı için Metin ve resimler sekmesine bakın!
Modelin performansını iyileştirmenin en erişilebilir yolu , istem mühendisliğidir. İstem mühendisliği, bir dil modelinin oluşturduğu yanıtların kalitesini, doğruluğunu ve ilgi düzeyini artırmak için istemleri tasarlama ve iyileştirme işlemidir. Ek altyapı veya eğitim verileri gerektirmez ve denemeleri hemen başlatabilirsiniz.
komut istemi bileşenlerini anlama
Bir dil modeliyle etkileşime geçtiğinizde, sorunuzun kalitesi yanıtın kalitesini doğrudan etkiler. İyi oluşturulmuş bir istem, modelin neye ihtiyacınız olduğunu anlamasına ve daha kullanışlı bir yanıt üretmesine yardımcı olur.
Sohbet tamamlama modelleri için istemler genellikle aşağıdaki bileşenleri içerir:
- Sistem iletisi: Modelin davranışını, rolünü ve kısıtlamalarını tanımlayan yönergeler.
- Kullanıcı iletisi: Kullanıcıdan gelen soru veya giriş.
- Yardımcı iletisi: Çok aşamalı konuşmalarda kullanılan önceki model yanıtları.
- Örnekler: Beklenen yanıt biçimini gösteren örnek giriş/çıkış çiftleri.
Bu bileşenleri nasıl yapılandırıp birleştirdiğiniz, modelin ne kadar etkili yanıt vereceğini belirler.
Etkili sistem iletileri tasarlama
Sistem iletisi, yanıtlarını yönlendirmek için modele sağladığınız yönergeler kümesidir. Sistem iletileri genellikle konuşmada ilk kez görünür ve en üst düzey yönergeler kümesi olarak davranır. Onları şu amaçlarla kullanırsınız:
- Yardımcının rolünü ve sınırlarını tanımlayın.
- Ton ve iletişim stilini ayarlayın.
- JSON veya madde işaretleri gibi çıkış biçimlerini belirtin.
- Senaryonuz için güvenlik ve kalite kısıtlamaları ekleyin.
Sistem iletisi şu kadar basit olabilir:
You are a helpful AI assistant.
Veya ayrıntılı kurallar ve biçimlendirme gereksinimleri içerebilir. Örneğin, seyahat acentesinin sohbet uygulaması şunları kullanabilir:
You are a friendly travel advisor for Margie's Travel.
Answer only questions related to travel, hotels, and trip planning.
Use a warm, conversational tone.
If you don't have enough information to answer, ask a clarifying question.
Format hotel recommendations as a bulleted list with the hotel name, location, and price range.
Önemli
Sistem iletisi modeli etkiler ancak uyumluluğu garanti etmez. Sistem iletilerinizi test edip yinelemeli ve bunları içerik filtreleme ve değerlendirme gibi diğer risk azaltmalarıyla katmanlamalısınız.
Sistem iletisi tasarlarken şu denetim listesini izleyin:
- Yardımcının rolüyle başlayın: Tipik bir istek için rolü ve beklenen sonucu belirtin.
- Sınırları tanımlama: Yardımcının kaçınması gereken konuları, eylemleri ve içerik türlerini listeleyin.
- Çıkış biçimini belirtin: Belirli bir biçime ihtiyacınız varsa, bunu düz olarak belirtin ve tutarlı tutun.
- "Şüpheye düştüğünüzde" ilkesi ekleyin: Kullanıcının isteği belirsiz olduğunda, kapsam dışında olduğunda veya modelde bilgi eksik olduğunda, modele ne yapacağını söyleyin.
İstem desenlerini uygulama
Etkili istemler, modelin daha iyi yanıtlar üretmesine yardımcı olan desenleri kullanır. Kullanabileceğiniz bazı yaygın desenler şunlardır:
Kişi deseni
Modele belirli bir perspektif veya rol alması talimatını verme. Örneğin, modelin deneyimli bir pazarlama uzmanı olarak yanıt vermesini istemek, hiç kişilik kullanmamaktan farklı sonuçlar üretir.
| Kişi yok | Kişi ile | |
|---|---|---|
| Sistem iletisi | Hiçbiri | Teknik müşteriler için deneyimli bir pazarlama uzmanısınız. |
| Kullanıcı istemi | CRM ürününün tek cümlelik açıklamasını yazın. | CRM ürününün tek cümlelik açıklamasını yazın. |
| Yanıt | CRM ürünü, bir şirketin müşterilerle etkileşimlerini yönetmek için tasarlanmış bir yazılım aracıdır. | Güçlü analizlerle operasyonları kolaylaştırmak ve satış artışlarını yönlendirmek için tasarlanan CRM ile sorunsuz müşteri ilişkileri yönetimi deneyimi yaşayın. |
Şablon deseni biçimlendirme
Çıktıyı belirli bir biçimde almak için isteminizde bir şablon veya yapı sağlayın. Örneğin, bir otel hakkında yapılandırılmış bir yanıta ihtiyacınız varsa:
Format the result to show:
- Hotel name
- Location
- Star rating
- Price range per night
Bu düzen, uygulamanızda ayrıştırması kolay tutarlı, düzenli yanıtlar sağlar.
Düşünce zinciri düzeni
Modelden mantığı adım adım açıklamasını isteyin. Düşünce zinciri olarak adlandırılan bu teknik, yanlış sonuç olasılığını azaltır ve modelin mantığını doğrulamayı kolaylaştırır.
Örneğin, "Dört kişilik bir aile için en uygun otel hangisidir?" sorusunu sormak yerine şunları sorabilirsiniz:
Which hotel is best for a family of four? Take a step-by-step approach:
consider room size, amenities for children, location, and price.
İlgili bir teknik, görevi, model yanıt vermeden önce açık alt adımlara bölmek ve her şeyi aynı anda çözmesini istemektense bu adımlardan ilerletmektir. Örneğin, önce modelden bir metindeki önemli bilgileri ayıklamasını isteyebilir ve ardından bir takip isteminde bu olgulara dayalı bir soruyu yanıtlamasını isteyebilirsiniz. Çalışmanın bu şekilde ayrıştırılması karmaşık, çok parçalı görevlerdeki hataları azaltır.
Uyarı
Düşünce zinciri istemleri, mantık dışı modellere yönelik bir tekniktir. O serisi modelleri gibi akıl yürütme modelleri, adım adım mantığı dahili olarak işler.
Az örnekli öğrenme yöntemi
Modelin istediğiniz deseni tanımlamasına yardımcı olmak için istenen giriş ve çıkışa ilişkin bir veya daha fazla örnek sağlayın. Bu teknik az örnekli öğrenme (veya tek bir örnek için tek örnekli) olarak adlandırılır. Örnek verilmediğinde, bu örneksiz öğrenme olarak adlandırılır.
Örneğin, müşteri sorgularını sınıflandırmak için:
Classify the following customer messages:
Message: "I need to change my flight to Rome"
Category: Booking change
Message: "What's the weather like in Bali in March?"
Category: Travel information
Message: "Can I get a refund for my cancelled tour?"
Category:
Model, örneklerden sınıflandırma desenini öğrenir ve son girdiyi doğru bir şekilde tamamlar.
Açık söz dizimi ve sınırlayıcıları kullanma
İsteminizde yönergeler, kaynak metin ve örnekler gibi birden çok bölüm bulunduğunda, bunları ayırmak için , Markdown başlıkları veya XML etiketleri gibi ---sınırlayıcıları kullanın. Sınırları temizleme, modelin yönergeleri içerikten ayırt etmesine ve yanlış yorumlama olasılığını azaltmaya yardımcı olur.
Tavsiye
Modeller, istemdeki son metin, başlangıçtaki metinden daha etkili olabilir anlamına gelen son güncellik önyargısına karşı hassas olabilir. Model yönergelerinizi tutarlı bir şekilde kullanmıyorsa, istemin sonundaki anahtar yönergesini yinelemeyi deneyin.
Model parametrelerini yapılandırma
İstemlerinizin metninin ötesinde, modelin nasıl yanıt oluşturduğunu denetleen model parametrelerini ayarlayabilirsiniz:
- Sıcaklık: Çıkışın rastgeleliğini denetler. Daha yüksek bir değer (örneğin, 0,7) daha yaratıcı ve çeşitli yanıtlar üretirken, daha düşük bir değer (örneğin, 0,2) daha odaklanmış ve belirleyici yanıtlar üretir. Olgusal görevler için daha düşük değerler ve yaratıcı görevler için daha yüksek değerler kullanın.
-
Top_p: Rastgeleliği de denetler, ancak farklı bir şekilde. Modeli en olası sonraki belirteçlerin bir alt kümesiyle sınırlar. Örneğin, 0,9'lık değer
top_pmodelin olası belirteçlerin yalnızca ilk 90% göz önünde bulunduran bir değer olduğu anlamına gelir.
Tavsiye
Genel öneri, sıcaklık veya top_p'yi ayarlamak ve her ikisini aynı anda ayarlamamaktır.
Seyahat acentesi senaryosunda, otel olanakları hakkındaki olgusal soruları yanıtlarken düşük sıcaklık (0,2) kullanabilirsiniz, ancak yaratıcı seyahat seyahati önerileri oluştururken daha yüksek bir sıcaklık (0,7) kullanabilirsiniz.
Yönlendirme mühendisliği yeterli olduğunda
İstem mühendisliği, tüm model iyileştirme çalışmaları için doğru başlangıç noktasıdır. Bu, şu durumlarda etkili olur:
- Modelin tonunu, biçimini ve davranışını yönlendirin.
- Görev için özel yönergeler sağlayın.
- Altyapı değişiklikleri olmadan sonuçları hızla yineleyin.
- Ek eğitim veya veri storage gerek olmadığından maliyetleri düşük tutun.
Ancak istem mühendisliğinin sınırları vardır. Modelin ihtiyaç duyduğu bilgilere (şirketinizin otel kataloğu gibi) erişimi yoksa veya ayrıntılı talimatlara rağmen sürekli olarak belirli bir davranışı sürdüremiyorsa, ek stratejileri değerlendirmeniz gerekir.