Azure AI Studio'da akışlar için LLM aracı
Önemli
Bu makalede açıklanan özelliklerden bazıları yalnızca önizleme aşamasında kullanılabilir. Bu önizleme, hizmet düzeyi sözleşmesi olmadan sağlanır ve üretim iş yükleri için önerilmez. Bazı özellikler desteklenmiyor olabileceği gibi özellikleri sınırlandırılmış da olabilir. Daha fazla bilgi için bkz. Microsoft Azure Önizlemeleri Ek Kullanım Koşulları.
Doğal dil işleme için büyük dil modellerini (LLM) kullanmak için istem akışı LLM aracını kullanırsınız.
Not
Çeşitli doğal dil işleme görevleri için metni yoğun vektör gösterimlerine dönüştürmeye yönelik eklemeler için bkz . Ekleme aracı.
Önkoşullar
İstem aracı belgelerinde açıklandığı gibi bir istem hazırlayın. LLM aracı ve İstem aracı jinja şablonlarını destekler. Daha fazla bilgi ve en iyi yöntemler için bkz . Prompt engineering techniques.
LLM aracıyla derleme
Azure AI Studio'da akış oluşturma veya açma. Daha fazla bilgi için bkz . Akış oluşturma.
LLM aracını akışınıza eklemek için + LLM'yi seçin.
Sağlanan kaynaklarınızdan biriyle bağlantıyı seçin. Örneğin, Default_AzureOpenAI'ı seçin.
Api açılan listesinden sohbet veya tamamlama'yı seçin.
Metin tamamlama girişleri tablosunda açıklanan LLM aracı giriş parametreleri için değerleri girin. Sohbet API'sini seçtiyseniz Sohbet girişleri tablosuna bakın. Tamamlama API'sini seçtiyseniz Metin tamamlama girişleri tablosuna bakın. İstem girişini hazırlama hakkında bilgi için bkz . Önkoşullar.
Gerektiğinde akışınıza daha fazla araç ekleyin. Veya akışı çalıştırmak için Çalıştır'ı seçin.
Çıkışlar Çıkışlar tablosunda açıklanmıştır.
Girişler
Aşağıdaki giriş parametreleri kullanılabilir.
Metin tamamlama girişleri
| Adı | Tür | Açıklama | Gerekli |
|---|---|---|---|
| Istemi | Dize | Dil modeli için metin istemi. | Yes |
| model, deployment_name | Dize | Kullanılacak dil modeli. | Yes |
| max_tokens | integer | Tamamlanmada oluşturulacak en fazla belirteç sayısı. Varsayılan değer 16'dır. | Hayır |
| sıcaklık | kayan noktalı sayı | Oluşturulan metnin rastgeleliği. Varsayılan değer 1'dir. | Hayır |
| durmak | listele | Oluşturulan metin için durdurma sırası. Varsayılan değer null'tır. | Hayır |
| sonek | Dize | Tamamlanmanın sonuna eklenen metin. | Hayır |
| top_p | kayan noktalı sayı | Oluşturulan belirteçlerden en iyi seçimi kullanma olasılığı. Varsayılan değer 1'dir. | Hayır |
| logprobs | integer | Oluşturulacak günlük olasılıklarının sayısı. Varsayılan değer null'tır. | Hayır |
| echo | boolean | Yanıttaki istemin yankılanıp yankılamayacağını gösteren değer. Varsayılan değer yanlış'tır. | Hayır |
| presence_penalty | kayan noktalı sayı | Modelin yinelenen tümceciklerle ilgili davranışını denetleen değer. Varsayılan değer 0'dır. | Hayır |
| frequency_penalty | kayan noktalı sayı | Modelin nadir tümcecikler oluşturmayla ilgili davranışını denetleen değer. Varsayılan değer 0'dır. | Hayır |
| best_of | integer | Oluşturulacak en iyi tamamlanma sayısı. Varsayılan değer 1'dir. | Hayır |
| logit_bias | sözlük | Dil modeli için logit yanlılık. Varsayılan boş sözlüktür. | Hayır |
Sohbet girişleri
| Adı | Tür | Açıklama | Gerekli |
|---|---|---|---|
| Istemi | Dize | Dil modelinin yanıt vermesi gereken metin istemi. | Yes |
| model, deployment_name | Dize | Kullanılacak dil modeli. | Yes |
| max_tokens | integer | Yanıtta oluşturulacak en fazla belirteç sayısı. Varsayılan değer inf'dir. | Hayır |
| sıcaklık | kayan noktalı sayı | Oluşturulan metnin rastgeleliği. Varsayılan değer 1'dir. | Hayır |
| durmak | listele | Oluşturulan metin için durdurma sırası. Varsayılan değer null'tır. | Hayır |
| top_p | kayan noktalı sayı | Oluşturulan belirteçlerden en iyi seçimi kullanma olasılığı. Varsayılan değer 1'dir. | Hayır |
| presence_penalty | kayan noktalı sayı | Modelin yinelenen tümceciklerle ilgili davranışını denetleen değer. Varsayılan değer 0'dır. | Hayır |
| frequency_penalty | kayan noktalı sayı | Modelin nadir tümcecikler oluşturmayla ilgili davranışını denetleen değer. Varsayılan değer 0'dır. | Hayır |
| logit_bias | sözlük | Dil modeli için logit yanlılık. Varsayılan boş sözlüktür. | Hayır |
Çıkışlar
Çıkış, girişler için seçtiğiniz API'ye bağlı olarak değişir.
| API | Dönüş türü | Açıklama |
|---|---|---|
| Tamamlama | Dize | Tahmin edilen bir tamamlamanın metni. |
| Sohbet | Dize | Tek bir konuşma yanıtının metni. |