Not
Bu sayfaya erişim yetkilendirme gerektiriyor. Oturum açmayı veya dizinleri değiştirmeyi deneyebilirsiniz.
Bu sayfaya erişim yetkilendirme gerektiriyor. Dizinleri değiştirmeyi deneyebilirsiniz.
Azure yapay zeka modeli kataloğu, çok çeşitli sağlayıcılardan çok çeşitli Azure AI Foundry Modelleri sunar. Model kataloğundan model dağıtmak için çeşitli seçenekleriniz vardır. Bu makalede sunucusuz API dağıtımı aracılığıyla dağıtılabilir Azure AI Foundry Modelleri listelenmiştir. Bu modellerden bazıları için bunları yönetilen işlem aracılığıyla dağıtım için altyapınızda da barındırabilirsiniz.
Önemli
Önizleme aşamasında olan modeller, model kataloğundaki model kartlarında önizleme olarak işaretlenir.
Modellerle çıkarım yapmak için Nixtla TimeGEN-1 ve Cohere rerank gibi bazı modeller, model sağlayıcılarından özel API'ler kullanmanızı gerektirir. Diğerleri Model Çıkarımı API'sini kullanarak çıkarım gerçekleştirmeyi destekler. Azure AI Foundry portalı için model kataloğunda model kartlarını gözden geçirerek tek tek modeller hakkında daha fazla ayrıntı bulabilirsiniz.
AI21 Labs
Jamba ailesi modelleri, AI21'in AI21'in hibrit Mamba-Transformer mimarisini kullanan üretim sınıfı Mamba tabanlı büyük dil modelidir (LLM). AI21'in hibrit yapılandırılmış durum alanı modelinin (SSM) transformatör Jamba modelinin yönergeyle ayarlanmış bir sürümüdür. Jamba ailesi modelleri, kalite ve performans açısından güvenilir ticari kullanım için üretilmiştir.
Örnek | Türü | Yetenekler |
---|---|---|
AI21-Jamba-1.5-Mini | sohbet tamamlama |
-
Giriş: metin (262.144 belirteç) - Çıkış: metin (4.096 belirteç) - Araç çağırma: Evet - Yanıt biçimleri: Metin, JSON, yapılandırılmış çıkışlar |
AI21-Jamba-1.5-Large | sohbet tamamlama |
-
Giriş: metin (262.144 belirteç) - Çıkış: metin (4.096 belirteç) - Araç çağırma: Evet - Yanıt biçimleri: Metin, JSON, yapılandırılmış çıkışlar |
Azure AI Foundry portalında bu model koleksiyonuna bakın.
Azure OpenAI
Foundry Modellerinde Azure OpenAI, farklı özelliklere ve fiyat noktalarına sahip çeşitli modeller sunar. Bu modeller şunlardır:
- Daha fazla odak ve yetenekle akıl yürütme ve sorun çözme görevlerini ele almak için tasarlanmış son model
- Doğal dili ve kodu anlayıp oluşturabilen modeller
- Konuşmayı metne dönüştürebilen ve çevirebilen modeller
Örnek | Türü | Yetenekler |
---|---|---|
o3-mini | sohbet tamamlama |
-
Giriş: metin ve görüntü (200.000 belirteç) - Çıkış: metin (100.000 belirteç) - Araç çağırma: Evet - Yanıt biçimleri: Metin, JSON, yapılandırılmış çıkışlar |
o1 | sohbet tamamlama (resimlerle) |
-
Giriş: metin ve görüntü (200.000 belirteç) - Çıkış: metin (100.000 belirteç) - Araç çağırma: Evet - Yanıt biçimleri: Metin, JSON, yapılandırılmış çıkışlar |
o1-önizleme | sohbet tamamlama |
-
Giriş: metin (128.000 belirteç) - Çıkış: metin (32.768 belirteç) - Araç çağırma: Evet - Yanıt biçimleri: Metin, JSON, yapılandırılmış çıkışlar |
o1-mini | sohbet tamamlama |
-
Giriş: metin (128.000 belirteç) - Çıkış: metin (65.536 belirteç) - Araç çağrısı: Hayır - Yanıt biçimleri: Metin |
gpt-4o-realtime-preview | gerçek zamanlı |
-
Giriş: denetim, metin ve ses (131.072 belirteç) - Çıkış: metin ve ses (16.384 belirteç) - Araç çağırma: Evet - Yanıt biçimleri: Metin, JSON |
gpt-4o | sohbet tamamlama (görüntü ve ses içeriğiyle) |
-
Giriş: metin, görüntü ve ses (131.072 belirteç) - Çıkış: metin (16.384 belirteç) - Araç çağırma: Evet - Yanıt biçimleri: Metin, JSON, yapılandırılmış çıkışlar |
gpt-4o-mini | sohbet tamamlama (görüntü ve ses içeriğiyle) |
-
Giriş: metin, görüntü ve ses (131.072 belirteç) - Çıkış: metin (16.384 belirteç) - Araç çağırma: Evet - Yanıt biçimleri: Metin, JSON, yapılandırılmış çıkışlar |
metin ekleme-3-büyük | eklemeler |
-
Giriş: metin (8.191 belirteç) - Çıktı: Vektör (3,072 boyut) |
metin ekleme-3-küçük | eklemeler |
-
Giriş: metin (8.191 belirteç) - Çıktı: Vektör (1.536 boyut) |
Azure AI Foundry portalında bu model koleksiyonuna bakın.
Tutarlılık göstermek
Cohere model ailesi, yeniden düzenleme, sohbet tamamlamaları ve ekleme modelleri dahil olmak üzere farklı kullanım örnekleri için iyileştirilmiş çeşitli modeller içerir.
Cohere komutu ve yerleştirme
Aşağıdaki tabloda, Model Çıkarımı API'sini kullanarak çıkarsama yapabileceğiniz Cohere modelleri listelenmiştir.
Örnek | Türü | Yetenekler |
---|---|---|
Cohere-command-A | sohbet tamamlama |
-
Giriş: metin (256.000 belirteç) - Çıkış: metin (8.000 belirteç) - Araç çağırma: Evet - Yanıt biçimleri: Metin |
Cohere-command-r-plus-08-2024 | sohbet tamamlama |
-
Giriş: metin (131.072 belirteç) - Çıkış: metin (4.096 belirteç) - Araç çağırma: Evet - Yanıt biçimleri: Metin, JSON |
Cohere-command-r-08-2024 | sohbet tamamlama |
-
Giriş: metin (131.072 belirteç) - Çıkış: metin (4.096 belirteç) - Araç çağırma: Evet - Yanıt biçimleri: Metin, JSON |
Cohere-command-r-plus (kullanım dışı) |
sohbet tamamlama |
-
Giriş: metin (131.072 belirteç) - Çıkış: metin (4.096 belirteç) - Araç çağırma: Evet - Yanıt biçimleri: Metin, JSON |
Cohere-command-r (kullanım dışı) |
sohbet tamamlama |
-
Giriş: metin (131.072 belirteç) - Çıkış: metin (4.096 belirteç) - Araç çağırma: Evet - Yanıt biçimleri: Metin, JSON |
Cohere-embed-v-4 |
eklemeler resim ekleme |
-
Giriş: resim, metin - Çıkış: resim, metin (128.000 belirteç) - Araç çağırma: Evet - Yanıt biçimleri: resim, metin |
Cohere-embed-v3-english |
eklemeler resim ekleme |
-
Giriş: metin (512 belirteç) - Çıktı: Vektör (1,024 boyut) |
Cohere-embed-v3-multilingual |
eklemeler resim ekleme |
-
Giriş: metin (512 belirteç) - Çıktı: Vektör (1,024 boyut) |
Çıkarım örnekleri: Cohere komutu ve gömme
Cohere modellerini kullanma hakkında daha fazla örnek için aşağıdaki örneklere bakın:
Açıklama | Dil | Örnek |
---|---|---|
Web istekleri | Bash |
Command-RCommand-R+ cohere-embed.ipynb |
C# için Azure AI Çıkarım paketi | C# (programlama dili) | Bağlantı |
JavaScript için Azure AI Çıkarım paketi | JavaScript | Bağlantı |
Python için Azure AI Çıkarım paketi | Piton | Bağlantı |
OpenAI SDK (deneysel) | Piton | Bağlantı |
LangChain | Piton | Bağlantı |
Cohere SDK | Piton |
Komut Katıştır |
LiteLLM SDK | Piton | Bağlantı |
Retrieval Augmented Generation (RAG) ve araç kullanım örnekleri: Cohere komutu ve gömme
Açıklama | Paketler | Örnek |
---|---|---|
Cohere embeddings kullanarak yerel bir Facebook AI benzerlik araması (FAISS) vektör dizini oluşturma - Langchain |
langchain , langchain_cohere |
cohere_faiss_langchain_embed.ipynb |
Yerel FAISS vektör dizinindeki verilerden gelen soruları yanıtlamak için Cohere Command R/R+ kullanma - Langchain |
langchain , langchain_cohere |
command_faiss_langchain.ipynb |
Yapay zeka arama vektör dizinindeki verilerden gelen soruları yanıtlamak için Cohere Command R/R+ kullanma - Langchain |
langchain , langchain_cohere |
cohere-aisearch-langchain-rag.ipynb |
Yapay zeka arama vektör dizininden gelen veri tabanlı soruları yanıtlamak için "Cohere Command R/R+" kullanma - Cohere SDK |
cohere , azure_search_documents |
cohere-aisearch-rag.ipynb |
LangChain kullanarak R+ aracı/işlev çağrısı komutu |
cohere , langchain , langchain_cohere |
command_tools-langchain.ipynb |
Cohere yeniden sıralama
Aşağıdaki tabloda Cohere rerank modelleri listelenir. Bu rerank modelleriyle çıkarım yapmak için, Tabloda listelenen Cohere'in özel rerank API'lerini kullanmanız gerekir.
Örnek | Türü | Inference API'si |
---|---|---|
Cohere-rerank-v3.5 | yeniden sıralama metin sınıflandırması |
Cohere'in v2/rerank API'si |
Cohere-rerank-v3-İngilizce (kullanım dışı) |
yeniden sıralama metin sınıflandırması |
Cohere'in v2/rerank API'si Cohere'in v1/rerank API'si |
Cohere-rerank-v3-multilingual (kullanım dışı) |
yeniden sıralama metin sınıflandırması |
Cohere'in v2/rerank API'si Cohere'in v1/rerank API'si |
Cohere rerank modelleri için fiyatlandırma
Bir kullanıcının sorgusuyla karıştırılmaması gereken sorgular, Cohere Rerank modelinin çıkarımı için giriş olarak kullanılan belirteçlerle ilişkili maliyeti ifade eden bir fiyatlandırma ölçümüdür. Cohere, tek bir arama birimini, sıralanacak en fazla 100 belgeden oluşan bir sorgu olarak sayar. Arama sorgusunun uzunluğu dahil edildiğinde 500'den uzun belirteçler (Cohere-rerank-v3.5 için) veya 4096'dan uzun belirteçler (Cohere-rerank-v3-English ve Cohere-rerank-v3-multilingual için) arama sorgusunun uzunluğu birden çok öbeklere ayrılır ve her öbek tek bir belge olarak sayılır.
Azure AI Foundry portalında Cohere model koleksiyonuna bakın.
Core42
Core42, Arapça ve İngilizce için ileri teknoloji özelliklere sahip, Arapça dilinde üstün yeteneklere sahip otoregresif iki dilli LLM'leri içermektedir.
Örnek | Türü | Yetenekler |
---|---|---|
jais-30b-chat | sohbet tamamlama |
-
Giriş: metin (8.192 belirteç) - Çıkış: metin (4.096 belirteç) - Araç çağırma: Evet - Yanıt biçimleri: Metin, JSON |
Azure AI Foundry portalında bu model koleksiyonuna bakın.
Çıkarım Örnekleri: Core42
Jais modellerini kullanma hakkında daha fazla örnek için aşağıdaki örneklere bakın:
Açıklama | Dil | Örnek |
---|---|---|
C# için Azure AI Çıkarım paketi | C# (programlama dili) | Bağlantı |
JavaScript için Azure AI Çıkarım paketi | JavaScript | Bağlantı |
Python için Azure AI Çıkarım paketi | Piton | Bağlantı |
DeepSeek
DeepSeek model ailesi, dil, bilimsel mantık ve kodlama görevleri, DeepSeek-V3-0324, Uzmanlar Karışımı (MoE) dil modeli ve daha fazlası gibi adım adım eğitim sürecini kullanarak akıl yürütme görevleri konusunda üstün başarıya sahip Olan DeepSeek-R1'i içerir.
Örnek | Türü | Yetenekler |
---|---|---|
DeepSeek-R1-0528 |
akıl yürütme içeriğiyle sohbet tamamlama |
-
Giriş: metin (163.840 belirteç) - Çıkış: metin (163.840 belirteç) - Diller: en ve zh - Araç çağrısı: Hayır - Yanıt biçimleri: Metin |
DeekSeek-V3-0324 | sohbet tamamlama |
-
Giriş: metin (131.072 belirteç) - Çıkış: (131.072 belirteç) - Araç çağrısı: Hayır - Yanıt biçimleri: Metin, JSON |
DeepSeek-V3 (Eski) |
sohbet tamamlama |
-
Giriş: metin (131.072 belirteç) - Çıkış: metin (131.072 belirteç) - Araç çağrısı: Hayır - Yanıt biçimleri: Metin, JSON |
DeepSeek-R1 | akıl yürütme içeriğiyle sohbet tamamlama |
-
Giriş: metin (163.840 belirteç) - Çıkış: metin (163.840 belirteç) - Araç çağrısı: Hayır - Yanıt biçimleri: Metin. |
DeepSeek-R1 eğitimi için bkz. Eğitim: Dökümhane Modelleri'nde DeepSeek-R1 akıl yürütme modelini kullanmaya başlama.
Azure AI Foundry portalında bu model koleksiyonuna bakın.
Çıkarım örnekleri: DeepSeek
DeepSeek modellerini kullanma hakkında daha fazla örnek için aşağıdaki örneklere bakın:
Açıklama | Dil | Örnek |
---|---|---|
Python için Azure AI Çıkarım paketi | Piton | Bağlantı |
JavaScript için Azure AI Çıkarım paketi | JavaScript | Bağlantı |
C# için Azure AI Çıkarım paketi | C# (programlama dili) | Bağlantı |
Java için Azure AI Çıkarım paketi | Java | Bağlantı |
Meta
Meta Lama modelleri ve araçları, önceden eğitilmiş ve ince ayarlı yapay zeka metni ve görüntü akıl yürütme modellerinden oluşan bir koleksiyon. Meta model aralığı şunları içerecek şekilde ölçeklendirilir:
- 1B ve 3B Base ve Instruct modelleri gibi küçük dil modelleri (SLM'ler), cihaz içi ve uç çıkarım için.
- 7B, 8B ve 70B Temel ve Yönerge modelleri gibi orta büyüklükteki büyük dil modelleri (LLM' ler)
- Meta Llama 3.1-405B gibi yüksek performanslı modeller, yapay veri oluşturma ve distilasyon kullanım alanlarında kullanılmaktadır.
- Yüksek performanslı yerel olarak çok modüllü modeller olan Llama 4 Scout ve Llama 4 Maverick, metin ve görüntü anlamada sektör lideri performans sunmak için uzmanlardan oluşan bir mimariden yararlanır.
Örnek | Türü | Yetenekler |
---|---|---|
Lama-4-Scout-17B-16E-Instruct | sohbet tamamlama |
-
Giriş: metin ve görüntü (128.000 belirteç) - Çıkış: metin (8.192 belirteç) - Araç çağrısı: Hayır - Yanıt biçimleri: Metin |
Llama 4-Maverick-17B-128E-Instruct-FP8 | sohbet tamamlama |
-
Giriş: metin ve görüntü (128.000 belirteç) - Çıkış: metin (8.192 belirteç) - Araç çağrısı: Hayır - Yanıt biçimleri: Metin |
Llama-3.3-70B-Instruct | sohbet tamamlama |
-
Giriş: metin (128.000 belirteç) - Çıkış: metin (8.192 belirteç) - Araç çağrısı: Hayır - Yanıt biçimleri: Metin |
Llama-3.2-90B-Vision-Instruct | sohbet tamamlama (resimlerle) |
-
Giriş: metin ve görüntü (128.000 belirteç) - Çıkış: metin (8.192 belirteç) - Araç çağrısı: Hayır - Yanıt biçimleri: Metin |
Llama-3.2-11B-Vision-Instruct | sohbet tamamlama (resimlerle) |
-
Giriş: metin ve görüntü (128.000 belirteç) - Çıkış: metin (8.192 belirteç) - Araç çağrısı: Hayır - Yanıt biçimleri: Metin |
Meta-Llama-3.1-8B-Instruct | sohbet tamamlama |
-
Giriş: metin (131.072 belirteç) - Çıkış: metin (8.192 belirteç) - Araç çağrısı: Hayır - Yanıt biçimleri: Metin |
Meta-Llama-3.1-405B-Instruct | sohbet tamamlama |
-
Giriş: metin (131.072 belirteç) - Çıkış: metin (8.192 belirteç) - Araç çağrısı: Hayır - Yanıt biçimleri: Metin |
Meta-Llama-3.1-70B-Instruct (kullanım dışı) | sohbet tamamlama |
-
Giriş: metin (131.072 belirteç) - Çıkış: metin (8.192 belirteç) - Araç çağrısı: Hayır - Yanıt biçimleri: Metin |
Meta-Llama-3-8B-Instruct (kullanım dışı) | sohbet tamamlama |
-
Giriş: metin (8.192 belirteç) - Çıkış: metin (8.192 belirteç) - Araç çağrısı: Hayır - Yanıt biçimleri: Metin |
Meta-Llama-3-70B-Instruct (kullanım dışı) | sohbet tamamlama |
-
Giriş: metin (8.192 belirteç) - Çıkış: metin (8.192 belirteç) - Araç çağrısı: Hayır - Yanıt biçimleri: Metin |
Azure AI Foundry portalında bu model koleksiyonuna bakın.
Çıkarım örnekleri: Meta Llama
Meta Llama modellerini kullanma hakkında daha fazla örnek için aşağıdaki örneklere bakın:
Açıklama | Dil | Örnek |
---|---|---|
CURL isteği | Bash | Bağlantı |
C# için Azure AI Çıkarım paketi | C# (programlama dili) | Bağlantı |
JavaScript için Azure AI Çıkarım paketi | JavaScript | Bağlantı |
Python için Azure AI Çıkarım paketi | Piton | Bağlantı |
Python web istekleri | Piton | Bağlantı |
OpenAI SDK (deneysel) | Piton | Bağlantı |
LangChain | Piton | Bağlantı |
LiteLLM | Piton | Bağlantı |
Microsoft
Microsoft modelleri MAI modelleri, Phi modelleri, sağlık yapay zekası modelleri ve daha fazlası gibi çeşitli model gruplarını içerir. Kullanılabilir tüm Microsoft modellerini görmek için Azure AI Foundry portalında Microsoft model koleksiyonunu görüntüleyin.
Örnek | Türü | Yetenekler |
---|---|---|
MAI-DS-R1 | akıl yürütme içeriğiyle sohbet tamamlama |
-
Giriş: metin (163.840 belirteç) - Çıkış: metin (163.840 belirteç) - Araç çağrısı: Hayır - Yanıt biçimleri: Metin. |
Phi-4 mantığı | akıl yürütme içeriğiyle sohbet tamamlama |
-
Giriş: metin (32768 belirteçler) - Çıkış: metin (32768 belirteçler) - Araç çağrısı: Hayır - Yanıt biçimleri: Metin |
Phi-4-mini-reasoning | akıl yürütme içeriğiyle sohbet tamamlama |
-
Giriş: metin (128.000 belirteç) - Çıkış: metin (128.000 belirteç) - Araç çağrısı: Hayır - Yanıt biçimleri: Metin |
Phi-4-multimodal-instruct | sohbet tamamlama (görüntü ve ses içeriğiyle) |
-
Giriş: metin, görüntü ve ses (131.072 belirteç) - Çıkış: metin (4.096 belirteç) - Araç çağrısı: Hayır - Yanıt biçimleri: Metin |
Phi-4-mini-instruct | sohbet tamamlama |
-
Giriş: metin (131.072 belirteç) - Çıkış: metin (4.096 belirteç) - Araç çağrısı: Hayır - Yanıt biçimleri: Metin |
Phi-4 | sohbet tamamlama |
-
Giriş: metin (16.384 belirteç) - Çıkış: metin (16.384 belirteç) - Araç çağrısı: Hayır - Yanıt biçimleri: Metin |
Phi-3.5-mini-instruct | sohbet tamamlama |
-
Giriş: metin (131.072 belirteç) - Çıkış: metin (4.096 belirteç) - Araç çağrısı: Hayır - Yanıt biçimleri: Metin |
Phi-3.5-MoE-instruct | sohbet tamamlama |
-
Giriş: metin (131.072 belirteç) - Çıkış: metin (4.096 belirteç) - Araç çağrısı: Hayır - Yanıt biçimleri: Metin |
Phi-3.5-vision-instruct | sohbet tamamlama (resimlerle) |
-
Giriş: metin ve görüntü (131.072 belirteç) - Çıkış: metin (4.096 belirteç) - Araç çağrısı: Hayır - Yanıt biçimleri: Metin |
Phi-3-mini-128k-instruct | sohbet tamamlama |
-
Giriş: metin (131.072 belirteç) - Çıkış: metin (4.096 belirteç) - Araç çağrısı: Hayır - Yanıt biçimleri: Metin |
Phi-3-mini-4k-instruct | sohbet tamamlama |
-
Giriş: metin (4.096 belirteç) - Çıkış: metin (4.096 belirteç) - Araç çağrısı: Hayır - Yanıt biçimleri: Metin |
Phi-3-small-128k-instruct | sohbet tamamlama |
-
Giriş: metin (131.072 belirteç) - Çıkış: metin (4.096 belirteç) - Araç çağrısı: Hayır - Yanıt biçimleri: Metin |
Phi-3-small-8k-instruct | sohbet tamamlama |
-
Giriş: metin (131.072 belirteç) - Çıkış: metin (4.096 belirteç) - Araç çağrısı: Hayır - Yanıt biçimleri: Metin |
Phi-3-medium-128k-instruct | sohbet tamamlama |
-
Giriş: metin (131.072 belirteç) - Çıkış: metin (4.096 belirteç) - Araç çağrısı: Hayır - Yanıt biçimleri: Metin |
Phi-3-medium-4k-instruct | sohbet tamamlama |
-
Giriş: metin (4.096 belirteç) - Çıkış: metin (4.096 belirteç) - Araç çağrısı: Hayır - Yanıt biçimleri: Metin |
Çıkarım örnekleri: Microsoft modelleri
Microsoft modellerini kullanma hakkında daha fazla örnek için aşağıdaki örneklere bakın:
Açıklama | Dil | Örnek |
---|---|---|
C# için Azure AI Çıkarım paketi | C# (programlama dili) | Bağlantı |
JavaScript için Azure AI Çıkarım paketi | JavaScript | Bağlantı |
Python için Azure AI Çıkarım paketi | Piton | Bağlantı |
LangChain | Piton | Bağlantı |
Llama-Index | Piton | Bağlantı |
Bkz. Azure AI Foundry portalında Microsoft model koleksiyonu.
Mistral AI
Mistral AI iki model kategorisi sunar:
- Premium modeller: Bunlar Mistral Large, Mistral Small, Mistral-OCR-2503, Mistral Medium 3 (25.05) ve Ministral 3B modelleridir ve kullandıkça öde belirteç tabanlı faturalama ile sunucusuz API'ler olarak kullanılabilir.
- Açık modeller: Mistral-small-2503, Codestral ve Mistral Nemo (kullandıkça öde belirteç tabanlı faturalama ile sunucusuz API'ler olarak kullanılabilir) ve Mixtral-8x7B-Instruct-v01, Mixtral-8x7B-v01, Mistral-7B-Instruct-v01 ve Mistral-7B-v01 (şirket içinde barındırılan yönetilen uç noktalarda indirilip çalıştırılarak kullanılabilir).
Örnek | Türü | Yetenekler |
---|---|---|
Codestral-2501 | sohbet tamamlama |
-
Giriş: metin (262.144 belirteç) - Çıkış: metin (4.096 belirteç) - Araç çağrısı: Hayır - Yanıt biçimleri: Metin |
Ministral-3B | sohbet tamamlama |
-
Giriş: metin (131.072 belirteç) - Çıkış: metin (4.096 belirteç) - Araç çağırma: Evet - Yanıt biçimleri: Metin, JSON |
Mistral-Nemo | sohbet tamamlama |
-
Giriş: metin (131.072 belirteç) - Çıkış: metin (4.096 belirteç) - Araç çağırma: Evet - Yanıt biçimleri: Metin, JSON |
Mistral-Large-2411 | sohbet tamamlama |
-
Giriş: metin (128.000 belirteç) - Çıkış: metin (4.096 belirteç) - Araç çağırma: Evet - Yanıt biçimleri: Metin, JSON |
Mistral-large-2407 (kullanım dışı) |
sohbet tamamlama |
-
Giriş: metin (131.072 belirteç) - Çıkış: metin (4.096 belirteç) - Araç çağırma: Evet - Yanıt biçimleri: Metin, JSON |
Mistral-large (kullanım dışı) |
sohbet tamamlama |
-
Giriş: metin (32.768 belirteç) - Çıkış: metin (4.096 belirteç) - Araç çağırma: Evet - Yanıt biçimleri: Metin, JSON |
Mistral-medium-2505 | sohbet tamamlama |
-
Giriş: metin (128.000 belirteç), resim - Çıkış: metin (128.000 belirteç) - Araç çağrısı: Hayır - Yanıt biçimleri: Metin, JSON |
Mistral-OCR-2503 | resimden metne |
-
Giriş: resim veya PDF sayfaları (1.000 sayfa, maksimum 50 MB PDF dosyası) - Çıkış: metin - Araç çağrısı: Hayır - Yanıt biçimleri: Metin, JSON, Markdown |
Mistral-small-2503 | sohbet tamamlama (resimlerle) |
-
Giriş: metin ve görüntüler (131.072 belirteç), Görüntü tabanlı belirteçler 16 piksel x 16 pikseldir orijinal görüntülerin blokları - Çıkış: metin (4.096 belirteç) - Araç çağırma: Evet - Yanıt biçimleri: Metin, JSON |
Mistral-small | sohbet tamamlama |
-
Giriş: metin (32.768 belirteç) - Çıkış: metin (4.096 belirteç) - Araç çağırma: Evet - Yanıt biçimleri: Metin, JSON |
Azure AI Foundry portalında bu model koleksiyonuna bakın.
Çıkarım örnekleri: Mistral
Mistral modellerini kullanma hakkında daha fazla örnek için aşağıdaki örneklere ve öğreticilere bakın:
Açıklama | Dil | Örnek |
---|---|---|
CURL isteği | Bash | Bağlantı |
C# için Azure AI Çıkarım paketi | C# (programlama dili) | Bağlantı |
JavaScript için Azure AI Çıkarım paketi | JavaScript | Bağlantı |
Python için Azure AI Çıkarım paketi | Piton | Bağlantı |
Python web istekleri | Piton | Bağlantı |
OpenAI SDK (deneysel) | Piton | Mistral - OpenAI SDK örneği |
LangChain | Piton | Mistral - LangChain örneği |
Mistral AI | Piton | Mistral - Mistral AI örneği |
LiteLLM | Piton | Mistral - LiteLLM örneği |
Nixtla
Nixtla'nın TimeGEN-1, zaman serisi verileri için önceden eğitilmiş üretken bir tahmin ve anomali algılama modelidir. TimeGEN-1, eğitim olmadan, yalnızca geçmiş değerleri ve eksojen kovaryatları giriş olarak kullanarak yeni zaman serileri için doğru tahminler üretebilir.
Çıkarım yapmak için TimeGEN-1, Nixtla'nın özel çıkarım API'sini kullanmanızı gerektirir.
Örnek | Türü | Yetenekler | Inference API'si |
---|---|---|---|
TimeGEN-1 | Öngörü |
-
Girdi: JSON veya veri çerçevesi biçiminde zaman serisi verileri (çok değişkenli giriş desteğiyle) - Çıktı: JSON olarak zaman serisi verileri - Araç çağrısı: Hayır - Yanıt biçimleri: JSON |
Nixtla'nın API'siyle etkileşime geçmek için tahmin istemcisi |
Gereken belirteç sayısını tahmin edin
TimeGEN-1 dağıtımı oluşturmadan önce, tüketmeyi planladığınız ve faturalandırılacak belirteç sayısını tahmin etmek yararlı olacaktır. Bir belirteç, giriş veri kümenizdeki veya çıkış veri kümenizdeki bir veri noktasına karşılık gelir.
Aşağıdaki giriş zamanı serisi veri kümenize sahip olduğunuzu varsayalım:
Unique_id | Zaman Damgası | Hedef Değişken | Eksojen Değişken 1 | Eksojen Değişken 2 |
---|---|---|---|---|
OLMAK | 2016-10-22 00:00:00 | 70.00 | 49593.0 | 57.253,0 |
OLMAK | 2016-10-22 01:00:00 | 37.10 | 46,073.0 | 51887,0 |
Belirteç sayısını belirlemek için, toplam altı belirteç elde etmek için unique_id ve zaman damgası sütunlarını (bu örnekte üç) saymayarak, satır sayısını (bu örnekte iki) ve tahmin için kullanılan sütun sayısını çarpın.
Aşağıdaki çıkış veri kümesi göz önünde bulundurulduğunda:
Unique_id | Zaman Damgası | Tahmin Edilen Hedef Değişken |
---|---|---|
OLMAK | 2016-10-22 02:00:00 | 46.57 |
OLMAK | 2016-10-22 03:00:00 | 48.57 |
Ayrıca, veri tahminlerinden sonra döndürülen veri noktalarını sayarak belirteç sayısını belirleyebilirsiniz. Bu örnekte belirteç sayısı ikidir.
Tokenlara göre fiyat tahmini
Ödediğiniz fiyatı belirleyen dört fiyatlandırma metresi vardır. Bu ölçümler aşağıdaki gibidir:
Fiyat Ölçer | Açıklama |
---|---|
ödemeli-tahmin-girdi-jetonları | finetune_steps = 0 olduğunda çıkarım için giriş olarak kullanılan belirteçlerin maliyetleri ile ilgili masraflar |
ödeme-geç-inferans-çıkış-belirteçleri | finetune_steps = 0 olduğunda, çıkarımda çıkış olarak kullanılan belirteçlerle ilişkili maliyetler |
paygo-finetuned-model-tahmin-girdi-tokenleri | finetune_steps> 0 olduğunda çıkarım için giriş olarak kullanılan tokenlerle ilişkili maliyetler |
paygo-finetuned-model-çıkarım-çıktı-token'ları | finetune_steps> 0 olduğunda çıkarım için çıkış olarak kullanılan belirteçlerle ilişkili maliyetler |
Bkz. Azure AI Foundry portalında Nixtla model koleksiyonu.
NTT VERİLerİ
tsuzumi, yorumlayıcı dil için optimize edilmiş bir transformatördür. Ayarlanmış sürümler denetimli ince ayarlama (SFT) kullanır. tsuzumi hem Japonca hem de İngilizce dilini yüksek verimlilikle işler.
Örnek | Türü | Yetenekler |
---|---|---|
tsuzumi-7b | sohbet tamamlama |
-
Giriş: metin (8.192 belirteç) - Çıkış: metin (8.192 belirteç) - Araç çağrısı: Hayır - Yanıt biçimleri: Metin |
Kararlılık yapay zekası
Görüntü oluşturma modellerinden oluşan Kararlılık AI koleksiyonu Kararlı Görüntü Çekirdeği, Kararlı Görüntü Ultra ve Kararlı Difüzyon 3.5 Büyük'tür. Stable Diffusion 3.5 Large, hem görüntü hem de metin girişi sağlar.
Örnek | Türü | Yetenekler |
---|---|---|
Stable Diffusion 3.5 Büyük | Görüntü oluşturma |
-
Giriş: metin ve görüntü (1000 belirteç ve 1 resim) - Çıkış: 1 Resim - Araç çağrısı: Hayır - Yanıt biçimleri: Görüntü (PNG ve JPG) |
Kararlı Görüntü Çekirdeği | Görüntü oluşturma |
-
Giriş: metin (1000 belirteç) - Çıkış: 1 Resim - Araç çağrısı: Hayır - Yanıt biçimleri: Görüntü (PNG ve JPG) |
Ultra Kararlı Görüntü | Görüntü oluşturma |
-
Giriş: metin (1000 belirteç) - Çıkış: 1 Resim - Araç çağrısı: Hayır - Yanıt biçimleri: Görüntü (PNG ve JPG) |
xAI
xAI'nin Grok 3 ve Grok 3 Mini modelleri, çeşitli kurumsal etki alanlarında üstünlük sağlamak için tasarlanmıştır. Colossus veri merkezi tarafından önceden eğitilmiş, mantık dışı bir model olan Grok 3, olağanüstü yönerge takip özellikleriyle veri ayıklama, kodlama ve metin özetleme gibi iş kullanım örnekleri için uyarlanmıştır. 131.072 belirteç bağlam penceresini destekler ve tutarlılığı ve derinliği korurken kapsamlı girişleri işlemesine olanak sağlar ve özellikle etki alanları ve diller arasında bağlantı çizme konusunda ustadır. Öte yandan, Grok 3 Mini, test sırasında hesaplama kapasitesine sahip, aracılık, kodlama, matematik ve derin bilim sorunlarını ele almak için eğitilmiş hafif bir akıl yürütme modelidir. Ayrıca kod temellerini ve kurumsal belgeleri anlamak için 131.072 belirteç bağlam penceresini destekler ve yeni ortamlarda karmaşık mantıksal sorunları çözmek için araçları kullanma konusunda uzmandır ve ayarlanabilir düşünme bütçeleriyle kullanıcı incelemesi için ham mantık izlemeleri sunar.
Örnek | Türü | Yetenekler |
---|---|---|
grok-3 | sohbet-tamamlama |
-
Giriş: metin (131.072 belirteç) - Çıkış: metin (131.072 belirteç) - Diller: en - Araç çağrısı: evet - Yanıt biçimleri: metin |
grok-3-mini | sohbet-tamamlama |
-
Giriş: metin (131.072 belirteç) - Çıkış: metin (131.072 belirteç) - Diller: en - Araç çağrısı: evet - Yanıt biçimleri: metin |
Çıkarım örnekleri: Stability AI
Sunucusuz API dağıtımı ile dağıtılan Stability AI modelleri, /image/generations
rotasında Model Çıkarım API'sini uygular.
Kararlılık yapay zekası modellerini kullanma örnekleri için aşağıdaki örneklere bakın:
- Metinden görüntüye istekler için Kararlılık AI modelleriyle OpenAI SDK'sını kullanma
- Metinden görüntüye istekler için Kararlılık AI modelleri ile İstekler kitaplığını kullanma
- Görüntüden görüntüye istekler için Stable Diffusion 3.5 Large ile Requests kütüphanesini kullanma
- Tam olarak kodlanmış görüntü oluşturma yanıtı örneği