Aracılığıyla paylaş


Sunucusuz API dağıtımı için kullanılabilen Azure AI Foundry Modelleri

Azure yapay zeka modeli kataloğu, çok çeşitli sağlayıcılardan çok çeşitli Azure AI Foundry Modelleri sunar. Model kataloğundan model dağıtmak için çeşitli seçenekleriniz vardır. Bu makalede sunucusuz API dağıtımı aracılığıyla dağıtılabilir Azure AI Foundry Modelleri listelenmiştir. Bu modellerden bazıları için bunları yönetilen işlem aracılığıyla dağıtım için altyapınızda da barındırabilirsiniz.

Önemli

Önizleme aşamasında olan modeller, model kataloğundaki model kartlarında önizleme olarak işaretlenir.

Modellerle çıkarım yapmak için Nixtla TimeGEN-1 ve Cohere rerank gibi bazı modeller, model sağlayıcılarından özel API'ler kullanmanızı gerektirir. Diğerleri Model Çıkarımı API'sini kullanarak çıkarım gerçekleştirmeyi destekler. Azure AI Foundry portalı için model kataloğunda model kartlarını gözden geçirerek tek tek modeller hakkında daha fazla ayrıntı bulabilirsiniz.

Azure AI Foundry model kataloğu bölümünü ve kullanılabilir modelleri gösteren animasyon.

AI21 Labs

Jamba ailesi modelleri, AI21'in AI21'in hibrit Mamba-Transformer mimarisini kullanan üretim sınıfı Mamba tabanlı büyük dil modelidir (LLM). AI21'in hibrit yapılandırılmış durum alanı modelinin (SSM) transformatör Jamba modelinin yönergeyle ayarlanmış bir sürümüdür. Jamba ailesi modelleri, kalite ve performans açısından güvenilir ticari kullanım için üretilmiştir.

Örnek Türü Yetenekler
AI21-Jamba-1.5-Mini sohbet tamamlama - Giriş: metin (262.144 belirteç)
- Çıkış: metin (4.096 belirteç)
- Araç çağırma: Evet
- Yanıt biçimleri: Metin, JSON, yapılandırılmış çıkışlar
AI21-Jamba-1.5-Large sohbet tamamlama - Giriş: metin (262.144 belirteç)
- Çıkış: metin (4.096 belirteç)
- Araç çağırma: Evet
- Yanıt biçimleri: Metin, JSON, yapılandırılmış çıkışlar

Azure AI Foundry portalında bu model koleksiyonuna bakın.

Azure OpenAI

Foundry Modellerinde Azure OpenAI, farklı özelliklere ve fiyat noktalarına sahip çeşitli modeller sunar. Bu modeller şunlardır:

  • Daha fazla odak ve yetenekle akıl yürütme ve sorun çözme görevlerini ele almak için tasarlanmış son model
  • Doğal dili ve kodu anlayıp oluşturabilen modeller
  • Konuşmayı metne dönüştürebilen ve çevirebilen modeller
Örnek Türü Yetenekler
o3-mini sohbet tamamlama - Giriş: metin ve görüntü (200.000 belirteç)
- Çıkış: metin (100.000 belirteç)
- Araç çağırma: Evet
- Yanıt biçimleri: Metin, JSON, yapılandırılmış çıkışlar
o1 sohbet tamamlama (resimlerle) - Giriş: metin ve görüntü (200.000 belirteç)
- Çıkış: metin (100.000 belirteç)
- Araç çağırma: Evet
- Yanıt biçimleri: Metin, JSON, yapılandırılmış çıkışlar
o1-önizleme sohbet tamamlama - Giriş: metin (128.000 belirteç)
- Çıkış: metin (32.768 belirteç)
- Araç çağırma: Evet
- Yanıt biçimleri: Metin, JSON, yapılandırılmış çıkışlar
o1-mini sohbet tamamlama - Giriş: metin (128.000 belirteç)
- Çıkış: metin (65.536 belirteç)
- Araç çağrısı: Hayır
- Yanıt biçimleri: Metin
gpt-4o-realtime-preview gerçek zamanlı - Giriş: denetim, metin ve ses (131.072 belirteç)
- Çıkış: metin ve ses (16.384 belirteç)
- Araç çağırma: Evet
- Yanıt biçimleri: Metin, JSON
gpt-4o sohbet tamamlama (görüntü ve ses içeriğiyle) - Giriş: metin, görüntü ve ses (131.072 belirteç)
- Çıkış: metin (16.384 belirteç)
- Araç çağırma: Evet
- Yanıt biçimleri: Metin, JSON, yapılandırılmış çıkışlar
gpt-4o-mini sohbet tamamlama (görüntü ve ses içeriğiyle) - Giriş: metin, görüntü ve ses (131.072 belirteç)
- Çıkış: metin (16.384 belirteç)
- Araç çağırma: Evet
- Yanıt biçimleri: Metin, JSON, yapılandırılmış çıkışlar
metin ekleme-3-büyük eklemeler - Giriş: metin (8.191 belirteç)
- Çıktı: Vektör (3,072 boyut)
metin ekleme-3-küçük eklemeler - Giriş: metin (8.191 belirteç)
- Çıktı: Vektör (1.536 boyut)

Azure AI Foundry portalında bu model koleksiyonuna bakın.

Tutarlılık göstermek

Cohere model ailesi, yeniden düzenleme, sohbet tamamlamaları ve ekleme modelleri dahil olmak üzere farklı kullanım örnekleri için iyileştirilmiş çeşitli modeller içerir.

Cohere komutu ve yerleştirme

Aşağıdaki tabloda, Model Çıkarımı API'sini kullanarak çıkarsama yapabileceğiniz Cohere modelleri listelenmiştir.

Örnek Türü Yetenekler
Cohere-command-A sohbet tamamlama - Giriş: metin (256.000 belirteç)
- Çıkış: metin (8.000 belirteç)
- Araç çağırma: Evet
- Yanıt biçimleri: Metin
Cohere-command-r-plus-08-2024 sohbet tamamlama - Giriş: metin (131.072 belirteç)
- Çıkış: metin (4.096 belirteç)
- Araç çağırma: Evet
- Yanıt biçimleri: Metin, JSON
Cohere-command-r-08-2024 sohbet tamamlama - Giriş: metin (131.072 belirteç)
- Çıkış: metin (4.096 belirteç)
- Araç çağırma: Evet
- Yanıt biçimleri: Metin, JSON
Cohere-command-r-plus
(kullanım dışı)
sohbet tamamlama - Giriş: metin (131.072 belirteç)
- Çıkış: metin (4.096 belirteç)
- Araç çağırma: Evet
- Yanıt biçimleri: Metin, JSON
Cohere-command-r
(kullanım dışı)
sohbet tamamlama - Giriş: metin (131.072 belirteç)
- Çıkış: metin (4.096 belirteç)
- Araç çağırma: Evet
- Yanıt biçimleri: Metin, JSON
Cohere-embed-v-4 eklemeler
resim ekleme
- Giriş: resim, metin
- Çıkış: resim, metin (128.000 belirteç)
- Araç çağırma: Evet
- Yanıt biçimleri: resim, metin
Cohere-embed-v3-english eklemeler
resim ekleme
- Giriş: metin (512 belirteç)
- Çıktı: Vektör (1,024 boyut)
Cohere-embed-v3-multilingual eklemeler
resim ekleme
- Giriş: metin (512 belirteç)
- Çıktı: Vektör (1,024 boyut)

Çıkarım örnekleri: Cohere komutu ve gömme

Cohere modellerini kullanma hakkında daha fazla örnek için aşağıdaki örneklere bakın:

Açıklama Dil Örnek
Web istekleri Bash Command-RCommand-R+
cohere-embed.ipynb
C# için Azure AI Çıkarım paketi C# (programlama dili) Bağlantı
JavaScript için Azure AI Çıkarım paketi JavaScript Bağlantı
Python için Azure AI Çıkarım paketi Piton Bağlantı
OpenAI SDK (deneysel) Piton Bağlantı
LangChain Piton Bağlantı
Cohere SDK Piton Komut
Katıştır
LiteLLM SDK Piton Bağlantı

Retrieval Augmented Generation (RAG) ve araç kullanım örnekleri: Cohere komutu ve gömme

Açıklama Paketler Örnek
Cohere embeddings kullanarak yerel bir Facebook AI benzerlik araması (FAISS) vektör dizini oluşturma - Langchain langchain, langchain_cohere cohere_faiss_langchain_embed.ipynb
Yerel FAISS vektör dizinindeki verilerden gelen soruları yanıtlamak için Cohere Command R/R+ kullanma - Langchain langchain, langchain_cohere command_faiss_langchain.ipynb
Yapay zeka arama vektör dizinindeki verilerden gelen soruları yanıtlamak için Cohere Command R/R+ kullanma - Langchain langchain, langchain_cohere cohere-aisearch-langchain-rag.ipynb
Yapay zeka arama vektör dizininden gelen veri tabanlı soruları yanıtlamak için "Cohere Command R/R+" kullanma - Cohere SDK cohere, azure_search_documents cohere-aisearch-rag.ipynb
LangChain kullanarak R+ aracı/işlev çağrısı komutu cohere, langchain, langchain_cohere command_tools-langchain.ipynb

Cohere yeniden sıralama

Aşağıdaki tabloda Cohere rerank modelleri listelenir. Bu rerank modelleriyle çıkarım yapmak için, Tabloda listelenen Cohere'in özel rerank API'lerini kullanmanız gerekir.

Örnek Türü Inference API'si
Cohere-rerank-v3.5 yeniden sıralama
metin sınıflandırması
Cohere'in v2/rerank API'si
Cohere-rerank-v3-İngilizce
(kullanım dışı)
yeniden sıralama
metin sınıflandırması
Cohere'in v2/rerank API'si
Cohere'in v1/rerank API'si
Cohere-rerank-v3-multilingual
(kullanım dışı)
yeniden sıralama
metin sınıflandırması
Cohere'in v2/rerank API'si
Cohere'in v1/rerank API'si

Cohere rerank modelleri için fiyatlandırma

Bir kullanıcının sorgusuyla karıştırılmaması gereken sorgular, Cohere Rerank modelinin çıkarımı için giriş olarak kullanılan belirteçlerle ilişkili maliyeti ifade eden bir fiyatlandırma ölçümüdür. Cohere, tek bir arama birimini, sıralanacak en fazla 100 belgeden oluşan bir sorgu olarak sayar. Arama sorgusunun uzunluğu dahil edildiğinde 500'den uzun belirteçler (Cohere-rerank-v3.5 için) veya 4096'dan uzun belirteçler (Cohere-rerank-v3-English ve Cohere-rerank-v3-multilingual için) arama sorgusunun uzunluğu birden çok öbeklere ayrılır ve her öbek tek bir belge olarak sayılır.

Azure AI Foundry portalında Cohere model koleksiyonuna bakın.

Core42

Core42, Arapça ve İngilizce için ileri teknoloji özelliklere sahip, Arapça dilinde üstün yeteneklere sahip otoregresif iki dilli LLM'leri içermektedir.

Örnek Türü Yetenekler
jais-30b-chat sohbet tamamlama - Giriş: metin (8.192 belirteç)
- Çıkış: metin (4.096 belirteç)
- Araç çağırma: Evet
- Yanıt biçimleri: Metin, JSON

Azure AI Foundry portalında bu model koleksiyonuna bakın.

Çıkarım Örnekleri: Core42

Jais modellerini kullanma hakkında daha fazla örnek için aşağıdaki örneklere bakın:

Açıklama Dil Örnek
C# için Azure AI Çıkarım paketi C# (programlama dili) Bağlantı
JavaScript için Azure AI Çıkarım paketi JavaScript Bağlantı
Python için Azure AI Çıkarım paketi Piton Bağlantı

DeepSeek

DeepSeek model ailesi, dil, bilimsel mantık ve kodlama görevleri, DeepSeek-V3-0324, Uzmanlar Karışımı (MoE) dil modeli ve daha fazlası gibi adım adım eğitim sürecini kullanarak akıl yürütme görevleri konusunda üstün başarıya sahip Olan DeepSeek-R1'i içerir.

Örnek Türü Yetenekler
DeepSeek-R1-0528
akıl yürütme içeriğiyle sohbet tamamlama - Giriş: metin (163.840 belirteç)
- Çıkış: metin (163.840 belirteç)
- Diller:en ve zh
- Araç çağrısı: Hayır
- Yanıt biçimleri: Metin
DeekSeek-V3-0324 sohbet tamamlama - Giriş: metin (131.072 belirteç)
- Çıkış: (131.072 belirteç)
- Araç çağrısı: Hayır
- Yanıt biçimleri: Metin, JSON
DeepSeek-V3
(Eski)
sohbet tamamlama - Giriş: metin (131.072 belirteç)
- Çıkış: metin (131.072 belirteç)
- Araç çağrısı: Hayır
- Yanıt biçimleri: Metin, JSON
DeepSeek-R1 akıl yürütme içeriğiyle sohbet tamamlama - Giriş: metin (163.840 belirteç)
- Çıkış: metin (163.840 belirteç)
- Araç çağrısı: Hayır
- Yanıt biçimleri: Metin.

DeepSeek-R1 eğitimi için bkz. Eğitim: Dökümhane Modelleri'nde DeepSeek-R1 akıl yürütme modelini kullanmaya başlama.

Azure AI Foundry portalında bu model koleksiyonuna bakın.

Çıkarım örnekleri: DeepSeek

DeepSeek modellerini kullanma hakkında daha fazla örnek için aşağıdaki örneklere bakın:

Açıklama Dil Örnek
Python için Azure AI Çıkarım paketi Piton Bağlantı
JavaScript için Azure AI Çıkarım paketi JavaScript Bağlantı
C# için Azure AI Çıkarım paketi C# (programlama dili) Bağlantı
Java için Azure AI Çıkarım paketi Java Bağlantı

Meta

Meta Lama modelleri ve araçları, önceden eğitilmiş ve ince ayarlı yapay zeka metni ve görüntü akıl yürütme modellerinden oluşan bir koleksiyon. Meta model aralığı şunları içerecek şekilde ölçeklendirilir:

  • 1B ve 3B Base ve Instruct modelleri gibi küçük dil modelleri (SLM'ler), cihaz içi ve uç çıkarım için.
  • 7B, 8B ve 70B Temel ve Yönerge modelleri gibi orta büyüklükteki büyük dil modelleri (LLM' ler)
  • Meta Llama 3.1-405B gibi yüksek performanslı modeller, yapay veri oluşturma ve distilasyon kullanım alanlarında kullanılmaktadır.
  • Yüksek performanslı yerel olarak çok modüllü modeller olan Llama 4 Scout ve Llama 4 Maverick, metin ve görüntü anlamada sektör lideri performans sunmak için uzmanlardan oluşan bir mimariden yararlanır.
Örnek Türü Yetenekler
Lama-4-Scout-17B-16E-Instruct sohbet tamamlama - Giriş: metin ve görüntü (128.000 belirteç)
- Çıkış: metin (8.192 belirteç)
- Araç çağrısı: Hayır
- Yanıt biçimleri: Metin
Llama 4-Maverick-17B-128E-Instruct-FP8 sohbet tamamlama - Giriş: metin ve görüntü (128.000 belirteç)
- Çıkış: metin (8.192 belirteç)
- Araç çağrısı: Hayır
- Yanıt biçimleri: Metin
Llama-3.3-70B-Instruct sohbet tamamlama - Giriş: metin (128.000 belirteç)
- Çıkış: metin (8.192 belirteç)
- Araç çağrısı: Hayır
- Yanıt biçimleri: Metin
Llama-3.2-90B-Vision-Instruct sohbet tamamlama (resimlerle) - Giriş: metin ve görüntü (128.000 belirteç)
- Çıkış: metin (8.192 belirteç)
- Araç çağrısı: Hayır
- Yanıt biçimleri: Metin
Llama-3.2-11B-Vision-Instruct sohbet tamamlama (resimlerle) - Giriş: metin ve görüntü (128.000 belirteç)
- Çıkış: metin (8.192 belirteç)
- Araç çağrısı: Hayır
- Yanıt biçimleri: Metin
Meta-Llama-3.1-8B-Instruct sohbet tamamlama - Giriş: metin (131.072 belirteç)
- Çıkış: metin (8.192 belirteç)
- Araç çağrısı: Hayır
- Yanıt biçimleri: Metin
Meta-Llama-3.1-405B-Instruct sohbet tamamlama - Giriş: metin (131.072 belirteç)
- Çıkış: metin (8.192 belirteç)
- Araç çağrısı: Hayır
- Yanıt biçimleri: Metin
Meta-Llama-3.1-70B-Instruct (kullanım dışı) sohbet tamamlama - Giriş: metin (131.072 belirteç)
- Çıkış: metin (8.192 belirteç)
- Araç çağrısı: Hayır
- Yanıt biçimleri: Metin
Meta-Llama-3-8B-Instruct (kullanım dışı) sohbet tamamlama - Giriş: metin (8.192 belirteç)
- Çıkış: metin (8.192 belirteç)
- Araç çağrısı: Hayır
- Yanıt biçimleri: Metin
Meta-Llama-3-70B-Instruct (kullanım dışı) sohbet tamamlama - Giriş: metin (8.192 belirteç)
- Çıkış: metin (8.192 belirteç)
- Araç çağrısı: Hayır
- Yanıt biçimleri: Metin

Azure AI Foundry portalında bu model koleksiyonuna bakın.

Çıkarım örnekleri: Meta Llama

Meta Llama modellerini kullanma hakkında daha fazla örnek için aşağıdaki örneklere bakın:

Açıklama Dil Örnek
CURL isteği Bash Bağlantı
C# için Azure AI Çıkarım paketi C# (programlama dili) Bağlantı
JavaScript için Azure AI Çıkarım paketi JavaScript Bağlantı
Python için Azure AI Çıkarım paketi Piton Bağlantı
Python web istekleri Piton Bağlantı
OpenAI SDK (deneysel) Piton Bağlantı
LangChain Piton Bağlantı
LiteLLM Piton Bağlantı

Microsoft

Microsoft modelleri MAI modelleri, Phi modelleri, sağlık yapay zekası modelleri ve daha fazlası gibi çeşitli model gruplarını içerir. Kullanılabilir tüm Microsoft modellerini görmek için Azure AI Foundry portalında Microsoft model koleksiyonunu görüntüleyin.

Örnek Türü Yetenekler
MAI-DS-R1 akıl yürütme içeriğiyle sohbet tamamlama - Giriş: metin (163.840 belirteç)
- Çıkış: metin (163.840 belirteç)
- Araç çağrısı: Hayır
- Yanıt biçimleri: Metin.
Phi-4 mantığı akıl yürütme içeriğiyle sohbet tamamlama - Giriş: metin (32768 belirteçler)
- Çıkış: metin (32768 belirteçler)
- Araç çağrısı: Hayır
- Yanıt biçimleri: Metin
Phi-4-mini-reasoning akıl yürütme içeriğiyle sohbet tamamlama - Giriş: metin (128.000 belirteç)
- Çıkış: metin (128.000 belirteç)
- Araç çağrısı: Hayır
- Yanıt biçimleri: Metin
Phi-4-multimodal-instruct sohbet tamamlama (görüntü ve ses içeriğiyle) - Giriş: metin, görüntü ve ses (131.072 belirteç)
- Çıkış: metin (4.096 belirteç)
- Araç çağrısı: Hayır
- Yanıt biçimleri: Metin
Phi-4-mini-instruct sohbet tamamlama - Giriş: metin (131.072 belirteç)
- Çıkış: metin (4.096 belirteç)
- Araç çağrısı: Hayır
- Yanıt biçimleri: Metin
Phi-4 sohbet tamamlama - Giriş: metin (16.384 belirteç)
- Çıkış: metin (16.384 belirteç)
- Araç çağrısı: Hayır
- Yanıt biçimleri: Metin
Phi-3.5-mini-instruct sohbet tamamlama - Giriş: metin (131.072 belirteç)
- Çıkış: metin (4.096 belirteç)
- Araç çağrısı: Hayır
- Yanıt biçimleri: Metin
Phi-3.5-MoE-instruct sohbet tamamlama - Giriş: metin (131.072 belirteç)
- Çıkış: metin (4.096 belirteç)
- Araç çağrısı: Hayır
- Yanıt biçimleri: Metin
Phi-3.5-vision-instruct sohbet tamamlama (resimlerle) - Giriş: metin ve görüntü (131.072 belirteç)
- Çıkış: metin (4.096 belirteç)
- Araç çağrısı: Hayır
- Yanıt biçimleri: Metin
Phi-3-mini-128k-instruct sohbet tamamlama - Giriş: metin (131.072 belirteç)
- Çıkış: metin (4.096 belirteç)
- Araç çağrısı: Hayır
- Yanıt biçimleri: Metin
Phi-3-mini-4k-instruct sohbet tamamlama - Giriş: metin (4.096 belirteç)
- Çıkış: metin (4.096 belirteç)
- Araç çağrısı: Hayır
- Yanıt biçimleri: Metin
Phi-3-small-128k-instruct sohbet tamamlama - Giriş: metin (131.072 belirteç)
- Çıkış: metin (4.096 belirteç)
- Araç çağrısı: Hayır
- Yanıt biçimleri: Metin
Phi-3-small-8k-instruct sohbet tamamlama - Giriş: metin (131.072 belirteç)
- Çıkış: metin (4.096 belirteç)
- Araç çağrısı: Hayır
- Yanıt biçimleri: Metin
Phi-3-medium-128k-instruct sohbet tamamlama - Giriş: metin (131.072 belirteç)
- Çıkış: metin (4.096 belirteç)
- Araç çağrısı: Hayır
- Yanıt biçimleri: Metin
Phi-3-medium-4k-instruct sohbet tamamlama - Giriş: metin (4.096 belirteç)
- Çıkış: metin (4.096 belirteç)
- Araç çağrısı: Hayır
- Yanıt biçimleri: Metin

Çıkarım örnekleri: Microsoft modelleri

Microsoft modellerini kullanma hakkında daha fazla örnek için aşağıdaki örneklere bakın:

Açıklama Dil Örnek
C# için Azure AI Çıkarım paketi C# (programlama dili) Bağlantı
JavaScript için Azure AI Çıkarım paketi JavaScript Bağlantı
Python için Azure AI Çıkarım paketi Piton Bağlantı
LangChain Piton Bağlantı
Llama-Index Piton Bağlantı

Bkz. Azure AI Foundry portalında Microsoft model koleksiyonu.

Mistral AI

Mistral AI iki model kategorisi sunar:

  • Premium modeller: Bunlar Mistral Large, Mistral Small, Mistral-OCR-2503, Mistral Medium 3 (25.05) ve Ministral 3B modelleridir ve kullandıkça öde belirteç tabanlı faturalama ile sunucusuz API'ler olarak kullanılabilir.
  • Açık modeller: Mistral-small-2503, Codestral ve Mistral Nemo (kullandıkça öde belirteç tabanlı faturalama ile sunucusuz API'ler olarak kullanılabilir) ve Mixtral-8x7B-Instruct-v01, Mixtral-8x7B-v01, Mistral-7B-Instruct-v01 ve Mistral-7B-v01 (şirket içinde barındırılan yönetilen uç noktalarda indirilip çalıştırılarak kullanılabilir).
Örnek Türü Yetenekler
Codestral-2501 sohbet tamamlama - Giriş: metin (262.144 belirteç)
- Çıkış: metin (4.096 belirteç)
- Araç çağrısı: Hayır
- Yanıt biçimleri: Metin
Ministral-3B sohbet tamamlama - Giriş: metin (131.072 belirteç)
- Çıkış: metin (4.096 belirteç)
- Araç çağırma: Evet
- Yanıt biçimleri: Metin, JSON
Mistral-Nemo sohbet tamamlama - Giriş: metin (131.072 belirteç)
- Çıkış: metin (4.096 belirteç)
- Araç çağırma: Evet
- Yanıt biçimleri: Metin, JSON
Mistral-Large-2411 sohbet tamamlama - Giriş: metin (128.000 belirteç)
- Çıkış: metin (4.096 belirteç)
- Araç çağırma: Evet
- Yanıt biçimleri: Metin, JSON
Mistral-large-2407
(kullanım dışı)
sohbet tamamlama - Giriş: metin (131.072 belirteç)
- Çıkış: metin (4.096 belirteç)
- Araç çağırma: Evet
- Yanıt biçimleri: Metin, JSON
Mistral-large
(kullanım dışı)
sohbet tamamlama - Giriş: metin (32.768 belirteç)
- Çıkış: metin (4.096 belirteç)
- Araç çağırma: Evet
- Yanıt biçimleri: Metin, JSON
Mistral-medium-2505 sohbet tamamlama - Giriş: metin (128.000 belirteç), resim
- Çıkış: metin (128.000 belirteç)
- Araç çağrısı: Hayır
- Yanıt biçimleri: Metin, JSON
Mistral-OCR-2503 resimden metne - Giriş: resim veya PDF sayfaları (1.000 sayfa, maksimum 50 MB PDF dosyası)
- Çıkış: metin
- Araç çağrısı: Hayır
- Yanıt biçimleri: Metin, JSON, Markdown
Mistral-small-2503 sohbet tamamlama (resimlerle) - Giriş: metin ve görüntüler (131.072 belirteç),
Görüntü tabanlı belirteçler 16 piksel x 16 pikseldir
orijinal görüntülerin blokları
- Çıkış: metin (4.096 belirteç)
- Araç çağırma: Evet
- Yanıt biçimleri: Metin, JSON
Mistral-small sohbet tamamlama - Giriş: metin (32.768 belirteç)
- Çıkış: metin (4.096 belirteç)
- Araç çağırma: Evet
- Yanıt biçimleri: Metin, JSON

Azure AI Foundry portalında bu model koleksiyonuna bakın.

Çıkarım örnekleri: Mistral

Mistral modellerini kullanma hakkında daha fazla örnek için aşağıdaki örneklere ve öğreticilere bakın:

Açıklama Dil Örnek
CURL isteği Bash Bağlantı
C# için Azure AI Çıkarım paketi C# (programlama dili) Bağlantı
JavaScript için Azure AI Çıkarım paketi JavaScript Bağlantı
Python için Azure AI Çıkarım paketi Piton Bağlantı
Python web istekleri Piton Bağlantı
OpenAI SDK (deneysel) Piton Mistral - OpenAI SDK örneği
LangChain Piton Mistral - LangChain örneği
Mistral AI Piton Mistral - Mistral AI örneği
LiteLLM Piton Mistral - LiteLLM örneği

Nixtla

Nixtla'nın TimeGEN-1, zaman serisi verileri için önceden eğitilmiş üretken bir tahmin ve anomali algılama modelidir. TimeGEN-1, eğitim olmadan, yalnızca geçmiş değerleri ve eksojen kovaryatları giriş olarak kullanarak yeni zaman serileri için doğru tahminler üretebilir.

Çıkarım yapmak için TimeGEN-1, Nixtla'nın özel çıkarım API'sini kullanmanızı gerektirir.

Örnek Türü Yetenekler Inference API'si
TimeGEN-1 Öngörü - Girdi: JSON veya veri çerçevesi biçiminde zaman serisi verileri (çok değişkenli giriş desteğiyle)
- Çıktı: JSON olarak zaman serisi verileri
- Araç çağrısı: Hayır
- Yanıt biçimleri: JSON
Nixtla'nın API'siyle etkileşime geçmek için tahmin istemcisi

Gereken belirteç sayısını tahmin edin

TimeGEN-1 dağıtımı oluşturmadan önce, tüketmeyi planladığınız ve faturalandırılacak belirteç sayısını tahmin etmek yararlı olacaktır. Bir belirteç, giriş veri kümenizdeki veya çıkış veri kümenizdeki bir veri noktasına karşılık gelir.

Aşağıdaki giriş zamanı serisi veri kümenize sahip olduğunuzu varsayalım:

Unique_id Zaman Damgası Hedef Değişken Eksojen Değişken 1 Eksojen Değişken 2
OLMAK 2016-10-22 00:00:00 70.00 49593.0 57.253,0
OLMAK 2016-10-22 01:00:00 37.10 46,073.0 51887,0

Belirteç sayısını belirlemek için, toplam altı belirteç elde etmek için unique_id ve zaman damgası sütunlarını (bu örnekte üç) saymayarak, satır sayısını (bu örnekte iki) ve tahmin için kullanılan sütun sayısını çarpın.

Aşağıdaki çıkış veri kümesi göz önünde bulundurulduğunda:

Unique_id Zaman Damgası Tahmin Edilen Hedef Değişken
OLMAK 2016-10-22 02:00:00 46.57
OLMAK 2016-10-22 03:00:00 48.57

Ayrıca, veri tahminlerinden sonra döndürülen veri noktalarını sayarak belirteç sayısını belirleyebilirsiniz. Bu örnekte belirteç sayısı ikidir.

Tokenlara göre fiyat tahmini

Ödediğiniz fiyatı belirleyen dört fiyatlandırma metresi vardır. Bu ölçümler aşağıdaki gibidir:

Fiyat Ölçer Açıklama
ödemeli-tahmin-girdi-jetonları finetune_steps = 0 olduğunda çıkarım için giriş olarak kullanılan belirteçlerin maliyetleri ile ilgili masraflar
ödeme-geç-inferans-çıkış-belirteçleri finetune_steps = 0 olduğunda, çıkarımda çıkış olarak kullanılan belirteçlerle ilişkili maliyetler
paygo-finetuned-model-tahmin-girdi-tokenleri finetune_steps> 0 olduğunda çıkarım için giriş olarak kullanılan tokenlerle ilişkili maliyetler
paygo-finetuned-model-çıkarım-çıktı-token'ları finetune_steps> 0 olduğunda çıkarım için çıkış olarak kullanılan belirteçlerle ilişkili maliyetler

Bkz. Azure AI Foundry portalında Nixtla model koleksiyonu.

NTT VERİLerİ

tsuzumi, yorumlayıcı dil için optimize edilmiş bir transformatördür. Ayarlanmış sürümler denetimli ince ayarlama (SFT) kullanır. tsuzumi hem Japonca hem de İngilizce dilini yüksek verimlilikle işler.

Örnek Türü Yetenekler
tsuzumi-7b sohbet tamamlama - Giriş: metin (8.192 belirteç)
- Çıkış: metin (8.192 belirteç)
- Araç çağrısı: Hayır
- Yanıt biçimleri: Metin

Kararlılık yapay zekası

Görüntü oluşturma modellerinden oluşan Kararlılık AI koleksiyonu Kararlı Görüntü Çekirdeği, Kararlı Görüntü Ultra ve Kararlı Difüzyon 3.5 Büyük'tür. Stable Diffusion 3.5 Large, hem görüntü hem de metin girişi sağlar.

Örnek Türü Yetenekler
Stable Diffusion 3.5 Büyük Görüntü oluşturma - Giriş: metin ve görüntü (1000 belirteç ve 1 resim)
- Çıkış: 1 Resim
- Araç çağrısı: Hayır
- Yanıt biçimleri: Görüntü (PNG ve JPG)
Kararlı Görüntü Çekirdeği Görüntü oluşturma - Giriş: metin (1000 belirteç)
- Çıkış: 1 Resim
- Araç çağrısı: Hayır
- Yanıt biçimleri: Görüntü (PNG ve JPG)
Ultra Kararlı Görüntü Görüntü oluşturma - Giriş: metin (1000 belirteç)
- Çıkış: 1 Resim
- Araç çağrısı: Hayır
- Yanıt biçimleri: Görüntü (PNG ve JPG)

xAI

xAI'nin Grok 3 ve Grok 3 Mini modelleri, çeşitli kurumsal etki alanlarında üstünlük sağlamak için tasarlanmıştır. Colossus veri merkezi tarafından önceden eğitilmiş, mantık dışı bir model olan Grok 3, olağanüstü yönerge takip özellikleriyle veri ayıklama, kodlama ve metin özetleme gibi iş kullanım örnekleri için uyarlanmıştır. 131.072 belirteç bağlam penceresini destekler ve tutarlılığı ve derinliği korurken kapsamlı girişleri işlemesine olanak sağlar ve özellikle etki alanları ve diller arasında bağlantı çizme konusunda ustadır. Öte yandan, Grok 3 Mini, test sırasında hesaplama kapasitesine sahip, aracılık, kodlama, matematik ve derin bilim sorunlarını ele almak için eğitilmiş hafif bir akıl yürütme modelidir. Ayrıca kod temellerini ve kurumsal belgeleri anlamak için 131.072 belirteç bağlam penceresini destekler ve yeni ortamlarda karmaşık mantıksal sorunları çözmek için araçları kullanma konusunda uzmandır ve ayarlanabilir düşünme bütçeleriyle kullanıcı incelemesi için ham mantık izlemeleri sunar.

Örnek Türü Yetenekler
grok-3 sohbet-tamamlama - Giriş: metin (131.072 belirteç)
- Çıkış: metin (131.072 belirteç)
- Diller:en
- Araç çağrısı: evet
- Yanıt biçimleri: metin
grok-3-mini sohbet-tamamlama - Giriş: metin (131.072 belirteç)
- Çıkış: metin (131.072 belirteç)
- Diller:en
- Araç çağrısı: evet
- Yanıt biçimleri: metin

Çıkarım örnekleri: Stability AI

Sunucusuz API dağıtımı ile dağıtılan Stability AI modelleri, /image/generations rotasında Model Çıkarım API'sini uygular. Kararlılık yapay zekası modellerini kullanma örnekleri için aşağıdaki örneklere bakın: