Freigeben über

Verfügbarkeit von Regionen für Modelle in serverlosen API-Endpunkten | Azure KI Studio

  • Artikel

Wichtig

Einige der in diesem Artikel beschriebenen Features sind möglicherweise nur in der Vorschau verfügbar. Diese Vorschauversion wird ohne Vereinbarung zum Servicelevel bereitgestellt und sollte nicht für Produktionsworkloads verwendet werden. Manche Features werden möglicherweise nicht unterstützt oder sind nur eingeschränkt verwendbar. Weitere Informationen finden Sie unter Zusätzliche Nutzungsbestimmungen für Microsoft Azure-Vorschauen.

In diesem Artikel erfahren Sie, welche Regionen für jedes der Modelle verfügbar sind, die serverlose API-Endpunktbereitstellungen unterstützen.

Bestimmte Modelle im Modellkatalog können als serverlose API mit nutzungsbasierter Bezahlung bereitgestellt werden. Diese Art von Bereitstellung bietet eine Möglichkeit, Modelle als API zu nutzen, ohne sie in Ihrem Abonnement zu hosten, während die Unternehmenssicherheit und Compliance beibehalten werden, die Organisationen benötigen. Für diese Bereitstellungsoption ist kein Kontingent aus Ihrem Abonnement erforderlich.

Regionale Verfügbarkeit

Die Verfügbarkeit serverloser API-Endpunkte für ausgewählte Modelle ist in den folgenden Tabellen aufgeführt:

Cohere-Modelle

Region Cohere Command R Cohere Command R+ Cohere Embed v3
USA (Ost) 2 ✓ ✓ ✓
Schweden, Mitte ✓ ✓ ✓

Mistral-Modelle

Region Mistral-Small Mistral-Large
USA (Ost) 2 ✓ ✓
Frankreich, Mitte nicht verfügbar ✓
Schweden, Mitte ✓ ✓

Meta Llama-Modelle

Region Llama-2 Llama-3
USA (Ost) 2 ✓ ✓
USA, Westen 3 ✓ nicht verfügbar

Nixtla TimeGEN-1-Modell

Region Nixtla TimeGEN-1
East US ✓
USA (Ost) 2 ✓
USA Nord Mitte ✓
USA Süd Mitte ✓
USA (Westen) ✓
USA, Westen 3 ✓
Schweden, Mitte ✓

Phi 3-Modelle

Region Phi-3-mini Phi-3-medium
USA (Ost) 2 ✓ ✓
Schweden, Mitte ✓ ✓

Alternativen zur Verfügbarkeit von Regionen

Wenn sich ein Großteil Ihrer Infrastruktur in einer bestimmten Region befindet und Sie Modelle verwenden möchten, die nur als serverlose API-Endpunkte verfügbar sind, können Sie einen Hub oder ein Projekt in der unterstützten Region erstellen und dann den Endpunkt aus einer anderen Region nutzen.

Lesen Sie Nutzen von serverlosen API-Endpunkten aus einem anderen Hub oder Projekt, um zu erfahren, wie Sie einen vorhandenen serverlosen API-Endpunkt in einem anderen Hub oder Projekt konfigurieren als dem, in dem er bereitgestellt wurde.

Zugehöriger Inhalt