Regionale Verfügbarkeit für Modelle in serverlosen API-Endpunkten | Azure Machine Learning
In diesem Artikel erfahren Sie, welche Regionen für jedes der Modelle verfügbar sind, die serverlose API-Endpunktbereitstellungen unterstützen.
Bestimmte Modelle im Modellkatalog können als serverlose API mit nutzungsbasierter Bezahlung bereitgestellt werden. Diese Art von Bereitstellung bietet eine Möglichkeit, Modelle als API zu nutzen, ohne sie in Ihrem Abonnement zu hosten, während die Unternehmenssicherheit und Compliance beibehalten werden, die Organisationen benötigen. Für diese Bereitstellungsoption ist kein Kontingent aus Ihrem Abonnement erforderlich.
Regionale Verfügbarkeit
Die nutzungsbasierte Abrechnung ist nur für Benutzer verfügbar, deren Azure-Abonnement zu einem Abrechnungskonto in einem Land gehört, in dem der Modellanbieter das Angebot verfügbar gemacht hat (siehe „Verfügbarkeitsregion des Angebots“ in der Tabelle im nächsten Abschnitt). Wenn das Angebot in der relevanten Region verfügbar ist, muss der Benutzer über einen Hub bzw. ein Projekt in der Azure-Region verfügen, in dem das Modell für die Bereitstellung oder Feinabstimmung verfügbar ist (siehe Spalten „Hub-/Projektregion“ in den folgenden Tabellen).
Cohere-Modelle
| Modell | Verfügbarkeitsregion für Angebot | Hub-/Projektregion für die Bereitstellung | Hub-/Projektregion für Feinabstimmung |
|---|---|---|---|
| Cohere Command R+ 08-2024 | Von Microsoft verwaltete Länder | East US USA (Ost) 2 USA Nord Mitte USA Süd Mitte Schweden, Mitte USA (Westen) USA, Westen 3 |
Nicht verfügbar |
| Cohere Command R 08-2024 | Von Microsoft verwaltete Länder | East US USA (Ost) 2 USA Nord Mitte USA Süd Mitte Schweden, Mitte USA (Westen) USA, Westen 3 |
Nicht verfügbar |
| Cohere Command R+ | Von Microsoft verwaltete Länder Japan Katar |
East US USA (Ost) 2 USA Nord Mitte USA Süd Mitte Schweden, Mitte USA (Westen) USA, Westen 3 |
Nicht verfügbar |
| Cohere Command R | Von Microsoft verwaltete Länder Japan Katar |
East US USA (Ost) 2 USA Nord Mitte USA Süd Mitte Schweden, Mitte USA (Westen) USA, Westen 3 |
Nicht verfügbar |
| Cohere Rerank 3 – Englisch | Von Microsoft verwaltete Länder Japan Katar |
East US USA (Ost) 2 USA Nord Mitte USA Süd Mitte Schweden, Mitte USA (Westen) USA, Westen 3 |
Nicht verfügbar |
| Cohere Rerank 3 – Multilingual | Von Microsoft verwaltete Länder Japan Katar |
East US USA (Ost) 2 USA Nord Mitte USA Süd Mitte Schweden, Mitte USA (Westen) USA, Westen 3 |
Nicht verfügbar |
| Cohere Embed 3 – Englisch | Von Microsoft verwaltete Länder Japan Katar |
East US USA (Ost) 2 USA Nord Mitte USA Süd Mitte Schweden, Mitte USA (Westen) USA, Westen 3 |
Nicht verfügbar |
| Cohere Embed 3 – Mehrsprachig | Von Microsoft verwaltete Länder Japan Katar |
East US USA (Ost) 2 USA Nord Mitte USA Süd Mitte Schweden, Mitte USA (Westen) USA, Westen 3 |
Nicht verfügbar |
JAIS-Modelle
| Modell | Verfügbarkeitsregion für Angebot | Hub-/Projektregion für die Bereitstellung | Hub-/Projektregion für Feinabstimmung |
|---|---|---|---|
| JAIS 30B Chat | Von Microsoft verwaltete Länder Ägypten |
East US USA (Ost) 2 USA Nord Mitte USA Süd Mitte Schweden, Mitte USA (Westen) USA, Westen 3 |
Nicht verfügbar |
Meta Llama-Modelle
| Modell | Verfügbarkeitsregion für Angebot | Hub-/Projektregion für die Bereitstellung | Hub-/Projektregion für Feinabstimmung |
|---|---|---|---|
| Llama 2 7B Llama 2 13B Llama 2 70B |
Von Microsoft verwaltete Länder | East US USA (Ost) 2 USA Nord Mitte USA Süd Mitte USA (Westen) USA, Westen 3 |
USA, Westen 3 |
| Llama 2 7B Chat Llama 2 7B Chat Llama 2 70B Chat |
Von Microsoft verwaltete Länder | East US USA (Ost) 2 USA Nord Mitte USA Süd Mitte USA (Westen) USA, Westen 3 |
USA, Westen 3 |
| Llama 3 8B Instruct Llama 3 70B Instruct |
Von Microsoft verwaltete Länder | East US USA (Ost) 2 USA Nord Mitte USA Süd Mitte Schweden, Mitte USA (Westen) USA, Westen 3 |
Nicht verfügbar |
| Llama 3.1 8B Instruct Llama 3.1 70B Instruct |
Von Microsoft verwaltete Länder | East US USA (Ost) 2 USA Nord Mitte USA Süd Mitte USA (Westen) USA, Westen 3 |
USA, Westen 3 |
| Llama 3.1 405B Instruct | Von Microsoft verwaltete Länder | East US USA (Ost) 2 USA Nord Mitte USA Süd Mitte USA (Westen) USA, Westen 3 |
Nicht verfügbar |
Modelle der Microsoft Phi-3-Familie
| Modell | Verfügbarkeitsregion für Angebot | Hub-/Projektregion für die Bereitstellung | Hub-/Projektregion für Feinabstimmung |
|---|---|---|---|
| Phi-3.5-vision-Instruct | Nicht zutreffend | USA (Ost) 2 Schweden, Mitte |
Nicht verfügbar |
| Phi-3.5-MoE-Instruct | Nicht zutreffend | USA (Ost) 2 Schweden, Mitte |
Nicht verfügbar |
| Phi-3.5-Mini-Instruct | Nicht zutreffend | USA (Ost) 2 Schweden, Mitte |
Nicht verfügbar |
| Phi-3-Mini-4k-Instruct Phi-3-Mini-128K-Instruct |
Nicht zutreffend | USA (Ost) 2 Schweden, Mitte |
USA (Ost) 2 |
| Phi-3-Small-8K-Instruct Phi-3-Small-128K-Instruct |
Nicht zutreffend | USA (Ost) 2 Schweden, Mitte |
Nicht verfügbar |
| Phi-3-Medium-4K-Instruct Phi-3-Medium-128K-Instruct |
Nicht zutreffend | USA (Ost) 2 Schweden, Mitte |
USA (Ost) 2 |
Mistral-Modelle
| Modell | Verfügbarkeitsregion für Angebot | Hub-/Projektregion für die Bereitstellung | Hub-/Projektregion für Feinabstimmung |
|---|---|---|---|
| Mistral Nemo | Von Microsoft verwaltete Länder Brasilien Hongkong Israel |
East US USA (Ost) 2 USA Nord Mitte USA Süd Mitte Schweden, Mitte USA (Westen) USA, Westen 3 |
Nicht verfügbar |
| Mistral Small | Von Microsoft verwaltete Länder Brasilien Hongkong Israel |
East US USA (Ost) 2 USA Nord Mitte USA Süd Mitte Schweden, Mitte USA (Westen) USA, Westen 3 |
Nicht verfügbar |
| Mistral Large (2402) | Von Microsoft verwaltete Länder Brasilien Hongkong Israel |
East US USA (Ost) 2 USA Nord Mitte USA Süd Mitte Schweden, Mitte USA (Westen) USA, Westen 3 |
Nicht verfügbar |
| Mistral Large (2407) | Von Microsoft verwaltete Länder Brasilien Hongkong Israel |
East US USA (Ost) 2 USA Nord Mitte USA Süd Mitte Schweden, Mitte USA (Westen) USA, Westen 3 |
Nicht verfügbar |
Nixtla-Modelle
| Modell | Verfügbarkeitsregion für Angebot | Hub-/Projektregion für die Bereitstellung | Hub-/Projektregion für Feinabstimmung |
|---|---|---|---|
| TimeGEN-1 | Von Microsoft verwaltete Länder Mexiko Israel |
East US USA (Ost) 2 USA Nord Mitte USA Süd Mitte Schweden, Mitte USA (Westen) USA, Westen 3 |
Nicht verfügbar |
Alternativen zur Verfügbarkeit von Regionen
Wenn sich ein Großteil Ihrer Infrastruktur in einer bestimmten Region befindet und Sie Modelle nutzen möchten, die nur als serverlose API-Endpunkte verfügbar sind, können Sie einen Arbeitsbereich in der unterstützten Region erstellen und dann den Endpunkt aus einer anderen Region nutzen.
Lesen Sie Verwenden von serverlosen API-Endpunkten aus einem anderen Arbeitsbereich, um zu erfahren, wie Sie einen vorhandenen serverlosen API-Endpunkt in einem anderen Arbeitsbereich konfigurieren als der, in dem er bereitgestellt wurde.