Hinweis
Für den Zugriff auf diese Seite ist eine Autorisierung erforderlich. Sie können versuchen, sich anzumelden oder das Verzeichnis zu wechseln.
Für den Zugriff auf diese Seite ist eine Autorisierung erforderlich. Sie können versuchen, das Verzeichnis zu wechseln.
In diesem Artikel erfahren Sie, wie Sie ein Modell aus dem Modellkatalog als Standardbereitstellung bereitstellen.
Bestimmte Modelle im Modellkatalog können als Standardbereitstellung mit Standardabrechnung bereitgestellt werden. Dieser Bereitstellungstyp bietet eine Möglichkeit, Modelle als API zu nutzen, ohne sie in Ihrem Abonnement zu hosten, während die Unternehmenssicherheit und Compliance beibehalten werden, die Organisationen benötigen. Für diese Bereitstellungsoption ist kein Kontingent aus Ihrem Abonnement erforderlich.
In diesem Artikel wird eine Llama-Modellbereitstellung (Meta) zur Veranschaulichung verwendet. Sie können jedoch dieselben Schritte verwenden, um alle Modelle im Modellkatalog bereitzustellen, die für die Standardbereitstellung verfügbar sind.
Voraussetzungen
Ein Azure-Abonnement mit einer gültigen Zahlungsmethode. Kostenlose Versionen oder Testversionen von Azure-Abonnements funktionieren nicht. Wenn Sie noch kein Azure-Abonnement haben, erstellen Sie zunächst ein kostenpflichtiges Azure-Konto.
Die rollenbasierte Zugriffssteuerung in Azure (Azure RBAC) wird verwendet, um Zugriff auf Vorgänge in Azure Machine Learning zu gewähren. Um die Schritte in diesem Artikel auszuführen, muss Ihrem Benutzerkonto die Azure KI-Entwicklerrolle in der Ressourcengruppe zugewiesen sein. Weitere Informationen zu Berechtigungen finden Sie unter Rollenbasierte Zugriffssteuerung in Azure Machine Learning.
Für die Arbeit mit Azure Machine Learning müssen Sie die folgende Software installieren:
Sie können einen beliebigen kompatiblen Webbrowser verwenden, um in Azure Machine Learning zu navigieren.
Finden Ihres Modells und Ihrer Modell-ID im Modellkatalog
Melden Sie sich bei Azure Machine Learning Studio an.
Stellen Sie für Modelle, die über Azure Marketplace angeboten werden, sicher, dass Ihr Konto über die Rollenberechtigungen für Azure AI-Entwickler für die Ressourcengruppe verfügt oder dass Sie die zum Abonnieren von Modellangeboten erforderlichen Berechtigungen erfüllen.
Modelle, die von Nicht-Microsoft-Anbietern (z. B. Llama- und Mistral-Modellen) angeboten werden, werden über Azure Marketplace in Rechnung gestellt. Für solche Modelle muss Ihr Arbeitsbereich das jeweilige Modellangebot abonnieren. Für Modelle, die von Microsoft angeboten werden (z. B. Phi-3-Modelle), gilt diese Anforderung nicht, da die Abrechnung anders erfolgt. Ausführliche Informationen zur Abrechnung für die serverlose Bereitstellung von Modellen im Modellkatalog finden Sie unter Abrechnung für Standardbereitstellungen.
Wechseln Sie zu Ihrem Arbeitsbereich. Um das Standardbereitstellungsangebot zu verwenden, muss Ihr Arbeitsbereich zu einer der Regionen gehören, die für die serverlose Bereitstellung für das jeweilige Modell unterstützt werden, das Sie bereitstellen möchten.
Wählen Sie den Modellkatalog auf der linken Randleiste aus, und suchen Sie die Modellkarte des Modells, das Sie bereitstellen möchten. In diesem Artikel wählen Sie ein Bria-2.3-Fast-Modell aus.
- Wenn Sie das Modell mit Azure CLI, Python SDK oder ARM bereitstellen, kopieren Sie die Modell-ID.
Wichtig
Schließen Sie die Version beim Kopieren der Modell-ID nicht ein. Standardbereitstellungen stellen immer die neueste verfügbare Version des Modells bereit. Kopieren Sie z. B. für die Modell-ID
azureml://registries/azureml-bria/models/Bria-2.3-Fast/versions/1azureml://registries/azureml-bria/models/Bria-2.3-Fast.
Im nächsten Abschnitt erfahren Sie, wie Ihr Arbeitsbereich ein Modellangebot abonnieren kann. Sie können diesen Abschnitt überspringen und das Modell in einer Standardbereitstellung bereitstellen, wenn Sie ein Microsoft-Modell bereitstellen.
Abonnieren Ihres Arbeitsbereichs zum Modellangebot
Standardbereitstellungen können sowohl Microsoft- als auch nicht von Microsoft angebotene Modelle bereitstellen. Für Microsoft-Modelle (z. B. Phi-3-Modelle) müssen Sie kein Azure Marketplace-Abonnement erstellen und sie direkt für Standardbereitstellungen bereitstellen , um ihre Vorhersagen zu nutzen. Für Nicht-Microsoft-Modelle müssen Sie zunächst das Abonnement erstellen. Wenn Sie das Modell zum ersten Mal im Arbeitsbereich bereitstellen, müssen Sie Ihren Arbeitsbereich für das jeweilige Modellangebot von Azure Marketplace abonnieren. Jeder Arbeitsbereich hat sein eigenes Abonnement für das jeweilige Azure Marketplace-Angebot des Modells, mit dem Sie die Ausgaben kontrollieren und überwachen können.
Hinweis
Modelle, die über den Azure Marketplace angeboten werden, stehen für Standardbereitstellungen in bestimmten Regionen zur Verfügung. Überprüfen Sie die Verfügbarkeit von Regionen für Modelle in Standardbereitstellungen , um zu überprüfen, welche Modelle und Regionen verfügbar sind. Falls die benötigte Option nicht aufgeführt ist, können Sie sie in einem Arbeitsbereich in einer unterstützten Region bereitstellen und dann Standardbereitstellungen von einem anderen Arbeitsbereich verwenden.
Erstellen Sie das Marketplace-Abonnement des Modells. Wenn Sie ein Abonnement erstellen, akzeptieren Sie die Bedingungen, die dem Modellangebot zugeordnet sind. Denken Sie daran, dass Sie diesen Schritt für die von Microsoft angebotenen Modelle (wie Phi-3) nicht durchführen müssen.
Wählen Sie auf der Seite " Details " des Modells die Option "Dieses Modell verwenden" aus. Ein Fenster mit Bereitstellungsoptionen wird geöffnet, sodass Sie die Wahl zwischen der Standardbereitstellung (serverlose API) und der Bereitstellung mithilfe einer verwalteten Berechnung haben.
Hinweis
Bei Modellen, die nur über die Standardbereitstellung bereitgestellt werden können, wird der Standardbereitstellungs-Assistent direkt geöffnet, nachdem Sie dieses Modell auf der Detailseite des Modells verwenden ausgewählt haben.
Wählen Sie die Serverless-API aus, um den Standardbereitstellungs-Assistenten zu öffnen.
Wenn die Notiz angezeigt wird Sie verfügen bereits über ein Azure Marketplace-Abonnement für diesen Arbeitsbereich, müssen Sie das Abonnement nicht erstellen, da Sie bereits über ein Abonnement verfügen. Sie können mit dem Bereitstellen des Modells in einer Standardbereitstellung fortfahren.
Wählen Sie im Bereitstellungsassistenten den Link zu Azure Marketplace-Nutzungsbedingungen aus, um mehr über die Nutzungsbedingungen zu erfahren. Sie können auch die Registerkarte Preise und Nutzungsbedingungen auswählen, um mehr über die Preise für das ausgewählte Modell zu erfahren.
Wählen Sie im Bereitstellungs-Assistenten den Link zu Azure Marketplace-Nutzungsbedingungen aus, um mehr über die Nutzungsbedingungen zu erfahren. Sie können auch die Registerkarte Marketplace – Angebotsdetails auswählen, um mehr über die Preise für das ausgewählte Modell zu erfahren.
Wählen Sie Abonnieren und bereitstellen aus.
Sobald Sie den Arbeitsbereich für das jeweilige Azure Marketplace-Angebot abonniert haben, müssen nachfolgende Bereitstellungen des gleichen Angebots im gleichen Arbeitsbereich nicht mehr abonniert werden.
An jedem Punkt können Sie das Modell sehen, für das Ihr Arbeitsbereich derzeit abonniert ist:
Navigieren Sie zu der Ressourcengruppe, zu der der Arbeitsbereich gehört.
Wählen Sie im Typfilter SaaSaus.
Sie sehen alle Angebote, für die Sie derzeit Abonnnements haben.
Wählen Sie eine beliebige Ressource aus, um die Details anzuzeigen.
Stellen Sie das Modell in einer Standardbereitstellung bereit
Nachdem Sie ein Abonnement für ein Nicht-Microsoft-Modell erstellt haben, können Sie das zugeordnete Modell in einer Standardbereitstellung bereitstellen. Für Microsoft-Modelle (z. B. Phi-3-Modelle) müssen Sie kein Abonnement erstellen.
Die Standardbereitstellung ermöglicht es, Modelle als API zu nutzen, ohne sie in Ihrem Abonnement zu hosten, und dabei die notwendigen Sicherheits- und Compliance-Standards des Unternehmens aufrechtzuerhalten. Für diese Bereitstellungsoption ist kein Kontingent aus Ihrem Abonnement erforderlich.
In diesem Abschnitt erstellen Sie einen Endpunkt mit dem Namen Bria-2.3-Fast.
Erstellen des serverlosen Endpunkts
Um ein Microsoft-Modell bereitzustellen, für das kein Abonnement eines Modellangebots erforderlich ist, wählen Sie "Dieses Modell verwenden " aus, und wählen Sie dann die Serverless-API aus, um den Bereitstellungs-Assistenten zu öffnen.
Alternativ können Sie, wenn es sich um ein Nicht-Microsoft-Modell handelt, das ein Modellabonnement erfordert, und Sie Ihren Arbeitsbereich im vorherigen Abschnitt für das Modellangebot abonniert haben, weiterhin "Bereitstellen" auswählen. Wählen Sie alternativ die Option Mit der Bereitstellung fortfahren (wenn Ihr Bereitstellungsassistent den Hinweis Sie haben bereits ein Azure Marketplace-Abonnement für diesen Arbeitsbereich angezeigt hat).
Geben Sie der Bereitstellung einen Namen. Dieser Name wird Teil der Bereitstellungs-API-URL. Diese URL muss in jeder Azure-Region eindeutig sein.
Tipp
Die Option Inhaltsfilter (Vorschau) ist standardmäßig aktiviert. Behalten Sie die Standardeinstellung bei, damit der Dienst schädliche Inhalte wie Hass, Selbstverletzung, sexuelle Inhalte und Gewalt erkennt. Weitere Informationen zur Inhaltsfilterung (Vorschau) finden Sie unter Inhaltssicherheit für Modelle, die über Standardbereitstellungen bereitgestellt werden.
Klicken Sie auf Bereitstellen. Warten Sie, bis die Bereitstellung fertig ist und Sie auf die Seite Bereitstellungen weitergeleitet werden.
An jedem Punkt können Sie die Endpunkte sehen, die in Ihrem Arbeitsbereich bereitgestellt werden:
Wechseln Sie zu Ihrem Arbeitsbereich.
Wählen Sie Endpunkte.
Wählen Sie die Registerkarte "Serverlose Endpunkte " aus, um die Standardbereitstellungen anzuzeigen.
Der erstellte Endpunkt verwendet die Schlüsselauthentifizierung für die Autorisierung. Führen Sie die folgenden Schritte aus, um die Schlüssel abzurufen, die einem bestimmten Endpunkt zugeordnet sind.
- Um zur Seite der Bereitstellung zurückzukehren, wählen Sie den Namen des Endpunkts aus der Liste der serverlosen Endpunkte aus.
- Beachten Sie den Ziel-URI und den Schlüssel des Endpunkts. Verwenden Sie sie, um die Bereitstellung aufzurufen und Vorhersagen zu generieren.
Hinweis
Wenn Sie das Azure-Portal verwenden, werden Standardbereitstellungen in der Ressourcengruppe nicht standardmäßig angezeigt. Verwenden Sie die Option Ausgeblendete Typen anzeigen, um sie in der Ressourcengruppe anzuzeigen.
An diesem Punkt kann Ihr Endpunkt verwendet werden.
Wenn Sie diese Bereitstellung aus einem anderen Arbeitsbereich nutzen müssen oder den Aufforderungsfluss zum Erstellen intelligenter Anwendungen verwenden möchten, müssen Sie eine Verbindung mit der Standardbereitstellung erstellen. Informationen zum Konfigurieren einer vorhandenen Standardbereitstellung in einem neuen Arbeitsbereich oder Hub finden Sie unter Verwenden bereitgestellter Standardbereitstellungen aus einem anderen Arbeitsbereich oder aus dem Prompt Flow.
Tipp
Wenn Sie Prompt flow im selben Arbeitsbereich verwenden, in dem die Bereitstellung bereitgestellt wurde, müssen Sie die Verbindung trotzdem erstellen.
Verwenden der Standardbereitstellung
Modelle, die in Azure Machine Learning und Microsoft Foundry in Standardbereitstellungen bereitgestellt werden, unterstützen die Azure AI Model Inference-API , die einen gemeinsamen Satz von Funktionen für foundationale Modelle verfügbar macht und von Entwicklern verwendet werden kann, um Vorhersagen aus verschiedenen Modellen einheitlich und einheitlich zu nutzen.
Erfahren Sie mehr über die Funktionen dieser API und wie Sie sie beim Erstellen von Anwendungen nutzen können.
Löschen von Endpunkten und Abonnements
Sie können Modellabonnements und Endpunkte löschen. Wenn Sie ein Modellabonnement löschen, werden alle zugehörigen Endpunkte zu Fehlerhaft und "unbrauchbar".
So löschen Sie eine Standardbereitstellung:
Navigieren Sie zu Azure Machine Learning Studio.
Wählen Sie auf der linken Randleiste Endpunkte aus.
Wählen Sie die Registerkarte "Serverlose Endpunkte " aus, um die Standardbereitstellungen anzuzeigen.
Wählen Sie den zu löschenden Endpunkt aus.
Klicken Sie auf Löschen.
So löschen Sie das zugeordnete Modellabonnement:
Navigieren Sie zu der Ressourcengruppe, zu der der Arbeitsbereich gehört.
Wählen Sie im Typfilter SaaSaus.
Wählen Sie das Abonnement aus, das Sie löschen möchten.
Klicken Sie auf Löschen.
Überlegungen zu Kosten und Kontingenten für Modelle, die als Standardbereitstellungen bereitgestellt werden
Das Kontingent wird pro Bereitstellung verwaltet. Jede Bereitstellung hat eine Rate von 200.000 Token pro Minute und 1.000 API-Anforderungen pro Minute. Derzeit wird jedoch eine Bereitstellung pro Modell und Arbeitsbereich beschränkt. Wenden Sie sich an den Microsoft Azure-Support, wenn die aktuellen Ratenbegrenzungen für Ihre Szenarien nicht ausreichen.
Kosten für Microsoft-Modelle
Die Preisinformationen finden Sie auf der Registerkarte " Preise und Bedingungen " des Bereitstellungs-Assistenten beim Bereitstellen von Microsoft-Modellen (z. B. Phi-3-Modelle) als Standardbereitstellungen.
Kosten für Nicht-Microsoft-Modelle
Nicht-Microsoft-Modelle, die als Standardbereitstellungen bereitgestellt werden, werden über Azure Marketplace angeboten und in Foundry zur Verwendung integriert. Die Azure Marketplace-Preise werden bei der Bereitstellung oder bei der Optimierung dieser Modelle angezeigt.
Jedes Mal, wenn ein Arbeitsbereich ein bestimmtes Angebot von Azure Marketplace abonniert, wird eine neue Ressource erstellt, um die Kosten zu verfolgen, die mit seinem Verbrauch verbunden sind. Die gleiche Ressource wird zum Nachverfolgen der Kosten im Zusammenhang mit Rückschluss und Optimierung verwendet. Es stehen jedoch mehrere Verbrauchseinheiten zur Verfügung, um die einzelnen Szenarien unabhängig voneinander nachzuverfolgen.
Weitere Informationen zum Nachverfolgen der Kosten finden Sie unter Überwachen der Kosten für Modelle, die über den Azure Marketplace angeboten werden.
Zum Abonnieren von Modellangeboten erforderliche Berechtigungen
Die rollenbasierte Zugriffssteuerung in Azure (Azure RBAC) wird verwendet, um Zugriff auf Vorgänge in Azure Machine Learning zu gewähren. Um die Schritte in diesem Artikel auszuführen, muss Ihrem Benutzerkonto die Rolle Besitzer, Mitwirkender oderAzure KI-Entwickler für das Azure-Abonnement zugewiesen werden. Alternativ kann Ihrem Konto eine benutzerdefinierte Rolle zugewiesen werden, die über die folgenden Berechtigungen verfügt:
Für das Azure-Abonnement: Zum Abonnieren des Arbeitsbereichs für das Azure Marketplace-Angebot, einmal für jeden Arbeitsbereich pro Angebot:
Microsoft.MarketplaceOrdering/agreements/offers/plans/readMicrosoft.MarketplaceOrdering/agreements/offers/plans/sign/actionMicrosoft.MarketplaceOrdering/offerTypes/publishers/offers/plans/agreements/readMicrosoft.Marketplace/offerTypes/publishers/offers/plans/agreements/readMicrosoft.SaaS/register/action
Für die Ressourcengruppe: Zum Erstellen und Verwenden der SaaS-Ressource:
Microsoft.SaaS/resources/readMicrosoft.SaaS/resources/write
Für den Arbeitsbereich: Zum Bereitstellen von Endpunkten (die Azure Machine Learning-Rolle „Wissenschaftliche Fachkraft für Daten“ enthält diese Berechtigungen bereits):
Microsoft.MachineLearningServices/workspaces/marketplaceModelSubscriptions/*Microsoft.MachineLearningServices/workspaces/serverlessEndpoints/*
Weitere Informationen zu Berechtigungen finden Sie unter Verwalten des Zugriffs auf einen Azure Machine Learning-Arbeitsbereich.