Bereitstellen fein abgestimmter LoRA-Adapter für verwaltete Compute (Vorschau)

Important

Elemente, die in diesem Artikel als Vorschau gekennzeichnet sind, befinden sich derzeit in der Vorschau. Diese Vorschauversion wird ohne Service Level Agreement bereitgestellt, und Microsoft empfiehlt ihren Einsatz nicht für Produktionsworkloads. Manche Features werden möglicherweise nicht unterstützt oder sind nur eingeschränkt verwendbar. Weitere Informationen finden Sie unter Zusätzliche Nutzungsbedingungen für Microsoft Azure-Vorschauversionen.

Stellen Sie mindestens einen LoRA-Adapter (Low-Rank-Adaption), der durch Foundry-Feinabstimmung erzeugt wurde, für eine kompatible verwaltete Computezielbereitstellung bereit. Sie können einen Adapter bereitstellen, testen und weitere Adapter an dieselbe Zielbereitstellung anfügen.

Dieser Artikel gilt nur für LoRA-Adapter, die als Ergebnis des Fine-Tunings in Foundry erzeugt wurden. Informationen zu Terminologie, Architektur, gemeinsamem Inferenzverhalten, Lebenszyklus, Abrechnung und Grenzwerten finden Sie in der Übersicht über die Adapterbereitstellung für verwaltete Compute-Ressourcen.

Voraussetzungen

  • Ein Azure-Abonnement und ein Foundry-Projekt.

  • Ein registrierter LoRA-Adapter, der durch Fine-Tuning in Foundry erstellt wurde und auf der Seite „Modelle“ des Projekts sichtbar ist.

  • Berechtigung zum Verwalten von Bereitstellungen im Foundry-Konto, z. B. die Rolle " Foundry Owner " oder "Cognitive Services Contributor ". Außerdem benötigen Sie Zugriff auf das registrierte Adaptermodell.

    Important

    Die Foundry-RBAC-Rollen wurden kürzlich umbenannt. Foundry User, Foundry Owner, Foundry Account Owner und Foundry Project Manager wurden zuvor Azure KI-Benutzer, Azure KI-Besitzer, Azure KI-Kontobesitzer und Azure AI Project Manager benannt. Möglicherweise werden die vorherigen Namen an einigen Stellen weiterhin angezeigt, während der Umbenennungsrollout ausgeführt wird. Die Rollen-IDs und Kernberechtigungen bleiben durch die Umbenennung unverändert.

  • Die Rolle Foundry-Benutzer für das Konto für die Inferenz mit Microsoft Entra ID. Siehe Verwaltete Zugriffssteuerung für Compute.

  • Ein kompatibles Basismodell und eine LoRA-fähige Bereitstellungsvorlage, die in Ihrer Region verfügbar ist.

  • Ausreichendes verwaltetes Compute-Kontingent für die Beschleunigerfamilie und -region der Zielbereitstellung. Sie können eine vorhandene Zielbereitstellung auswählen oder während der Adapterbereitstellung eine erstellen.

Die verwaltete Computevorschau enthält keine integrierte Inhaltsfilterung. Überprüfen Sie ihre Einschränkungen und die Sicherheitsanforderungen Ihrer Anwendung vor der Bereitstellung.

Bereitstellen von Adaptern im Portal

Beginnen Sie mit einem registrierten LoRA-Adapter, der durch Fine-Tuning in Foundry erzeugt wurde. Sie finden den Adapter in Modelle>erstellen, oder Sie beginnen auf der Registerkarte Feinabstimmung.

Eine Zielbereitstellung unterstützt bis zu acht Adapterbereitstellungen.

1. Wählen Sie den Adapter aus, und starten Sie den Bereitstellungsablauf.

Verwenden Sie im Foundry-Portal einen der folgenden Einstiegspunkte:

  • Öffnen Sie Modelle>Erstellen, wählen Sie den LoRA-Adapter aus, den Sie bereitstellen möchten, und wählen Sie anschließend Bereitstellen aus. Dieser Einstiegspunkt öffnet den Bereitstellungsablauf für verwaltete Compute-Ressourcen direkt.
  • Öffnen Sie die Registerkarte "Feinabstimmung ", wählen Sie den Adapter aus, der von Ihrem abgeschlossenen Feinabstimmungsauftrag erstellt wurde, und wählen Sie dann "Bereitstellen" aus. Wählen Sie Managed compute aus den verfügbaren Bereitstellungsoptionen aus.

2. Wählen Sie die Zielbereitstellung aus oder erstellen Sie sie

Ein registrierter Adapter benötigt keinen eigenen Compute, benötigt aber eine kompatible Zielbereitstellung, um Anfragen zu bedienen. Wählen Sie es im Feld "Zielbereitstellung" aus.

  • Wenn bereits eine kompatible LoRA-fähige Zielbereitstellung vorhanden ist, wählen Sie sie in Zielbereitstellung aus, und fahren Sie mit Adapter bereitstellen fort.
  • Wenn keine kompatible Bereitstellung vorhanden ist, erstellen Sie eine Zielbereitstellung im Bereitstellungsfluss des Adapters.

Das Fenster für die Erstellung der Zielbereitstellung hat die LoRA-Unterstützung standardmäßig aktiviert. So erstellen Sie die Bereitstellung:

  1. Wählen Sie eine LoRA-fähige Bereitstellungsvorlage aus.
  2. Überprüfen Sie die Vorlagendetails, einschließlich der Inferenz-Laufzeit, der Modell-ID und der Bereitstellungsvorlagen-ID.
  3. Wählen Sie den Beschleunigertyp aus, z. B. H100, der Ihrer ausgewählten Vorlage entspricht.
  4. Vervollständigen Sie die Zielbereitstellungskonfiguration, und wählen Sie "Bereitstellen" aus.
  5. Warten Sie, bis die Zielbereitstellung abgeschlossen ist. Dieser Vorgang kann mehrere Minuten dauern. Nach Abschluss der Bereitstellung wird das Feld „Zielbereitstellung“ automatisch ausgefüllt.

Weitere Informationen zur Konfiguration und Kapazität der Zielbereitstellung finden Sie unter Bereitstellen von Open-Source-Modellen mit verwalteter Rechenleistung.

3. Stellen Sie den Adapter bereit

  1. Geben Sie einen Adapterbereitstellungsnamen ein, z. B. qwen-support. Verwenden Sie einen Namen, der innerhalb des Kontos eindeutig ist und sich vom Namen der Zielbereitstellung unterscheidet.
  2. Überprüfen Sie das ausgewählte Bereitstellungsziel, und wählen Sie Bereitstellen aus.
  3. Warten Sie, bis die Adapterbereitstellung abgeschlossen ist. Der bereitgestellte Adapter wird in der Adapterbereitstellungsliste angezeigt.

Adapterbereitstellungsnamen können aus 1 bis 64 Buchstaben, Zahlen, Punkten, Unterstrichen oder Bindestrichen bestehen. Beginnen Sie den Namen mit einem Buchstaben oder einer Zahl.

Wählen Sie den deployten Adapter aus, um seine Details zu öffnen. Auf dieser Seite hast du folgende Möglichkeiten:

  • Öffnen Sie es im Playground.
  • Fügen Sie es einem Agenten hinzu.
  • Zeigen Sie die Details zu Inferenzendpunkt und Authentifizierung an.
  • Zeigen Sie die Zielbereitstellung an.
  • Kopieren Sie einen Codeausschnitt, um den Adapter aufzurufen.
  • Verwenden Sie das Schnellsetup für Visual Studio Code.

Öffnen Sie den Adapter im Playground, und senden Sie eine Aufforderung, die für seine Feinabstimmungsaufgabe relevant ist. Verwenden Sie den Codeausschnitt der Adapterbereitstellung, um ihn in Ihrer Anwendung zu testen. Wenn Sie nur die Zielbereitstellung aufrufen, wird der Adapter nicht getestet.

4. Weitere Adapter für dasselbe Ziel-Deployment bereitstellen

So teilen Sie eine Zielbereitstellung zwischen Adaptern:

  1. Wählen Sie unter Build>Modelle einen anderen kompatiblen Adapter aus, und wählen Sie Bereitstellen.
  2. Weisen Sie ihm einen anderen Bereitstellungsnamen zu, wie qwen-finance.
  3. Wählen Sie die gleiche Zielbereitstellung in der Zielbereitstellung aus.
  4. Wählen Sie "Bereitstellen" aus, und warten Sie, bis die Bereitstellung abgeschlossen ist.
  5. Öffnen Sie die Details der Zielbereitstellung, um zu bestätigen, dass beide Adapterbereitstellungen aufgeführt sind.

Diese Konfiguration ist eine Multi-LoRA-Bereitstellung. Jeder Adapter hat einen eigenen Bereitstellungsnamen, aber beide teilen den Compute- und Inferenzendpunkt der Zielbereitstellung.

Einen Adapter mit Chat-Completions testen

Nachdem die Adapterbereitstellung den Succeeded Bereitstellungsstatus erreicht hat, senden Sie eine Anforderung an die OpenAI-kompatible Route „chat-completions“. Kopieren Sie den Kontenendpunkt aus den Adapterbereitstellungsdetails im Portal. Rufen Sie für Microsoft Entra ID Authentifizierung ein Zugriffstoken für den https://ai.azure.com/.default Bereich ab.

Setzen Sie model auf den Namen der Adapterbereitstellung und nicht auf den Namen der Zielbereitstellung. Der Dienst verwendet diesen Wert, um den Adapter auszuwählen und das zugehörige Ziel-Deployment intern aufzulösen.

POST {account-endpoint}/openai/v1/chat/completions
Authorization: Bearer {access-token}
Content-Type: application/json

{
  "model": "qwen-support",
  "messages": [
    {
      "role": "user",
      "content": "How do I reset my account password?"
    }
  ]
}

Die Antwort folgt dem Antwortschema für chat-completions und gibt den ausgewählten Adapterbereitstellungsnamen in model zurück. Um den zweiten Adapter im Multi-LoRA-Beispiel zu testen, ändern Sie model in qwen-finance und senden Sie einen Prompt für seine feinabgestimmte Aufgabe. Für die Anfrage ist kein api-version-Abfrageparameter erforderlich.

Bereitstellen und Verwalten von Adaptern mit REST

Verwenden Sie REST, um Adapterbereitstellungen mit API-Version 2026-09-15-previewzu erstellen und zu verwalten.

Erstellen Sie eine Adapterbereitstellung, indem Sie die registrierte Quellmodell-ID und den Zielbereitstellungsnamen angeben. Verwenden Sie ein Zugriffstoken für Azure Resource Manager im Autorisierungsheader; siehe Azure-Ressourcen mit REST verwalten.

PUT https://management.azure.com/subscriptions/{subscriptionId}/resourceGroups/{resourceGroup}/providers/Microsoft.CognitiveServices/accounts/{accountName}/adapterDeployments/{adapterDeploymentName}?api-version=2026-09-15-preview
Authorization: ******
Content-Type: application/json

{
  "properties": {
    "sourceModelId": "azureai://accounts/{accountName}/projects/{projectName}/models/{modelName}/versions/{version}",
    "targetDeploymentName": "{targetDeploymentName}"
  }
}

Die Bereitstellung ist asynchron. Fragen Sie die in Azure-AsyncOperation zurückgegebene URL regelmäßig ab, unter Berücksichtigung von retry-after, bis der Vorgang erfolgreich ist oder fehlschlägt. Vergewissern Sie sich vor dem Testen des Adapters, dass properties.provisioningStateSucceeded ist.

Überprüfen Sie den Status einer Adapterbereitstellung:

GET https://management.azure.com/subscriptions/{subscriptionId}/resourceGroups/{resourceGroup}/providers/Microsoft.CognitiveServices/accounts/{accountName}/adapterDeployments/{adapterDeploymentName}?api-version=2026-09-15-preview
Authorization: ******

An eine Zielbereitstellung angefügte Adapter auflisten:

GET https://management.azure.com/subscriptions/{subscriptionId}/resourceGroups/{resourceGroup}/providers/Microsoft.CognitiveServices/accounts/{accountName}/adapterDeployments?api-version=2026-09-15-preview&$filter=properties%2FtargetDeploymentName%20eq%20%27{targetDeploymentName}%27
Authorization: ******

Die Antwort wird paginiert. Folgen Sie nextLink, bis sie nicht mehr vorhanden ist.

Löschen einer Adapterbereitstellung:

DELETE https://management.azure.com/subscriptions/{subscriptionId}/resourceGroups/{resourceGroup}/providers/Microsoft.CognitiveServices/accounts/{accountName}/adapterDeployments/{adapterDeploymentName}?api-version=2026-09-15-preview
Authorization: ******

Das Löschen kann auch asynchron sein. Folgen Sie für eine 202 Antwort der Vorgangs-URL, bis der Löschvorgang abgeschlossen ist. Eine 204 Antwort erfordert keine weitere Abfrage.

Verwalten und Bereinigen von Bereitstellungen

Verwalten Sie jeden Adapter anhand des Bereitstellungsnamens. Wenn Sie einen Adapter in eine andere kompatible Zielbereitstellung verschieben möchten, aktualisieren Sie targetDeploymentName, wobei sourceModelId beibehalten wird. Warten Sie, bis das Update erfolgreich abgeschlossen ist, bevor Sie sich auf das neue Ziel-Deployment verlassen.

Sie können die Quellmodellversion einer vorhandenen Adapterbereitstellung nicht ändern. Erstellen Sie zum Bereitstellen einer neuen optimierten Version eine neue Adapterbereitstellung mit einem anderen Namen, oder löschen Sie die vorhandene Bereitstellung, und erstellen Sie sie neu.

Löschen Sie eine Adapterbereitstellung, wenn Sie sie nicht mehr benötigen. Verwenden Sie die REST-Löschanforderung in " Bereitstellen und Verwalten von Adaptern mit REST".

Beim Löschen einer Adapterbereitstellung werden die registrierte Modellversion oder die Zielbereitstellung nicht gelöscht. Andere Adapter verwenden weiterhin den gemeinsam genutzten Compute.

Entfernen Sie alle angefügten Adapterbereitstellungen, bevor Sie eine Zielbereitstellung löschen, die Sie für diese Übung erstellt haben. Wenn Sie den optionalen qwen-finance Adapter hinzugefügt haben, löschen Sie ihn ebenfalls. Löschen Sie keine freigegebene Zielbereitstellung, die andere Anwendungen noch benötigen.

Entfernen Sie vor dem Löschen einer registrierten Adaptermodellversion die Adapterbereitstellungen, die sie verwenden.

Skalieren Sie gemeinsam genutzte Rechenkapazität über die Zielbereitstellung. Eine Kapazitätsänderung wirkt sich auf den von den Adaptern gemeinsam genutzten Compute aus.

Troubleshoot

Überprüfen Sie die Adapterregistrierung, die Basismodellkompatibilität und den Bereitstellungsstatus, bevor Sie den Vorgang wiederholen.

Symptom Was soll überprüft werden?
Der Adapter wird unter Modelle nicht aufgeführt. Vergewissern Sie sich, dass der Adapter im ausgewählten Projekt registriert ist. Das Abschlusstraining allein reicht nicht aus.
Ein Adapter kann nicht bereitgestellt werden. Vergewissern Sie sich, dass der Adapter als Ausgabe eines Foundry-Feinabstimmungsauftrags registriert ist. Dieser Fluss unterstützt nur Adapter, die durch Fine-Tuning in Foundry erzeugt werden.
Kein Deployment wird in Ziel-Deployment angezeigt. Erstellen Sie eine kompatible LoRA-fähige Zielbereitstellung im Bereitstellungsfluss des Adapters.
Es wird keine kompatible Vorlage angezeigt. Vergewissern Sie sich, dass eine loRA-fähige Vorlage für das Modell und die Region verfügbar ist. Eine Vorlage ohne LoRA-Unterstützung kann den Adapter nicht hosten.
Fehler bei der Erstellung der Zielbereitstellung mit einem Kontingentfehler Überprüfen Sie die Accelerator-Familie, -Region und -Instanzanzahl. Verwaltetes Compute-Kontingent anfordern bei Bedarf.
Der Adapter und das Basismodell stimmen nicht überein Vergleichen Sie das genaue Basismodell und die für die Feinabstimmung verwendete Version mit dem eingesetzten Basismodell.
Der Adapter überschreitet einen Vorlagengrenzwert. Überprüfen Sie die Adapteranzahl, den LoRA-Rang und die Speicheranforderungen anhand der unterstützten Grenzwerte der ausgewählten Vorlage.
Eine Antwort sieht wie das Basismodell aus. Vergewissern Sie sich, dass die Adapterbereitstellung abgeschlossen ist und Dass Sie den Adapter testen, nicht nur die Zielbereitstellung. Verwenden Sie den Codeausschnitt des Adapter-Portals.
Die Quellmodellversion kann nicht aktualisiert werden. Erstellen Sie eine neue Adapterbereitstellung, oder löschen Sie die vorhandene, und erstellen Sie sie neu. Die Quellmodellversion ist für eine vorhandene Bereitstellung festgelegt.

Verwandte Inhalte

Erfahren Sie mehr über Adapterbereitstellungen, Zielbereitstellungen, gemeinsam genutzte Rechenressourcen und andere Bereitstellungsoptionen für feinabgestimmte Modelle:

  • Zuletzt aktualisiert um