Feinabstimmung von Modellen mit verwalteter Rechenleistung (klassisch) (Vorschau)

Gilt nur für:klassisches Foundry Portal. Dieser Artikel ist für das neue Foundry-Portal nicht verfügbar. Erfahren Sie mehr über das neue Portal.

Hinweis

Links in diesem Artikel können Inhalte in der neuen Microsoft Foundry-Dokumentation anstelle der jetzt angezeigten Foundry-Dokumentation (klassisch) öffnen.

Wichtig

In diesem Artikel markierte Elemente (Vorschau) befinden sich derzeit in der öffentlichen Vorschau. Diese Vorschau wird ohne Vereinbarung auf Serviceebene bereitgestellt und wird für Produktionsworkloads nicht empfohlen. Bestimmte Features werden möglicherweise nicht unterstützt oder weisen eingeschränkte Funktionen auf. Weitere Informationen finden Sie unter Supplementale Nutzungsbedingungen für Microsoft Azure Previews.

Erfahren Sie, wie Sie Modelle mithilfe der verwalteten Berechnung in Microsoft Foundry optimieren und bereitstellen. Passen Sie Schulungsparameter (Lernrate, Batchgröße, Epochen) an, um die Leistung zu optimieren.

Feinabstimmung eines vortrainierten Modells für eine verwandte Aufgabe ist effizienter als das Trainieren eines neuen Modells von Grund auf.

Verwenden Sie die Feinabstimmungseinstellungen im Portal, um Daten, Berechnungen und Hyperparameter zu konfigurieren. Nach Abschluss der Schulung können Sie das resultierende Modell auswerten und bereitstellen.

In diesem Artikel erfahren Sie, wie Sie:

  • Wählen Sie ein Foundation-Modell aus.
  • Konfigurieren Sie Rechenressourcen- und Datenaufteilungen.
  • Hyperparameter sicher optimieren.
  • Übermitteln und Überwachen eines Optimierungsauftrags.
  • Evaluieren und implementieren Sie das fein abgestimmte Modell.

Voraussetzungen

Wichtig

Dieser Artikel bietet Unterstützung älterer Systeme für hub-basierte Projekte. Es funktioniert nicht für Foundry-Projekte. Vgl. Woher weiß ich, welche Art von Projekt ich habe?

SDK-Kompatibilitätshinweis: Codebeispiele erfordern eine bestimmte Microsoft Foundry SDK-Version. Wenn Kompatibilitätsprobleme auftreten, sollten Sie die Migration von einem hubbasierten zu einem Foundry-Projekt in Betracht ziehen.

  • Azure rollenbasierte Zugriffssteuerungen (Azure RBAC) werden verwendet, um Zugriff auf Vorgänge im Foundry-Portal zu gewähren. Um die Schritte in diesem Artikel auszuführen, muss Ihrem Benutzerkonto die Rolle owner oder contributor für das Azure-Abonnement zugewiesen werden. Weitere Informationen zu Berechtigungen finden Sie unter Rollenbasierte Zugriffssteuerung im Foundry-Portal.

Feinabstimmung eines Foundation-Modells unter Verwendung von verwalteter Rechenleistung

Tipp

Da Sie den linken Bereich customize the left pane im Microsoft Foundry-Portal erstellen können, werden möglicherweise unterschiedliche Elemente angezeigt als in diesen Schritten. Wenn Sie nicht sehen, wonach Sie suchen, wählen Sie ... Mehr am unteren Rand des linken Bereichs.

  1. Melden Sie sich bei Microsoft Foundry an. Stellen Sie sicher, dass der Umschalter "Neue Gießerei " deaktiviert ist. Diese Schritte beziehen sich auf Foundry (klassisch).

  2. Wenn Sie noch nicht in Ihrem Projekt arbeiten, wählen Sie es aus.

  3. Wählen Sie im linken Bereich Feinabstimmung aus.

    1. Wählen Sie Feinabstimmen eines Modells aus, und fügen Sie das Modell hinzu, das Sie optimieren möchten. In diesem Artikel werden Phi-3-mini-4k-Anweisungen zur Veranschaulichung verwendet.
    2. Wählen Sie "Weiter" aus, um die verfügbaren Feinabstimmungsoptionen anzuzeigen. Einige Foundation-Modelle unterstützen nur die Option Verwaltete Computeressourcen.

  4. Alternativ können Sie den Modellkatalog in der linken Randleiste Ihres Projekts auswählen und die Modellkarte des Foundation-Modells finden, das Sie optimieren möchten.

    1. Wählen Sie auf der Modellkarte Feinabstimmung aus, um die verfügbaren Feinabstimmungsoptionen anzuzeigen. Einige Foundation-Modelle unterstützen nur die Option Verwaltete Computeressourcen.

    Screenshot mit Feinabstimmungsoptionen für ein Foundation-Modell in Foundry.

  5. Wählen Sie "Verwaltete Berechnung" aus. Dadurch werden grundlegende Einstellungen geöffnet.

Konfigurieren von Feinabstimmungseinstellungen

In diesem Abschnitt werden die Schritte zum Konfigurieren der Feinabstimmung für Ihr Modell mithilfe einer verwalteten Berechnung beschrieben.

  1. Geben Sie einen Modellnamen an (z. B phi3mini-faq-v1. ). Wählen Sie "Weiter " für "Berechnen" aus.

  2. Wählen Sie eine GPU-VM-Größe aus. Stellen Sie das Kontingent für die ausgewählte SKU sicher.

    Screenshot mit den Einstellungen für den Rechner, der für die Feinabstimmung verwendet werden soll.

  3. Wählen Sie "Weiter " für Schulungsdaten aus. Der Vorgangstyp kann voreingestellt sein (z. B. "Chatabschluss").

  4. Bereitstellen von Schulungsdaten (Hochladen von JSONL/CSV/TSV oder Auswählen eines registrierten Datasets). Ausgleichen von Beispielen, um Verzerrungen zu reduzieren.

  5. Wählen Sie "Weiter" für Überprüfungsdaten aus. Automatische Aufteilung beibehalten oder ein separates Dataset bereitstellen.

  6. Wählen Sie "Weiter " für Vorgangsparameter aus. Passen Sie Epochen, Lernrate, Batchgröße an. Starten Sie konservativ; iterieren Sie basierend auf Validierungsmetriken.

  7. Wählen Sie "Weiter " für "Überprüfen" aus. Anzahl und Parameter bestätigen.

  8. Wählen Sie "Absenden" aus, um den Auftrag zu starten.

Überwachen und Auswerten

  • Verfolgen Sie den Status von Aufträgen in der Liste der Optimierungsaufträge.
  • Überprüfen Sie Protokolle für Vorverarbeitungs- oder Zuordnungsprobleme.
  • Zeigen Sie nach Abschluss die generierten Auswertungsmetriken an (wenn aktiviert), oder führen Sie eine separate Auswertung mit einem Vergleich zwischen Basis- und optimiertem Modell durch.

Bereitstellung des optimierten Modells

Stellen Sie aus der Auftragszusammenfassung bereit. Verwenden Sie einen Bereitstellungsnamen wie faq-v1. Zeichnen Sie zur Reproduzierbarkeit die Modellversion und den Datasethash auf. Fügen Sie Ablaufverfolgung hinzu, um echte Anforderungen zu überwachen.

Problembehandlung

Angelegenheit Ursache Befehl
In der Warteschlange hängen geblieben Unzureichende GPU-Kapazität Probieren Sie alternative SKU oder Region aus
Schnelle Überanpassung Zu viele Epochen / kleines Dataset Reduzieren von Epochen oder Erweitern von Daten
Keine Metrikverbesserung Dataset-Rauschen /falsch ausgerichtetes Ziel Verfeinern der Beschriftung oder Metrikauswahl
Höhere Latenz nach der Bereitstellung Größerer Basismodell/Adapteraufwand Berücksichtigen Sie kleineres Basismodell oder optimieren Sie die Batchgröße.

Verwandte Inhalte

  • Last updated on