Hinweis
Für den Zugriff auf diese Seite ist eine Autorisierung erforderlich. Sie können versuchen, sich anzumelden oder das Verzeichnis zu wechseln.
Für den Zugriff auf diese Seite ist eine Autorisierung erforderlich. Sie können versuchen, das Verzeichnis zu wechseln.
Feinabstimmung passt ein vortrainiertes Modell durch zusätzliches Training mit aufgabenspezifischen Daten an Ihre Aufgabe an. Sie passt die Gewichtungen des Modells an, anstatt jeder Aufforderung Beispiele hinzuzufügen. Sie bauen auf den vorhandenen Funktionen des Modells auf, ohne ein Modell von Grund auf neu zu trainieren.
Feinabstimmung kann ihnen helfen, wenn Sie qualitativ hochwertige, aufgabenspezifische Schulungsdaten haben und folgendes möchten:
- Genauigkeit und Relevanz verbessern. Das Trainieren mit mehr Beispielen, als in einen Prompt passen, kann aufgabenspezifische Muster vermitteln.
- Prompt-Overhead reduzieren. Weniger Prompt-Beispiele können Tokenkosten und Latenz senken.
- Stil und Struktur ausrichten. Antworten können einem konsistenten Ton, Format oder Schema folgen.
- Optimieren Sie die Nutzung des Tools. Schulungsbeispiele können die Auswahl von Tools und die Argumentgenauigkeit verbessern.
- Nutzen Sie den abgerufenen Kontext effektiv. Modelle können lernen, relevante Kontext zu priorisieren und irrelevante Informationen zu ignorieren.
- Spezialisieren Sie ein kleineres Modell. Von Lehrkräften generierte Beispiele können dazu beitragen, dass ein kleineres Modell aufgabenanforderungen zu niedrigeren Kosten und geringerer Latenz erfüllt.
Vorteile werden nicht garantiert; die Held-out-Evaluierung hilft Ihnen dabei, das fein abgestimmte Modell mit Ihrer Baseline zu vergleichen. Feinabstimmung fügt Trainings- und Hostingkosten hinzu und ersetzt nicht den Abruf für aktuelle Informationen oder Sicherheitskontrollen auf Anwendungsebene.
Wählen Sie Ihren Schulungsansatz
Microsoft Foundry bietet zwei Schulungsansätze. Verwaltete Feinabstimmung führt einen Trainingsjob mit Ihren Daten und Einstellungen aus. Mit interaktiven Schulungen (Vorschau) können Sie Schulungsschritte in Python steuern.
Beide verwenden die von Foundry verwaltete Trainingsinfrastruktur; Sie stellen keine Training-GPUs bereit.
Note
Interaktive Schulungen befinden sich in der Vorschau und erfordern eine explizite Zugriffsgenehmigung. Fordern Sie den Zugriff über das Vorschau-Registrierungsformular an, und warten Sie vor dem Erstellen von Schulungssitzungen auf die Genehmigung.
| Verwaltete Feinabstimmung | Interaktive Schulung (Vorschau) | |
|---|---|---|
| So funktioniert es | Übermitteln Sie Daten und Einstellungen; Foundry führt den Trainingsjob aus. | Schreiben einer Python Schleife; Foundry führt Training- und Samplingvorgänge aus. |
| Ideal für | Anfänger und KI-Ingenieure, die vordefinierte Workflows gegenüber Trainingsoperationen auf niedrigerer Ebene vorziehen. | Erfahrene ML-Praktiker erstellen benutzerdefinierte Trainings-Workflows. |
| Ihre Steuerung | Daten, unterstützte Hyperparameter und RFT-Grader. | Verluste, Belohnungen, Rollouts, Gradientenakkumulation, Updates und Prüfpunkte. |
| Schulungsmethoden | Modellspezifische SFT, DPO und RFT; Destillation durch von einem Lehrermodell generierte SFT-Daten. | Rezepte für SFT, Verstärkungslernen, Präferenzlernen, Distillation und benutzerdefinierte Verluste. |
| Beispielanwendungsfälle | Destillieren Sie ein größeres Modell, lernen Sie von Supportunterhaltungen oder verbessern Sie Antworten mit einem Grader. | Sammeln Sie Toolverwendungsrollouts, wenden Sie benutzerdefinierte Rewards an, oder ändern Sie das Update- und Auswertungsverhalten der Schulungsschleife. |
Tip
Beginnen Sie mit der verwalteten Feinabstimmung, wenn Sie mit der Modellanpassung noch nicht vertraut sind. Sie stellt vordefinierte Workflows bereit, ohne dass Sie einzelne Schulungsvorgänge implementieren müssen.
Modellanforderungen können diese Auswahl einschränken. Ein Modell, das für einen Ansatz, eine Methode oder eine Modalität unterstützt ist, wird für eine andere nicht automatisch unterstützt. Die Cookbook-Rezeptunterstützung gewährleistet auch keine Dienstverfügbarkeit. Überprüfen Sie die nachstehende Tabelle der unterstützten Modelle auf verfügbare Kombinationen.
Anpassungsmethoden
Anpassungsmethoden bestimmen, wie ein Modell aus Schulungsdaten oder Feedback lernt, etwa in Form von gewünschten Antworten, Präferenzen oder Belohnungen.
| Methode | Trainingssignal | Wenn es passt |
|---|---|---|
| Überwachtes Fine-Tuning (SFT) | Eingabeaufforderungen und gewünschte Antworten. | Sie können das Verhalten demonstrieren, das das Modell erlernen sollte. |
| Präferenz-Feinabstimmung mithilfe der direkten Präferenzoptimierung (DPO) | Bevorzugte und abgelehnte Antworten auf dieselbe Eingabe. | Die Qualität hängt von den Vorlieben wie Ton oder Vollständigkeit ab, anstatt von einer richtigen Antwort. |
| Reinforcement-Fine-Tuning (RFT) | Aufforderungen und einen Grader, der generierte Antworten bewertet. | Mehrere Lösungen sind möglich, und Sie können ihre Qualität zuverlässig bewerten. |
Die vordefinierten Methoden in dieser Tabelle gelten nur für verwaltete Feinabstimmungen. Interaktive Schulung macht Trainingsprimitive zum Erstellen von benutzerdefinierten Schulungsworkflows verfügbar.
Schulungstypen
Schulungstypen definieren, wo Schulungen ausgeführt werden und wie Kapazitäts-, Preis- und Servicegarantien angewendet werden. Sie sind von Bereitstellungstypen getrennt, die bestimmen, wie Sie ein trainiertes Modell bereitstellen.
| Schulungstyp | Description |
|---|---|
| Standard | Die Schulung erfolgt in der Region der aktuellen Foundry-Ressource und bietet Garantien für die Datenresidenz. Ideal für Workloads, bei denen Daten in einer bestimmten Region verbleiben müssen. |
| Datenzone | Das Training erfolgt in einer unterstützten Datenzone anstelle einer einzelnen Region. Ideal für Workloads, bei denen Daten innerhalb dieser Zone verbleiben müssen. Derzeit wird nur die US-Datenzone unterstützt. |
| Global | Bietet erschwinglichere Preise im Vergleich zu Standard, indem Kapazitäten außerhalb Ihrer aktuellen Region genutzt werden. Daten und Gewichtungen werden in die Region kopiert, in der die Schulung stattfindet. Ideal, wenn die Datenresidenz keine Einschränkung ist und Sie kürzere Wartezeiten in der Warteschlange benötigen. |
| Developer | Bietet erhebliche Kosteneinsparungen durch die Verwendung der Leerlaufkapazität für Schulungen. Es gibt keine Latenz- oder SLA-Garantien, sodass Aufträge in dieser Stufe automatisch unterbrochen und später wieder aufgenommen werden können. Es gibt auch keine Garantien für die Datenresidenz. Ideal für Experimente und preissensitive Workloads. |
Bereitstellungsoptionen
Foundry bietet drei Bereitstellungsoptionen mit unterschiedlichen Bereitstellungsinfrastrukturen und Abrechnungsmodellen.
- Serverless: Foundry hostet das fein abgestimmte Modell und verwaltet die Bereitstellungsinfrastruktur.
- Verwaltete Compute (Vorschau): Dedizierte GPU-Kapazität führt ein übereinstimmendes Basismodell mit einem oder mehreren kompatiblen LoRA-Adaptern aus.
- Fireworks on Foundry (Vorschau): Die Fireworks-Laufzeit stellt einen Adapter bereit, der mit einer vollgewichtigen Kopie des Basismodells zusammengeführt wird.
Serverless und Fireworks bieten verschiedene Bereitstellungstypen, die die Verarbeitungsgeografie, Kapazität und das Abrechnungsmodell bestimmen. Die Verfügbarkeit hängt von dem Modell, der Bereitstellungsoption und dem Artefakt ab.
| Bereitstellungstyp | Description |
|---|---|
| Standard | Führt Inferenz in der Region der Bereitstellung mit Abrechnung pro Token und anwendbaren Hostinggebühren für feinabgestimmte Modelle aus. |
| Datenzonenstandard | Führt Inferenz innerhalb einer unterstützten Datenzone mit Abrechnung pro Token aus. Nur die US-Datenzone wird unterstützt. |
| Globaler Standard | Verwendet die globale Kapazität mit der Abrechnung pro Token. Benutzerdefinierte Modellgewichtungen können vorübergehend außerhalb der Geografie der Ressource gespeichert werden. |
| Developer | Führt Inferenz global aus mit Abrechnung pro Token und ohne stündliche Hostinggebühr oder Data-Residency-Garantie. Nur zur Bewertung; dauert 24 Stunden und hat keine SLA-Verfügbarkeit. |
| Bereitgestellter Durchsatz | Stellt regionale Kapazität bereit, die in bereitgestellten Durchsatzeinheiten (PTUs) für vorhersehbaren Durchsatz abgerechnet wird. |
| Global provisioniert | Verwendet globale Kapazität mit PTU-basierter Abrechnung für importierte benutzerdefinierte Modelle. |
Unterstützte Modelle
Ihre Anforderungen erfordern möglicherweise ein bestimmtes Modell oder einen bestimmten Schulungsansatz. Verwenden Sie die Tabelle, um zu überprüfen, welche Kombinationen von Ihrer Anpassungsmethode, dem Schulungstyp und der Bereitstellungsoption unterstützt werden.
Für unterstützte serverlose Bereitstellungen sind Global Standard, Data Zone Standard und Developer verfügbar, sofern nicht in der Legende anders angegeben. Überprüfen Sie Standardbereitstellungsregionen und Regionen für bereitgestellten Durchsatz für diese Bereitstellungstypen.
| Modell-ID | Approach | Schulungstypen | Bereitstellungsoptionen |
|---|---|---|---|
Muse-Glimmer-30B(Vorschau) |
Verwaltet: ✅ (SFT, RFT) Interaktiv: ✅ |
Standard: ❌ Datenzone: ❌ Global: ✅ Entwickler: ✅ |
Serverless: ❌ Verwaltete Compute: ✅ Feuerwerk: ✅1 |
Llama-3.3-70B-Instruct |
Verwaltet: ✅ (SFT) Interaktiv: ❌ |
Standard: ❌ Datenzone: ✅ Global: ✅ Entwickler: ❌ |
Serverless: ✅2 Verwaltete Compute: ❌ Feuerwerk: ❌ |
Qwen3-32B |
Verwaltet: ✅ (SFT) Interaktiv: ❌ |
Standard: ❌ Datenzone: ✅ Global: ✅ Entwickler: ❌ |
Serverless: ✅2 Verwaltete Compute: ❌ Feuerwerk: ❌ |
Qwen3.6-35B-A3B(Vorschau) |
Verwaltet: ✅ (SFT, RFT) Interaktiv: ✅ |
Standard: ❌ Datenzone: ❌ Global: ✅ Entwickler: ✅ |
Serverless: ❌ Verwaltete Compute: ✅ Feuerwerk: ✅1 |
Qwen3.8-27B(Vorschau) |
Verwaltet: ✅ (SFT, RFT) Interaktiv: ✅ |
Standard: ❌ Datenzone: ❌ Global: ✅ Entwickler: ✅ |
Serverless: ❌ Verwaltete Compute: ✅ Feuerwerk: ✅1 |
gpt-oss-20b |
Verwaltet: ✅ (SFT) Interaktiv: ✅ |
Standard: ❌ Datenzone: ✅ Global: ✅ Entwickler: ❌ |
Serverless: ✅2 Verwaltete Compute: ❌ Feuerwerk: ❌ |
gpt-oss-120b(Vorschau) |
Verwaltet: ✅ (SFT, RFT) Interaktiv: ✅ |
Standard: ❌ Datenzone: ❌ Global: ✅ Entwickler: ✅ |
Serverless: ❌ Verwaltete Compute: ✅ Feuerwerk: ✅1 |
Ministral-3B(2411) |
Verwaltet: ✅ (SFT) Interaktiv: ❌ |
Standard: ❌ Datenzone: ✅ Global: ✅ Entwickler: ❌ |
Serverless: ✅2 Verwaltete Compute: ❌ Feuerwerk: ❌ |
gpt-4o-mini(2024-07-18) |
Verwaltet: ✅ (SFT) Interaktiv: ❌ |
Standard: ✅ Datenzone: ✅ Global: ✅ Entwickler: ✅ |
Serverless: ✅5 Verwaltete Compute: ❌ Feuerwerk: ❌ |
gpt-4o(2024-08-06) |
Verwaltet: ✅ (SFT, DPO) Interaktiv: ❌ |
Standard: ✅ Datenzone: ✅ Global: ✅ Entwickler: ✅ |
Serverless: ✅5 Verwaltete Compute: ❌ Feuerwerk: ❌ |
gpt-4.1(2025-04-14) |
Verwaltet: ✅ (SFT, DPO) Interaktiv: ❌ |
Standard: ✅ Datenzone: ✅ Global: ✅ Entwickler: ✅ |
Serverless: ✅ Verwaltete Compute: ❌ Feuerwerk: ❌ |
gpt-4.1-mini(2025-04-14) |
Verwaltet: ✅ (SFT, DPO) Interaktiv: ❌ |
Standard: ✅ Datenzone: ✅ Global: ✅ Entwickler: ✅ |
Serverless: ✅ Verwaltete Compute: ❌ Feuerwerk: ❌ |
gpt-4.1-nano(2025-04-14) |
Verwaltet: ✅ (SFT, DPO) Interaktiv: ❌ |
Standard: ✅ Datenzone: ✅ Global: ✅ Entwickler: ✅ |
Serverless: ✅ Verwaltete Compute: ❌ Feuerwerk: ❌ |
o4-mini(2025-04-16) |
Verwaltet: ✅ (RFT) Interaktiv: ❌ |
Standard: ✅ Datenzone: ✅ Global: ✅ Entwickler: ✅ |
Serverless: ✅ Verwaltete Compute: ❌ Feuerwerk: ❌ |
gpt-5(2025-08-07)3 |
Verwaltet: ✅ (RFT) Interaktiv: ❌ |
Standard: ✅ Datenzone: ✅ Global: ✅ Entwickler: ❌ |
Serverless: ✅4 Verwaltete Compute: ❌ Feuerwerk: ❌ |
MedImageInsight-Premium(Vorschau) |
Verwaltet: ✅ (SFT) Interaktiv: ❌ |
Global | Serverless: ✅2 Verwaltete Compute: ❌ Feuerwerk: ❌ |
CXRReportgen-Premium(Vorschau) |
Verwaltet: ✅ (SFT) Interaktiv: ❌ |
Global | Serverless: ✅2 Verwaltete Compute: ❌ Feuerwerk: ❌ |
Legende
- 1 Nur der Bereitstellungstyp „Provisioned Throughput“ wird unterstützt.
- 2 Nur der globale Standardbereitstellungstyp wird unterstützt.
- 3 GPT-5 Verstärkungsoptimierung erfordert eine Einladung. Wenden Sie sich zur Registrierung an Ihr Microsoft-Account-Team.
- 4 Nur der Standardbereitstellungstyp wird unterstützt. Siehe Standardbereitstellungsregionen.
- 5 Entwicklerbereitstellungstyp wird nicht unterstützt.
Unterstützte globale Schulungsregionen
Note
Globales Training bietet kostengünstigeres Training pro Token, aber keine Datenresidenz.
In der Tabelle sind die Foundry-Projektregionen aufgeführt, die für die Verwendung von global verwaltetem Fine-Tuning und interaktiven Schulungen (Vorschau) erforderlich sind. Wählen Sie eine Region aus, die für Ihr Modell und Ihren Schulungsansatz unterstützt wird, einschließlich der unten aufgeführten Einschränkungen. Standard- und Datenzonenschulungen verfügen über separate regionale Unterstützung.
| Foundry-Projektregion | Verwaltete Feinabstimmung | Interaktive Schulung (Vorschau) |
|---|---|---|
| Australia East | ✅ | ✅ |
| Brazil South | ✅ 1 | ❌ |
| Canada Central | ✅ 1 | ❌ |
| Canada East | ✅ 1 | ✅ |
| East US | ✅ | ✅ |
| Ost-USA 2 | ✅ | ✅ |
| France Central | ✅ 1 | ❌ |
| Deutschland West Central | ✅ 1 | ❌ |
| Italy North | ✅ 1 | ❌ |
| Japan East | ✅ 1,2 | ❌ |
| Korea Central | ✅ | ✅ |
| Nord-Mittel-USA | ✅ | ✅ |
| Norway East | ✅ 1 | ❌ |
| Poland Central | ✅ 1,3 | ❌ |
| Südafrika Nord | ✅ 1 | ❌ |
| Süd-Mittel-USA | ✅ 1 | ❌ |
| South India | ✅ 1 | ❌ |
| Southeast Asia | ✅ 1 | ❌ |
| Spain Central | ✅ 1 | ❌ |
| Sweden Central | ✅ | ✅ |
| Switzerland North | ✅ | ✅ |
| Switzerland West | ✅ 1 | ❌ |
| UAE North | ✅ 4 | ✅ |
| UK South | ✅ | ✅ |
| West Europe | ✅ 1 | ❌ |
| West US | ✅ 1 | ❌ |
| Westliches USA 3 | ✅ | ✅ |
-
1 Verwaltete Feinabstimmung für
Qwen3.6-35B-A3B,Qwen3.8-27B,Muse-Glimmer-30Bundgpt-oss-120bwird in dieser Region nicht unterstützt. - 2 Vision Feinabstimmung wird in Japan Ost nicht unterstützt.
-
3 Verwaltete Feinabstimmung für
gpt-4.1-nanowird in Polen, Mitte nicht unterstützt. -
4 UAE North unterstützt globale verwaltete Feinabstimmung nur für
Qwen3.6-35B-A3B,Qwen3.8-27B,Muse-Glimmer-30Bundgpt-oss-120b.
Unterstützte Standardbereitstellungsregionen
Nur die folgenden Modelle unterstützen serverlose Standardbereitstellungen. Überprüfen Sie die regionale Verfügbarkeit in der Tabelle.
| Modell-ID | Ost-USA 2 | Nord-Mittel-USA | Sweden Central |
|---|---|---|---|
gpt-4o-mini |
❌ | ✅ | ✅ |
gpt-4o |
✅ | ❌ | ✅ |
gpt-4.1 |
❌ | ✅ | ✅ |
gpt-4.1-mini |
❌ | ✅ | ✅ |
gpt-4.1-nano |
❌ | ✅ | ✅ |
o4-mini |
✅ | ❌ | ✅ |
gpt-5 |
❌ | ✅ | ✅ |
Unterstützte Bereitstellungsregionen für den bereitgestellten Durchsatz
Nur die folgenden Modelle unterstützen serverlose Bereitstellungen von Provisioned Throughput in den aufgeführten Regionen.
| Modell-ID | Nord-Mittel-USA | Sweden Central |
|---|---|---|
gpt-4o-mini |
✅ | ✅ |
gpt-4o |
✅ | ✅ |
gpt-4.1 |
❌ | ✅ |
Herausforderungen und Einschränkungen
Feinabstimmung ist ein iterativer Engineering-Prozess, nicht eine garantierte Verbesserung.
| Herausforderung | So beheben Sie das Problem |
|---|---|
| Datenqualität und -abdeckung | Verwenden Sie genaue, konsistente, repräsentative Beispiele. Überprüfen Sie fehlende Szenarien, Duplikate, Verzerrungen und vertrauliche Informationen, bevor Sie Daten hochladen. |
| Overfitting und Evaluierungsleckage | Trennen Sie Schulungs-, Validierungs- und Abschlusstestdaten. Vergleichen Sie Prüfpunkte bei zurückgehaltenen Testaufgaben, nicht nur beim Trainingsverlust. |
| Irreführende Belohnungssignale | Testen Sie RFT-Grader anhand korrekter, falscher und adversarialer Antworten. Die steigende Belohnung weist nicht auf eine bessere Aufgabenleistung hin, wenn das Modell den Grader ausnutzt. |
| Experimente und Kosten | Budget für wiederholte Läufe, Benotung, Auswertung, Hosting und Inferenz. Beenden Sie Experimente, die die Zielmetrik nicht verbessern. |
| Modell- und Bereitstellungskompatibilität | Bestätigen Sie vor der Schulung Methode, Stufe, Version und die Berechtigung zur Bereitstellung. Ein Adapter ist nicht zwischen ähnlich benannten Basismodellen austauschbar. |
| Maintenance | Überprüfen Sie die Qualität, wenn Aufgabendaten geändert werden oder ein Basismodell sich dem Ruhestand nähert. Eine Umschulung und Versetzung können notwendig sein. |
| Sicherheit und Governance | Überprüfung der Datenverarbeitung und der verwalteten Sicherheitsbewertung. Halten Sie Sicherheitskontrollen auf Anwendungsebene, und bewerten Sie die endgültige Serving-Laufzeitumgebung. |
| Zuständigkeiten der interaktiven Laufzeit | Pflegen Sie Ihren Driver, Umgebungen, Tokenisierung, Prüfpunkte und Wiederherstellungslogik. Das Sampling in einer Sitzung ist kein Beweis für das Verhalten der produktiven Bereitstellung. |
Nächste Schritte
Beginnen Sie mit dem Leitfaden für Ihren Trainingsansatz, und stellen Sie dann Ihr feinabgestimmtes Modell bereit und bewerten Sie es.
- Passen Sie ein Modell mit überwachter Feinabstimmung an.
- Passen Sie ein Modell mit direkter Präferenzoptimierung an.
- Passen Sie ein Modell mit Feinabstimmung mit Reinforcement Learning an.
- Beginnen Sie mit interaktiven Schulungen.
- Passen Sie ein Premium-KI-Modell für das Gesundheitswesen an.
- Stellen Sie fein abgestimmte Modelle bereit.
- Führen Sie Auswertungen aus dem Foundry-Portal aus.
- Entdecken Sie Fine-Tuning-Beispiele auf GitHub.