Dostrajanie w narzędziu Microsoft Foundry

Dostrajanie dostosowuje wstępnie wytrenowany model do zadania poprzez dodatkowe szkolenie na danych specyficznych dla zadania. Dostosowuje wagi modelu zamiast dodawać przykłady do każdego promptu. Bazujesz na istniejących możliwościach modelu bez trenowania modelu od podstaw.

Precyzyjne dostrajanie może pomóc, gdy masz wysokiej jakości dane treningowe specyficzne dla zadań i chcesz:

  • Zwiększ dokładność i istotność. Trenowanie na większej liczbie przykładów, niż mieści się w prompcie, może uczyć wzorców specyficznych dla zadań.
  • Zmniejsz narzut promptu. Mniej przykładów promptów może obniżyć koszty tokenów i opóźnienie.
  • Wyrównaj styl i strukturę. Odpowiedzi mogą być zgodne ze spójnym tonem, formatem lub schematem.
  • Usprawnij korzystanie z narzędzi. Przykłady szkoleniowe mogą poprawić dokładność doboru narzędzi i argumentów.
  • Efektywnie używaj pobranego kontekstu. Modele mogą nauczyć się określać priorytety odpowiedniego kontekstu i ignorować nieistotne informacje.
  • Specjalizuj mniejszy model. Przykłady wygenerowane przez model nauczycielski mogą pomóc mniejszemu modelowi spełnić wymagania dotyczące zadań przy niższych kosztach i opóźnieniach.

Korzyści nie są gwarantowane; ocena na zbiorze odłożonym ułatwia porównanie dostosowanego modelu z punktem odniesienia. Dostrajanie zwiększa koszty szkolenia i hostingu i nie zastępuje pobierania bieżących informacji ani mechanizmów kontroli bezpieczeństwa na poziomie aplikacji.

Wybierz podejście do szkolenia

Microsoft Foundry oferuje dwa podejścia szkoleniowe. Zarządzane dostrajanie umożliwia uruchomienie zadania szkoleniowego na podstawie danych i ustawień. Trening interaktywny (wersja zapoznawcza) umożliwia kontrolowanie etapów treningu w języku Python.

Obie korzystają z infrastruktury szkoleniowej zarządzanej przez platformę Foundry; nie prowizjonujesz procesorów GPU na potrzeby trenowania.

Note

Interaktywne szkolenie jest dostępne w wersji zapoznawczej i wymaga jawnego zatwierdzenia dostępu. Zażądaj dostępu za pośrednictwem formularza rejestracji w wersji zapoznawczej i poczekaj na zatwierdzenie przed utworzeniem sesji szkoleniowych.

Zarządzane dostrajanie Interaktywne szkolenie (wersja zapoznawcza)
Jak to działa Prześlij dane i ustawienia; Narzędzie Foundry uruchamia zadanie trenowania. Napisz pętlę w Pythonie; Usługa Foundry wykonuje operacje trenowania i próbkowania.
Najlepsze dla Początkujący i inżynierowie sztucznej inteligencji, którzy preferują wstępnie zdefiniowane przepływy pracy zamiast operacji trenowania niskiego poziomu. Doświadczeni praktycy uczenia maszynowego tworzący niestandardowe przepływy pracy trenowania.
Kontrolka Dane, obsługiwane hiperparametry i oceniające RFT. Straty, nagrody, wdrożenia, akumulacja gradientu, aktualizacje i punkty kontrolne.
Metody trenowania SFT, DPO i RFT specyficzne dla modelu; destylowanie za pomocą danych SFT generowanych przez nauczycieli. Instrukcje dotyczące SFT, uczenia ze wzmocnieniem, uczenia preferencji, destylowania i strat niestandardowych.
Przykładowe przypadki użycia Destyluj większy model, naucz się od rozmów pomocy technicznej lub popraw odpowiedzi za pomocą klasyra. Zbieranie wdrożeń użycia narzędzi, stosowanie nagród niestandardowych lub zmienianie zachowania aktualizacji pętli treningowej i oceny.

Tip

Zacznij od zarządzanego dostrajania, jeśli dopiero zaczynasz dostosowywać model. Zapewnia wstępnie zdefiniowane przepływy pracy bez konieczności implementowania poszczególnych operacji szkoleniowych.

Wymagania dotyczące modelu mogą ograniczać ten wybór. Model obsługiwany dla jednego podejścia, metody lub modalności nie jest automatycznie obsługiwany dla innego. Obsługa przepisów książki kucharskiej również nie ustanawia dostępności usługi. Zapoznaj się z poniższą tabelą obsługiwanych modeli, aby sprawdzić dostępne kombinacje.

Metody dostosowywania

Metody dostosowywania określają, jak model uczy się na podstawie danych treningowych lub opinii, takich jak żądane odpowiedzi, preferencje lub nagrody.

Method Sygnał treningowy Kiedy pasuje
Nadzorowane dostrajanie (SFT) Polecenia i żądane odpowiedzi. Możesz zademonstrować zachowanie, którego model powinien się nauczyć.
Dostosowywanie preferencji przy użyciu optymalizacji preferencji bezpośrednich (DPO) Preferowane i odrzucone odpowiedzi na te same dane wejściowe. Jakość zależy od preferencji, takich jak ton lub kompletność, a nie od jednej poprawnej odpowiedzi.
Dostrajanie z użyciem uczenia przez wzmacnianie (RFT) Polecenia i moduł oceny, który ocenia wygenerowane odpowiedzi. Możliwe jest wiele rozwiązań i można niezawodnie ocenić ich jakość.

Wstępnie zdefiniowane metody w tej tabeli mają zastosowanie tylko do zarządzanego dostrajania. Interaktywne uczenie udostępnia prymitywy uczenia do tworzenia niestandardowych przepływów pracy.

Typy szkolenia

Typy szkoleń określają, gdzie odbywa się szkolenie oraz jak mają zastosowanie gwarancje dotyczące mocy, cen i usług. Są one odrębne od typów wdrożeń, które określają sposób udostępniania wytrenowanego modelu.

Typ trenowania Description
Standard Trenowanie odbywa się w bieżącym regionie zasobu foundry i zapewnia gwarancje dotyczące rezydencji danych. Idealne rozwiązanie w przypadku obciążeń, w których dane muszą pozostać w określonym regionie.
Strefa danych Trenowanie odbywa się w obsługiwanej strefie danych, a nie w jednym regionie. Idealne rozwiązanie w przypadku obciążeń, w których dane muszą pozostać w tej strefie. Obecnie obsługiwana jest tylko strefa danych US.
Global Zapewnia bardziej przystępne ceny w porównaniu z warstwą Standard dzięki wykorzystaniu pojemności poza bieżącym regionem. Dane i wagi są kopiowane do regionu, w którym odbywa się trenowanie. Idealne rozwiązanie, jeśli miejsce przechowywania danych nie jest ograniczeniem i chcesz przyspieszyć czasy kolejki.
Deweloper Zapewnia znaczne oszczędności kosztów dzięki wykorzystaniu niewykorzystanych zasobów na potrzeby trenowania. Nie ma gwarancji dotyczących opóźnień ani gwarancji SLA, więc zadania w tym poziomie mogą zostać automatycznie wstrzymane i wznowione później. Nie ma żadnych gwarancji dotyczących rezydencji danych. Idealne rozwiązanie do eksperymentowania i obciążeń wrażliwych na ceny.

Opcje wdrażania

Platforma Foundry oferuje trzy opcje wdrażania z różnymi modelami infrastruktury obsługującej i modelami rozliczeń.

  • Serverless: usługa Foundry hostuje dostosowany model i zarządza infrastrukturą serwowania modelu.
  • Zarządzane zasoby obliczeniowe (wersja zapoznawcza): Dedykowane zasoby GPU obsługują pasujący model podstawowy z co najmniej jednym zgodnym adapterem LoRA.
  • Fireworks w usłudze Foundry (wersja zapoznawcza): środowisko uruchomieniowe Fireworks obsługuje jeden adapter scalony z pełną kopią wag modelu podstawowego.

Serverless i Fireworks oferują różne typy wdrożeń, które określają lokalizację geograficzną przetwarzania, pojemność i model rozliczeń. Dostępność zależy od modelu, opcji wdrożenia i artefaktu.

Typ wdrożenia Description
Standard Uruchamia wnioskowanie w regionie wdrożenia z rozliczeniami za token i odpowiednimi opłatami za hosting modelu dostrojonego.
Standard Strefy Danych Umożliwia wnioskowanie w obsługiwanej strefie danych z rozliczaniem za token. Obsługiwana jest tylko strefa danych USA.
Standardowa globalna Korzysta z globalnej przepustowości z rozliczaniem za token. Niestandardowe wagi modelu mogą być tymczasowo przechowywane poza regionem zasobu.
Deweloper Uruchamia wnioskowanie globalnie z rozliczaniem za token i bez godzinowej opłaty za hosting ani gwarancji rezydencji danych. Tylko do oceny; trwa 24 godziny i nie ma umowy SLA dotyczącej dostępności.
Aprowizowana przepływność Zapewnia pojemność regionalną rozliczaną w jednostkach aprowizowanej przepływności (PTU) dla przewidywalnej przepływności.
Globalne provisionowanie Korzysta z pojemności globalnej z rozliczaniem opartym na jednostkach PTU dla importowanych modeli niestandardowych.

Obsługiwane modele

Wymagania mogą wymagać określonego modelu lub podejścia szkoleniowego. Użyj tabeli, aby sprawdzić, które kombinacje obsługują metodę dostosowania, typ szkolenia i opcję wdrożenia.

W przypadku obsługiwanych wdrożeń bezserwerowych usługi Global Standard, Standard strefy danych i Developer są dostępne, chyba że legenda wskazuje inaczej. Sprawdź regiony wdrażania w warstwie Standard i Regiony wdrażania aprowizowanej przepływności dla tych typów wdrożeń.

Identyfikator modelu Approach Typy szkolenia Opcje wdrażania
MAI-Code-1.1-Flash
(wersja zapoznawcza)		 Zarządzane: ✅ (RFT)
Interaktywny: ❌		 Standard: ❌
Strefa danych: ❌
Global: ✅
Deweloper: ✅		 Serverless: ✅2
Zarządzane zasoby obliczeniowe: ❌
Fajerwerki: ❌
Muse-Glimmer-30B
(wersja zapoznawcza)		 Zarządzane: ✅ (SFT, RFT)
Interaktywny: ✅		 Standard: ❌
Strefa danych: ❌
Global: ✅
Deweloper: ✅		 Serverless: ❌
Zarządzane zasoby obliczeniowe: ✅
Fajerwerki: ✅1
Llama-3.3-70B-Instruct Zarządzane: ✅ (SFT)
Interaktywny: ❌		 Standard: ❌
Strefa danych: ✅
Global: ✅
Deweloper: ❌		 Serverless: ✅2
Zarządzane zasoby obliczeniowe: ❌
Fajerwerki: ❌
Qwen3-32B Zarządzane: ✅ (SFT)
Interaktywny: ❌		 Standard: ❌
Strefa danych: ✅
Global: ✅
Deweloper: ❌		 Serverless: ✅2
Zarządzane zasoby obliczeniowe: ❌
Fajerwerki: ❌
Qwen3.6-35B-A3B
(wersja zapoznawcza)		 Zarządzane: ✅ (SFT, RFT)
Interaktywny: ✅		 Standard: ❌
Strefa danych: ❌
Global: ✅
Deweloper: ✅		 Serverless: ❌
Zarządzane zasoby obliczeniowe: ✅
Fajerwerki: ✅1
Qwen3.8-27B
(wersja zapoznawcza)		 Zarządzane: ✅ (SFT, RFT)
Interaktywny: ✅		 Standard: ❌
Strefa danych: ❌
Global: ✅
Deweloper: ✅		 Serverless: ❌
Zarządzane zasoby obliczeniowe: ✅
Fajerwerki: ✅1
gpt-oss-20b Zarządzane: ✅ (SFT)
Interaktywny: ✅		 Standard: ❌
Strefa danych: ✅
Global: ✅
Deweloper: ❌		 Serverless: ✅2
Zarządzane zasoby obliczeniowe: ❌
Fajerwerki: ❌
gpt-oss-120b
(wersja zapoznawcza)		 Zarządzane: ✅ (SFT, RFT)
Interaktywny: ✅		 Standard: ❌
Strefa danych: ❌
Global: ✅
Deweloper: ✅		 Serverless: ❌
Zarządzane zasoby obliczeniowe: ✅
Fajerwerki: ✅1
Ministral-3B
(2411)		 Zarządzane: ✅ (SFT)
Interaktywny: ❌		 Standard: ❌
Strefa danych: ✅
Global: ✅
Deweloper: ❌		 Serverless: ✅2
Zarządzane zasoby obliczeniowe: ❌
Fajerwerki: ❌
gpt-4o-mini
(2024-07-18)		 Zarządzane: ✅ (SFT)
Interaktywny: ❌		 Standard: ✅
Strefa danych: ✅
Global: ✅
Deweloper: ✅		 Bezserwerowy: ✅5
Zarządzane zasoby obliczeniowe: ❌
Fajerwerki: ❌
gpt-4o
(2024-08-06)		 Zarządzane: ✅ (SFT, DPO)
Interaktywny: ❌		 Standard: ✅
Strefa danych: ✅
Global: ✅
Deweloper: ✅		 Bezserwerowy: ✅5
Zarządzane zasoby obliczeniowe: ❌
Fajerwerki: ❌
gpt-4.1
(2025-04-14)		 Zarządzane: ✅ (SFT, DPO)
Interaktywny: ❌		 Standard: ✅
Strefa danych: ✅
Global: ✅
Deweloper: ✅		 Serverless: ✅
Zarządzane zasoby obliczeniowe: ❌
Fajerwerki: ❌
gpt-4.1-mini
(2025-04-14)		 Zarządzane: ✅ (SFT, DPO)
Interaktywny: ❌		 Standard: ✅
Strefa danych: ✅
Global: ✅
Deweloper: ✅		 Serverless: ✅
Zarządzane zasoby obliczeniowe: ❌
Fajerwerki: ❌
gpt-4.1-nano
(2025-04-14)		 Zarządzane: ✅ (SFT, DPO)
Interaktywny: ❌		 Standard: ✅
Strefa danych: ✅
Global: ✅
Deweloper: ✅		 Serverless: ✅
Zarządzane zasoby obliczeniowe: ❌
Fajerwerki: ❌
o4-mini
(2025-04-16)		 Zarządzane: ✅ (RFT)
Interaktywny: ❌		 Standard: ✅
Strefa danych: ✅
Global: ✅
Deweloper: ✅		 Serverless: ✅
Zarządzane zasoby obliczeniowe: ❌
Fajerwerki: ❌
gpt-5
(07.08.2025)3		 Zarządzane: ✅ (RFT)
Interaktywny: ❌		 Standard: ✅
Strefa danych: ✅
Global: ✅
Deweloper: ❌		 Bezserwerowy: ✅4
Zarządzane zasoby obliczeniowe: ❌
Fajerwerki: ❌
MedImageInsight-Premium
(wersja zapoznawcza)		 Zarządzane: ✅ (SFT)
Interaktywny: ❌		 Global Serverless: ✅2
Zarządzane zasoby obliczeniowe: ❌
Fajerwerki: ❌
CXRReportgen-Premium
(wersja zapoznawcza)		 Zarządzane: ✅ (SFT)
Interaktywny: ❌		 Global Serverless: ✅2
Zarządzane zasoby obliczeniowe: ❌
Fajerwerki: ❌

Legenda

  • 1 Obsługiwany jest tylko typ wdrożenia Provisioned Throughput.
  • 2 Obsługiwany jest tylko typ wdrożenia Global Standard.
  • 3 Dostrajanie ze wzmocnieniem GPT-5 wymaga zaproszenia. Skontaktuj się z zespołem ds. obsługi konta Microsoft w sprawie rejestracji.
  • 4 Obsługiwany jest tylko standardowy typ wdrożenia. Zobacz Standardowe regiony wdrożenia.
  • 5 Typ wdrożenia dewelopera nie jest obsługiwany.

Obsługiwane globalne regiony szkoleniowe

Note

Globalne szkolenie zapewnia bardziej przystępne cenowo szkolenie na token, ale nie oferuje rezydencji danych.

W tabeli wymieniono regiony projektu Foundry wymagane do korzystania z globalnego dostrajania zarządzanego i interaktywnego trenowania (wersja zapoznawcza). Wybierz region obsługiwany dla modelu i podejścia szkoleniowego, w tym poniższe ograniczenia. Szkolenia dla Standard i Data zone mają oddzielne wsparcie regionalne.

Region projektu foundry Zarządzane dostrajanie Interaktywne szkolenie (wersja zapoznawcza)
Australia Wschodnia ✅ ✅
Brazylia Południowa ✅ 1 ❌
Kanada Środkowa ✅ 1 ❌
Kanada Wschodnia ✅ 1 ✅
Wschodnie stany USA ✅ ✅
Wschodnie stany USA 2 ✅ ✅
Francja Środkowa ✅ 1 ❌
Niemcy Środkowo-Zachodnie ✅ 1 ❌
Włochy Północne ✅ 1 ❌
Japonia Wschodnia ✅ 1,2 ❌
Korea Środkowa ✅ ✅
Północno-środkowe stany USA ✅ ✅
Norwegia Wschodnia ✅ 1 ❌
Polska Środkowa ✅ 1,3 ❌
Północna Republika Południowej Afryki ✅ 1 ❌
Południowo-środkowe stany USA ✅ 1 ❌
Indie Południowe ✅ 1 ❌
Azja Południowo-Wschodnia ✅ 1 ❌
Hiszpania Środkowa ✅ 1 ❌
Szwecja Środkowa ✅ ✅
Szwajcaria Północna ✅ ✅
Szwajcaria Zachodnia ✅ 1 ❌
Północne Zjednoczone Emiraty Arabskie ✅ 4 ✅
Południowe Zjednoczone Królestwo ✅ ✅
Europa Zachodnia ✅ 1 ❌
Zachodnie stany USA ✅ 1 ❌
Zachodnie stany USA 3 ✅ ✅
  • 1 Zarządzane dostrajanie dla Qwen3.6-35B-A3B, , Muse-Glimmer-30BQwen3.8-27Bi gpt-oss-120b nie jest obsługiwane w tym regionie.
  • 2 Dostrajanie obrazów nie jest obsługiwane w Japonii Wschodniej.
  • 3 Zarządzane dostrajanie gpt-4.1-nano nie jest obsługiwane w Polsce Środkowej.
  • 4 Zjednoczone Emiraty Arabskie North obsługuje globalne dostrajanie tylko dla Qwen3.6-35B-A3B, Qwen3.8-27B, Muse-Glimmer-30Bi gpt-oss-120b.

Obsługiwane regiony wdrażania w warstwie Standardowa

Tylko poniższe modele obsługują wdrożenia bezserwerowe w warstwie Standardowa. Sprawdź dostępność regionalną w tabeli.

Identyfikator modelu Wschodnie stany USA 2 Północno-środkowe stany USA Szwecja Środkowa
gpt-4o-mini ❌ ✅ ✅
gpt-4o ✅ ❌ ✅
gpt-4.1 ❌ ✅ ✅
gpt-4.1-mini ❌ ✅ ✅
gpt-4.1-nano ❌ ✅ ✅
o4-mini ✅ ❌ ✅
gpt-5 ❌ ✅ ✅

Obsługiwane regiony wdrażania aprowizowanej przepustowości

Tylko poniższe modele obsługują wdrożenia bezserwerowej aprowizowanej przepływności w wymienionych regionach.

Identyfikator modelu Północno-środkowe stany USA Szwecja Środkowa
gpt-4o-mini ✅ ✅
gpt-4o ✅ ✅
gpt-4.1 ❌ ✅

Wyzwania i ograniczenia

Dostrajanie jest procesem iteracyjnym, a nie gwarantowanym ulepszeniem.

Wyzwanie Jak rozwiązać ten problem
Jakość i pokrycie danych Używaj dokładnych, spójnych, reprezentatywnych przykładów. Przed przekazaniem danych sprawdź brakujące scenariusze, duplikaty, stronniczy i poufne informacje.
Nadmierne dopasowanie i wyciek oceny Oddzielne dane szkoleniowe, walidacji i końcowego testu. Porównaj checkpointy dotyczące zadań wydzielonych, a nie tylko straty treningowej.
Mylące sygnały dotyczące nagród Przetestuj oceniające moduły RFT pod kątem poprawnych, niepoprawnych i adwersarialnych odpowiedzi. Rosnąca nagroda nie prowadzi do lepszej wydajności zadań, jeśli model wykorzystuje mechanizm oceny.
Eksperymentowanie i koszty Budżet na powtarzające się przebiegi, ocenianie, ocenę, hosting i inferencję. Zatrzymaj eksperymenty, które nie poprawiają metryki docelowej.
Zgodność modelu i serwowania Przed rozpoczęciem trenowania potwierdź metodę, warstwę, wersję i uprawnienia do wdrożenia. Adapter nie jest kompatybilny między podobnie nazwanymi modelami podstawowymi.
Maintenance Ponowne oceny jakości w miarę zmian danych zadań lub przechodzenia modelu podstawowego na emeryturę. Konieczne może być ponowne trenowanie i ponowne wdrażanie.
Bezpieczeństwo i ład Przejrzyj obsługę danych i ocenę bezpieczeństwa zarządzanego. Zachowaj mechanizmy kontroli bezpieczeństwa na poziomie aplikacji i oceń końcowe środowisko uruchomieniowe serwujące.
Obowiązki interakcyjnego środowiska uruchomieniowego Zachowaj drivera, środowiska, tokenizację, punkty kontrolne i logikę odzyskiwania. Próbkowanie w sesji nie jest dowodem zachowania systemu obsługującego ruch w środowisku produkcyjnym.

Następne kroki

Zacznij od przewodnika dotyczącego podejścia do trenowania, a następnie wdróż i oceń model dostrojony.

  • Ostatnia aktualizacja o