Microsoft Foundry での微調整

微調整では、タスク固有のデータに対する追加のトレーニングを通じて、事前トレーニング済みのモデルをタスクに適応させます。 各プロンプトに例を追加するのではなく、モデルの重みを調整します。 モデルをゼロからトレーニングすることなく、モデルの既存の機能を活用して構築できます。

ファインチューニングは、高品質でタスク固有のトレーニング データがあり、次のことを行いたい場合に役立ちます。

  • 精度と関連性を向上させます。 プロンプトに収まらない多くの例に関するトレーニングでは、タスク固有のパターンを学習させることができます。
  • プロンプトのオーバーヘッドを削減 プロンプトの例が少ないほど、トークンのコストと待機時間が短縮されます。
  • スタイルと構造を揃えます。 応答は、一貫したトーン、形式、またはスキーマに従うことができます。
  • ツールの使用を改善する。 学習例では、ツールの選択と引数の正確性を向上させることができます。
  • 取得したコンテキストを効果的に使用します。 モデルは、関連するコンテキストに優先順位を付け、無関係な情報を無視することを学習できます。
  • より小さいモデルに特化します。 教師が生成した例は、小規模なモデルがタスクの要件を満たすのに役立ち、コストと待機時間を短縮できます。

利点は保証されません。ホールドアウト評価は、微調整されたモデルとベースラインを比較するのに役立ちます。 微調整により トレーニングとホスティングのコスト が追加されますが、最新情報を得るための検索や、アプリケーション レベルの安全制御に取って代わるものではありません。

トレーニング アプローチを選択する

Microsoft Foundry には、2 つのトレーニング アプローチがあります。 マネージド 微調整では 、データと設定からトレーニング ジョブが実行されます。 対話型トレーニング (プレビュー) を使用すると、Pythonでトレーニング手順を制御できます。

どちらも Foundry で管理されるトレーニング インフラストラクチャを使用します。トレーニング GPU をプロビジョニングする必要はありません。

Note

対話型トレーニングはプレビュー段階であり、明示的なアクセス承認が必要です。 プレビュー サインアップ フォームを使用してアクセスを要求し、トレーニング セッションを作成する前に承認を待ちます。

マネージド ファインチューニング 対話型トレーニング (プレビュー)
どのように機能するのか データと設定を送信します。Foundry はトレーニング ジョブを実行します。 Python ループを記述する。Foundry はトレーニング操作とサンプリング操作を実行します。
最適な用途 低レベルのトレーニング操作よりも定義済みのワークフローを好む初心者および AI エンジニア。 カスタム トレーニング ワークフローを構築する経験豊富な ML 実務者
あなたのコントロール データ、サポート対象のハイパーパラメーター、および RFT のグレーダー。 損失、報酬、ロールアウト、勾配累積、更新、チェックポイント。
トレーニング方法 モデル固有の SFT、DPO、RFT。教師が生成した SFT データを使用した蒸留。 SFT、強化学習、選好学習、蒸留、およびカスタム損失のレシピ。
ユース ケースの例 より大きなモデルから蒸留したり、サポート会話から学習したり、グレーダーで応答を改善したりします。 ツールを使用したロールアウトの収集、カスタム報酬の適用、トレーニング ループの更新と評価の動作の変更。

Tip

モデルのカスタマイズが初めての場合は、マネージド ファインチューニングから始めます。 個別のトレーニング操作を実装する必要なく、定義済みのワークフローが提供されます。

モデルの要件により、この選択が制限される可能性があります。 1 つのアプローチ、メソッド、またはモダリティでサポートされているモデルは、別の方法では自動的にサポートされません。 Cookbook レシピのサポートでは、サービスの利用可否も示すものではありません。 使用可能な組み合わせについては、以下 のサポートされているモデルの表 を確認してください。

カスタマイズ メソッド

カスタマイズ方法は、モデルがトレーニング データやフィードバック (必要な応答、好み、報酬など) から学習する方法を決定します。

Method 訓練信号 適している場合
教師ありファインチューニング (SFT) プロンプトと必要な応答。 モデルが学習する必要がある動作を示すことができます。
直接選好最適化(DPO)を使用した選好の微調整 同じ入力に対する望ましい応答と拒否応答。 品質は、1 つの正解ではなく、トーンや完全性などの好みによって異なります。
強化ファインチューニング (RFT) プロンプトと、生成された応答を採点するグレーダー。 複数の解決策が考えられ、その品質を確実にスコア付けできます。

この表の定義済みのメソッドは、マネージド微調整にのみ適用されます。 対話型トレーニングでは、カスタム トレーニング ワークフローを構築するためのトレーニング プリミティブを提供します。

トレーニングの種類

トレーニングの種類は、トレーニングの実行場所と、容量、価格、サービスの保証がどのように適用されるかを定義します。 これらはデプロイの種類とは別であり、デプロイの種類はトレーニング済みモデルの提供方法を決定します。

トレーニングの種類 Description
Standard トレーニングは、現在の Foundry リソースのリージョンで行われ、データ レジデンシーが保証されます。 特定のリージョンにデータを保持する必要があるワークロードに最適です。
データゾーン トレーニングは、1 つのリージョンではなく、サポートされているデータ ゾーン内で行われます。 データがそのゾーン内に残る必要があるワークロードに最適です。 現在サポートされているのは、米国のデータ ゾーンのみです。
グローバル 現在のリージョン外のキャパシティを使用して、Standard と比較してより手頃な価格を提供します。 データと重みは、トレーニングが行われるリージョンにコピーされます。 データ所在地が制限ではなく、より高速なキュー時間が必要な場合に最適です。
Developer トレーニングにアイドル容量を使用することで、大幅なコスト削減を実現します。 待機時間や SLA の保証がないため、このレベルのジョブは自動的に割り込まれたり、後で再開されたりする可能性があります。 データ所在地の保証もありません。 実験や価格重視のワークロードに最適です。

配置オプション

Foundry には、サービス インフラストラクチャと課金モデルが異なる 3 つのデプロイ オプションが用意されています。

  • サーバーレス: Foundry は、微調整されたモデルをホストし、サービング基盤を管理します。
  • マネージド コンピューティング (プレビュー): 専用 GPU 容量は、互換性のある 1 つ以上の LoRA アダプターを使用して、一致する基本モデルを実行します。
  • Foundry 上の Fireworks (プレビュー): Fireworks ランタイムは、基本モデルのフルウェイト コピーにマージされた 1 つのアダプターを提供します。

サーバーレスとFireworksでは、さまざまなデプロイの種類が提供され、処理地域、容量、課金モデルが決まります。 可用性は、モデル、デプロイ オプション、成果物によって異なります。

展開の種類 Description
Standard デプロイのリージョンで、トークンごとの課金が適用され、該当する微調整済みモデルのホスティング料金が発生する条件で推論を実行します。
データ ゾーン標準 トークンごとの課金を使用して、サポートされているデータ ゾーン内で推論を実行します。 米国のデータ ゾーンのみがサポートされています。
グローバル標準 トークンごとの課金でグローバル容量を使用します。 カスタム モデルの重みは、リソースのリージョン外に一時的に格納される場合があります。
Developer トークンごとの課金と、時間単位のホスティング料金やデータレジデンシー保証なしで、推論をグローバルに実行します。 評価目的のみ。これは24時間有効で、可用性 SLA はありません。
設定済みスループット 予測可能なスループットを実現するために、プロビジョニング済みスループット ユニット (PTU) で請求されるリージョン容量を提供します。
グローバルに設定済み インポートされたカスタム モデルに対して PTU ベースの課金でグローバル容量を使用します。

サポートされているモデル

要件には、特定のモデルまたはトレーニングアプローチが必要な場合があります。 この表を使用して、カスタマイズ方法、トレーニングの種類、デプロイ オプションをサポートしている組み合わせを確認してください。

サポートされているサーバーレス展開では、凡例に別の記載がない限り、Global Standard、Data Zone Standard、Developer を使用できます。 これらのデプロイの種類については、 Standard デプロイ リージョン と プロビジョニング スループット デプロイ リージョン を確認してください。

モデル ID Approach トレーニングの種類 配置オプション
Muse-Glimmer-30B
(プレビュー)
マネージド: ✅ (SFT、RFT)
対話型: ✅
標準: ❌
データ ゾーン: ❌
グローバル: ✅
開発者: ✅
サーバーレス: ❌
マネージド コンピューティング: ✅
花火: ✅1
Llama-3.3-70B-Instruct 管理対象: ✅ (SFT)
対話型: ❌
標準: ❌
データ ゾーン: ✅
グローバル: ✅
開発者: ❌
サーバーレス: ✅2
マネージド コンピューティング: ❌
花火: ❌
Qwen3-32B 管理対象: ✅ (SFT)
対話型: ❌
標準: ❌
データ ゾーン: ✅
グローバル: ✅
開発者: ❌
サーバーレス: ✅2
マネージド コンピューティング: ❌
花火: ❌
Qwen3.6-35B-A3B
(プレビュー)
マネージド: ✅ (SFT、RFT)
対話型: ✅
標準: ❌
データ ゾーン: ❌
グローバル: ✅
開発者: ✅
サーバーレス: ❌
マネージド コンピューティング: ✅
花火: ✅1
Qwen3.8-27B
(プレビュー)
マネージド: ✅ (SFT、RFT)
対話型: ✅
標準: ❌
データ ゾーン: ❌
グローバル: ✅
開発者: ✅
サーバーレス: ❌
マネージド コンピューティング: ✅
花火: ✅1
gpt-oss-20b 管理対象: ✅ (SFT)
対話型: ✅
標準: ❌
データ ゾーン: ✅
グローバル: ✅
開発者: ❌
サーバーレス: ✅2
マネージド コンピューティング: ❌
花火: ❌
gpt-oss-120b
(プレビュー)
マネージド: ✅ (SFT、RFT)
対話型: ✅
標準: ❌
データ ゾーン: ❌
グローバル: ✅
開発者: ✅
サーバーレス: ❌
マネージド コンピューティング: ✅
花火: ✅1
Ministral-3B
(2411)
管理対象: ✅ (SFT)
対話型: ❌
標準: ❌
データ ゾーン: ✅
グローバル: ✅
開発者: ❌
サーバーレス: ✅2
マネージド コンピューティング: ❌
花火: ❌
gpt-4o-mini
(2024-07-18)
管理対象: ✅ (SFT)
対話型: ❌
標準: ✅
データ ゾーン: ✅
グローバル: ✅
開発者: ✅
サーバーレス: ✅5
マネージド コンピューティング: ❌
花火: ❌
gpt-4o
(2024-08-06)
マネージド: ✅ (SFT、DPO)
対話型: ❌
標準: ✅
データ ゾーン: ✅
グローバル: ✅
開発者: ✅
サーバーレス: ✅5
マネージド コンピューティング: ❌
花火: ❌
gpt-4.1
(2025-04-14)
マネージド: ✅ (SFT、DPO)
対話型: ❌
標準: ✅
データ ゾーン: ✅
グローバル: ✅
開発者: ✅
サーバーレス: ✅
マネージド コンピューティング: ❌
花火: ❌
gpt-4.1-mini
(2025-04-14)
マネージド: ✅ (SFT、DPO)
対話型: ❌
標準: ✅
データ ゾーン: ✅
グローバル: ✅
開発者: ✅
サーバーレス: ✅
マネージド コンピューティング: ❌
花火: ❌
gpt-4.1-nano
(2025-04-14)
マネージド: ✅ (SFT、DPO)
対話型: ❌
標準: ✅
データ ゾーン: ✅
グローバル: ✅
開発者: ✅
サーバーレス: ✅
マネージド コンピューティング: ❌
花火: ❌
o4-mini
(2025-04-16)
マネージド: ✅ (RFT)
対話型: ❌
標準: ✅
データ ゾーン: ✅
グローバル: ✅
開発者: ✅
サーバーレス: ✅
マネージド コンピューティング: ❌
花火: ❌
gpt-5
(2025-08-07)3
マネージド: ✅ (RFT)
対話型: ❌
標準: ✅
データ ゾーン: ✅
グローバル: ✅
開発者: ❌
サーバーレス: ✅4
マネージド コンピューティング: ❌
花火: ❌
MedImageInsight-Premium
(プレビュー)
管理対象: ✅ (SFT)
対話型: ❌
グローバル サーバーレス: ✅2
マネージド コンピューティング: ❌
花火: ❌
CXRReportgen-Premium
(プレビュー)
管理対象: ✅ (SFT)
対話型: ❌
グローバル サーバーレス: ✅2
マネージド コンピューティング: ❌
花火: ❌

凡例

  • 1 プロビジョニング済みスループットのデプロイの種類のみがサポートされます。
  • 2 グローバル標準の展開の種類のみがサポートされています。
  • 3 GPT-5 の強化学習によるファインチューニングには招待が必要です。 登録については、Microsoft アカウント チームにお問い合わせください。
  • 4 標準のデプロイの種類のみがサポートされています。 「Standard デプロイ リージョン」を参照してください。
  • 5 開発者のデプロイの種類はサポートされていません。

グローバル トレーニング対応リージョン

Note

グローバル トレーニングでは、トークンごとに より手頃な価格 のトレーニングが提供されますが、 データ所在地は提供されません。

次の表に、グローバル管理の微調整と対話型トレーニング (プレビュー) を使用するために必要な Foundry プロジェクトリージョンを示します。 モデルとトレーニングのアプローチでサポートされているリージョンを、以下の制限も考慮して選択します。 Standard と Data Zone のトレーニングには、リージョン別のサポートがあります。

Foundry プロジェクトのリージョン マネージド ファインチューニング 対話型トレーニング (プレビュー)
オーストラリア東部 ✅ ✅
ブラジル南部 ✅ 1 ❌
カナダ中部 ✅ 1 ❌
カナダ東部 ✅ 1 ✅
米国東部 ✅ ✅
米国東部 2 ✅ ✅
フランス中部 ✅ 1 ❌
ドイツ中西部 ✅ 1 ❌
イタリア北部 ✅ 1 ❌
東日本 ✅ 1,2 ❌
韓国中部 ✅ ✅
米国中北部 ✅ ✅
ノルウェー東部 ✅ 1 ❌
ポーランド中部 ✅ 1,3 ❌
南アフリカ北部 ✅ 1 ❌
米国中南部 ✅ 1 ❌
インド南部 ✅ 1 ❌
東南アジア ✅ 1 ❌
スペイン中部 ✅ 1 ❌
スウェーデン中部 ✅ ✅
スイス北部 ✅ ✅
スイス西部 ✅ 1 ❌
アラブ首長国連邦北部 ✅ 4 ✅
英国南部 ✅ ✅
西ヨーロッパ ✅ 1 ❌
米国西部 ✅ 1 ❌
米国西部 3 ✅ ✅
  • 1 このリージョンでは、 Qwen3.6-35B-A3B、 Qwen3.8-27B、 Muse-Glimmer-30B、 gpt-oss-120b の管理された微調整はサポートされていません。
  • 2 Japan East では、ビジョンの微調整はサポートされていません。
  • 3 Poland Central では、gpt-4.1-nano の管理された微調整はサポートされていません。
  • 4 UAE North では、Qwen3.6-35B-A3B、Qwen3.8-27B、Muse-Glimmer-30B、および gpt-oss-120bに対してのみグローバルに管理された微調整がサポートされています。

サポート対象の Standard デプロイ リージョン

サーバーレス Standard デプロイをサポートするのは、次のモデルのみです。 表で地域別の提供状況を確認できます。

モデル ID 米国東部 2 米国中北部 スウェーデン中部
gpt-4o-mini ❌ ✅ ✅
gpt-4o ✅ ❌ ✅
gpt-4.1 ❌ ✅ ✅
gpt-4.1-mini ❌ ✅ ✅
gpt-4.1-nano ❌ ✅ ✅
o4-mini ✅ ❌ ✅
gpt-5 ❌ ✅ ✅

サポートされているプロビジョニング済みスループットのデプロイ先リージョン

次のモデルのみが、一覧に示されているリージョンでのサーバーレス プロビジョニング スループットのデプロイをサポートします。

モデル ID 米国中北部 スウェーデン中部
gpt-4o-mini ✅ ✅
gpt-4o ✅ ✅
gpt-4.1 ❌ ✅

課題と制限事項

微調整は反復的なエンジニアリング プロセスであり、確実な改善ではありません。

課題 対処方法
データの品質とカバレッジ 正確で一貫性のある代表的な例を使用してください。 データをアップロードする前に、不足しているシナリオ、重複、偏り、機密情報を検査します。
オーバーフィッティングと評価時の情報漏洩 トレーニング、検証、および最終テストデータを分離します。 トレーニング損失だけでなく、ホールドアウトタスクでチェックポイントを比較してください。
誤解を招く報酬シグナル RFT の評価器を、正しい応答、誤った応答、対向的な応答を用いてテストします。 報酬を上げれば、モデルがグレーダーを悪用しても、タスクのパフォーマンスは向上しません。
実験とコスト 繰り返し実行、採点、評価、ホスティング、推論の予算。 ターゲット メトリックを改善しない実験を停止します。
モデルとサービングの互換性 トレーニングの前に、方法、レベル、バージョン、デプロイ可否を確認します。 アダプターは、同様の名前の基本モデル間で互換性はありません。
Maintenance タスク データの変更または基本モデルの廃止に近づくにつれて、品質を再評価します。 再トレーニングと再配置が必要になる場合があります。
安全とガバナンス データ処理と管理下の安全性評価を確認します。 アプリケーション レベルの安全制御を維持し、最終的な推論実行環境を評価します。
対話型ランタイムの役割 お使いのドライバー、環境、トークン化、チェックポイント、回復ロジックを維持します。 セッション内サンプリングは、運用環境でのサービス動作の証明ではありません。

次のステップ

トレーニング アプローチのガイドから始めて、微調整したモデルをデプロイして評価しましょう。