Important
- Foundry Local はプレビューで利用できます。 パブリック プレビュー リリースでは、デプロイ中の機能に早期にアクセスできます。
- 一般提供 (GA) の前は、機能、アプローチ、プロセスが変更されたり、機能が制限されたりする場合があります。
この記事では、Foundry Local のベスト プラクティスとトラブルシューティングのヒントを示します。
[前提条件]
- Foundry Local をインストールします。
- モデルをダウンロードするためのインターネット アクセス権を持っている (推奨)。
- この記事のマシン スコープのインストール回避策を使用する場合は、管理者として PowerShell を実行します。
CLI を確認する
次のコマンドを実行して、Foundry ローカル CLI がインストールされ、PATH で使用可能であることを確認します。
foundry --help
このコマンドには、使用可能なコマンドとオプションが一覧表示されます。
セキュリティのベスト プラクティス
- Foundry Local は、組織のセキュリティ ポリシーに準拠した環境でのみ実行してください。
- 機密データを処理するときに、デバイスが組織のセキュリティ要件を満たしていることを確認します。
- 機密性の高い微調整データを含むモデルをキャッシュするデバイスのディスクは暗号化してください。
ライセンスに関する考慮事項
Foundry Localで実行するモデルのライセンスへの影響を確認してください。 カタログ内の各モデルの完全なモデル ライセンス条項を表示するには、次のコマンドを実行します。 次のコマンドでは、プレースホルダー <model> をモデル名に置き換えてください。
foundry model info <model> --license
パフォーマンスのベスト プラクティス
推論が遅い場合は、次の戦略を検討してください。
- Foundry Local を実行する前に、AI Toolkit for VS Code 推論セッションを停止します。
- 使用可能な場合は GPU アクセラレーションを使用します。
- 推論中のメモリ使用量を監視してボトルネックを特定します。
- より多くの量子化されたモデルバリアント (FP16 の代わりに INT8 など) をお試しください。
- 非対話型ワークロードのバッチサイズを調整します。
運用環境のデプロイ範囲
Foundry Local は、分散、コンテナー化、またはマルチマシン運用のデプロイではなく、デバイス上での推論用です。
トラブルシューティング
一般的な問題と解決策
| 問題点 | 考えられる原因 | 解決策 |
|---|---|---|
| 低速な推論 | パラメーター数が大きい CPU のみのモデル。 | 使用可能な場合は、GPU 最適化モデルバリアントを使用します。 |
| モデルのダウンロード エラー | ネットワーク接続の問題。 | インターネット接続を確認し、foundry cache list を実行してキャッシュの状態を確認します。 |
サービス接続エラー (Request to local service failed. Uri:http://127.0.0.1:0/foundry/list) |
ポートのバインドに問題があるか、サービスにアクセスできません。 |
foundry service restartを実行してサービスを再起動し、ポート バインドの問題を解決します。 |
| サービスを開始できません。 | ポートの競合またはアクセス許可の問題です。 |
foundry service restart を実行するか、 を使用してログを添付し、foundry zip-logsします。 |
| Intel NPU が検出されないか、動作していない | Intel NPU ドライバーが存在しないか、古くなっています。 | Windows 用 Intel NPU ドライバーをインストールして、NPU アクセラレーションを有効にします。 |
Qualcomm NPU エラー (Qnn error code 5005: "Failed to load from EpContext model. qnn_backend_manager.") |
Qualcomm NPU ドライバーが古くなっているか、NPU リソースが競合しています。 | Qualcomm NPU ドライバーをインストールします。 問題が解決しない場合 (特に Windows Copilot+ 機能を使用した後) は、再起動して NPU リソースの競合を解消します。 |
winget install Microsoft.FoundryLocal --scope machine が "現在のシステム構成では、このパッケージのインストールはサポートされていません" というエラーで失敗する |
Winget は MSIX マシン スコープのインストールをブロックします。 | 「インストールの問題」の回避策を使用してください。 |
インストールに関する問題
winget install Microsoft.FoundryLocal --scope machine"現在のシステム構成では、このパッケージのインストールがサポートされていません"で失敗した場合は、代わりにAdd-AppxProvisionedPackageを使用します。
-
.msixとその依存関係パッケージをダウンロードします。 - PowerShell を管理者として実行します。
- 次のコマンドを実行して、すべてのユーザーに Foundry Local をインストールします。
Add-AppxProvisionedPackage -Online -PackagePath .\FoundryLocal.msix `
-DependencyPackagePath .\VcLibs.appx -SkipLicense