Von Bedeutung
- Foundry Local はプレビューで利用できます。 パブリック プレビュー リリースでは、アクティブなデプロイ中の機能に早期にアクセスできます。
- 一般提供 (GA) の前は、機能、アプローチ、プロセスが変更されたり、機能が制限されたりする場合があります。
このガイドでは、デバイスで AI モデルを実行するように Foundry Local を設定する手順について説明します。
[前提条件]
Foundry Local を実行するには、システムが次の要件を満たしている必要があります。
- オペレーティング システム: Windows 10 (x64)、Windows 11 (x64/ARM)、Windows Server 2025、macOS。
- ハードウェア: 最小 8 GB の RAM、3 GB の空きディスク領域。 推奨される 16 GB RAM、15 GB の空きディスク領域。
- ネットワーク: 初期モデルダウンロード用のインターネット接続 (オフライン使用の場合は省略可能)
- アクセラレーション (省略可能):NVIDIA GPU (2,000 シリーズ以降)、AMD GPU (6,000 シリーズ以降)、Qualcomm Snapdragon X Elite (8 GB 以上のメモリ)、または Apple シリコン。
また、デバイスにソフトウェアをインストールするための管理特権があることを確認します。
クイックスタート
Foundry Local をすぐに開始する方法:
Foundry Local のインストール
- Windows: ターミナルを開き、次のコマンドを実行します。
winget install Microsoft.FoundryLocal - macOS: ターミナルを開き、次のコマンドを実行します。
brew tap microsoft/foundrylocal brew install foundrylocal
または、 Foundry Local GitHub リポジトリからインストーラーをダウンロードすることもできます。
- Windows: ターミナルを開き、次のコマンドを実行します。
最初のモデルを実行する ターミナル ウィンドウを開き、次のコマンドを実行してモデルを実行します。
foundry model run phi-3.5-miniモデルのダウンロード (インターネットの速度によっては数分かかる場合があります) と、モデルが実行されます。 モデルが実行されたら、コマンド ライン インターフェイス (CLI) を使用してモデルを操作できます。 たとえば、次の質問を行うことができます。
Why is the sky blue?ターミナルにモデルからの応答が表示されます。
ヒント
phi-3.5-miniは、カタログの任意のモデル名に置き換えることができます (使用可能なモデルについては、foundry model listを参照してください)。 Foundry Local は、システムのハードウェアとソフトウェアの構成に最も一致するモデルバリアントをダウンロードします。 たとえば、NVIDIA GPU を使用している場合、モデルの CUDA バージョンがダウンロードされます。 Qualcomm NPU がある場合は、NPU バリアントがダウンロードされます。 GPU または NPU がない場合は、CPU バージョンがダウンロードされます。
コマンドを探索する
Foundry CLI は、次の主要なカテゴリにコマンドを整理します。
- モデル: モデルを管理および実行するためのコマンド。
- サービス: Foundry Local サービスを管理するためのコマンド。
- キャッシュ: ローカル モデル キャッシュを管理するためのコマンド (ローカル ディスクにダウンロードされたモデル)。
次のコマンドを使用して、使用可能なすべてのコマンドを表示します。
foundry --help
使用可能な モデル コマンドを表示するには、次のコマンドを実行します。
foundry model --help
使用可能な サービス コマンドを表示するには、次のコマンドを実行します。
foundry service --help
使用可能な キャッシュ コマンドを表示するには、次のコマンドを実行します。
foundry cache --help
ヒント
すべての CLI コマンドとその使用方法に関する完全なガイドについては、 Foundry ローカル CLI リファレンスを参照してください。