次の方法で共有

Foundry Local の概要

Important

  • Foundry Local はプレビューで利用できます。 パブリック プレビュー リリースでは、デプロイ中の機能に早期にアクセスできます。
  • 一般提供 (GA) の前は、機能、アプローチ、プロセスが変更されたり、機能が制限されたりする場合があります。

このガイドでは、デバイスで AI モデルを実行するように Foundry Local を設定する方法について説明します。

[前提条件]

Foundry Local を実行するには、システムが次の要件を満たしている必要があります。

  • オペレーティング システム: Windows 10 (x64)、Windows 11 (x64/ARM)、Windows Server 2025、macOS。
  • ハードウェア: 8 GB 以上の RAM と 3 GB の空きディスク領域。 推奨される 16 GB の RAM と 15 GB の空きディスク領域。
  • ネットワーク: モデルと実行プロバイダーをダウンロードするためのインターネット接続。 モデルをダウンロードした後は、キャッシュされたモデルをオフラインで実行できます。
  • アクセラレーション (省略可能): NVIDIA GPU (2000 シリーズ以降)、AMD GPU (6000 シリーズ以降)、AMD NPU、Intel iGPU、Intel NPU (32 GB 以上のメモリ)、Qualcomm Snapdragon X Elite (8 GB 以上のメモリ)、Qualcomm NPU、または Apple シリコン。

このクイック スタートのコマンドを使用して Foundry Local をインストールするには:

  • Windows では、 winget が使用可能であることを確認します。
  • macOS では、 brew オプションを使用する場合は Homebrew をインストールします。

注

新しい NPU は、Windows 24H2 以降を実行しているシステムでのみサポートされます。 Windows で Intel NPU を使用する場合は、 Intel NPU ドライバー をインストールして Foundry Local で NPU アクセラレーションを有効にします。

ソフトウェアをインストールするための管理者権限があることを確認します。

ヒント

インストール後にサービス接続エラー ("ローカル サービスへの要求に失敗しました" など) が表示された場合は、 foundry service restart実行します。

クイック スタート

迅速に Foundry Local を使い始めましょう。

オプション 1: CLI を使った簡易セットアップ

  1. Foundry Local をインストールします。

    • Windows: ターミナルを開き、次のコマンドを実行します。 
      winget install Microsoft.FoundryLocal
    • macOS: ターミナルを開き、次のコマンドを実行します。 
      brew tap microsoft/foundrylocal
brew install foundrylocal
      または、 Foundry Local GitHub リポジトリからインストーラーをダウンロードすることもできます。

    リファレンス: Foundry Local のドキュメント

  2. インストールを確認します。 走れ

    foundry --version

    インストールされているバージョン番号が表示されます。

    リファレンス: Foundry Local CLI リファレンス

  3. 最初のモデルを実行します。 ターミナルを開き、次のコマンドを実行します。

    foundry model run qwen2.5-0.5b

    Foundry Local はモデルをダウンロードします。これは、インターネットの速度に応じて数分かかる場合があります。その後、モデルを実行します。 モデルの開始後、コマンド ライン インターフェイス (CLI) を使用して操作します。 たとえば、次の質問を行うことができます。

    Why is the sky blue?

    ターミナルにモデルからの応答が表示されます。 Foundry Local run コマンドからの出力のスクリーンショット。

リファレンス: Foundry Local CLI リファレンス

オプション 2: スターター プロジェクトをダウンロードする

実践的な実践的な学習のために、実際のシナリオを示すスターター プロジェクトの 1 つをダウンロードします。

各プロジェクトには以下が含まれます。

  • ステップバイステップのセットアップ手順
  • 完全なソース コード
  • 構成の例
  • ベスト プラクティス

ヒント

これらのスターター プロジェクトは、 ハウツー ガイド のシナリオと一致し、すぐに実用的な価値を提供します。

ヒント

qwen2.5-0.5bをカタログの任意のモデル名に置き換えます (使用可能なモデルを表示するには、foundry model list実行します)。 Foundry Local は、システムのハードウェアとソフトウェアの構成に最も一致するバリアントをダウンロードします。 たとえば、NVIDIA GPU を使用している場合、Foundry Local は CUDA バージョンをダウンロードします。 Qualcomm NPU がある場合は、Foundry Local によって NPU バリアントがダウンロードされます。 GPU または NPU がない場合は、Foundry Local によって CPU バージョンがダウンロードされます。

初めて foundry model list 実行すると、ダウンロードの進行状況バーが表示され、Foundry Local はハードウェアの実行プロバイダーをダウンロードします。

リファレンス: Foundry Local CLI リファレンス

コマンドを探索する

Foundry CLI は、次の主要なカテゴリにコマンドを整理します。

  • モデル: モデルを管理および実行するためのコマンド。
  • サービス: Foundry Local サービスを管理するためのコマンド。
  • キャッシュ: ローカル モデル キャッシュを管理するためのコマンド (ローカル ディスクにダウンロードされたモデル)。

すべてのコマンドを表示するには、次のコマンドを使用します。

foundry --help

foundry model --help

foundry --help

foundry service --help

キャッシュ コマンドの表示:

foundry cache --help

リファレンス: Foundry Local CLI リファレンス

省略可能: 最新の GPT OSS 20B モデルを実行する

gpt-oss-20b モデルを実行します。

foundry model run gpt-oss-20b

Important

モデルがデバイスで使用できない場合は、小さいモデル ( qwen2.5-0.5b など) を実行します。

CUDA バリアントの場合、通常、16 GB 以上の VRAM を搭載した NVIDIA GPU が必要です。

Foundry Local バージョン 0.6.87 以降では、このモデルのサポートが追加されています。 次の方法でバージョンを確認します。

foundry --version

リファレンス: Foundry Local CLI リファレンス

ヒント

すべての CLI コマンドの詳細については、 Foundry Local CLI リファレンスを参照してください。

Foundry Local のアップグレード

OS のコマンドを実行して Foundry Local をアップグレードします。

  • Windows: ターミナルで、次のコマンドを実行します。 
    winget upgrade --id Microsoft.FoundryLocal
  • macOS: ターミナルで、次のコマンドを実行します。 
    brew upgrade foundrylocal

Foundry Local のアンインストール

Foundry Local をアンインストールするには、オペレーティング システムのコマンドを実行します。

  • Windows: ターミナルを開き、次のコマンドを実行します。 
    winget uninstall Microsoft.FoundryLocal
  • macOS: ターミナルを開き、次のコマンドを実行します。 
    brew rm foundrylocal
brew untap microsoft/foundrylocal
brew cleanup --scrub

トラブルシューティング

サービス接続の問題

foundry model listまたは同様のコマンドを実行すると、次のエラーが表示されます。

foundry model list

Exception: Request to local service failed.
Uri: http://127.0.0.1:0/foundry/list

The requested address is not valid in its context. (127.0.0.1:0)

Please check service status with 'foundry service status'.

サービスを再起動するには、次のコマンドを実行します。

foundry service restart

このコマンドは、サービスが実行されているが、ポート バインドの問題のためにアクセスできない場合を修正します。

リファレンス: ベスト プラクティスとトラブルシューティング

関連するコンテンツ

  • Last updated on