语言

Phi 二氧化硅入门

重要

Phi Silica API 是有限访问功能的一部分(请参阅 LimitedAccessFeatures 类)。 有关详细信息或请求解锁令牌,请使用 LAF 访问令牌请求表单。

重要

Phi Silica 正在被新的设备端模型 Aion Instruct 取代。 立即开始规划过渡:

2026 年 10 月初——提供可供测试和 LoRA 训练的独立可旁加载软件包。 下载该软件包,针对您的应用验证 Aion Instruct,并使用 Foundry Toolkit 重新训练您的 LoRAs。

2026 年 11 月 — Aion Instruct 开始向 Windows Insider Preview 设备推送。 皮硅仍然存在:活动模型由Windows受控功能推出(CFR)控制。 开发者可以通过 Windows 注册表项进行并排测试。

2027 年 1 月 — Aion Instruct 推送到零售设备,Phi Silica 已移除。

Phi Silica 是一款功能强大的、经硬件加速的本地语言模型,具备大型语言模型(LLM)所拥有的许多能力。 在 NPU 装备的设备上,该模型采用一种称为推理解码的技术,使用较小的草稿模型加速文本生成,该模型可以提出多个令牌序列,并由主模型并行验证。

注释

皮硅功能在中国不可用。

Phi Silica 针对 Windows Copilot+ PC(在这些设备上它运行于 NPU 上)以及配备受支持 GPU 的非 Copilot+ Windows 11 设备的效率和性能进行了优化,并且可以通过 Windows 应用 SDK 中的 Windows AI API 集成到你的 Windows 应用中。

此级别的优化在其他版本的 Phi 中不可用。

支持的硬件

Phi 硅在以下硬件上运行:

硬件 地位 详细信息
NPU (AI+ PC) ✅ 可用 最佳性能。 请参阅 AI+ PC 开发人员指南。
GPU — NVIDIA ✅ 可用 具有 6+ GB vRAM 的 GeForce RTX 30 系列和更新版本。
GPU — AMD ✅ 可用 Radeon RX 9060 系列和更新版本,具有 6+ GB vRAM。

有关 GPU 驱动程序要求,请参阅 GPU 驱动程序要求。

重要

在 GPU 上运行 Phi 硅需要启用 开发人员模式 。 转到设置>系统>面向开发人员>开发人员模式。

GPU 先决条件:

  • Windows 版本:Windows 预览体验计划实验频道,内部版本 26300.8553 或更高版本
  • Windows 应用 SDK:版本 2.2.2-experimental9(2026 年 6 月实验版)或更高版本

GPU 驱动程序要求

在 GPU 上运行 Phi 硅 需要 直接从 GPU 制造商安装最新的驱动程序。 来自Windows 更新或 OEM 安装的默认驱动程序可能不够,可能会导致故障或性能下降。

下载硬件的最新驱动程序:

注释

OEM 提供的驱动程序(通过 Windows 更新 或电脑制造商的更新工具交付)可能会覆盖以前安装的 IHV 驱动程序。 如果在系统更新后 Phi 硅停止在 GPU 上运行,请从上述链接重新安装最新的驱动程序。

GPU 功能差异

与 NPU 相比,以下功能在 GPU 上的行为不同:

  • 提示压缩:在 NPU 上可用,但在 GPU 上不可用。 在以 GPU 设备为目标时,依赖提示压缩来支持更长上下文窗口的应用程序应将这一点考虑在内。
  • 推测解码:可在 NPU 上使用,用于加速文本生成。 当前不支持在 GPU 上运行,因此可能导致每秒 token 吞吐量较低。
  • LoRA 微调:LoRA 适配器必须使用 Fine-Tuning Kit(FTK)在云端训练。 可以在本地使用 AI Dev Gallery 对你训练好的适配器进行推理测试。 对于 NPU 和 GPU,此工作流相同。

模型可用性和下载

与预安装在 AI+ PC 上的 NPU 模型不同,适用于 GPU 的 Phi 硅模型未预安装在用户的设备上。 而是在应用首次调用 EnsureReadyAsync 时按需下载模型。 下载内容大小为数 GB,并会通过 Windows 更新 在后台进行。

由于 Phi 硅 GPU 模型很大,因此在调用EnsureReadyAsync之前显示确认对话框,以便用户可以同意存储成本和后台下载。 典型模式:

  1. 调用 GetReadyState,并根据返回的 AIFeatureReadyState 进行分支处理:

    • Ready — 模型已安装;继续。
    • NotReady — 显示同意对话框(如下所示),然后仅在用户同意时才调用 EnsureReadyAsync 。
    • NotSupportedOnCurrentSystem — 用户的硬件不符合 受支持硬件中的要求。 提供回退体验,并在适当情况下显示硬件要求,以便用户可以做出明智的升级决策。
  2. 在许可对话框中,说明:

    • 将下载可选语言模型(多 GB 存储)。
    • 下载通过Windows 更新在后台进行。
    • 用户可以监视 Settings>Windows 更新 的下载进度。
    • 用户以后可以在“设置>>”中删除模型(如果不再需要该模型)。

    小窍门

    在面向用户的字符串(对话框文本、状态消息)中,将模型称为“语言模型”或“可选 AI 模型”,而不是“Phi 硅”。大多数最终用户都不熟悉品牌名称,通用术语更清楚地传达用途。

  3. 在 EnsureReadyAsync 进行期间,在应用中显示进度指示器。 返回的操作公开驱动加载 UI 的状态选项;有关详细信息,请参阅 Get started with Windows AI API。

安装模型后

该模型将保留在设备上,直到用户将其删除。 用户在设置>系统>AI 组件中管理已安装的模型,其中 Phi 硅 GPU 模型显示为“AI LanguageModel”。 如果用户之后删除了该模型,应用下次调用 GetReadyState 时将返回 NotReady,并且应重新执行同意和下载流程。

有关 API 的详细信息,请参阅:

集成 Phi Silica

使用本地 Phi 硅语言模型,可以生成对用户提示的文本响应。 首先,请确保设备上提供先决条件和模型,如 Windows AI API 入门中所述。

指定所需的命名空间

若要使用 Phi 硅,请确保使用所需的命名空间:

using Microsoft.Windows.AI;
using Microsoft.Windows.AI.ContentSafety;
using Microsoft.Windows.AI.Text;
#include "winrt/Microsoft.Windows.AI.Text.h"
using namespace Microsoft::Windows::AI;
using namespace Microsoft::Windows::AI::Text;

生成响应

此示例演示如何生成对 Q&A 提示的响应。 C# 选项卡还演示了应用自定义内容审查选项(请参阅使用 Windows AI API 进行内容审查)。

  1. 通过调用 GetReadyState 方法并等待 EnsureReadyAsync 方法成功返回,确保语言模型可用。

  2. 语言模型可用后,创建 一个 LanguageModel 对象来引用它。

  3. 使用 GenerateResponseAsync 方法将字符串提示提交到模型,该方法返回完整的结果。

if (LanguageModel.GetReadyState() == AIFeatureReadyState.NotReady) 
{ 
   var op = await LanguageModel.EnsureReadyAsync(); 
} 

using LanguageModel languageModel = await LanguageModel.CreateAsync();

string prompt = "Provide the molecular formula for glucose.";

LanguageModelOptions options = new LanguageModelOptions();
ContentFilterOptions filterOptions = new ContentFilterOptions();
filterOptions.PromptMaxAllowedSeverityLevel.Violent = SeverityLevel.Minimum;
options.ContentFilterOptions = filterOptions;

var result = await languageModel.GenerateResponseAsync(prompt, options);
 
Console.WriteLine(result.Text);
if (LanguageModel::GetReadyState() == AIFeatureReadyState::NotReady)
{
    auto op = LanguageModel::EnsureReadyAsync().get();
}

auto languageModel = LanguageModel::CreateAsync().get();

const winrt::hstring prompt = L"Provide the molecular formula for glucose.";

LanguageModelResponseResult result = languageModel.GenerateResponseAsync(prompt).get();
std::cout << result.Text().c_str() << std::endl;

此示例生成的响应为:

C6H12O6

文本智能技能

Phi 硅包括内置文本转换功能(称为文本智能技能),这些功能可以通过使用本地语言模型的预定义格式提供结构化、简洁和用户友好的响应。

支持的技能包括:

  • 文本到表格:在适当情况下,将提示响应格式化为结构化表格式。
  • 摘要:返回提示文本的简明摘要。
  • 重写:重新编写提示语,以优化其清晰度、可读性,并在指定时调整音调或风格。

以下步骤介绍如何使用文本智能技能。

  1. 创建 LanguageModel 对象
    此对象引用本地 Phi 硅语言模型(请记得确认设备上的 Phi 硅模型可用)。

  2. 实例化特定于技能的对象
    根据要应用的技能选择适当的类,并将 LanguageModel 实例作为参数传递。

  3. 调用方法以执行技能
    每个技能都会公开一个异步方法,该方法处理输入并返回格式化的结果。

  4. 处理响应
    结果将作为类型化对象返回,你可以根据需要打印或记录。

此示例演示了文本摘要技能。

  1. 创建 LanguageModel 实例 (languageModel)。
  2. 将 LanguageModel 传递给 TextSummarizer 构造函数。
  3. 将一些文本传递给 SummarizeAsync 方法并打印结果。
using Microsoft.Windows.AI.Text;

using LanguageModel languageModel = await LanguageModel.CreateAsync();

var textSummarizer = new TextSummarizer(languageModel);
string text = @"This is a large amount of text I want to have summarized.";
var result = await textSummarizer.SummarizeAsync(text);

Console.WriteLine(result.Text); 
using namespace Microsoft::Windows::AI::Text;

auto languageModel = LanguageModel::CreateAsync().get();
auto textSummarizer = TextSummarizer(languageModel);
std::string prompt = "This is a large amount of text I want to have summarized.";
auto result = textSummarizer.SummarizeAsync(prompt);

std::wcout << result.get().Text() << std::endl;

负责任的 AI

我们遵循 了Microsoft负责任的 AI 标准 中所述的核心原则和做法,以确保这些 API 可信、安全且负责任地构建。 有关在应用中实现 AI 功能的更多详细信息,请参阅 Windows 上的“负责任的生成 AI 开发”。

GPU 透明度说明

有关非 Copilot+ PC(GPU)上的 Phi Silica 的功能、限制和负责任地使用的详细信息,请参阅 透明度说明:关于非 Copilot+ PC 上的 Phi Silica。

NPU 和 GPU 执行之间的主要区别:

因子 Copilot+ 电脑 (NPU) 非AI+ PC (GPU)
推理延迟 经过优化;借助 NPU 加速和推测解码实现低延迟 更高的延迟;取决于 GPU 生成、VRAM 和当前 GPU 负载
功耗 NPU 是省电的,适用于电池供电的使用 更高的能耗;可能会影响笔记本电脑的电池使用时间
提示压缩 ✅ 可用 ❌ GPU 上不可用
推测解码 ✅ 可用 ❌ GPU 上不可用
模型可选性 模型由系统管理 模型按需下载,可通过设置>系统>AI 组件将其删除
非 Copilot+ PC 的运行因素
  • 硬件多样性:非 Copilot+ PC 涵盖多种 GPU 配置。 在这一设备范围内,不同设备之间的性能会有显著差异。
  • 最低硬件要求:设备必须满足最低 GPU 和内存要求才能运行 Phi 硅。
  • 软件依赖项:在非 AI+ PC 上运行时,需要安装由 GPU 制造商(NVIDIA)直接提供的最新 IHV GPU 驱动程序。 来自Windows 更新或 OEM 安装的默认驱动程序可能不够,可能会导致故障或性能下降。

系统性能

了解非AI+ PC的性能

Phi Silica 的输出质量(准确性、连贯性、相关性)在 Copilot+ PC 和非 Copilot+ PC 上保持一致,因为它们使用了相同的模型权重和架构。 主要区别在于 推理速度、 资源消耗和 用户体验响应能力。

开发人员应:

  • 在有代表性的硬件上进行基准测试:在一系列能够反映目标用户群体的非 Copilot+ 设备上进行测试,包括配置较低的设备。
  • 设置用户期望:清楚地传达响应时间可能因设备硬件而异。 请考虑显示进度指示器,或以流式方式返回部分结果。
  • 实现超时和回退:对于响应时间至关重要的情况,请实施适当的超时,并考虑提供基于云的回退选项(用户同意)。
  • 监视资源使用情况:在推理期间跟踪 GPU 利用率、VRAM 消耗和系统内存使用情况,以识别和解决性能瓶颈。

另请参阅