Поделиться через

Начало работы с Phi Silica

Внимание

Фи Силика недоступна в Китае.

Phi Silica — это локальная языковая модель, которую можно интегрировать в приложения Windows с помощью Windows AI Foundry.

Как наиболее мощная языковая модель, настроенная для работы с нейропроцессорами Майкрософт, Phi Silica оптимизирована для эффективности и производительности на устройствах Windows Copilot+ ПК, предлагая множество возможностей, встречающихся в крупных языковых моделях (LLMs).

Этот уровень оптимизации является эксклюзивным для модели в пакете SDK для приложений Windows и недоступен в других версиях Phi. Дополнительные сведения об API см. в статье:

Внимание

Ниже приведен список функций ИИ Windows и выпуска пакета SDK для приложений Windows, в котором они в настоящее время поддерживаются.

Экспериментальная версия 1.8 (1.8.0-experimental1) - Стирание объектов, Phi Silica, LoRA тонкой настройки для Phi Silica, Сводка бесед (Текстовый интеллект)

Частная предварительная версия — семантический поиск

Версия 1.7.1 (1.7.250401001) — все остальные API

Эти API будут работать только на устройствах предварительной версии Windows (WIP), которые получили обновление 7 мая. 28-29 мая необязательное обновление будет выпущено на устройства, отличные от WIP, за которым следует обновление 10 июня. Это обновление приведет к использованию моделей ИИ, необходимых для работы API Windows. Эти обновления также требуют, чтобы любое приложение, использующее API Windows AI, не могло работать, пока ему не будет предоставлено удостоверение пакета во время выполнения.

Интегрируйте Phi Silica

С помощью локальной языковой модели Phi Silica можно создавать текстовые ответы на запросы пользователей. Во-первых, убедитесь, что у вас есть предварительные требования и модели, доступные на устройстве, как описано в статье "Начало работы с API ИИ Windows".

Укажите необходимые пространства имен

Чтобы использовать Phi Silica, убедитесь, что вы используете необходимые пространства имен:

using Microsoft.Windows.AI;
using Microsoft.Windows.AI.Text;

#include "winrt/Microsoft.Windows.AI.Text.h"
using namespace Microsoft::Windows::AI;
using namespace Microsoft::Windows::AI::Text;

Создание ответа

В этом примере показано, как создать ответ на запрос Q&A с настраиваемым модерированием содержимого (см. раздел "Модерация содержимого" с помощью Windows AI Foundry).

  1. Убедитесь, что языковая модель доступна путем вызова метода GetReadyState и ожидания успешного возврата метода EnsureReadyAsync .

  2. После того как языковая модель будет доступна, создайте объект LanguageModel для его ссылки.

  3. Отправьте строковый запрос в модель с помощью метода GenerateResponseAsync , который возвращает полный результат.

if (LanguageModel.GetReadyState() == AIFeatureReadyState.EnsureNeeded) 
{ 
   var op = await LanguageModel.EnsureReadyAsync(); 
} 

using LanguageModel languageModel = await LanguageModel.CreateAsync();

string prompt = "Provide the molecular formula for glucose.";

LanguageModelOptions options = new LanguageModelOptions();
ContentFilterOptions filterOptions = new ContentFilterOptions();
filterOptions.PromptMaxAllowedSeverityLevel.Violent = SeverityLevel.Minimum;
options.ContentFilterOptions = filterOptions;

var result = await languageModel.GenerateResponseAsync(prompt, options);
 
Console.WriteLine(result.Text);

if (LanguageModel::GetReadyState() == AIFeatureReadyState::NotReady)
{
    auto op = LanguageModel::EnsureReadyAsync().get();
}

auto languageModel = LanguageModel::CreateAsync().get();

const winrt::hstring prompt = L"Provide the molecular formula for glucose.";

LanguageModelResponseResult result = languageModel.GenerateResponseAsync(prompt).get();
std::cout << result.Text().c_str() << std::endl;

Ответ, созданный этим примером:

C6H12O6

Навыки анализа текста

Phi Silica включает встроенные возможности преобразования текста (известные как навыки анализа текста), которые могут предоставлять структурированные, краткие и понятные ответы с помощью предопределенного форматирования с помощью локальной языковой модели.

Поддерживаемые навыки включают:

  • Текст в таблицу: преобразует ответ запроса в структурированный формат таблицы, где это применимо.
  • Суммаризация: Возвращает краткое изложение текста запроса.
  • Перезапись: перефразирует ответ на запрос, чтобы повысить его ясность и удобочитаемость.

Ниже описано, как использовать навыки анализа текста.

  1. Создание объекта LanguageModel
    Этот объект ссылается на локальную языковую модель Phi Silica (не забудьте подтвердить, что модель Phi Silica доступна на устройстве).

  2. Инстанцировать объект, специфичный для навыка
    Выберите соответствующий класс на основе навыка, который вы хотите применить, и передайте экземпляр LanguageModel в качестве параметра.

  3. Вызов метода для выполнения навыка
    Каждый навык предоставляет асинхронный метод, который обрабатывает входные данные и возвращает отформатированный результат.

  4. Обработка ответа
    Результат возвращается в виде типизированного объекта, который можно распечатать или записать в лог, если это необходимо.

В этом примере демонстрируется навык суммирования текста.

  1. Создание экземпляра LanguageModel (languageModel).
  2. Передайте этот LanguageModel конструктору TextSummarizer.
  3. Передайте некоторый текст в метод SummarizeAsync и распечатайте результат.
using namespace Microsoft.Windows.AI.Text;

using LanguageModel languageModel = await LanguageModel.CreateAsync();

var textSummarizer = new TextSummarizer(languageModel);
string text = @"This is a large amount of text I want to have summarized.";
var result = await textSummarizer.SummarizeAsync(text);

Console.WriteLine(result.Text); 

using namespace Microsoft::Windows::AI::Text;

auto languageModel = LanguageModel::CreateAsync().get();
auto textSummarizer = TextSummarizer(languageModel);
std::string prompt = "This is a large amount of text I want to have summarized.";
auto result = textSummarizer.SummarizeAsync(prompt);

std::wcout << result.get().Text() << std::endl;

Ответственное применение ИИ

Мы использовали сочетание следующих шагов, чтобы гарантировать, что эти API-интерфейсы визуализации являются надежными, безопасными и созданными ответственно. Мы рекомендуем ознакомиться с рекомендациями, описанными в статье "Разработка ответственного искусственного интеллекта" в Windows при реализации функций ИИ в приложении.

См. также