Поделиться через

Phi Silica в пакете SDK для приложений Windows

  • Статья

Используйте пакет SDK для приложений Windows для подключения приложения Windows к языковым моделям на устройстве, включая Phi Silica, нашу самую мощную локальную языковую модель NPU, настроенную на локальном языке.

Пакет SDK для приложений Windows будет отправляться с несколькими API искусственного интеллекта (ИИ) для доступа к этим моделям и обеспечить локальную обработку и создание чата, математические решения, создание кода, обоснование текста и многое другое.

Внимание

Экспериментальный канал пакета SDK для приложений Windows включает API и функции на ранних этапах разработки. Все API-интерфейсы в экспериментальном канале подвергаются обширным исправлениям и критическим изменениям и могут быть удалены из последующих выпусков в любое время. Они не поддерживаются для использования в рабочих средах, а приложения, использующие экспериментальные функции, не могут быть опубликованы в Microsoft Store.

Необходимые компоненты

Ответственное применение ИИ

Phi Silica предоставляет разработчикам мощную, надежную модель для создания приложений с безопасными, безопасными интерфейсами искусственного интеллекта. Ниже приведены шаги по обеспечению надежности, безопасности и ответственной сборки Phi Silica.

  • Тщательное тестирование и оценка качества модели для выявления и устранения потенциальных рисков.
  • Создание карточки модели Phi Silica, которая описывает сильные и ограничения модели и обеспечивает ясность о предполагаемом использовании.
  • Добавочное развертывание экспериментальных выпусков Phi Silica. После окончательного экспериментального выпуска Phi Silica развертывание будет расширено для подписанных приложений, чтобы обеспечить применение сканирования вредоносных программ к приложениям с возможностями локальной модели.
  • Предоставьте элементы управления клиентами с помощью диспетчера доступа к возможностям в параметрах, чтобы пользователи могли отключить модель на устройстве для системы, пользователя или приложения.

Примечание.

Con режим палатки ration в настоящее время находится в разработке.

В добавлении к приведенному выше описанию рекомендуется ознакомиться с рекомендациями, описанными в статье "Разработка ответственного искусственного интеллекта" в Windows.

Что можно сделать с помощью Phi Silica и пакета SDK для приложений Windows?

С помощью локальной языковой модели Phi Silica и пакета SDK для приложений Windows можно создавать текстовые ответы на запросы пользователей.

Получение одного полного ответа на основе строкового запроса

В этом примере показано, как создать ответ на запрос Q&A, в котором создается полный ответ до возврата результата.

  1. Во-первых, мы убедитесь, что языковая модель доступна, вызвав метод IsAvailable и ожидая успешного возврата метода MakeAvailableAsync.
  2. После того как языковая модель будет доступна, мы создадим объект LanguageModel для его ссылки.
  3. Наконец, мы отправим строку запроса в модель с помощью метода GenerateResponseAsync , который возвращает полный результат.
using Microsoft.Windows.AI.Generative; 
 
 
if (!LanguageModel.IsAvailable()) 
{ 
   var op = await LanguageModel.MakeAvailableAsync(); 
} 
 
using LanguageModel languageModel = await LanguageModel.CreateAsync(); 
 
string prompt = "Provide the molecular formula for glucose."; 
 
var result = await languageModel.GenerateResponseAsync(prompt); 
 
Console.WriteLine(result.Response);

Ответ, созданный этим примером:

The molecular formula for glucose is C6H12O6.

Получение потока частичных результатов на основе строкового запроса

В этом примере показано, как создать ответ на запрос Q&A, где ответ возвращается в виде потока частичных результатов.

  1. Сначала мы создадим объект LanguageModel для ссылки на локальную языковую модель (мы уже проверили наличие языковой модели в предыдущем фрагменте кода).
  2. Затем мы асинхронно извлекаем languageModelResponse в вызове GenerateResponseWithProgressAsync и запишите его в консоль при создании ответа.
using Microsoft.Windows.AI.Generative.LanguageModel languageModel = 
     await Microsoft.Windows.AI.Generative.LanguageModel.CreateAsync(); 
 
 string prompt = "Provide the molecular formula for glucose."; 
 
  AsyncOperationProgressHandler<Microsoft.Windows.AI.Generative.LanguageModelResponse, string> 
 progressHandler = (asyncInfo, delta) => 
 { 
     Console.WriteLine($"Progress: {delta}"); 
     Console.WriteLine($"Response so far: {asyncInfo.GetResults().Response()}"); 
 }; 
 
var asyncOp = languageModel.GenerateResponseWithProgressAsync(prompt); 
 
 asyncOp.Progress = progressHandler; 
 
 var result = await asyncOp;  
 
 Console.WriteLine(result.Response);

Дополнительные ресурсы

Доступ к файлам и папкам с помощью пакета SDK для приложений Windows и API WinRT

Связанный контент