Sdílet prostřednictvím

Začínáme s Phi Silica

Důležitý

Rozhraní API Phi Silica jsou součástí funkce omezeného přístupu (viz třída LimitedAccessFeatures). Další informace nebo žádost o odemknutí tokenu použijte formulář žádosti o přístupový token LAF.

Phi Silica je místní jazykový model, který můžete integrovat do svých aplikací pro Windows pomocí Windows AI Foundry.

Poznámka:

Funkce Phi Silica nejsou k dispozici v Číně.

Vzhledem k tomu, že Phi Silica je nejvýkonnější místní jazykový model NPU od Microsoftu, je optimalizován pro efektivitu a výkon na zařízeních s Windows Copilot+ a zároveň nabízí mnoho schopností podobných těm, které jsou k dispozici v rozsáhlých jazykových modelech (LLM).

Tato úroveň optimalizace je exkluzivní pro model v sadě Windows App SDK a není dostupná v jiných verzích Phi. Podrobnosti o rozhraní API najdete tady:

Důležitý

Následuje seznam funkcí AI systému Windows a verze sady Windows App SDK, ve které jsou aktuálně podporované.

Verze 1.8.0 (1.8.250907003) - Vyladění LoRA pro Phi Silica

Verze 1.8 Preview (1.8.0-preview) - Vymazání objektů, Phi Silica, Souhrn konverzací (textová inteligence)

Private Preview – sémantické vyhledávání

Verze 1.7.1 (1.7.250401001) – Všechna ostatní rozhraní API

Tato rozhraní API budou funkční jenom na zařízeních s Windows Insider Preview (WIP), která obdržela 7. května aktualizaci. 28.–29. května bude vydána volitelná aktualizace pro zařízení, která nejsou WIP, následovaná aktualizací z 10. června. Tato aktualizace s sebou přinese modely AI potřebné pro fungování rozhraní API AI systému Windows. Tyto aktualizace budou také vyžadovat, aby všechny aplikace používající rozhraní API umělé inteligence pro Windows to neudělaly, dokud nebude aplikace udělena identita balíčku za běhu.

Integrace Phi Silica

Pomocí místního jazykového modelu Phi Silica můžete generovat textové odpovědi na výzvy uživatelů. Nejprve se ujistěte, že máte na zařízení k dispozici požadavky a modely, jak je popsáno v tématu Začínáme s rozhraními API AI pro Windows.

Zadejte požadované obory názvů

Pokud chcete použít Phi Silica, ujistěte se, že používáte požadované obory názvů:

using Microsoft.Windows.AI;
using Microsoft.Windows.AI.Text;

#include "winrt/Microsoft.Windows.AI.Text.h"
using namespace Microsoft::Windows::AI;
using namespace Microsoft::Windows::AI::Text;

Vygenerování odpovědi

Tento příklad ukazuje, jak vygenerovat odpověď na výzvu Q&A s vlastním moderováním obsahu (viz Moderation with Windows AI Foundry).

  1. Ujistěte se, že jazykový model je k dispozici voláním metody GetReadyState a čekáním na úspěšné vrácení metody EnsureReadyAsync .

  2. Jakmile je jazykový model k dispozici, vytvořte objekt LanguageModel , který na něj odkazuje.

  3. Pomocí metody GenerateResponseAsync odešlete do modelu řetězcový požadavek, který vrátí kompletní výsledek.

if (LanguageModel.GetReadyState() == AIFeatureReadyState.EnsureNeeded) 
{ 
   var op = await LanguageModel.EnsureReadyAsync(); 
} 

using LanguageModel languageModel = await LanguageModel.CreateAsync();

string prompt = "Provide the molecular formula for glucose.";

LanguageModelOptions options = new LanguageModelOptions();
ContentFilterOptions filterOptions = new ContentFilterOptions();
filterOptions.PromptMaxAllowedSeverityLevel.Violent = SeverityLevel.Minimum;
options.ContentFilterOptions = filterOptions;

var result = await languageModel.GenerateResponseAsync(prompt, options);
 
Console.WriteLine(result.Text);

if (LanguageModel::GetReadyState() == AIFeatureReadyState::NotReady)
{
    auto op = LanguageModel::EnsureReadyAsync().get();
}

auto languageModel = LanguageModel::CreateAsync().get();

const winrt::hstring prompt = L"Provide the molecular formula for glucose.";

LanguageModelResponseResult result = languageModel.GenerateResponseAsync(prompt).get();
std::cout << result.Text().c_str() << std::endl;

Odpověď vygenerovaná v tomto příkladu je:

C6H12O6

Dovednosti v oblasti analýzy textu

Phi Silica zahrnuje integrované funkce transformace textu (označované jako Dovednosti v textové inteligenci), které můžou poskytovat strukturované, stručné a uživatelsky přívětivé odpovědi prostřednictvím předdefinovaného formátování pomocí místního jazykového modelu.

Mezi podporované dovednosti patří:

  • Text-to-table: Převede odpověď na výzvu do strukturovaného tabulkového formátu, pokud je to možné.
  • Shrnutí: Vrátí stručný souhrn textu výzvy.
  • Přepsání: Přeformuluje odpověď na výzvu, aby se zlepšila srozumitelnost a čitelnost.

Následující kroky popisují, jak používat dovednosti v oblasti analýzy textu.

  1. Vytvoření objektu LanguageModel
    Tento objekt odkazuje na místní jazykový model Phi Silica (nezapomeňte potvrdit, že model Phi Silica je k dispozici na zařízení).

  2. Instancujte objekt specifický pro dovednost
    Zvolte příslušnou třídu na základě dovednosti, kterou chcete použít, a předejte instanci LanguageModel jako parametr.

  3. Zavolejte metodu k provedení dovednosti
    Každá dovednost zveřejňuje asynchronní metodu, která zpracovává vstup a vrací formátovaný výsledek.

  4. Zpracování odpovědi
    Výsledek se vrátí jako typový objekt, který můžete vytisknout nebo zaprotokolovat podle potřeby.

Tento příklad ukazuje dovednosti sumarizace textu.

  1. Vytvoření instance LanguageModel (languageModel).
  2. Předejte tento LanguageModel do konstruktoru TextSummarizer.
  3. Předejte nějaký text metodě SummarizeAsync a vytiskněte výsledek.
using namespace Microsoft.Windows.AI.Text;

using LanguageModel languageModel = await LanguageModel.CreateAsync();

var textSummarizer = new TextSummarizer(languageModel);
string text = @"This is a large amount of text I want to have summarized.";
var result = await textSummarizer.SummarizeAsync(text);

Console.WriteLine(result.Text); 

using namespace Microsoft::Windows::AI::Text;

auto languageModel = LanguageModel::CreateAsync().get();
auto textSummarizer = TextSummarizer(languageModel);
std::string prompt = "This is a large amount of text I want to have summarized.";
auto result = textSummarizer.SummarizeAsync(prompt);

std::wcout << result.get().Text() << std::endl;

Zodpovědná AI

Pomocí kombinace následujících kroků jsme zajistili, že tato rozhraní API pro vytváření imisí jsou důvěryhodná, zabezpečená a zodpovědně sestavená. Při implementaci funkcí AI ve vaší aplikaci doporučujeme projít si osvědčené postupy popsané v tématu Zodpovědný vývoj umělé inteligence ve Windows .

Viz také

  • Last updated on