REF API untuk Phi Silica di SDK Aplikasi Windows
Penting
Fitur ini belum tersedia. Hal ini diharapkan untuk dikirim dalam rilis saluran eksperimental yang akan datang dari SDK Aplikasi Windows.
Saluran eksperimental SDK Aplikasi Windows mencakup API dan fitur pada tahap awal pengembangan. Semua API di saluran eksperimental tunduk pada revisi yang luas dan melanggar perubahan dan dapat dihapus dari rilis berikutnya kapan saja. Mereka tidak didukung untuk digunakan di lingkungan produksi, dan aplikasi yang menggunakan fitur eksperimental tidak dapat diterbitkan ke Microsoft Store.
Pelajari tentang API SDK Aplikasi Windows yang dapat mengakses model bahasa lokal seperti Phi Silica, model bahasa lokal microsoft yang paling kuat yang disetel NPU yang memungkinkan pemrosesan dan pembuatan obrolan di perangkat, penalaran atas teks, pemecahan matematika, pembuatan kode, dan banyak lagi.
Untuk detail selengkapnya, lihat Mulai menggunakan Phi Silica di SDK Aplikasi Windows.
Tip
Berikan umpan balik tentang API ini dan fungsionalitasnya dengan membuat Masalah baru di repositori GitHub SDK Aplikasi Windows. (Pastikan Anda menyertakan Phi Silica dalam judul!)
Menyediakan API untuk pemrosesan dan respons permintaan AI generatif lokal di perangkat.
public sealed class ImageDescriptionGenerator : System.IDisposable
// This member is not implemented in C#
public static Windows.Foundation.IAsyncOperation<Microsoft.Windows.AI.Generative.ImageDescriptionGenerator> CreateAsync ();
public Windows.Foundation.IAsyncOperationWithProgress<Microsoft.Windows.AI.Generative.LanguageModelResponse,string> DescribeAsync (Microsoft.Windows.Imaging.ImageBuffer image);
public static bool IsAvailable ();
public static Windows.Foundation.IAsyncOperationWithProgress<Microsoft.Windows.Management.Deployment.PackageDeploymentResult,Microsoft.Windows.Management.Deployment.PackageDeploymentProgress> MakeAvailableAsync ();
public sealed class LanguageModel : System.IDisposable
Mewakili objek yang dapat berinteraksi dengan model bahasa lokal untuk menghasilkan respons untuk permintaan yang disediakan.
Membuang objek dan sumber daya terkait.
Tidak diimplementasikan dalam C#.
public static Windows.Foundation.IAsyncOperation<Microsoft.Windows.AI.Generative.LanguageModel> CreateAsync ();
Secara asinkron membuat instans baru kelas LanguageModel.
Instans baru kelas TextRecognizer.
public System.Collections.Generic.IReadOnlyList<Microsoft.Windows.SemanticSearch.EmbeddingVector> GenerateEmbeddingVector (string prompt);
public Windows.Foundation.IAsyncOperation<System.Collections.Generic.IReadOnlyList<Microsoft.Windows.SemanticSearch.EmbeddingVector>> GenerateEmbeddingVectorAsync (string prompt);
public Windows.Foundation.IAsyncOperation<Microsoft.Windows.AI.Generative.LanguageModelResponse> GenerateResponseAsync (string prompt);
Menghasilkan dan mengembalikan respons lengkap untuk satu perintah.
Permintaan dalam bentuk pertanyaan.
String dan status respons.
ArgumentException: Perintah yang ditentukan lebih panjang dari jumlah maksimum token yang dapat diterima model.
Metode LanguageModel.GenerateResponseAsync(Microsoft.Windows.AI.Generative.LanguageModelOptions,System.String)
public Windows.Foundation.IAsyncOperation<Microsoft.Windows.AI.Generative.LanguageModelResponse> GenerateResponseAsync (Microsoft.Windows.AI.Generative.LanguageModelOptions options, string prompt);
LanguageModel.GenerateResponseFromEmbeddingsWithProgressAsync(Windows.Foundation.Collections.IVectorView{Microsoft.Windows.SemanticSearch.EmbeddingVector}) metode
public Windows.Foundation.IAsyncOperationWithProgress<Microsoft.Windows.AI.Generative.LanguageModelResponse,string> GenerateResponseFromEmbeddingsWithProgressAsync (System.Collections.Generic.IReadOnlyList<Microsoft.Windows.SemanticSearch.EmbeddingVector> promptEmbedding);
LanguageModel.GenerateResponseFromEmbeddingsWithProgressAsync(Microsoft.Windows.AI.Generative.LanguageModelOptions,Windows.Foundation.Collections.IVectorView{Microsoft.Windows.SemanticSearch.EmbeddingVector}) metode
public Windows.Foundation.IAsyncOperationWithProgress<Microsoft.Windows.AI.Generative.LanguageModelResponse,string> GenerateResponseFromEmbeddingsWithProgressAsync (Microsoft.Windows.AI.Generative.LanguageModelOptions options, System.Collections.Generic.IReadOnlyList<Microsoft.Windows.SemanticSearch.EmbeddingVector> promptEmbedding);
public Windows.Foundation.IAsyncOperationWithProgress<Microsoft.Windows.AI.Generative.LanguageModelResponse,
string> GenerateResponseWithProgressAsync (string prompt);
Menghasilkan dan mengalirkan respons melalui handler kemajuan. Hasil parsial dapat diambil saat pembuatan sedang berlangsung.
Perintah untuk respons.
String dan status respons.
Token berikutnya dari string yang ditambahkan ke respons penuh saat model mengembalikannya, ini adalah delta dari languageModelReponse sebelumnya yang ditetapkan sebagai hasil OnProgress.
ArgumentException: Perintah yang ditentukan lebih panjang dari jumlah maksimum token yang dapat diterima model.
Peristiwa OnProgress terjadi pada pembuatan setiap kata tunggal dalam respons.
public static bool IsAvailable ();
Mengambil apakah Model AI yang diperlukan tersedia.
Benar, jika Model AI yang diperlukan tersedia. Jika tidak, salah.
public bool IsPromptLargerThanContext (string prompt);
public static Windows.Foundation.IAsyncOperationWithProgress<Microsoft.Windows.Management.Deployment.PackageDeploymentResult,
Microsoft.Windows.Management.Deployment.PackageDeploymentProgress> MakeAvailableAsync ();
Memastikan model bahasa yang mendasar diinstal dan tersedia untuk digunakan.
Tindakan asinkron dengan kemajuan yang mengembalikan PackageDeploymentResult setelah selesai.
public sealed class LanguageModelOptions
public LanguageModelOptions ();
Konstruktor LanguageModelOptions.#ctor(Microsoft.Windows.AI.Generative.LanguageModelSkill,System.Single,System.Single,System.UInt32)
public LanguageModelOptions (Microsoft.Windows.AI.Generative.LanguageModelSkill skill, float temp, float top_p, uint top_k);
public Microsoft.Windows.AI.Generative.LanguageModelSkill Skill { get; set; }
public float Temp { get; set; }
public uint Top_k { get; set; }
public float Top_p { get; set; }
public sealed class LanguageModelResponse
Mewakili string respons dan status.
public string Response { get; }
Mendapatkan string respons yang dikembalikan oleh model bahasa berdasarkan perintah yang disediakan.
String respons yang dikembalikan oleh model bahasa berdasarkan perintah yang disediakan.
public Microsoft.Windows.AI.Generative.LanguageModelResponseStatus Status { get; }
Mendapatkan status respons berdasarkan perintah yang disediakan.
String respons yang dikembalikan oleh model bahasa berdasarkan perintah yang disediakan.
Nilai apa pun selain Succeeded
atau InProgress
dianggap gagal.
public enum LanguageModelResponseStatus
Menentukan kemungkinan nilai status respons untuk perintah yang disediakan.
Respons selesai.
Respons sedang berlangsung.
Respons diblokir oleh pengaturan kebijakan.
public enum LanguageModelSkill