Come è possibile integrare l'intelligenza artificiale nell'app client Windows?
L'integrazione dell'intelligenza artificiale nell'applicazione Windows può essere ottenuta tramite due metodi principali: un modello locale o un modello basato sul cloud. Per l'opzione del modello locale, è possibile usare un modello preesistente o eseguire il training usando piattaforme come TensorFlow o PyTorch e quindi incorporarlo nell'applicazione tramite OnnxRuntime. Microsoft Foundry su Windows offre API per varie funzioni, tra cui OCR o uso del modello Phi Silica. D'altra parte, l'hosting del modello nel cloud e l'accesso tramite un'API REST consente all'applicazione di rimanere semplificata delegando attività a elevato utilizzo di risorse al cloud. Per altre informazioni, vedere Usare modelli di Machine Learning nell'app Windows.
È necessaria la versione più recente di Windows 11 e un Copilot+ PC con una NPU per l'uso delle funzionalità di intelligenza artificiale?
Esistono molti modi per eseguire carichi di lavoro di intelligenza artificiale, sia installando che eseguendo modelli in locale nel dispositivo Windows o eseguendo modelli basati sul cloud (vedere Introduzione all'intelligenza artificiale in Windows), tuttavia, le funzionalità di intelligenza artificiale supportate da Windows API di intelligenza artificiale richiedono attualmente un Copilot+ PC con una NPU.
Quali linguaggi di programmazione sono ideali per lo sviluppo di intelligenza artificiale nelle app client Windows?
È possibile usare qualsiasi linguaggio di programmazione preferito. Ad esempio, C# viene ampiamente usato per la creazione di app client Windows. Se è necessario un maggiore controllo sui dettagli di basso livello, C++ è un'ottima opzione. In alternativa, è consigliabile usare Python. È anche possibile usare sottosistema Windows per Linux (WSL) per eseguire strumenti di intelligenza artificiale basati su Linux in Windows.
Quali sono i framework di intelligenza artificiale migliori per le app client Windows?
È consigliabile usare OnnxRuntime.
Come gestire la privacy e la sicurezza dei dati quando si usa l'intelligenza artificiale nelle app client Windows?
Rispettare la privacy e la sicurezza dei dati degli utenti è essenziale quando si sviluppano app basate sull'intelligenza artificiale. È consigliabile seguire le procedure consigliate per la gestione dei dati, ad esempio la crittografia dei dati sensibili, l'uso di connessioni sicure e il recupero del consenso dell'utente prima della raccolta dei dati. È anche consigliabile essere trasparenti sul modo in cui si usano i dati e concedere agli utenti il controllo sui dati. Non dimenticare di leggere anche Sviluppare Applicazioni e Funzionalità di Intelligenza Artificiale Generativa Responsabile su Windows.
Quali sono i requisiti di sistema per l'esecuzione dell'intelligenza artificiale nelle app client Windows?
I requisiti di sistema per le app Windows che usano l'intelligenza artificiale dipendono dalla complessità del modello di intelligenza artificiale e dall'accelerazione hardware usata. Per i modelli semplici, una CPU moderna può essere sufficiente, ma per modelli più complessi potrebbe essere necessaria una GPU o una NPU. È anche consigliabile considerare i requisiti di memoria e archiviazione dell'app, nonché la larghezza di banda di rete necessaria per i servizi di intelligenza artificiale basati sul cloud.
Come ottimizzare le prestazioni di intelligenza artificiale nelle app client Windows?
Per ottimizzare le prestazioni di intelligenza artificiale nelle app Windows, è consigliabile usare l'accelerazione hardware, ad esempio GPU o NPU, per velocizzare l'inferenza del modello. Windows Copilot+ portatili sono ottimizzati per i carichi di lavoro di intelligenza artificiale e possono offrire un miglioramento significativo delle prestazioni per le attività di intelligenza artificiale. Vedere anche la panoramica di Foundry Toolkit per Visual Studio Code.
È possibile usare modelli di intelligenza artificiale con training preliminare nell'app client Windows?
Sì, è possibile usare modelli di intelligenza artificiale con training preliminare nell'app Windows. È possibile scaricare modelli con training preliminare da Internet o usare un servizio di intelligenza artificiale basato sul cloud per accedere ai modelli con training preliminare. È quindi possibile integrare questi modelli nell'app usando un framework come OnnxRuntime.
Che cos'è DirectML?
DirectML è un'API di basso livello per l'apprendimento automatico che fornisce l'accelerazione GPU per attività comuni di Machine Learning in un'ampia gamma di driver e hardware supportati, incluse tutte le GPU con supporto per DirectX 12 provenienti da fornitori come AMD, Intel, NVIDIA e Qualcomm.
Come è possibile scoprire quale tipo di CPU, GPU o NPU ha il dispositivo?
Per controllare il tipo di CPU, GPU o NPU sul tuo dispositivo Windows e le loro prestazioni, apri gestione attività (Ctrl + Maiusc + Esc), quindi seleziona la scheda Performance e potrai visualizzare la CPU, la memoria, il Wi-Fi, la GPU e/o la NPU elencati, insieme alle informazioni sulla velocità, livello di utilizzo e altri dati.
Che cos'è Windows ML?
Windows ML (Machine Learning) consente all'app di usare una copia condivisa a livello di sistema del runtime ONNX (ORT) e aggiunge il supporto per scaricare dinamicamente provider di esecuzione (EP) specifici del fornitore, in modo da ottimizzare l'inferenza del modello sull'ampia varietà di CPU, GPU e NPU presenti nell'ecosistema Windows, senza richiedere all'app di includere runtime o EP pesanti.