Condividi tramite

Che cos'è ai Toolkit per Visual Studio Code?

AI Toolkit for Visual Studio Code (VS Code) è un'estensione VS Code che semplifica lo sviluppo di app per intelligenza artificiale generative combinando strumenti e modelli di sviluppo di intelligenza artificiale all'avanguardia dal Azure AI catalogo Foundry e da altri cataloghi come Hugging Face.

Nota

La documentazione e le esercitazioni aggiuntive per AI Toolkit for VS Code sono disponibili nella VS Code documentazione: AI Toolkit for Visual Studio Code. Sono disponibili indicazioni su Playground, sull'uso di modelli di intelligenza artificiale, sull'ottimizzazione dei modelli locali e basati sul cloud e altro ancora.

Funzionalità di AI Toolkit

AI Toolkit for VS Code (AI Toolkit) consente di:

  • Scaricare ed eseguire modelli di intelligenza artificiale in locale. Ai Toolkit offre l'accesso a modelli altamente ottimizzati per le piattaforme e l'hardware seguenti:
    • Windows 11 in esecuzione con accelerazione DirectML
    • Windows 11 in esecuzione direttamente nella CPU
    • PC con Windows 11 Copilot+ in esecuzione su NPU
    • Linux con accelerazione NVIDIA
    • Linux in esecuzione direttamente nella CPU
    • Il supporto di MacOS sarà presto disponibile
  • Testare i modelli in un playground intuitivo o nell'applicazione con un'API REST .
  • Ottimizzare il modello di intelligenza artificiale in locale o nel cloud (in una macchina virtuale) per creare nuove competenze, migliorare l'affidabilità delle risposte, impostare il tono e il formato della risposta. AI Toolkit offre una procedura guidata per ottimizzare i modelli di linguaggio di piccole dimensioni più diffusi, ad esempio Phi-3 e Mistral.
  • Distribuire la funzionalità di intelligenza artificiale nel cloud o con un'applicazione in esecuzione in un dispositivo.
  • Richieste di esecuzione batch per i modelli di intelligenza artificiale selezionati in Playground.

Nota

Il modello Deepseek R1 Distilled è ottimizzato per l'unità di elaborazione neurale (NPU) ed è disponibile per il download su PC Copilot+ con tecnologia Snapdragon che eseguono Windows 11. Per ulteriori informazioni, vedere Esecuzione di modelli Distilled DeepSeek R1 in locale su PC Copilot+, basati su Windows AI Foundry.

La AI Toolkit ora supporta un approccio Bring Your Own Model. È possibile usare AI Toolkit per scaricare modelli personalizzati, ad esempio DeepSeek-R1, da cataloghi come Ollama ed eseguirli in locale.

Vuoi altre informazioni su AI Toolkit per VS Code? Dona Sarkar e John Lam offrono una panoramica di AI Toolkit in questo video di Microsoft Build 2024:

Per la documentazione più recente e per scaricare e usare AI Toolkit, visitare la VS Code documentazione.

Contenuti correlati