Mi a Visual Studio CodeAI-eszközkészlete?
A Visual Studio Code (VS Code) AI-eszközkészlet egy VS Code bővítmény, amely leegyszerűsíti a generatív AI-alkalmazások fejlesztését azáltal, hogy a Azure AI Foundry katalógus és más katalógusokból származó élvonalbeli AI-fejlesztési eszközöket és modelleket egyesíti, például a Hugging Face.
Jegyzet
A VS Code AI-eszközkészlethez további dokumentációk és oktatóanyagok érhetők el a GitHub-adattárban: microsoft/vscode-ai-toolkit. Útmutatást talál a Playground szolgáltatással, az AI-modellekkel való munkával, a helyi és felhőalapú modellek finomhangolásával kapcsolatban.
Az AI-eszközkészlet funkciói
A VS Code AI-eszközkészlete (AI-eszközkészlet) lehetővé teszi a következőket:
- Töltse le és futtassa helyileg az AI-modelleket. Az AI-eszközkészlet a következő platformokra és hardverekre optimalizált modellekhez biztosít hozzáférést:
- DirectML-gyorsítással futó Windows 11
- Közvetlenül a CPU-n futó Windows 11
- NPU-n futó Windows 11 Copilot+ számítógépek
- Linux NVIDIA-gyorsítással
- Közvetlenül a CPU-n futó Linux
- MacOS-támogatás hamarosan
- Tesztelje a modelleket egy intuitív játszótéren vagy az alkalmazásban egy REST API-val.
- Az AI-modell finomhangolása – helyileg vagy a felhőben (virtuális gépen) – új készségek létrehozásához, a válaszok megbízhatóságának javításához, a válasz hangnemének és formátumának beállításához. Az AI-eszközkészlet interaktív útmutatót biztosít a népszerű kis nyelvi modellek (SLM-ek) finomhangolásához , például Phi-3 és Mistral.
- Az AI-funkció üzembe helyezése a felhőben vagy egy eszközön futó alkalmazással.
Jegyzet
A Deepseek R1 Desztillált modell a Neurális feldolgozási egységhez (NPU) van optimalizálva, és letölthető a Windows 11-et futtató Snapdragon-alapú Copilot+ számítógépeken. További információért lásd a 'Helyi desztillált DeepSeek R1 modellek futtatása a Windows Copilot Runtime által hajtott, Copilot+ számítógépeken' című részt.
Szeretne többet megtudni a VS CodeAI-eszközkészletéről? Dona Sarkar és John Lam a Microsoft Build 2024-ből származó videóban áttekintést nyújtanak az AI-eszközkészletről:
A legújabb dokumentációért, valamint az AI-eszközkészlet letöltéséhez és használatához látogasson el a GitHublapjára.