Megosztás a következőn keresztül:


Mi a Visual Studio CodeAI-eszközkészlete?

A Visual Studio Code (VS Code) AI-eszközkészlet egy VS Code bővítmény, amely leegyszerűsíti a generatív AI-alkalmazások fejlesztését azáltal, hogy a Azure AI Foundry katalógus és más katalógusokból származó élvonalbeli AI-fejlesztési eszközöket és modelleket egyesíti, például a Hugging Face.

Jegyzet

A VS Code AI-eszközkészlethez további dokumentációk és oktatóanyagok érhetők el a GitHub-adattárban: microsoft/vscode-ai-toolkit. Útmutatást talál a Playground szolgáltatással, az AI-modellekkel való munkával, a helyi és felhőalapú modellek finomhangolásával kapcsolatban.

Az AI-eszközkészlet funkciói

A VS Code AI-eszközkészlete (AI-eszközkészlet) lehetővé teszi a következőket:

  • Töltse le és futtassa helyileg az AI-modelleket. Az AI-eszközkészlet a következő platformokra és hardverekre optimalizált modellekhez biztosít hozzáférést:
    • DirectML-gyorsítással futó Windows 11
    • Közvetlenül a CPU-n futó Windows 11
    • NPU-n futó Windows 11 Copilot+ számítógépek
    • Linux NVIDIA-gyorsítással
    • Közvetlenül a CPU-n futó Linux
    • MacOS-támogatás hamarosan
  • Tesztelje a modelleket egy intuitív játszótéren vagy az alkalmazásban egy REST API-val.
  • Az AI-modell finomhangolása – helyileg vagy a felhőben (virtuális gépen) – új készségek létrehozásához, a válaszok megbízhatóságának javításához, a válasz hangnemének és formátumának beállításához. Az AI-eszközkészlet interaktív útmutatót biztosít a népszerű kis nyelvi modellek (SLM-ek) finomhangolásához , például Phi-3 és Mistral.
  • Az AI-funkció üzembe helyezése a felhőben vagy egy eszközön futó alkalmazással.

Jegyzet

A Deepseek R1 Desztillált modell a Neurális feldolgozási egységhez (NPU) van optimalizálva, és letölthető a Windows 11-et futtató Snapdragon-alapú Copilot+ számítógépeken. További információért lásd a 'Helyi desztillált DeepSeek R1 modellek futtatása a Windows Copilot Runtime által hajtott, Copilot+ számítógépeken' című részt.

Szeretne többet megtudni a VS CodeAI-eszközkészletéről? Dona Sarkar és John Lam a Microsoft Build 2024-ből származó videóban áttekintést nyújtanak az AI-eszközkészletről:

A legújabb dokumentációért, valamint az AI-eszközkészlet letöltéséhez és használatához látogasson el a GitHublapjára.