Udostępnij za pośrednictwem

Co to jest zestaw narzędzi sztucznej inteligencji dla Visual Studio Code?

AI Toolkit for Visual Studio Code (VS Code) to VS Code rozszerzenie, które upraszcza tworzenie aplikacji generatywnej AI, poprzez zintegrowanie najnowocześniejszych narzędzi programistycznych i modeli z katalogu Azure AI Foundry i innych katalogów, takich jak Hugging Face.

Notatka

Dodatkowa dokumentacja i samouczki dotyczące zestawu narzędzi AI Toolkit for VS Code są dostępne w VS Code dokumentacji: AI Toolkit for Visual Studio Code. Znajdziesz wskazówki dotyczące placu zabaw, pracy z modelami sztucznej inteligencji, dostrajaniem modeli lokalnych i opartych na chmurze i nie tylko.

Funkcje zestawu narzędzi AI

Zestaw narzędzi AI Toolkit for VS Code (AI Toolkit) umożliwia:

  • Pobierz i uruchom modele sztucznej inteligencji lokalnie. Zestaw narzędzi AI Toolkit zapewnia dostęp do wysoce zoptymalizowanych modeli dla następujących platform i sprzętu:
    • System Windows 11 z akceleratorem DirectML
    • System Windows 11 uruchomiony bezpośrednio na procesorze
    • Komputery z systemem Windows 11 Copilot+ działające na serwerze NPU
    • Linux z akceleratorem NVIDIA
    • System Linux uruchomiony bezpośrednio na procesorze CPU
    • Obsługa systemu MacOS będzie dostępna wkrótce
  • Przetestuj modele na intuicyjnym placu zabaw lub w aplikacji przy użyciu interfejsu API REST.
  • Dostosuj model sztucznej inteligencji — lokalnie lub w chmurze (na maszynie wirtualnej) — aby utworzyć nowe umiejętności, poprawić niezawodność odpowiedzi, ustawić ton i format odpowiedzi. Zestaw narzędzi AI Toolkit udostępnia przewodnik, aby dostosować popularne małe modele językowe (SLM) — takie jak Phi-3 i Mistral.
  • Wdróż funkcję sztucznej inteligencji w chmurze lub za pomocą aplikacji działającej na urządzeniu.
  • Monity do uruchomienia w trybie wsadowym dla wybranych modeli AI w Playground.

Notatka

Model Deepseek R1 Distilled jest zoptymalizowany pod kątem jednostki przetwarzania neuronowego (NPU) i jest dostępny do pobrania na komputerach Copilot+ z procesorem Snapdragon, działających na systemie Windows 11. Aby uzyskać więcej informacji, zobacz Running Distilled DeepSeek R1 models locally on Copilot+ PCs, powered by Windows AI Foundry ( Uruchamianie modeli DeepSeek R1 lokalnie na komputerach Copilot+ opartych na narzędziu Windows AI Foundry).

Zestaw narzędzi AI Toolkit obsługuje teraz podejście Bring Your Own Model . Możesz użyć zestawu narzędzi AI, aby pobrać własne modele, takie jak DeepSeek-R1, z katalogów, takich jak Ollama, i uruchamiać je lokalnie.

Chcesz dowiedzieć się więcej o zestawie narzędzi AI Toolkit for VS Code? Dona Sarkar i John Lam przedstawiają omówienie AI Toolkit w tym wideo z konferencji Microsoft Build 2024.

Aby uzyskać najnowszą dokumentację i pobrać i korzystać z zestawu narzędzi AI Toolkit, zapoznaj się z dokumentacjąVS Code.

Treści powiązane