Was ist das KI Toolkit für Visual Studio Code?
Das KI-Toolkit für Visual Studio Code (VS Code) ist eine VS Code-Erweiterung, die die Entwicklung generativer KI-Apps vereinfacht, indem sie hochmoderne KI-Entwicklungstools und -Modelle aus dem Azure AI Foundry Catalog und anderen Katalogen wie Hugging Face zusammenführt.
Hinweis
Weitere Dokumentationen und Lernprogramme für das AI Toolkit VS Code sind im GitHub-Repository verfügbar: microsoft/vscode-ai-toolkit. Sie finden Anleitungen zum Playground, arbeiten mit KI-Modellen, optimieren lokale und cloudbasierte Modelle und vieles mehr.
Funktionen des KI Toolkit
Das KI Toolkit für VS Code (AI Toolkit) ermöglicht Folgendes:
- Lokales Herunterladen und Ausführen von KI-Modellen. Das KI Toolkit bietet Zugriff auf hochoptimierte Modelle für die folgenden Plattformen und Hardware:
- Windows 11 mit DirectML-Beschleunigung
- Windows 11, das direkt auf der CPU ausgeführt wird
- Windows 11 Copilot+ PCs, die die NPU nutzen
- Linux mit NVIDIA-Beschleunigung
- Linux, das direkt auf der CPU ausgeführt wird
- MacOS Unterstützung ist in Kürze verfügbar
- Testen Sie Modelle in einem intuitiven Playground oder in Ihrer Anwendung mit einer REST API.
- Optimieren Sie Ihr KI-Modell lokal oder in der Cloud (auf einem virtuellen Computer), um neue Fähigkeiten zu schaffen, die Zuverlässigkeit von Antworten zu verbessern und den Ton und das Format der Antwort festzulegen. Das AI Toolkit bietet eine geführte exemplarische Vorgehensweise zur Feinabstimmung beliebter kleiner Sprachmodelle (SLMs) wie Phi-3 und Mistral.
- Stellen Sie Ihr KI-Feature entweder in der Cloud oder mit einer Anwendung bereit, die auf einem Gerät ausgeführt wird.
Hinweis
Das Deepseek R1 Distilled Modell ist für die Neural Processing Unit (NPU) optimiert und steht zum Download auf Snapdragon-betriebenen Copilot+ PCs unter Windows 11 zur Verfügung. Weitere Informationen finden Sie unter Lokale Ausführung herausgefilterter DeepSeek R1-Modelle auf Copilot+ PCs, die von der Windows Copilot-Runtime unterstützt werden.
Möchten Sie mehr über das KI Toolkit für VS Code erfahren? Dona Sarkar und John Lam geben in diesem Video von der Microsoft Build 2024 einen Überblick über das KI Toolkit:
Die neueste Dokumentation, den Download sowie Informationen zur Verwendung von KI Toolkit finden Sie auf der GitHub-Seite.