什么是 AI Toolkit for Visual Studio Code?

AI Toolkit for Visual Studio Code (VS Code) 是一个 VS Code 扩展,它通过整合来自 Azure AI Studio Catalog 和其他目录(如 Hugging Face)的尖端 AI 开发工具和模型,简化了生成式 AI 应用开发。

备注

GitHub 存储库中提供了适用于 AI 工具包 VS Code 的其他文档和教程: microsoft/vscode-ai-toolkit。 你将找到有关 Playground、使用 AI 模型、微调本地模型和基于云的模型等的指导。

AI Toolkit 功能

AI Toolkit for VS Code (AI Toolkit) 使你能够:

  • 在本地下载并运行 AI 模型。 AI Toolkit 提供对以下平台和硬件的高度优化模型的访问:
    • 使用 DirectML 加速运行的 Windows 11
    • 直接在 CPU 上运行的 Windows 11
    • 使用 NVIDIA 加速的 Linux
    • 直接在 CPU 上运行的 Linux
    • MacOS 支持即将推出
  • 使用 REST API 在直观的操场或应用程序中测试模型。
  • 在本地或云端(虚拟机上)微调 AI 模型,以创建新技能,提高响应的可靠性,设定响应的语调和格式。 AI 工具包提供引导式演练,用于微调常用的小型语言模型(如 Phi-3Mistral)。
  • 将 AI 功能部署到云端或在设备上运行的应用程序。

备注

AI Toolkit 以前称为 Windows AI Studio。 该扩展已重命名,以反映对跨平台 VS Code 中启用 AI 开发的关注。

想要了解有关 AI Toolkit for VS Code 的详细信息? Dona Sarkar 和 John Lam 在 Microsoft Build 2024 的这段视频中概述了 AI Toolkit:

有关最新文档以及下载和使用 AI Toolkit 的信息,请访问 GitHub 页面

Azure AI Studio 目录

Hugging Face 模型