在 Microsoft Dev Box 中使用无服务器 GPU 计算

本文介绍什么是无服务器 GPU 计算、工作原理以及其使用的关键方案。 在 Microsoft Dev Box（预览版）中，使用无服务器 GPU 计算可以快速启动具备 GPU 加速的开发箱，无需额外设置。 Dev Box 无服务器 GPU 计算允许开发人员按需使用 GPU 资源，而无需永久基础结构或复杂的设置。

无服务器 GPU 计算的常见方案包括计算密集型工作负载，例如 AI 模型训练、推理和数据处理。 无服务器 GPU 计算使你可以：

• 仅当需要 GPU 资源时才使用 GPU 资源
• 根据工作负荷需求缩放 GPU 资源
• 仅为使用的 GPU 时间付费
• 在组织的安全网络环境中工作

此功能将 Microsoft Dev Box 与 Azure 容器应用集成，以提供 GPU 电源，而无需开发人员管理基础结构。

Dev Box 中的无服务器 GPU 计算使用 Azure 容器应用（ACA）。 当开发人员启动启用了 GPU 的 shell 或工具时，Dev Box 会自动：

• 创建与无服务器 GPU 会话的连接
• 预配必要的 GPU 资源
• 通过开发人员终端或集成开发环境提供这些资源
• 不再需要会话时自动终止会话

Prerequisites

• Azure 订阅服务
• 已为你的订阅注册 Microsoft.App
• 为订阅注册的 Microsoft.CognitiveServices
• 开发人员中心和项目
  • 有关创建开发人员中心和项目的详细信息，请参阅 快速入门：配置 Microsoft Dev Box
• 为开发人员中心配置的托管服务标识（MSI）
  • 有关配置 MSI 的详细信息，请参阅 托管服务标识。

配置无服务器 GPU

管理员通过开发人员中心控制项目级别的无服务器 GPU 访问。 关键管理功能包括：

• 启用/禁用 GPU 访问：控制项目是否可以使用无服务器 GPU 资源。
• 设置并发 GPU 限制：设置可在项目中同时使用的最大 GPU 数。

通过项目级属性管理对无服务器 GPU 资源的访问。 为项目启用无服务器 GPU 功能时，该项目中的所有开发框都可以使用 GPU 计算。 这种简单的访问模型消除了自定义角色或基于池的配置的需求。

Important

无服务器 GPU 仅在特定区域中可用。 项目必须位于以下区域之一：巴西、加拿大中部、CentralUS、EastUS、EastUS2、SouthCentralUS 或 WestUS3。

为订阅注册无服务器 GPU

1. 登录到 Azure 门户。
2. 导航到你的订阅。
3. 选择设置>预览功能。
4. 选择 Dev Box 无服务器 GPU 预览版，然后选择“ 注册”。

为项目启用无服务器 GPU

1. 转到你的项目。
2. 选择“设置”“开发箱设置”。>
3. 在 AI 工作负载下，选择“ 启用”，然后选择“ 应用”。

连接到 GPU

启用无服务器 GPU 后，该项目中的 Dev Box 用户在其终端和 Visual Studio （VS） Code 环境中看到 GPU 选项。

可以使用以下方法之一进行连接：

方法 1：启动 Dev Box GPU shell

1. 在开发框中打开 Windows 终端。
2. 运行以下命令：

   devbox gpu shell
   

3. 将你连接到预配置的 GPU 容器。

方法 2：将 VS Code 与远程隧道配合使用

1. 在开发框中打开 Windows 终端。
2. 运行以下命令：

   devbox gpu shell
   

3. 启动 Visual Studio Code。
4. 安装 远程隧道扩展。
5. 连接到 gpu-session 隧道。

相关内容

• 在 Microsoft Dev Box 中使用新的 AI 功能增强 AI 开发
• 详细了解无服务器 GPU 的 Azure 容器应用