最常见的问题
如何申请 Azure OpenAI 访问?
- 我们鼓励你在申请时使用业务电子邮件地址。
- 使用个人电子邮件地址(例如: @yahoo.com、@gmail.com、@hotmail.com 等等)提交的申请很容易拒绝。
- 为产品可能拥有的每个用例填写单独的申请。
- 按照窗体中的说明输入赞助订阅 GUID。
- 访问此窗体以开始:https://aka.ms/oai/access
哪个 Azure 支持选项适合我的问题?
- 若要查看成本和计费详细信息,请在 www.microsoftazuresponsorships.com 登录到 Azure 赞助门户。
- 有关错误消息、配额请求、计费问题和紧急问题,请在 portal.azure.com 提出支持请求。
- 如需有关如何构建、迁移或优化的建议,请登录创始人中心(网址为 foundershub.startups.microsoft.com/login --> 指导 --> --> 与顾问配对),联系我们的 Azure 咨询团队
- 若要提出自己的问题并查看存在问题的解答,请访问 learn.microsoft.com/answers/questions 中的 Microsoft 问答论坛。
- 若要构建技能并获得不同 Azure 工具和资源的经验,请访问 learn.microsoft.com/training/topics/startups 中的初创公司。
Azure 顾问和支持
如何从另一个平台获取关于迁移到 Azure 的帮助?
获得 5,000 美元 Azure 信用额度优惠的初创公司可以无限制地参加与 Azure 工程师的配对会议,Azure 工程师会在你构建时为你提供指导。 它可以是任何内容,从关于选择合适产品的 30 分钟快速讨论到 4 小时的架构审查或基础设施优化咨询。
预订第一个会话:
- 登录到创始人中心
- 导航到“指南”选项卡
- 选择“与顾问配对”--> 填写窗体并提交请求
- 我们的团队将在一个工作日内进行联系
可以使用哪些类型的 Azure 顾问服务?
获得 5,000 美元及以上 Azure 信用额度优惠的初创公司可以无限制免费使用一系列 1:1 Azure 顾问服务。 它包括选择产品以及设计和优化时咨询专家建议。 要请求第一个会话,请执行以下操作:
- 登录到创始人中心
- 选择“与顾问配对”--> 填写窗体并提交请求
在哪里可以找到示例体系结构关系图?
learn.microsoft.com/en-us/azure/architecture/browse/ 提供了示例体系结构关系图。
我使用 Azure 门户来做什么?
将 Azure 门户解决以下问题:
- 联系 Azure 支持团队,了解 Azure 性能问题或 Azure 错误消息
- 提交容量配额请求
- 计费问题
在哪里可以找到有关如何提升 Azure 技能的更多信息?
- 选择 Azure 计算服务:learn.microsoft.com/azure/architecture/guide/technology-choices/compute-decision-tree
- 体系结构模板:learn.microsoft.com/azure/architecture/browse
- 反应堆事件:https://developer.microsoft.com/reactor
- 了解:learn.microsoft.com/azure/?product=popular
在哪里可以找到成本计算器?
可在 azure.microsoft.com/pricing/calculator/ 访问成本计算器
如何获取激活 Azure 的帮助?
请参阅本部分:Azure 权益。
Azure 顾问是否支持我的语言?
Azure 顾问支持和 Azure 配对会话只有英文版。
Azure OpenAI
Azure OpenAI 是否包括 ChatGPT?
是的。 在 azure.microsoft.com/products/cognitive-services/openai-service 详细了解 Azure OAIS 的最新功能。
是否可以使用 Azure 额度来启动 Azure OpenAI?
可以,Azure 信用额度可用于此处列出的任何 Azure 产品:azure.microsoft.com/services Azure 额度不能用于非 Azure 产品、通过 Microsoft Azure 市场销售的产品或购买 Microsoft 支持计划。
用于参考的 Azure OpenAI 链接
- Microsoft 机制演练视频:www.youtube.com/watch?v=3t3qZu1Dy1k
- Azure OpenAI 推介视频:aka.ms/AOAI-PitchVideo
- Azure OpenAI 产品页:https://azure.microsoft.com/products/cognitive-services/openai-service
- 有关详细信息,请参阅 Azure AI GearUp 页:aka.ms/AOAI
OpenAI 和 Azure OpenAI(Azure OAIS)之间的区别是什么?
OpenAI 是第三方权益,而不是 Microsoft 产品。 初创公司可以通过创始人中心获得 2,500 美元的 OpenAI 信用额度。 Azure OpenAI 是一款Microsoft Azure 产品,可通过 Azure 额度支付。 许多初创公司使用 OpenAI 进行测试并过渡到 Azure OpenAI 进行生产部署和面向客户的部署。
我的 Azure OpenAI 应用程序被拒绝。 我该怎么办?
我们于 2023 年 5 月扩展了对此服务的访问权限。 如果你之前被拒绝,请再次申请。 如果你被拒绝,请联系 csgate@microsoft.com。
如何请求增加 Azure OpenAI 的配额限制?
公司必须是注册企业并通过域验证才能增加配额限制。 有关请求增加的限额和过程的信息,请访问 learn.microsoft.com/azure/cognitive-services/openai/quotas-limits。
Azure OpenAI 的配额限制是什么?
有关默认限制的信息,请参阅本文:learn.microsoft.com/azure/cognitive-services/openai/quotas-limits。
速率限制(TPM 和 RPM)如何在 Azure OpenAI 中发挥作用?
TPM(每分钟令牌数)和 RPM(每分钟请求数)定义速率限制。 TPM 配额确定模型部署每分钟可以处理的最大令牌数。 RPM 现在本质上链接到 TPM,指示不再单独考虑这两个指标。 对于配额,TPM 和 RPM 之间的关系为每 1K TPM 相当于 6 RPM。 这意味着,对于每 1,000 个 TPM,你最多可以使用 6 RPM。
Azure OpenAI 中模型的 TPM 与上下文长度有何区别?
每分钟令牌数 (TPM) 是指分配给 Azure OpenAI 中的部署的速率限制。 它表示模型部署每分钟可以处理的最大令牌数。 另一方面,模型的上下文长度是指单个 API 调用的输入文本中可以包含的最大令牌数。 TPM 速率限制基于分配的 TPM 值强制执行,而上下文长度确定模型可处理的输入文本的最大大小。
请务必注意,TPM 分配与模型的最大输入令牌限制无关。
数据是否会在内部用于训练或优化 Azure OpenAI 模型?
Azure OpenAI 不使用客户数据来重新训练模型。
提示(输入)和完成(输出)、嵌入内容和训练数据:
- 对其他客户不可用
- 对 OpenAI 不可用
- 不用于改进 OpenAI 模型
- 不用于改进任何 Microsoft 或第三方产品或服务
- 不用于自动改进 Azure OpenAI 模型以便在资源中使用(模型是无状态的,除非使用训练数据显式优化模型)
微调的 Azure OpenAI 模型仅供你使用。
OpenAI 模型的内容筛选的意义是什么,如何为用例自定义它?
内容筛选可确保 AI 生成的内容符合特定的准则和策略。 它有助于检测并防止通过提示输入有害内容以及生成不适当或令人反感的内容。 在 Azure OpenAI 中,内容筛选功能通过 Azure AI 内容安全提供。 你可以在 Azure OpenAI 模型中自定义内容筛选器,以符合应用程序的准则并缓解与生成的内容相关的潜在风险。
只有已达到创始人中心级别 3 的初创公司才能请求访问权限以修改 Azure OpenAI 中的内容筛选。 若要请求对内容筛选修改的访问权限,请通过以下链接提交请求:
请求访问内容筛选修改的链接:
如何实现在 Azure OpenAI 中创建模型部署?
若要在 Azure OpenAI 中创建模型部署,请执行以下步骤:
- 在 https://oai.azure.com 中登录到 Azure OpenAI Studio。
- 选择要使用的订阅和 Azure OpenAI 资源,然后选择“使用资源”。
- 在“管理”下,选择“部署”。
- 选择“创建新部署”并配置以下字段:
字段 | 说明 |
---|---|
选择模型 | 模型可用性因区域而异。 有关每个区域的可用模型的列表,请参阅 learn.microsoft.com/azure/ai-services/openai/concepts/models#model-summary-table-and-region-availability 中的模型摘要表和区域可用性。 |
部署名称 | 请谨慎选择名称。 部署名称在代码中使用,通过使用客户端库和 REST API 调用模型。 |
高级选项(可选) | 可以根据需要为资源设置可选高级设置。 |
- 对于内容筛选器,请为部署分配内容筛选器。
- 对于每分钟标记数速率上限,请调整每分钟标记数 (TPM),为你的部署设置有效的速率上限。 你可以使用配额菜单随时修改此值:learn.microsoft.com/azure/ai-services/openai/how-to/quota?tabs=rest。
- 从下拉列表中选择一个模型。
- 输入部署名称以帮助你识别模型。
- 对于你的第一个部署,请将“高级选项”设置为默认值。 选择创建。
部署表会显示与新建模型相对应的新条目。 部署完成后,模型部署状态更改为“成功”。
如何删除内容筛选器?
“托管状态”是移除内容筛选器的多个要求之一。 Microsoft for Startups 不裁定内容筛选器的决定。 但是,满足“托管状态”条件的一种方法是被接受 Microsoft for Startups 计划的 25,000 美元级别,并通过其他审查要求。 25,000 美元或更高级别的初创企业可以在此处了解更多关于内容筛选器的信息,包括如何联系相关团队以删除
GPU
有哪些不同类型的 GPU SKU?
GPU 的需求量很大;这就是我们鼓励实现区域和 SKU 灵活性的原因。 若要了解我们的 GPU SKU 范围,请在 learn.microsoft.com/azure/virtual-machines/sizes-gpu 中阅读详细信息。