可以通过两个主要方法(通过 Windows AI Foundry 本地模型或基于云的模型)将 AI 集成到 Windows 应用程序中。 确定适合需求的选项时,需要考虑几个方面。
资源可用性
- 本地设备: 运行模型取决于所使用的设备上的可用资源,包括 CPU、GPU、NPU、内存和存储容量。 如果设备没有较高的计算能力或足够的存储,则可以限制这种情况。 小型语言模型(SLM),如 Phi,更适合在设备上本地使用。 Copilot + PC 提供由 Windows AI Foundry 运行的内置模型,具有即用型 AI 功能。
- 云: 云平台(如 Azure AI Services)提供可缩放的资源。 可以根据需要使用尽可能多的计算能力或存储,并且只需为使用的内容付费。 大型语言模型(LLM),如 OpenAI 语言模型,需要更多的资源,但也更强大。
数据隐私和安全
- 本地设备: 由于数据保留在设备上,因此在本地运行模型可以提供有关安全和隐私的好处,而数据安全由用户负责。
- 云: 云提供商提供可靠的安全措施,但需要将数据传输到云,在某些情况下,这可能会引发业务或应用服务维护者的数据隐私问题。
辅助功能和协作
- 本地设备: 除非手动共享,否则只能在设备上访问模型和数据。 这有可能使对模型数据进行协作更具挑战性。
- 云: 可以通过 Internet 连接从任何位置访问模型和数据。 这可能更适用于协作方案。
成本
- 本地设备: 在设备硬件的初始投资之外,不会产生额外的费用。
- 云: 虽然云平台在即用即付模式下运行,但成本可以根据使用的资源和使用情况持续时间累积。
维护和更新
- 本地设备: 用户负责维护系统和安装更新。
- 云: 维护、系统更新和新功能更新由云服务提供商处理,从而减少用户的维护开销。
Azure AI Foundry 企业版
Azure AI Foundry 为企业 AI作、模型生成器和应用程序开发提供统一的平台。 此基础将生产级基础结构与友好的界面相结合,确保组织能够自信地构建和运营 AI 应用程序。
云 AI 示例
如果基于云的解决方案适用于 Windows 应用方案,你可能对下面的一些教程感兴趣。
许多 API 可用于访问基于云的模型,以在 Windows 应用中为 AI 功能提供支持,无论这些模型是自定义的还是可供使用的。 使用基于云的模型,应用可以通过将资源密集型任务委派给云来保持简化。 一些有助于添加由 Microsoft 或 OpenAI 提供的基于云的 AI 支持的 API 的资源包括:
将 OpenAI 聊天完成添加到 WinUI 3/Windows App SDK 桌面应用:有关如何将基于云的 OpenAI ChatGPT 完成功能集成到 WinUI 3/Windows 应用 SDK 桌面应用中的教程。
将 DALL-E 添加到 WinUI 3/Windows 应用 SDK 桌面应用:有关如何将基于云的 OpenAI DALL-E 映像生成功能集成到 WinUI 3/Windows 应用 SDK 桌面应用中的教程。
使用 .NET MAUI 和 ChatGPT 创建建议应用:有关如何创建将基于云的 OpenAI ChatGPT 完成功能集成到 .NET MAUI 应用的示例建议应用的教程。
将 DALL-E 添加到 .NET MAUI Windows 桌面应用:有关如何将基于云的 OpenAI DALL-E 映像生成功能集成到 .NET MAUI 应用中的教程。
Azure OpenAI 服务:如果你希望 Windows 应用访问 OpenAI 模型,例如 GPT-4、GPT-4 Turbo 和 Vision、GPT-3.5-Turbo、DALLE-3 或 Embeddings 模型系列,并添加了安全性和企业功能 Azure,则可以在此 Azure OpenAI 文档中找到指导。
Azure AI 服务: Azure 通过 REST API 和客户端库 SDK 提供一套完整的 AI 服务,这些服务采用常用开发语言。 有关详细信息,请参阅各服务的相关文档。 这些基于云的服务可帮助开发人员和组织使用现成的、可自定义的 API 和模型快速创建智能、前沿、市场就绪和负责任的应用程序。 应用程序示例包括对话、搜索、监视、翻译、语音、视觉和决策的自然语言处理。