關於在 Windows 應用程式中使用 AI 的常見問題

我該如何將 AI 整合到我的 Windows 用戶端應用程式中？

將 AI 整合進 Windows 應用程式可透過兩種主要方法實現：本地模型或雲端模型。 針對本機模型選項，您可以利用既有的模型，或使用 TensorFlow 或 PyTorch 等平臺來定型您自己的模型，然後透過 OnnxRuntime 將其併入您的應用程式。 Microsoft Foundry 在 Windows 提供多種功能 API，包括 OCR 或使用 Phi Silica 模型。 另一方面，將模型裝載在雲端上，並透過 REST API 存取模型，可讓應用程式透過將大量資源的工作委派給雲端來保持簡化。 更多資訊請參考在你的Windows應用程式中使用機器學習模型。

我需要最新版本的 Windows 11 和帶有 NPU 的 Copilot+ PC 才能使用 AI 功能嗎？

有許多方法可以運行 AI 工作負載，無論是在Windows裝置本地安裝並執行模型，或是運行雲端模型（參見 在 Windows），然而，目前 Windows AI API 支援的 AI 功能需要 Copilot+ PC 並附有 NPU。

哪些程式語言最適合在 Windows 用戶端應用程式中開發 AI？

您可以使用您偏好的任何程式設計語言。 例如，C# 被廣泛用於開發 Windows 用戶端應用程式。 如果您需要對低階詳細數據的更多控制，C++是一個很好的選擇。 或者，你也可以考慮用Python。 你也可以使用 Windows 子系統 Linux 版（WSL）在 Windows 上執行基於 Linux 的 AI 工具。

哪些是 Windows 用戶端應用程式中最好的 AI 框架？

我們建議使用 OnnxRuntime。

在使用 AI 進行 Windows 用戶端應用程式時，我應該如何處理資料隱私與安全？

開發 AI 支援的 app 時，尊重使用者數據的隱私權和安全性非常重要。 您應該遵循數據處理的最佳做法，例如加密敏感數據、使用安全連線，以及在收集數據之前取得使用者同意。 您也應該對使用數據的方式保持透明，並讓使用者控制其數據。 也請務必閱讀在 Windows 上開發負責任的生成式 AI 應用程式和功能指南。

在 Windows 用戶端應用程式中執行 AI 的系統需求是什麼？

使用 AI 的 Windows 應用程式系統需求取決於 AI 模型的複雜度及所使用的硬體加速。 對於簡單模型，新式 CPU 可能就已足夠，但對於更複雜的模型，可能需要 GPU 或 NPU。 您也應該考慮應用程式的記憶體和記憶體需求，以及雲端式 AI 服務所需的網路頻寬。

如何在 Windows 用戶端應用程式中優化 AI 效能？

為了優化 Windows 應用程式中的 AI 效能，你應該考慮使用硬體加速，例如顯示卡（GPU）或 NPU，來加速模型推論。 Windows Copilot+筆電針對AI工作負載進行優化，能為AI任務帶來顯著的效能提升。 另見 Foundry 工具包 Visual Studio Code 概覽。

我可以在我的 Windows 用戶端應用程式中使用預先訓練好的 AI 模型嗎？

是的，你可以在 Windows 應用程式中使用預訓練的 AI 模型。 您可以從因特網下載預先定型的模型，或使用雲端式 AI 服務來存取預先定型的模型。 然後，您可以使用 OnnxRuntime 之類的架構將這些模型整合到您的應用程式中。

什麼是 DirectML？

DirectML 是適用於機器學習的低階 API，可為各種支援的硬體和驅動程式的常見機器學習工作提供 GPU 加速，包括 AMD、Intel、NVIDIA 和 Qualcomm 等廠商的所有 DirectX 12 功能 GPU。

如何找出我的裝置具有何種CPU、GPU或 NPU？

要查看你Windows裝置上的 CPU、GPU 或 NPU 類型及其表現，打開工作管理員（Ctrl + Shift + Esc），然後選擇Performance分頁，你會看到你電腦的 CPU、記憶體、Wi-Fi、GPU 和/或 NPU 的清單，以及速度資訊， 使用率及其他數據。

什麼是 Windows ML？

Windows ML（機器學習）讓您的應用程式能夠使用全系統共用的 ONNX Runtime（ORT）副本，並新增對動態下載廠商專屬執行提供者（EP）的支援，讓您的模型推論可在 Windows 生態系中各式各樣的 CPU、GPU 和 NPU 上獲得最佳化，而不需要您的應用程式自行隨附龐大的執行階段或 EP。

將 AI 整合進 Windows 應用程式可透過兩種主要方法實現：本地模型或雲端模型。 針對本機模型選項，您可以利用既有的模型，或使用 TensorFlow 或 PyTorch 等平臺來定型您自己的模型，然後透過 OnnxRuntime 將其併入您的應用程式。 Microsoft Foundry 在 Windows 提供多種功能 API，包括 OCR 或使用 Phi Silica 模型。 另一方面，將模型裝載在雲端上，並透過 REST API 存取模型，可讓應用程式透過將大量資源的工作委派給雲端來保持簡化。 更多資訊請參考在你的Windows應用程式中使用機器學習模型。

有許多方法可以運行 AI 工作負載，無論是在Windows裝置本地安裝並執行模型，或是運行雲端模型（參見 在 Windows），然而，目前 Windows AI API 支援的 AI 功能需要 Copilot+ PC 並附有 NPU。

您可以使用您偏好的任何程式設計語言。 例如，C# 被廣泛用於開發 Windows 用戶端應用程式。 如果您需要對低階詳細數據的更多控制，C++是一個很好的選擇。 或者，你也可以考慮用Python。 你也可以使用 Windows 子系統 Linux 版（WSL）在 Windows 上執行基於 Linux 的 AI 工具。

我們建議使用 OnnxRuntime。

開發 AI 支援的 app 時，尊重使用者數據的隱私權和安全性非常重要。 您應該遵循數據處理的最佳做法，例如加密敏感數據、使用安全連線，以及在收集數據之前取得使用者同意。 您也應該對使用數據的方式保持透明，並讓使用者控制其數據。 也請務必閱讀在 Windows 上開發負責任的生成式 AI 應用程式和功能指南。

使用 AI 的 Windows 應用程式系統需求取決於 AI 模型的複雜度及所使用的硬體加速。 對於簡單模型，新式 CPU 可能就已足夠，但對於更複雜的模型，可能需要 GPU 或 NPU。 您也應該考慮應用程式的記憶體和記憶體需求，以及雲端式 AI 服務所需的網路頻寬。

為了優化 Windows 應用程式中的 AI 效能，你應該考慮使用硬體加速，例如顯示卡（GPU）或 NPU，來加速模型推論。 Windows Copilot+筆電針對AI工作負載進行優化，能為AI任務帶來顯著的效能提升。 另見 Foundry 工具包 Visual Studio Code 概覽。

是的，你可以在 Windows 應用程式中使用預訓練的 AI 模型。 您可以從因特網下載預先定型的模型，或使用雲端式 AI 服務來存取預先定型的模型。 然後，您可以使用 OnnxRuntime 之類的架構將這些模型整合到您的應用程式中。

DirectML 是適用於機器學習的低階 API，可為各種支援的硬體和驅動程式的常見機器學習工作提供 GPU 加速，包括 AMD、Intel、NVIDIA 和 Qualcomm 等廠商的所有 DirectX 12 功能 GPU。

要查看你Windows裝置上的 CPU、GPU 或 NPU 類型及其表現，打開工作管理員（Ctrl + Shift + Esc），然後選擇Performance分頁，你會看到你電腦的 CPU、記憶體、Wi-Fi、GPU 和/或 NPU 的清單，以及速度資訊， 使用率及其他數據。

Windows ML（機器學習）讓您的應用程式能夠使用全系統共用的 ONNX Runtime（ORT）副本，並新增對動態下載廠商專屬執行提供者（EP）的支援，讓您的模型推論可在 Windows 生態系中各式各樣的 CPU、GPU 和 NPU 上獲得最佳化，而不需要您的應用程式自行隨附龐大的執行階段或 EP。