Foundry Local 是 Microsoft Foundry 的本地版本,能直接在您的 Windows 裝置上執行大型語言模型(LLM)。 如果您想要更深入並實作 Windows AI API 無法使用的 AI 案例,這是很好的替代方案。
相較於雲端式替代方案,此裝置上的 AI 推斷解決方案提供隱私權、自定義和成本優勢。 最重要的是,它適合您現有的工作流程和應用程式,並搭配易於使用的 CLI 和 REST API。 如需 Foundry Local 的詳細資訊,請參閱 Foundry Local 檔。