僅適用於:Foundry(經典)入口。 本文尚未在新的 Foundry 入口網站提供。
了解更多關於新入口網站的資訊。
這很重要
Azure AI Inference beta SDK 已被棄用,將於 2026 年 5 月 30 日正式退休。 切換到普遍可用的 OpenAI/v1 API ,搭配穩定的 OpenAI SDK。 使用您偏好程式語言的 SDK,和依循移轉指南以切換到 OpenAI/v1。
所有部署到 Microsoft Foundry 模型的模型都支援 Azure AI 模型推論 API 及其相關 SDK 家族。
使用這些 SDK 時,需連接至 Azure AI 模型推論 URI(通常格式為 https://<resource-name>.services.ai.azure.com/models)。
Azure AI 推理套件
Azure AI 推論套件允許你整合所有部署到 Foundry 資源的模型,並輕鬆切換模型部署。 Azure AI 推論套件是 Microsoft Foundry SDK 的一部分。
| 語言 | 文件資料 | Package | 範例 |
|---|---|---|---|
| C# | 參考 | azure-ai-inference (NuGet) | C# 範例 |
| JAVA | 參考 | azure-ai-inference (Maven) | Java範例 |
| JavaScript | 參考 | @azure/ai-inference (npm) | JavaScript 範例 |
| Python | 參考 | azure-ai-inference (PyPi) | Python範例 |
整合
| Framework | 語言 | 文件資料 | Package | 範例 |
|---|---|---|---|---|
| LangChain | Python | 參考 | langchain-azure-ai (PyPi) | Python範例 |
| Llama-Index | Python | 參考 |
llama-index-llms-azure-inference (PyPi) llama-index-embeddings-azure-inference (PyPi) |
Python範例 |
| 語義核心 | Python | 參考 | semantic-kernel[azure] (PyPi) | Python範例 |
| AutoGen | Python | 參考 | autogen-ext[azure] (PyPi) | 快速入門 |
局限性
Foundry 不支援 Cohere SDK 或 Mistral SDK。
下一個步驟
- 若要查看目前受支援的模型,請參閱 Foundry 模型和功能。