共用方式為


支援的編程語言適用於 Azure AI Inference SDK(經典版)

僅適用於:Foundry(經典)入口。 本文尚未在新的 Foundry 入口網站提供。 了解更多關於新入口網站的資訊。

這很重要

Azure AI Inference beta SDK 已被棄用,將於 2026 年 5 月 30 日正式退休。 切換到普遍可用的 OpenAI/v1 API ,搭配穩定的 OpenAI SDK。 使用您偏好程式語言的 SDK,和依循移轉指南以切換到 OpenAI/v1。

所有部署到 Microsoft Foundry 模型的模型都支援 Azure AI 模型推論 API 及其相關 SDK 家族。

使用這些 SDK 時,需連接至 Azure AI 模型推論 URI(通常格式為 https://<resource-name>.services.ai.azure.com/models)。

Azure AI 推理套件

Azure AI 推論套件允許你整合所有部署到 Foundry 資源的模型,並輕鬆切換模型部署。 Azure AI 推論套件是 Microsoft Foundry SDK 的一部分。

語言 文件資料 Package 範例
C# 參考 azure-ai-inference (NuGet) C# 範例
JAVA 參考 azure-ai-inference (Maven) Java範例
JavaScript 參考 @azure/ai-inference (npm) JavaScript 範例
Python 參考 azure-ai-inference (PyPi) Python範例

整合

Framework 語言 文件資料 Package 範例
LangChain Python 參考 langchain-azure-ai (PyPi) Python範例
Llama-Index Python 參考 llama-index-llms-azure-inference (PyPi)
llama-index-embeddings-azure-inference (PyPi)
Python範例
語義核心 Python 參考 semantic-kernel[azure] (PyPi) Python範例
AutoGen Python 參考 autogen-ext[azure] (PyPi) 快速入門

局限性

Foundry 不支援 Cohere SDK 或 Mistral SDK。

下一個步驟