Azure AI 모델 유추에 배포된 모델은 다양한 SDK 및 프로그래밍 모델에서 사용할 수 있습니다. 다음 문서에서는 어떤 것을 사용할지 설명합니다.
모든 모델
Azure AI 모델 유추에 배포된 모든 모델은 Azure AI 모델 유추 API 및 연결된 SDK 제품군을 지원합니다.
이러한 SDK를 사용하려면 Azure AI 모델 유추 URI합니다.
Azure AI 유추 패키지
Azure AI 유추 패키지를 사용하면 Azure AI 모델 유추 서비스에 배포된 모든 모델을 사용하고 이러한 모델 간에 쉽게 변경할 수 있습니다. Azure AI 유추 패키지는 Azure AI Foundry SDK의 일부입니다.
| 언어 | 설명서 | 패키지 | 예제 |
|---|---|---|---|
| C# (프로그래밍 언어) | 참조 | azure-ai-inference(NuGet) | C# 예제 |
| 자바 | 참조 | azure-ai-inference(Maven) | Java 예제 |
| JavaScript | 참조 | @azure/ai-inference(npm) | JavaScript 예제 |
| 파이썬 | 참조 | azure-ai-inference(PyPi) | Python 예제 |
통합
| 프레임워크 | 언어 | 설명서 | 패키지 | 예제 |
|---|---|---|---|---|
| LangChain | 파이썬 | 참조 | langchain-azure-ai(PyPi) | Python 예제 |
| Llama-Index | 파이썬 | 참조 |
llama-index-llms-azure-inference(PyPi) llama-index-embeddings-azure-inference(PyPi) |
Python 예제 |
| 의미 체계 커널 | 파이썬 | 참조 | semantic-kernel[azure](PyPi) | Python 예제 |
| AutoGen | 파이썬 | 참조 | autogen-ext[azure](PyPi) | 빠른 시작 |
Azure OpenAI 모델
Azure OpenAI 모델은 다음 SDK 및 프로그래밍 언어를 사용하여 사용할 수 있습니다.
이러한 SDK를 사용하려면 Azure OpenAI 서비스 URI합니다.
OpenAI 및 Azure OpenAI SDK
| 언어 | 소스 코드 | 패키지 | 예제 |
|---|---|---|---|
| C# (프로그래밍 언어) | 소스 코드 | Azure.AI.OpenAI(NuGet) | C# 예제 |
| 가세요 | 소스 코드 | azopenai (Go) | Go 예제 |
| 자바 | 소스 코드 | azure-ai-openai(Maven) | Java 예제 |
| JavaScript | 소스 코드 | @azure/openai(npm) | JavaScript 예제 |
| 파이썬 | 소스 코드 | openai(PyPi) | Python 예제 |
통합
| 프레임워크 | 언어 | 설명서 | 패키지 | 예제 |
|---|---|---|---|---|
| LangChain | 파이썬 | 참조 | langchain-openai(PyPi) | Python 예제 |
| Llama-Index | 파이썬 | 참조 |
llama-index-llms-openai(PyPi) llama-index-embeddings-openai(PyPi) |
Python 예제 |
| AutoGen | 파이썬 | 참조 | autogen-ext[openai](PyPi) | 빠른 시작 |
제한 사항
경고
Cohere SDK 및 Mistral SDK는 Azure AI Foundry의 Azure AI 모델 유추에서 지원되지 않습니다.
다음 단계
- 현재 지원되는 모델을 확인하려면 모델 섹션을 확인하세요.