Penyedia model

Penyedia model menyediakan klien inferensi yang digunakan oleh agen Agent Framework. Aplikasi Anda memiliki definisi agen, instruksi, alat, middleware, dan kebijakan sesi sementara penyedia menyediakan inferensi model dan kemampuan yang dihosting penyedia.

Untuk runtime jarak jauh atau terkelola yang memiliki definisi agen, izin, atau eksekusi sisi layanan, lihat Layanan Agen. Untuk implementasi agen kerangka kerja kustom, lihat Agen kustom.

Perbandingan penyedia

Provider Perangkat Fungsional Output Terstruktur Penerjemah Kode Pencarian File Alat MCP Respons Latar Belakang
Azure OpenAI
OpenAI
Microsoft Foundry
Anthropic
Ollama
Foundry Local
Amazon Bedrock Beragam
Google Gemini
ONNX
Dapr Beragam Beragam Beragam Beragam Beragam Beragam
Mistral N/A N/A N/A N/A N/A N/A

Important

Jika Anda menggunakan Microsoft Agent Framework untuk membangun aplikasi yang beroperasi dengan server pihak ketiga, agen, kode, atau model langsung non-Azure ("Sistem Pihak Ketiga"), Anda melakukannya dengan risiko Anda sendiri. Sistem Pihak Ketiga adalah Produk Non-Microsoft berdasarkan Ketentuan Produk Microsoft dan diatur oleh ketentuan lisensi pihak ketiga mereka sendiri. Anda bertanggung jawab atas penggunaan apa pun dan biaya terkait.

Sebaiknya tinjau semua data yang dibagikan dengan dan diterima dari Sistem Pihak Ketiga dan mengenali praktik pihak ketiga untuk penanganan, berbagi, retensi, dan lokasi data. Anda bertanggung jawab untuk mengelola apakah data Anda akan mengalir di luar batas kepatuhan dan geografis Azure dari organisasi Anda serta implikasi-implikasi terkait, serta memastikan bahwa izin, pembatasan, dan persetujuan yang tepat telah disediakan.

Anda bertanggung jawab untuk meninjau dan menguji aplikasi yang Anda buat dengan cermat menggunakan Microsoft Agent Framework dalam konteks kasus penggunaan spesifik Anda, dan membuat semua keputusan dan penyesuaian yang sesuai. Ini termasuk menerapkan mitigasi AI Anda sendiri yang bertanggung jawab seperti metaprompt, filter konten, atau sistem keamanan lainnya, dan memastikan aplikasi Anda memenuhi standar kualitas, keandalan, keamanan, dan kepercayaan yang sesuai. Lihat juga: Tanya Jawab Umum Transparansi

Penyedia yang tersedia

Setiap layanan inferensi yang menyediakan Microsoft.Extensions.AI.IChatClient implementasi dapat mendukung ChatClientAgent.

  • Azure OpenAI — inferensi OpenAI yang dihosting Azure dengan dukungan identitas Azure.
  • OpenAI — API Penyelesaian dan Respons Obrolan OpenAI.
  • Microsoft Foundry — Inferensi model melalui proyek Microsoft Foundry.
  • Anthropic — Inferensi model Claude melalui Anthropic dan titik akhir yang dihosting yang didukung.
  • Ollama — Inferensi model sumber terbuka lokal.
  • Amazon Bedrock — Inferensi model fondasi yang dikelola AWS.
  • Google Gemini — Api Pengembang Gemini atau inferensi Vertex AI.
  • ONNX — Inferensi OnNX Runtime GenAI lokal.
  • Dapr — Inferensi dirutekan melalui blok penyusun Percakapan Dapr.

Dukungan riwayat percakapan

API yang dipilih menentukan apakah layanan jarak jauh dapat memiliki riwayat percakapan dan apakah agen dapat menggunakan dalam memori atau kustom ChatHistoryProvider.

Koneksi agen Riwayat yang dikelola layanan Riwayat dalam memori atau kustom
Microsoft Foundry Prompt atau Agen yang Dihosting
Respons Microsoft Foundry
Tanggapan Azure OpenAI
Azure Penyelesaian Obrolan OpenAI
Respon OpenAI
Penyelesaian Obrolan OpenAI
Anthropic
Lainnya IChatClient Beragam Beragam

Ketersediaan riwayat yang dikelola layanan juga dapat bergantung pada opsi layanan yang dipilih. Lihat halaman penyedia untuk detail konfigurasi.

Pemilihan SDK dan titik akhir

Beberapa SDK .NET dapat terhubung ke Microsoft Foundry, Azure OpenAI, OpenAI, atau Anthropic. Pilih SDK yang cocok dengan titik akhir layanan dan model autentikasi.

Layanan AI SDK Klien Paket NuGet Titik akhir atau pengidentifikasi
Proyek Microsoft Foundry Proyek "Azure AI" Azure.AI.Projects, Microsoft.Agents.AI.Foundry https://<resource>.services.ai.azure.com/api/projects/<project>
Microsoft Foundry Models melalui OpenAI v1 OpenAI OpenAI, Microsoft.Agents.AI.OpenAI https://<resource>.services.ai.azure.com/openai/v1/
Azure OpenAI Azure OpenAI Azure.AI.OpenAI, Microsoft.Agents.AI.OpenAI https://<resource>.openai.azure.com/
Azure OpenAI melalui OpenAI v1 OpenAI OpenAI, Microsoft.Agents.AI.OpenAI https://<resource>.openai.azure.com/openai/v1/
OpenAI OpenAI OpenAI, Microsoft.Agents.AI.OpenAI Titik akhir OpenAI default
Anthropic di Microsoft Foundry Anthropic Foundry Anthropic.Foundry, Microsoft.Agents.AI.Anthropic Nama sumber daya Foundry
Anthropic Anthropic Anthropic, Microsoft.Agents.AI.Anthropic Titik akhir Anthropic default

Gunakan halaman Microsoft Foundry, Azure OpenAI, OpenAI, atau Anthropic untuk contoh konstruksi dan autentikasi klien.

Penyedia yang tersedia

Agent Framework Python mengekspos klien obrolan khusus penyedia di belakang antarmuka agen umum.

  • Azure OpenAI — inferensi OpenAI yang dihosting Azure dengan dukungan identitas Azure.
  • OpenAI — API Penyelesaian dan Respons Obrolan OpenAI.
  • Microsoft Foundry — Inferensi model melalui proyek Microsoft Foundry.
  • Foundry Local — Jalankan model Foundry yang didukung secara lokal.
  • Anthropic — Inferensi Claude melalui Anthropic, Foundry, Amazon Bedrock, atau Vertex AI.
  • Ollama — Inferensi model sumber terbuka lokal.
  • Amazon Bedrock — Inferensi model fondasi yang dikelola AWS.
  • Google Gemini — Api Pengembang Gemini atau inferensi Vertex AI.
  • Mistral — Generasi penyematan Mistral AI.

Penyedia yang tersedia

Go SDK membuat standar *agent.Agent melalui konstruktor khusus penyedia.

Provider Package Jalur Impor
Microsoft Foundry foundryprovider github.com/microsoft/agent-framework-go/provider/foundryprovider
Penyelesaian Percakapan OpenAI openaiprovider github.com/microsoft/agent-framework-go/provider/openaiprovider
Respons OpenAI openaiprovider github.com/microsoft/agent-framework-go/provider/openaiprovider
Anthropic anthropicprovider github.com/microsoft/agent-framework-go/provider/anthropicprovider
Google Gemini geminiprovider github.com/microsoft/agent-framework-go/provider/geminiprovider

Misalnya, buat agen yang didukung Foundry dari titik akhir proyek, kredensial, dan penyebaran model:

a := foundryprovider.NewAgent(endpoint, token, foundryprovider.ModelDeployment(model), foundryprovider.AgentConfig{
    Instructions: "You are a helpful assistant.",
    Config: agent.Config{
        Name: "MyAgent",
    },
})

Langkah berikutnya