Model sağlayıcıları

Model sağlayıcıları bir Agent Framework aracısı tarafından kullanılan çıkarım istemcisini sağlar. Uygulamanız aracı tanımına, yönergelere, araçlara, ara yazılıma ve oturum ilkesine sahipken sağlayıcı model çıkarımı ve sağlayıcı tarafından barındırılan özellikler sağlar.

Aracı tanımına, izinlerine veya hizmet tarafı yürütmeye sahip uzak veya yönetilen çalışma zamanları için bkz. Aracı Hizmetleri. Özel çerçeve aracısı uygulamaları için bkz. Özel aracılar.

Sağlayıcı karşılaştırması

Provider İşlev Araçları Yapısal Çıktılar Kod Yorumlayıcı Dosya Arama MCP Araçları Arka Plan Yanıtları
OpenAI'Azure
OpenAI
Microsoft Dökümhanesi
Anthropic
Ollama
Dökümhane Yerel
Amazon Bedrock Varies
Google Gemini
ONNX
Dapr Varies Varies Varies Varies Varies Varies
Mistral Mevcut Değil Mevcut Değil Mevcut Değil Mevcut Değil Mevcut Değil Mevcut Değil

Important

Üçüncü taraf sunucularla, aracılarla, kodlarla veya Azure Olmayan Doğrudan modellerle ("Üçüncü Taraf Sistemleri") çalışan uygulamalar oluşturmak için Microsoft Agent Framework kullanıyorsanız, bunu kendi riskinizle yaparsınız. Üçüncü Taraf Sistemler, Microsoft Ürün Koşulları kapsamında Microsoft Olmayan Ürünlerdir ve kendi üçüncü taraf lisans koşullarına tabidir. Kullanım ve ilişkili maliyetlerden siz sorumlusunuz.

Üçüncü Taraf Sistemlerle paylaşılan ve alınan tüm verileri gözden geçirmenizi ve verilerin işlenmesi, paylaşılması, saklanması ve konumuna yönelik üçüncü taraf uygulamaları konusunda bilgili olmanızı öneririz. Verilerinizin kuruluşunuzun Azure uyumluluk ve coğrafi sınırları dışında akıp akmayacağını ve ilgili etkileri ve uygun izinlerin, sınırların ve onayların sağlanıp sağlanmayacağını yönetmek sizin sorumluluğunuzdadır.

Microsoft Agent Framework kullanarak oluşturduğunuz uygulamaları belirli kullanım örnekleri bağlamında dikkatle gözden geçirmek ve test etmek ve tüm uygun kararları ve özelleştirmeleri yapmak sizin sorumluluğunuzdadır. Bu, metaprompt, içerik filtreleri veya diğer güvenlik sistemleri gibi sorumlu yapay zeka risk azaltmalarınızı uygulamayı ve uygulamalarınızın uygun kalite, güvenilirlik, güvenlik ve güvenilirlik standartlarını karşılamasını sağlamayı içerir. Ayrıca bkz: Saydamlık hakkında SSS

Kullanılabilir sağlayıcılar

Uygulama sağlayan herhangi bir Microsoft.Extensions.AI.IChatClient çıkarım hizmeti bir ChatClientAgent'ı destekleyebilir.

  • OpenAI'Azure — Azure kimlik desteğiyle barındırılan OpenAI çıkarımı Azure.
  • OpenAI — OpenAI Sohbet Tamamlamaları ve Yanıtlar API'leri.
  • Microsoft Foundry — Microsoft Dökümhane projesi aracılığıyla model çıkarımı.
  • Anthropic — Anthropic ve desteklenen barındırılan uç noktalar aracılığıyla Claude modeli çıkarımı.
  • Ollama — Yerel açık kaynak model çıkarımı.
  • Amazon Bedrock — AWS tarafından yönetilen temel model çıkarımı.
  • Google Gemini — İkizler Geliştirici API'si veya Köşe AI çıkarımı.
  • ONNX — Yerel ONNX Çalışma Zamanı GenAI çıkarımı.
  • Dapr — Dapr Konuşma yapı taşı üzerinden yönlendirilen çıkarım.

Konuşma geçmişi desteği

Seçilen API, uzak hizmetin konuşma geçmişine sahip olup olmadığını ve aracının bunun yerine bellek içi veya özel ChatHistoryProviderbir kullanıp kullanamayacağını belirler.

Aracı bağlantısı Hizmet tarafından yönetilen geçmiş Bellek içi veya özel geçmiş
Microsoft Döküm İstemi veya Barındırılan Aracı
Microsoft Dökümhane Yanıtları
Azure OpenAI Yanıtları
OpenAI Sohbet Tamamlamalarını Azure
OpenAI Yanıtları
OpenAI Sohbet Tamamlama
Anthropic
Diğer IChatClient Varies Varies

Hizmet tarafından yönetilen geçmiş kullanılabilirliği, seçilen hizmet seçeneklerine de bağlı olabilir. Yapılandırma ayrıntıları için sağlayıcı sayfasına bakın.

SDK ve uç nokta seçimi

Çeşitli .NET SDK'lar Microsoft Foundry,Azure OpenAI, OpenAI veya Anthropic bağlanabilir. Hizmet uç noktası ve kimlik doğrulama modeliyle eşleşen SDK'yı seçin.

Yapay zeka hizmeti İstemci SDK NuGet paketleri Uç nokta veya tanımlayıcı
Microsoft Foundry projesi Azure Yapay Zeka Projeleri Azure.AI.Projects, Microsoft.Agents.AI.Foundry https://<resource>.services.ai.azure.com/api/projects/<project>
OpenAI v1 aracılığıyla DökümHane Modellerini Microsoft OpenAI OpenAI, Microsoft.Agents.AI.OpenAI https://<resource>.services.ai.azure.com/openai/v1/
Azure OpenAI Azure OpenAI Azure.AI.OpenAI, Microsoft.Agents.AI.OpenAI https://<resource>.openai.azure.com/
OpenAI v1 aracılığıyla OpenAI Azure OpenAI OpenAI, Microsoft.Agents.AI.OpenAI https://<resource>.openai.azure.com/openai/v1/
OpenAI OpenAI OpenAI, Microsoft.Agents.AI.OpenAI Varsayılan OpenAI uç noktası
Microsoft Foundry'de Anthropic Anthropic Dökümhanesi Anthropic.Foundry, Microsoft.Agents.AI.Anthropic Dökümhane kaynak adı
Anthropic Anthropic Anthropic, Microsoft.Agents.AI.Anthropic Varsayılan Anthropic uç noktası

İstemci oluşturma ve kimlik doğrulama örnekleri için Microsoft Foundry, Azure OpenAI, OpenAI veya Anthropic sayfasını kullanın.

Kullanılabilir sağlayıcılar

Agent Framework Python, ortak aracı arabiriminin arkasında sağlayıcıya özgü sohbet istemcilerini kullanıma sunar.

  • OpenAI'Azure — Azure kimlik desteğiyle barındırılan OpenAI çıkarımı Azure.
  • OpenAI — OpenAI Sohbet Tamamlamaları ve Yanıtlar API'leri.
  • Microsoft Foundry — Microsoft Dökümhane projesi aracılığıyla model çıkarımı.
  • Foundry Local — Desteklenen Foundry modellerini yerel olarak çalıştırın.
  • Anthropic — Claude'un Anthropic, Foundry, Amazon Bedrock veya Köşe AI aracılığıyla çıkarım.
  • Ollama — Yerel açık kaynak model çıkarımı.
  • Amazon Bedrock — AWS tarafından yönetilen temel model çıkarımı.
  • Google Gemini — İkizler Geliştirici API'si veya Köşe AI çıkarımı.
  • Mistral — Mistral yapay zeka ekleme nesli.

Kullanılabilir sağlayıcılar

Go SDK'sı, sağlayıcıya özgü oluşturucular aracılığıyla bir standart *agent.Agent oluşturur.

Provider Package Yolu İçeri Aktar
Microsoft Dökümhanesi foundryprovider github.com/microsoft/agent-framework-go/provider/foundryprovider
OpenAI Konuşma Tamamlamaları openaiprovider github.com/microsoft/agent-framework-go/provider/openaiprovider
OpenAI Yanıtları openaiprovider github.com/microsoft/agent-framework-go/provider/openaiprovider
Anthropic anthropicprovider github.com/microsoft/agent-framework-go/provider/anthropicprovider
Google Gemini geminiprovider github.com/microsoft/agent-framework-go/provider/geminiprovider

Örneğin, proje uç noktasından, kimlik bilgisinden ve model dağıtımından Foundry destekli bir aracı oluşturun:

a := foundryprovider.NewAgent(endpoint, token, foundryprovider.ModelDeployment(model), foundryprovider.AgentConfig{
    Instructions: "You are a helpful assistant.",
    Config: agent.Config{
        Name: "MyAgent",
    },
})

Sonraki Adımlar