Dostawcy modeli

Dostawcy modelu udostępniają klienta wnioskowania używanego przez agenta platformy Agent Framework. Aplikacja jest właścicielem definicji agenta, instrukcji, narzędzi, oprogramowania pośredniczącego i zasad sesji, podczas gdy dostawca dostarcza wnioskowanie modelu i możliwości hostowanych przez dostawcę.

W przypadku zdalnych lub zarządzanych środowisk uruchomieniowych, które są właścicielami definicji, uprawnień lub wykonywania po stronie usługi, zobacz Usługi agentów. Aby uzyskać informacje na temat implementacji agenta platformy niestandardowej, zobacz Niestandardowe agenty.

Porównanie dostawców

Provider Narzędzia funkcji Dane wyjściowe ze strukturą Interpreter kodów Wyszukiwanie plików Narzędzia MCP Odpowiedzi w tle
Azure OpenAI
Otwarta sztuczna inteligencja
Microsoft Foundry
Antropiczny
Ollama
Znaleziono lokalnie
Podłoże skalne Amazonii Varies
Google Gemini
ONNX
Dapr Varies Varies Varies Varies Varies Varies
Mistral N/A N/A N/A N/A N/A N/A

Ważna

Jeśli używasz platformy agentów Microsoft do tworzenia aplikacji działających z dowolnymi serwerami, agentami, kodem lub modelami innych niż Azure Direct ("Systemy innych firm"), robisz to na własne ryzyko. Systemy innych firm to produkty inne niż Microsoft na podstawie postanowień dotyczących Microsoft produktów i podlegają własnym postanowieniom licencyjnym innych firm. Ponosisz odpowiedzialność za wszelkie użycie i powiązane koszty.

Zalecamy przejrzenie wszystkich danych udostępnianych i otrzymanych z systemów innych firm oraz zapoznanie się z praktykami innych firm w zakresie obsługi, udostępniania, przechowywania i lokalizacji danych. Twoja odpowiedzialność polega na zarządzaniu tym, czy dane będą przepływać poza granice zgodności z Azure oraz granice geograficzne Twojej organizacji, a także wszelkimi związanymi z tym implikacjami, oraz zapewnienie odpowiednich uprawnień, granic i zatwierdzeń.

Odpowiadasz za dokładne przeglądanie i testowanie aplikacji, które tworzysz przy użyciu platformy Microsoft Agent Framework w kontekście konkretnych przypadków użycia, oraz podejmowanie wszelkich odpowiednich decyzji i dostosowań. Obejmuje to implementowanie własnych odpowiedzialnych środków zaradczych dotyczących sztucznej inteligencji, takich jak metaprompt, filtry zawartości lub inne systemy bezpieczeństwa oraz zapewnienie, że aplikacje spełniają odpowiednie standardy dotyczące jakości, niezawodności, bezpieczeństwa i wiarygodności. Zobacz też: Często zadawane pytania dotyczące przezroczystości

Dostępni dostawcy

Każda usługa wnioskowania, która zapewnia implementację Microsoft.Extensions.AI.IChatClientChatClientAgent, może przywrócić element .

  • Azure OpenAI — wnioskowanie openAI hostowane Azure z obsługą tożsamości Azure.
  • OpenAI — uzupełnianie czatu OpenAI i interfejsy API odpowiedzi.
  • Microsoft Foundry — wnioskowanie modelu za pośrednictwem projektu Microsoft Foundry.
  • Anthropic — wnioskowanie modelu Claude'a za pośrednictwem Anthropic i obsługiwanych hostowanych punktów końcowych.
  • Ollama — lokalne wnioskowanie modelu open source.
  • Amazon Bedrock — wnioskowanie modelu podstaw zarządzanych przez platformę AWS.
  • Google Gemini — wnioskowanie interfejsu API dewelopera gemini lub wierzchołka sztucznej inteligencji.
  • ONNX — lokalne wnioskowanie generacji środowiska uruchomieniowego ONNX.
  • Dapr — wnioskowanie kierowane przez blok konstrukcyjny Konwersacja Dapr.

Obsługa historii konwersacji

Wybrany interfejs API określa, czy usługa zdalna może posiadać historię konwersacji i czy agent może zamiast tego używać w pamięci, czy niestandardowej ChatHistoryProvider.

Połączenie agenta Historia zarządzana przez usługę W pamięci lub historii niestandardowej
Microsoft monitu o odnalezienie lub hostowanego agenta
odpowiedzi Microsoft Foundry
Odpowiedzi usługi Azure OpenAI
Azure ukończenie czatu OpenAI
Odpowiedzi openAI
Ukończenie czatu OpenAI
Antropiczny
Inne IChatClient Varies Varies

Dostępność historii zarządzanej przez usługę może również zależeć od wybranych opcji usługi. Aby uzyskać szczegółowe informacje o konfiguracji, zobacz stronę dostawcy.

Wybór zestawu SDK i punktu końcowego

Kilka zestawów SDK .NET może łączyć się z Microsoft Foundry, Azure OpenAI, OpenAI lub Anthropic. Wybierz zestaw SDK zgodny z punktem końcowym usługi i modelem uwierzytelniania.

Usługa sztucznej inteligencji SDK klienta Pakiety NuGet Punkt końcowy lub identyfikator
Projekt Microsoft Foundry Projekty sztucznej inteligencji platformy Azure Azure.AI.Projects, Microsoft.Agents.AI.Foundry https://<resource>.services.ai.azure.com/api/projects/<project>
modele Microsoft Foundry za pośrednictwem interfejsu OpenAI w wersji 1 OpenAI OpenAI, Microsoft.Agents.AI.OpenAI https://<resource>.services.ai.azure.com/openai/v1/
Azure OpenAI Azure OpenAI Azure.AI.OpenAI, Microsoft.Agents.AI.OpenAI https://<resource>.openai.azure.com/
Azure OpenAI za pośrednictwem interfejsu OpenAI w wersji 1 OpenAI OpenAI, Microsoft.Agents.AI.OpenAI https://<resource>.openai.azure.com/openai/v1/
OpenAI OpenAI OpenAI, Microsoft.Agents.AI.OpenAI Domyślny punkt końcowy interfejsu OpenAI
Anthropic w usłudze Microsoft Foundry Anthropic Foundry Anthropic.Foundry, Microsoft.Agents.AI.Anthropic Nazwa zasobu usługi Foundry
Anthropic Anthropic Anthropic, Microsoft.Agents.AI.Anthropic Domyślny punkt końcowy Anthropic

Użyj strony Microsoft Foundry, Azure OpenAI, OpenAI lub Anthropic na potrzeby przykładów budowy i uwierzytelniania klientów.

Dostępni dostawcy

Program Agent Framework Python uwidacznia klientów czatów specyficznych dla dostawcy za wspólnym interfejsem agenta.

  • Azure OpenAI — wnioskowanie openAI hostowane Azure z obsługą tożsamości Azure.
  • OpenAI — uzupełnianie czatu OpenAI i interfejsy API odpowiedzi.
  • Microsoft Foundry — wnioskowanie modelu za pośrednictwem projektu Microsoft Foundry.
  • Foundry Local — uruchamianie obsługiwanych modeli znalezionych lokalnie.
  • Anthropic — wnioskowanie przez Anthropic, Foundry, Amazon Bedrock lub Vertex AI.
  • Ollama — lokalne wnioskowanie modelu open source.
  • Amazon Bedrock — wnioskowanie modelu podstaw zarządzanych przez platformę AWS.
  • Google Gemini — wnioskowanie interfejsu API dewelopera gemini lub wierzchołka sztucznej inteligencji.
  • Mistral — błędne generowanie osadzania sztucznej inteligencji.

Dostępni dostawcy

Zestaw GO SDK tworzy standard *agent.Agent za pomocą konstruktorów specyficznych dla dostawcy.

Provider Package Ścieżka importu
Microsoft Foundry foundryprovider github.com/microsoft/agent-framework-go/provider/foundryprovider
Ukończenie czatu OpenAI openaiprovider github.com/microsoft/agent-framework-go/provider/openaiprovider
Odpowiedzi openAI openaiprovider github.com/microsoft/agent-framework-go/provider/openaiprovider
Anthropic anthropicprovider github.com/microsoft/agent-framework-go/provider/anthropicprovider
Google Gemini geminiprovider github.com/microsoft/agent-framework-go/provider/geminiprovider

Na przykład utwórz agenta opartego na programie Foundry na podstawie punktu końcowego projektu, poświadczeń i wdrożenia modelu:

a := foundryprovider.NewAgent(endpoint, token, foundryprovider.ModelDeployment(model), foundryprovider.AgentConfig{
    Instructions: "You are a helpful assistant.",
    Config: agent.Config{
        Name: "MyAgent",
    },
})

Następne kroki