Modellleverantörer

Modellprovidrar tillhandahåller den slutsatsdragningsklient som används av en Agent Framework-agent. Ditt program äger agentdefinitionen, instruktionerna, verktygen, mellanprogram och sessionsprincipen medan providern tillhandahåller modellinferens och providervärdfunktioner.

Information om fjärr- eller hanterade körningar som äger en agentdefinition, behörigheter eller körning på tjänstsidan finns i Agenttjänster. Mer information om implementeringar av anpassade ramverksagenter finns i Anpassade agenter.

Leverantörsjämförelse

Provider Funktionsverktyg Strukturerade utdata Kodtolkare Filsökning MCP-verktyg Bakgrundssvar
Azure OpenAI
OpenAI
Microsoft Foundry
Anthropic
Ollama
Foundry Local
Amazonas berggrund Varierar
Google Gemini
ONNX
Dapr Varierar Varierar Varierar Varierar Varierar Varierar
Mistral Inte tillämpligt Inte tillämpligt Inte tillämpligt Inte tillämpligt Inte tillämpligt Inte tillämpligt

Important

Om du använder Microsoft Agent Framework för att skapa program som fungerar med servrar, agenter, kod eller icke-Azure Direct-modeller ("Tredjepartssystem" gör du det på egen risk. Tredjepartssystem är icke-Microsoft produkter enligt Microsoft produktvillkor och styrs av sina egna licensvillkor från tredje part. Du ansvarar för all användning och tillhörande kostnader.

Vi rekommenderar att du granskar alla data som delas med och tas emot från tredjepartssystem och är medvetna om metoder från tredje part för hantering, delning, kvarhållning och plats för data. Det är ditt ansvar att hantera om dina data kommer att flöda utanför organisationens Azure efterlevnad och geografiska gränser och eventuella relaterade konsekvenser, och att lämpliga behörigheter, gränser och godkännanden etableras.

Du ansvarar för att noggrant granska och testa program som du skapar med hjälp av Microsoft Agent Framework i samband med dina specifika användningsfall och fatta alla lämpliga beslut och anpassningar. Detta inkluderar implementering av dina egna ansvarsfulla AI-åtgärder, till exempel metaprompt, innehållsfilter eller andra säkerhetssystem, och att se till att dina program uppfyller lämpliga kvalitets-, tillförlitlighets-, säkerhets- och tillförlitlighetsstandarder. Se även: Vanliga frågor och svar om transparens

Tillgängliga leverantörer

Alla slutsatsdragningstjänster som tillhandahåller en Microsoft.Extensions.AI.IChatClient implementering kan stödja en ChatClientAgent.

  • Azure OpenAI – Azure OpenAI-slutsatsdragning med Azure identitetsstöd.
  • OpenAI – API:er för OpenAI-chattens slutföranden och svar.
  • Microsoft Foundry – Modellinferens via ett Microsoft Foundry-projekt.
  • Anthropic – Claude modell slutsatsdragning via Anthropic och stöds värdbaserade slutpunkter.
  • Ollama – Modellinferens med lokal öppen källkod.
  • Amazon Bedrock – AWS-hanterad grundmodell slutsatsdragning.
  • Google Gemini – Gemini Developer API eller Hörn AI-slutsatsdragning.
  • ONNX – Lokal ONNX Runtime GenAI-slutsatsdragning.
  • Dapr – Slutsatsdragning som dirigeras genom byggblocket Dapr Conversation.

Stöd för konversationshistorik

Det valda API:et avgör om fjärrtjänsten kan äga konversationshistorik och om agenten i stället kan använda en minnesintern eller anpassad ChatHistoryProvider.

Agentanslutning Tjänsthanterad historik Minnesintern eller anpassad historik
Microsoft Foundry-fråga eller värdbaserad agent
Microsoft Foundry-svar
Azure OpenAI-svar
Azure OpenAI-chatten har slutförts
OpenAI-svar
OpenAI-chatten har slutförts
Anthropic
Alla andra IChatClient Varierar Varierar

Tillgängligheten för tjänsthanterad historik kan också bero på de valda tjänstalternativen. Se providersidan för konfigurationsinformation.

SDK och slutpunktsval

Flera .NET SDK:er kan ansluta till Microsoft Foundry, Azure OpenAI, OpenAI eller Anthropic. Välj det SDK som matchar tjänstslutpunkten och autentiseringsmodellen.

AI-tjänst Klient-SDK NuGet-paket Slutpunkt eller identifierare
Microsoft Foundry-projekt Azure AI-projekt Azure.AI.Projects, Microsoft.Agents.AI.Foundry https://<resource>.services.ai.azure.com/api/projects/<project>
Microsoft Foundry-modeller via OpenAI v1 OpenAI OpenAI, Microsoft.Agents.AI.OpenAI https://<resource>.services.ai.azure.com/openai/v1/
Azure OpenAI Azure OpenAI Azure.AI.OpenAI, Microsoft.Agents.AI.OpenAI https://<resource>.openai.azure.com/
Azure OpenAI via OpenAI v1 OpenAI OpenAI, Microsoft.Agents.AI.OpenAI https://<resource>.openai.azure.com/openai/v1/
OpenAI OpenAI OpenAI, Microsoft.Agents.AI.OpenAI OpenAI-standardslutpunkt
Anthropic på Microsoft Foundry Anthropic Foundry Anthropic.Foundry, Microsoft.Agents.AI.Anthropic Resursnamn för Foundry
Anthropic Anthropic Anthropic, Microsoft.Agents.AI.Anthropic Standardslutpunkt för Anthropic

Använd sidan Microsoft Foundry, Azure OpenAI, OpenAI eller Anthropic för exempel på klientkonstruktion och autentisering.

Tillgängliga leverantörer

Agent Framework Python exponerar providerspecifika chattklienter bakom det gemensamma agentgränssnittet.

  • Azure OpenAI – Azure OpenAI-slutsatsdragning med Azure identitetsstöd.
  • OpenAI – API:er för OpenAI-chattens slutföranden och svar.
  • Microsoft Foundry – Modellinferens via ett Microsoft Foundry-projekt.
  • Foundry Local – Kör foundry-modeller som stöds lokalt.
  • Anthropic – Claude slutsatsdragning genom Anthropic, Foundry, Amazon Bedrock eller Vertex AI.
  • Ollama – Modellinferens med lokal öppen källkod.
  • Amazon Bedrock – AWS-hanterad grundmodell slutsatsdragning.
  • Google Gemini – Gemini Developer API eller Hörn AI-slutsatsdragning.
  • Mistral – Mistral AI-inbäddningsgenerering.

Tillgängliga leverantörer

Go SDK skapar en standard *agent.Agent via providerspecifika konstruktorer.

Provider Package Importsökväg
Microsoft Foundry foundryprovider github.com/microsoft/agent-framework-go/provider/foundryprovider
OpenAI-chatten har slutförts openaiprovider github.com/microsoft/agent-framework-go/provider/openaiprovider
OpenAI-svar openaiprovider github.com/microsoft/agent-framework-go/provider/openaiprovider
Anthropic anthropicprovider github.com/microsoft/agent-framework-go/provider/anthropicprovider
Google Gemini geminiprovider github.com/microsoft/agent-framework-go/provider/geminiprovider

Skapa till exempel en Foundry-backad agent från en projektslutpunkt, autentiseringsuppgifter och modelldistribution:

a := foundryprovider.NewAgent(endpoint, token, foundryprovider.ModelDeployment(model), foundryprovider.AgentConfig{
    Instructions: "You are a helpful assistant.",
    Config: agent.Config{
        Name: "MyAgent",
    },
})

Nästa steg