Provedores de modelo

Os provedores de modelo fornecem o cliente de inferência usado por um agente do Agent Framework. Seu aplicativo possui a definição do agente, instruções, ferramentas, middleware e política de sessão, enquanto o provedor fornece inferência de modelo e recursos hospedados pelo provedor.

Para runtimes remotos ou gerenciados que possuem uma definição de agente, permissões ou execução do lado do serviço, consulte Os Serviços do Agente. Para implementações personalizadas do agente de estrutura, consulte Agentes personalizados.

Comparação de provedor

Provider Ferramentas de Funções Saídas estruturadas Interpretador de códigos Pesquisa de Arquivo Ferramentas do MCP Respostas em segundo plano
Azure OpenAI ✅ ✅ ✅ ✅ ✅ ✅
OpenAI ✅ ✅ ✅ ✅ ✅ ✅
Microsoft Foundry ✅ ✅ ✅ ✅ ✅ ✅
Antrópico ✅ ✅ ✅ ❌ ✅ ❌
Ollama ✅ ✅ ❌ ❌ ❌ ❌
Fábrica Local ✅ ❌ ❌ ❌ ❌ ❌
Amazon Bedrock ✅ Variações ❌ ❌ ❌ ❌
Google Gemini ✅ ✅ ✅ ✅ ✅ ❌
ONNX ❌ ❌ ❌ ❌ ❌ ❌
Dapr Variações Variações Variações Variações Variações Variações
Mistral ✅ ✅ ❌ ❌ ❌ ❌

Important

Se você usar Microsoft Agent Framework para criar aplicativos que operam com servidores, agentes, código ou modelos diretos não Azure de terceiros ("Sistemas de Terceiros"), você o fará por sua conta e risco. Sistemas de terceiros são produtos não Microsoft sob os Termos do Produto Microsoft e são regidos por seus próprios termos de licença de terceiros. Você é responsável por qualquer uso e custos associados.

Recomendamos revisar todos os dados compartilhados e recebidos de sistemas de terceiros e estar ciente das práticas de terceiros para manipulação, compartilhamento, retenção e localização de dados. É sua responsabilidade gerenciar se seus dados fluirão fora dos limites de conformidade e geográficos do Azure da sua organização e quaisquer implicações relacionadas, e garantir que as permissões, limites e aprovações apropriados sejam estabelecidos.

Você é responsável por examinar e testar cuidadosamente os aplicativos que cria usando Microsoft Agent Framework no contexto de seus casos de uso específicos e tomar todas as decisões e personalizações apropriadas. ** Isso inclui implementar suas próprias mitigações de IA responsáveis, como metaprompt, filtros de conteúdo ou outros sistemas de segurança, e garantir que seus aplicativos atendam aos padrões apropriados de qualidade, confiabilidade, segurança e fidelidade. Veja também: Perguntas frequentes sobre transparência

Provedores disponíveis

Qualquer serviço de inferência que forneça uma Microsoft.Extensions.AI.IChatClient implementação pode fazer backup de uma ChatClientAgent.

  • Azure OpenAI — inferência openai hospedada Azure com suporte de identidade Azure.
  • OpenAI — APIs de conclusões e respostas de chat do OpenAI.
  • Microsoft Foundry – Inferência de modelo por meio de um projeto Microsoft Foundry.
  • Anthropic — inferência de modelo claude por meio de pontos de extremidade hospedados Anthropic e com suporte.
  • Ollama — Inferência de modelo de software livre local.
  • Amazon Bedrock – Inferência de modelo de fundação gerenciada pela AWS.
  • Google Gemini — Inferência da API do Desenvolvedor gemini ou da IA do Vértice.
  • ONNX — Inferência local do ONNX Runtime GenAI.
  • Dapr — Inferência roteada por meio do bloco de construção Dapr Conversation.

Suporte ao histórico de conversas

A API selecionada determina se o serviço remoto pode possuir o histórico de conversa e se o agente pode usar uma memória ou um personalizado ChatHistoryProvider.

Conexão do agente Histórico gerenciado pelo serviço Histórico personalizado ou na memória
Microsoft prompt de fundimento ou agente hospedado ✅ ❌
Microsoft respostas de pesquisa ✅ ✅
Respostas da Azure OpenAI ✅ ✅
Conclusões de chat do Azure OpenAI ❌ ✅
Respostas OpenAI ✅ ✅
Compleções de chat da OpenAI ❌ ✅
Antrópico ❌ ✅
Qualquer outro IChatClient Variações Variações

A disponibilidade do histórico gerenciado pelo serviço também pode depender das opções de serviço selecionadas. Consulte a página do provedor para obter detalhes de configuração.

Seleção de SDK e ponto de extremidade

Vários SDKs .NET podem se conectar ao Microsoft Foundry, Azure OpenAI, OpenAI ou Anthropic. Escolha o SDK que corresponde ao ponto de extremidade de serviço e ao modelo de autenticação.

Serviço de IA SDK do cliente Pacotes NuGet Ponto de extremidade ou identificador
Projeto do Microsoft Foundry Projetos de IA do Azure Azure.AI.Projects, Microsoft.Agents.AI.Foundry https://<resource>.services.ai.azure.com/api/projects/<project>
modelos de Microsoft foundry por meio do OpenAI v1 OpenAI OpenAI, Microsoft.Agents.AI.OpenAI https://<resource>.services.ai.azure.com/openai/v1/
OpenAI do Azure OpenAI do Azure Azure.AI.OpenAI, Microsoft.Agents.AI.OpenAI https://<resource>.openai.azure.com/
Azure OpenAI por meio do OpenAI v1 OpenAI OpenAI, Microsoft.Agents.AI.OpenAI https://<resource>.openai.azure.com/openai/v1/
OpenAI OpenAI OpenAI, Microsoft.Agents.AI.OpenAI Ponto de extremidade OpenAI padrão
Anthropic no Microsoft Foundry Anthropic Foundry Anthropic.Foundry, Microsoft.Agents.AI.Anthropic Nome do recurso do Foundry
Anthropic Anthropic Anthropic, Microsoft.Agents.AI.Anthropic Ponto de extremidade de Anthropic padrão

Use a página Microsoft Foundry, Azure OpenAI, OpenAI ou Anthropic para exemplos de construção e autenticação do cliente.

Provedores disponíveis

O Agent Framework Python expõe clientes de chat específicos do provedor por trás da interface do agente comum.

  • Azure OpenAI — inferência openai hospedada Azure com suporte de identidade Azure.
  • OpenAI — APIs de conclusões e respostas de chat do OpenAI.
  • Microsoft Foundry – Inferência de modelo por meio de um projeto Microsoft Foundry.
  • Local do Foundry – execute modelos de Foundry com suporte localmente.
  • Anthropic – Inferência de Claude por meio de Anthropic, Foundry, Amazon Bedrock ou IA do Vértice.
  • Ollama — Inferência de modelo de software livre local.
  • Amazon Bedrock – Inferência de modelo de fundação gerenciada pela AWS.
  • Google Gemini — Inferência da API do Desenvolvedor gemini ou da IA do Vértice.
  • Mistral – Chat de IA do Mistral e geração de inserção.

Provedores disponíveis

O SDK do Go cria um padrão *agent.Agent por meio de construtores específicos do provedor.

Provider Package Caminho de Importação
Microsoft Foundry foundryprovider github.com/microsoft/agent-framework-go/provider/foundryprovider
Conclusões de chat do OpenAI openaiprovider github.com/microsoft/agent-framework-go/provider/openaiprovider
Respostas OpenAI openaiprovider github.com/microsoft/agent-framework-go/provider/openaiprovider
Anthropic anthropicprovider github.com/microsoft/agent-framework-go/provider/anthropicprovider
Google Gemini: Um projeto de inteligência artificial do Google. geminiprovider github.com/microsoft/agent-framework-go/provider/geminiprovider

Por exemplo, crie um agente com backup do Foundry a partir de um ponto de extremidade de projeto, credencial e implantação de modelo:

a := foundryprovider.NewAgent(endpoint, token, foundryprovider.ModelDeployment(model), foundryprovider.AgentConfig{
    Instructions: "You are a helpful assistant.",
    Config: agent.Config{
        Name: "MyAgent",
    },
})

Próximas Etapas