Provedores de modelo

Os provedores de modelo fornecem o cliente de inferência usado por um agente do Agent Framework. Seu aplicativo possui a definição do agente, instruções, ferramentas, middleware e política de sessão, enquanto o provedor fornece inferência de modelo e recursos hospedados pelo provedor.

Para runtimes remotos ou gerenciados que possuem uma definição de agente, permissões ou execução do lado do serviço, consulte Os Serviços do Agente. Para implementações personalizadas do agente de estrutura, consulte Agentes personalizados.

Comparação de provedor

Fornecedor Ferramentas de Funções Saídas estruturadas Interpretador de códigos Pesquisa de Arquivo Ferramentas do MCP Respostas em segundo plano
Azure OpenAI
OpenAI
Microsoft Foundry
Antrópico
Ollama
Fábrica Local
Amazon Bedrock Variações
Google Gemini
ONNX
Dapr Variações Variações Variações Variações Variações Variações
Mistral N/A N/A N/A N/A N/A N/A

Importante

Se você usar Microsoft Agent Framework para criar aplicativos que operam com servidores, agentes, código ou modelos diretos não Azure de terceiros ("Sistemas de Terceiros"), você o fará por sua conta e risco. Sistemas de terceiros são produtos não Microsoft sob os Termos do Produto Microsoft e são regidos por seus próprios termos de licença de terceiros. Você é responsável por qualquer uso e custos associados.

Recomendamos revisar todos os dados compartilhados e recebidos de sistemas de terceiros e estar ciente das práticas de terceiros para manipulação, compartilhamento, retenção e localização de dados. É sua responsabilidade gerenciar se seus dados fluirão fora dos limites de conformidade e geográficos do Azure da sua organização e quaisquer implicações relacionadas, e garantir que as permissões, limites e aprovações apropriados sejam estabelecidos.

Você é responsável por examinar e testar cuidadosamente os aplicativos que cria usando Microsoft Agent Framework no contexto de seus casos de uso específicos e tomar todas as decisões e personalizações apropriadas. ** Isso inclui implementar suas próprias mitigações de IA responsáveis, como metaprompt, filtros de conteúdo ou outros sistemas de segurança, e garantir que seus aplicativos atendam aos padrões apropriados de qualidade, confiabilidade, segurança e fidelidade. Veja também: Perguntas frequentes sobre transparência

Provedores disponíveis

Qualquer serviço de inferência que forneça uma Microsoft.Extensions.AI.IChatClient implementação pode fazer backup de uma ChatClientAgent.

  • Azure OpenAI — inferência openai hospedada Azure com suporte de identidade Azure.
  • OpenAI — APIs de conclusões e respostas de chat do OpenAI.
  • Microsoft Foundry – Inferência de modelo por meio de um projeto Microsoft Foundry.
  • Anthropic — inferência de modelo claude por meio de pontos de extremidade hospedados Anthropic e com suporte.
  • Ollama — Inferência de modelo de software livre local.
  • Amazon Bedrock – Inferência de modelo de fundação gerenciada pela AWS.
  • Google Gemini — Inferência da API do Desenvolvedor gemini ou da IA do Vértice.
  • ONNX — Inferência local do ONNX Runtime GenAI.
  • Dapr — Inferência roteada por meio do bloco de construção Dapr Conversation.

Suporte ao histórico de conversas

A API selecionada determina se o serviço remoto pode possuir o histórico de conversa e se o agente pode usar uma memória ou um personalizado ChatHistoryProvider.

Conexão do agente Histórico gerenciado pelo serviço Histórico personalizado ou na memória
Microsoft prompt de fundimento ou agente hospedado
Microsoft respostas de pesquisa
Respostas da Azure OpenAI
Conclusões de chat do Azure OpenAI
Respostas OpenAI
Compleções de chat da OpenAI
Antrópico
Qualquer outro IChatClient Variações Variações

A disponibilidade do histórico gerenciado pelo serviço também pode depender das opções de serviço selecionadas. Consulte a página do provedor para obter detalhes de configuração.

Seleção de SDK e ponto de extremidade

Vários SDKs .NET podem se conectar ao Microsoft Foundry, Azure OpenAI, OpenAI ou Anthropic. Escolha o SDK que corresponde ao ponto de extremidade de serviço e ao modelo de autenticação.

Serviço de IA SDK do cliente Pacotes NuGet Ponto de extremidade ou identificador
Projeto do Microsoft Foundry Projetos de IA do Azure Azure.AI.Projects, Microsoft.Agents.AI.Foundry https://<resource>.services.ai.azure.com/api/projects/<project>
modelos de Microsoft foundry por meio do OpenAI v1 OpenAI OpenAI, Microsoft.Agents.AI.OpenAI https://<resource>.services.ai.azure.com/openai/v1/
OpenAI do Azure OpenAI do Azure Azure.AI.OpenAI, Microsoft.Agents.AI.OpenAI https://<resource>.openai.azure.com/
Azure OpenAI por meio do OpenAI v1 OpenAI OpenAI, Microsoft.Agents.AI.OpenAI https://<resource>.openai.azure.com/openai/v1/
OpenAI OpenAI OpenAI, Microsoft.Agents.AI.OpenAI Ponto de extremidade OpenAI padrão
Anthropic no Microsoft Foundry Anthropic Foundry Anthropic.Foundry, Microsoft.Agents.AI.Anthropic Nome do recurso do Foundry
Anthropic Anthropic Anthropic, Microsoft.Agents.AI.Anthropic Ponto de extremidade de Anthropic padrão

Use a página Microsoft Foundry, Azure OpenAI, OpenAI ou Anthropic para exemplos de construção e autenticação do cliente.

Provedores disponíveis

O Agent Framework Python expõe clientes de chat específicos do provedor por trás da interface do agente comum.

  • Azure OpenAI — inferência openai hospedada Azure com suporte de identidade Azure.
  • OpenAI — APIs de conclusões e respostas de chat do OpenAI.
  • Microsoft Foundry – Inferência de modelo por meio de um projeto Microsoft Foundry.
  • Local do Foundry – execute modelos de Foundry com suporte localmente.
  • Anthropic – Inferência de Claude por meio de Anthropic, Foundry, Amazon Bedrock ou IA do Vértice.
  • Ollama — Inferência de modelo de software livre local.
  • Amazon Bedrock – Inferência de modelo de fundação gerenciada pela AWS.
  • Google Gemini — Inferência da API do Desenvolvedor gemini ou da IA do Vértice.
  • Mistral – Geração de inserção de IA do Mistral.

Provedores disponíveis

O SDK do Go cria um padrão *agent.Agent por meio de construtores específicos do provedor.

Fornecedor Package Caminho de Importação
Microsoft Foundry foundryprovider github.com/microsoft/agent-framework-go/provider/foundryprovider
Conclusões de chat do OpenAI openaiprovider github.com/microsoft/agent-framework-go/provider/openaiprovider
Respostas OpenAI openaiprovider github.com/microsoft/agent-framework-go/provider/openaiprovider
Anthropic anthropicprovider github.com/microsoft/agent-framework-go/provider/anthropicprovider
Google Gemini: Um projeto de inteligência artificial do Google. geminiprovider github.com/microsoft/agent-framework-go/provider/geminiprovider

Por exemplo, crie um agente com backup do Foundry a partir de um ponto de extremidade de projeto, credencial e implantação de modelo:

a := foundryprovider.NewAgent(endpoint, token, foundryprovider.ModelDeployment(model), foundryprovider.AgentConfig{
    Instructions: "You are a helpful assistant.",
    Config: agent.Config{
        Name: "MyAgent",
    },
})

Próximas Etapas