Proveedores de modelos

Los proveedores de modelos proporcionan el cliente de inferencia usado por un agente de Agent Framework. Su aplicación posee la definición del agente, las instrucciones, las herramientas, el middleware y la directiva de sesión, mientras que el proveedor proporciona inferencia de modelos y funcionalidades hospedadas por el proveedor.

Para entornos de ejecución remotos o administrados que poseen una definición de agente, permisos o ejecución del lado del servicio, consulte Servicios del agente. Para obtener implementaciones de agente de marco de trabajo personalizadas, consulte Agentes personalizados.

Comparación de proveedores

Provider Herramientas de funciones Salidas estructuradas Intérprete de código Búsqueda de archivos Herramientas de MCP Respuestas en segundo plano
Azure OpenAI
OpenAI
Microsoft Foundry
Antrópica
Ollama
Foundry Local
Lecho de roca amazónica Varía
GoogleMinis
ONNX
Dapr Varía Varía Varía Varía Varía Varía
Mistral N/A N/A N/A N/A N/A N/A

Importante

Si usa Microsoft Agent Framework para compilar aplicaciones que funcionen con servidores, agentes, código o modelos no Azure Direct ("Sistemas de terceros"), lo haga en su propio riesgo. Los sistemas de terceros son Productos que no son Microsoft en virtud de los términos del producto Microsoft y se rigen por sus propios términos de licencia de terceros. Usted es responsable de cualquier uso y costos asociados.

Se recomienda revisar todos los datos que se comparten y reciben de sistemas de terceros y ser conscientes de las prácticas de terceros para controlar, compartir, conservar y ubicación de los datos. Es su responsabilidad gestionar si los datos fluirán fuera de los límites de cumplimiento y geográficos de Azure de su organización, y las implicaciones relacionadas, y asegurarse de que se proporcionen los permisos, delimitaciones y aprobaciones adecuadas.

Usted es responsable de revisar y probar cuidadosamente las aplicaciones que compila mediante Microsoft Agent Framework en el contexto de los casos de uso específicos, y tomar todas las decisiones y personalizaciones adecuadas. Esto incluye implementar sus propias mitigaciones de inteligencia artificial responsable, como metaprompt, filtros de contenido u otros sistemas de seguridad, y garantizar que las aplicaciones cumplan los estándares de calidad, confiabilidad, seguridad y confiabilidad adecuados. Consulte también: Preguntas más frecuentes sobre transparencia

Proveedores disponibles

Cualquier servicio de inferencia que proporcione una Microsoft.Extensions.AI.IChatClient implementación puede hacer una copia de seguridad de .ChatClientAgent

  • Azure OpenAI: inferencia de OpenAI hospedada Azure con compatibilidad con identidades de Azure.
  • OpenAI : API de finalizaciones y respuestas de chat de OpenAI.
  • Microsoft Foundry: inferencia de modelos a través de un proyecto de Microsoft Foundry.
  • Anthropic: la inferencia de modelos de Claude a través de Anthropic y los puntos de conexión hospedados admitidos.
  • Ollama : inferencia de modelo de código abierto local.
  • Amazon Bedrock : inferencia de modelos de base administrada por AWS.
  • GoogleMinis — Api para desarrolladores de Gemini o inferencia de ia de vértices.
  • ONNX : inferencia local de GenAI en tiempo de ejecución de ONNX.
  • Dapr : inferencia enrutada a través del bloque de creación de conversación de Dapr.

Compatibilidad con el historial de conversaciones

La API seleccionada determina si el servicio remoto puede ser propietario del historial de conversaciones y si el agente puede usar en su lugar un elemento en memoria o personalizado ChatHistoryProvider.

Conexión del agente Historial administrado por el servicio Historial en memoria o personalizado
Microsoft solicitud de Foundry o agente hospedado
respuestas de Microsoft foundry
Respuestas de Azure OpenAI
Azure finalizaciones de chat de OpenAI
Respuestas de OpenAI
Finalizaciones de chat de OpenAI
Antrópica
Cualquier otro IChatClient Varía Varía

La disponibilidad del historial administrado por el servicio también puede depender de las opciones de servicio seleccionadas. Consulte la página del proveedor para obtener detalles de configuración.

Selección del SDK y del punto de conexión

Varios SDK de .NET pueden conectarse a Microsoft Foundry, Azure OpenAI, OpenAI o Anthropic. Elija el SDK que coincida con el punto de conexión de servicio y el modelo de autenticación.

Servicio de IA SDK del cliente paquetes de NuGet Punto de conexión o identificador
Proyecto de Microsoft Foundry proyectos de inteligencia artificial de Azure Azure.AI.Projects, Microsoft.Agents.AI.Foundry https://<resource>.services.ai.azure.com/api/projects/<project>
modelos de Microsoft Foundry a través de OpenAI v1 OpenAI OpenAI, Microsoft.Agents.AI.OpenAI https://<resource>.services.ai.azure.com/openai/v1/
Azure OpenAI Azure OpenAI Azure.AI.OpenAI, Microsoft.Agents.AI.OpenAI https://<resource>.openai.azure.com/
Azure OpenAI a través de OpenAI v1 OpenAI OpenAI, Microsoft.Agents.AI.OpenAI https://<resource>.openai.azure.com/openai/v1/
OpenAI OpenAI OpenAI, Microsoft.Agents.AI.OpenAI Punto de conexión de OpenAI predeterminado
Anthropic en Microsoft Foundry Anthropic Foundry Anthropic.Foundry, Microsoft.Agents.AI.Anthropic Nombre del recurso de Foundry
Anthropic Anthropic Anthropic, Microsoft.Agents.AI.Anthropic Punto de conexión de Anthropic predeterminado

Use la página Microsoft Foundry, Azure OpenAI, OpenAI o Anthropic para ver ejemplos de autenticación y construcción de cliente.

Proveedores disponibles

Agent Framework Python expone clientes de chat específicos del proveedor detrás de la interfaz de agente común.

  • Azure OpenAI: inferencia de OpenAI hospedada Azure con compatibilidad con identidades de Azure.
  • OpenAI : API de finalizaciones y respuestas de chat de OpenAI.
  • Microsoft Foundry: inferencia de modelos a través de un proyecto de Microsoft Foundry.
  • Foundry Local : ejecute los modelos foundry admitidos localmente.
  • Anthropic: la inferencia de Claude a través de Anthropic, Foundry, Amazon Bedrock o Vertex AI.
  • Ollama : inferencia de modelo de código abierto local.
  • Amazon Bedrock : inferencia de modelos de base administrada por AWS.
  • GoogleMinis — Api para desarrolladores de Gemini o inferencia de ia de vértices.
  • Mistral : generación de inserción de inteligencia artificial mistral.

Proveedores disponibles

El SDK de Go crea un estándar *agent.Agent a través de constructores específicos del proveedor.

Provider Package Ruta de acceso de importación
Microsoft Foundry foundryprovider github.com/microsoft/agent-framework-go/provider/foundryprovider
Completaciones de chat de OpenAI openaiprovider github.com/microsoft/agent-framework-go/provider/openaiprovider
Respuestas de OpenAI openaiprovider github.com/microsoft/agent-framework-go/provider/openaiprovider
Anthropic anthropicprovider github.com/microsoft/agent-framework-go/provider/anthropicprovider
GoogleMinis geminiprovider github.com/microsoft/agent-framework-go/provider/geminiprovider

Por ejemplo, cree un agente respaldado por Foundry a partir de un punto de conexión de proyecto, credenciales e implementación de modelos:

a := foundryprovider.NewAgent(endpoint, token, foundryprovider.ModelDeployment(model), foundryprovider.AgentConfig{
    Instructions: "You are a helpful assistant.",
    Config: agent.Config{
        Name: "MyAgent",
    },
})

Pasos siguientes