Modellszolgáltatók

A modellszolgáltatók az Ügynök-keretrendszer ügynök által használt következtetési ügyfelet biztosítják. Az alkalmazás az ügynökdefiníció, az utasítások, az eszközök, a köztes szoftver és a munkamenet-szabályzat tulajdonosa, míg a szolgáltató modellkövető és szolgáltató által üzemeltetett képességeket biztosít.

Az ügynökdefinícióval, engedélyekkel vagy szolgáltatásoldali végrehajtással rendelkező távoli vagy felügyelt futtatókörnyezetekről az Ügynökszolgáltatások című témakörben olvashat. Az egyéni keretrendszerügynök-implementációkról az Egyéni ügynökök című témakörben olvashat.

Szolgáltató összehasonlítása

Szolgáltató Függvényeszközök Strukturált kimenetek Kódértelmező Fájlkeresés MCP-eszközök Háttérválaszok
Azure OpenAI
OpenAI
Microsoft Öntöde
Anthropic
Ollama
Foundry Local
Amazon alapkőzet Varies
Google Gemini
ONNX
Dapr Varies Varies Varies Varies Varies Varies
Mistral N/A N/A N/A N/A N/A N/A

Important

Ha Microsoft Agent Framework használatával olyan alkalmazásokat hoz létre, amelyek külső kiszolgálókkal, ügynökökkel, kóddal vagy nem Azure közvetlen modellekkel ("külső rendszerek") működnek, ezt saját felelősségére teheti meg. A harmadik féltől származó rendszerek nem Microsoft termékek a Microsoft termékfeltételek alapján, és saját, külső licencfeltételeik vonatkoznak magára. A használatért és a kapcsolódó költségekért Ön a felelős.

Javasoljuk, hogy tekintse át a külső rendszerekkel megosztott és fogadott összes adatot, és hogy megismerje az adatok kezelésével, megosztásával, megőrzésével és helyével kapcsolatos harmadik féltől származó eljárásokat. Az Ön felelőssége annak kezelése, hogy az adatok a szervezet Azure megfelelőségi és földrajzi határain, valamint a kapcsolódó következményeken kívül fognak-e áramlani, valamint hogy a megfelelő engedélyek, határok és jóváhagyások ki vannak-e építve.

Ön felelős azért, hogy gondosan áttekintse és tesztelje azokat az alkalmazásokat, amelyeket Microsoft Agent Framework használatával hoz létre az adott használati esetek kontextusában, és minden megfelelő döntést és testreszabást meghoz. Ez magában foglalja a saját felelős AI-kockázatcsökkentések, például metaprompt, tartalomszűrők vagy egyéb biztonsági rendszerek implementálását, valamint annak biztosítását, hogy az alkalmazások megfeleljenek a megfelelő minőségi, megbízhatósági, biztonsági és megbízhatósági szabványoknak. Lásd még: Átláthatóság – gyakori kérdések

Elérhető szolgáltatók

Minden olyan következtetési szolgáltatás, amely implementációt Microsoft.Extensions.AI.IChatClient biztosít, vissza tud szolgáltatni egy ChatClientAgent.

  • Azure OpenAI – Azure által üzemeltetett OpenAI-következtetés Azure identitástámogatással.
  • OpenAI – OpenAI-csevegés befejezése és válaszok API-k.
  • Microsoft Foundry – Modellkövetkeztetés egy Microsoft Foundry-projekten keresztül.
  • Anthropic – Claude-modell következtetése Anthropic és támogatott üzemeltetett végpontokon keresztül.
  • Ollama – Helyi nyílt forráskódú modell következtetése.
  • Amazon Bedrock – AWS által felügyelt alapmodell következtetése.
  • Google Gemini – Gemini Developer API vagy Vertex AI-következtetés.
  • ONNX – Helyi ONNX Runtime GenAI-következtetés.
  • Dapr – Következtetés a Dapr-beszélgetés építőelemén keresztül.

Beszélgetési előzmények támogatása

A kiválasztott API határozza meg, hogy a távoli szolgáltatás rendelkezhet-e beszélgetési előzményekkel, és hogy az ügynök használhat-e inkább memórián belüli vagy egyéni ChatHistoryProviderszolgáltatást.

Ügynökkapcsolat Szolgáltatás által felügyelt előzmények Memóriabeli vagy egyéni előzmények
Microsoft Foundry Prompt vagy Hosted Agent
Microsoft Öntödei válaszok
Azure OpenAI-válaszok
Azure OpenAI-csevegés befejezése
OpenAI-válaszok
OpenAI chatkiegészítések
Anthropic
Bármely más IChatClient Varies Varies

A szolgáltatás által felügyelt előzmények rendelkezésre állása a kiválasztott szolgáltatásbeállításoktól is függhet. A konfiguráció részleteiért tekintse meg a szolgáltató oldalát.

SDK és végpont kiválasztása

Számos .NET SDK csatlakozhat Microsoft Foundryhez, Azure OpenAI-hoz, OpenAI-hoz vagy Anthropic. Válassza ki a szolgáltatásvégpontnak és a hitelesítési modellnek megfelelő SDK-t.

AI-szolgáltatás Kliens SDK NuGet csomagok Végpont vagy azonosító
Microsoft Foundry-projekt Azure AI-projektek Azure.AI.Projects, Microsoft.Agents.AI.Foundry https://<resource>.services.ai.azure.com/api/projects/<project>
Microsoft Öntödei modellek az OpenAI 1-ben OpenAI OpenAI, Microsoft.Agents.AI.OpenAI https://<resource>.services.ai.azure.com/openai/v1/
Azure OpenAI Azure OpenAI Azure.AI.OpenAI, Microsoft.Agents.AI.OpenAI https://<resource>.openai.azure.com/
OpenAI Azure OpenAI-t openAI v1-sel OpenAI OpenAI, Microsoft.Agents.AI.OpenAI https://<resource>.openai.azure.com/openai/v1/
OpenAI OpenAI OpenAI, Microsoft.Agents.AI.OpenAI Alapértelmezett OpenAI-végpont
Microsoft Foundry Anthropic Anthropic Öntöde Anthropic.Foundry, Microsoft.Agents.AI.Anthropic A Foundry erőforrás neve
Anthropic Anthropic Anthropic, Microsoft.Agents.AI.Anthropic Alapértelmezett Anthropic végpont

Használja az Microsoft Foundry, Azure OpenAI, OpenAI vagy Anthropic oldalt az ügyfélépítési és hitelesítési példákhoz.

Elérhető szolgáltatók

Az Ügynök-keretrendszer Python szolgáltatóspecifikus csevegőügyfeleket tesz elérhetővé a közös ügynökfelület mögött.

  • Azure OpenAI – Azure által üzemeltetett OpenAI-következtetés Azure identitástámogatással.
  • OpenAI – OpenAI-csevegés befejezése és válaszok API-k.
  • Microsoft Foundry – Modellkövetkeztetés egy Microsoft Foundry-projekten keresztül.
  • Foundry Local – Támogatott Öntödei modellek helyi futtatása.
  • Anthropic – Claude Anthropic, Foundry, Amazon Bedrock vagy Vertex AI használatával következtet.
  • Ollama – Helyi nyílt forráskódú modell következtetése.
  • Amazon Bedrock – AWS által felügyelt alapmodell következtetése.
  • Google Gemini – Gemini Developer API vagy Vertex AI-következtetés.
  • Mistral – Miistral AI beágyazási generáció.

Elérhető szolgáltatók

A Go SDK szolgáltatóspecifikus konstruktorokkal hoz létre egy szabványt *agent.Agent .

Szolgáltató Package Elérési út importálása
Microsoft Műhely foundryprovider github.com/microsoft/agent-framework-go/provider/foundryprovider
OpenAI chatbefejezések openaiprovider github.com/microsoft/agent-framework-go/provider/openaiprovider
OpenAI-válaszok openaiprovider github.com/microsoft/agent-framework-go/provider/openaiprovider
Anthropic anthropicprovider github.com/microsoft/agent-framework-go/provider/anthropicprovider
Google Gemini geminiprovider github.com/microsoft/agent-framework-go/provider/geminiprovider

Hozzon létre például egy Foundry által támogatott ügynököt egy projektvégpontból, hitelesítő adatokból és modelltelepítésből:

a := foundryprovider.NewAgent(endpoint, token, foundryprovider.ModelDeployment(model), foundryprovider.AgentConfig{
    Instructions: "You are a helpful assistant.",
    Config: agent.Config{
        Name: "MyAgent",
    },
})

Következő lépések