Kontextusszolgáltatók

A környezetszolgáltatók az egyes meghívások körül futnak, hogy a végrehajtás előtt kontextust adjanak hozzá, és a végrehajtás után feldolgozzák az adatokat.

Beépített minta

Az a szokásos minta, hogy a szolgáltatók context_providers=[...] segítségével történő konfigurálása az ügynök létrehozásakor történik.

ChatHistoryProvider és AIContextProvider a rövid távú történet és a hosszú távú/környezeti gazdagítás beépített bővítménypontjai.

Python InMemoryHistoryProvider esetén a helyi beszélgetési memória beépített előzményszolgáltatója.

from agent_framework import InMemoryHistoryProvider
from agent_framework.openai import OpenAIChatClient

agent = OpenAIChatClient().as_agent(
    name="MemoryBot",
    instructions="You are a helpful assistant.",
    context_providers=[InMemoryHistoryProvider("memory", load_messages=True)],
)

session = agent.create_session()
await agent.run("Remember that I prefer vegetarian food.", session=session)

RawAgent egyes esetekben automatikusan hozzáadhatja InMemoryHistoryProvider("memory"), de adja hozzá explicit módon, ha determinisztikus helyi memória viselkedést szeretne.

Egyéni környezet biztosító

Egyéni környezetszolgáltatókat akkor használjon, ha dinamikus utasításokat/üzeneteket kell injektálnia, vagy ki kell nyernie az állapotot a futtatás után.

from typing import Any

from agent_framework import AgentSession, BaseContextProvider, SessionContext


class UserPreferenceProvider(BaseContextProvider):
    def __init__(self) -> None:
        super().__init__("user-preferences")

    async def before_run(
        self,
        *,
        agent: Any,
        session: AgentSession,
        context: SessionContext,
        state: dict[str, Any],
    ) -> None:
        if favorite := state.get("favorite_food"):
            context.extend_instructions(self.source_id, f"User's favorite food is {favorite}.")

    async def after_run(
        self,
        *,
        agent: Any,
        session: AgentSession,
        context: SessionContext,
        state: dict[str, Any],
    ) -> None:
        for message in context.input_messages:
            text = (message.text or "") if hasattr(message, "text") else ""
            if isinstance(text, str) and "favorite food is" in text.lower():
                state["favorite_food"] = text.split("favorite food is", 1)[1].strip().rstrip(".")

Egyéni előzményszolgáltató

Az előzményszolgáltatók az üzenetek betöltésére/tárolására specializálódott környezetszolgáltatók.

from collections.abc import Sequence
from typing import Any

from agent_framework import BaseHistoryProvider, Message


class DatabaseHistoryProvider(BaseHistoryProvider):
    def __init__(self, db: Any) -> None:
        super().__init__("db-history", load_messages=True)
        self._db = db

    async def get_messages(
        self,
        session_id: str | None,
        *,
        state: dict[str, Any] | None = None,
        **kwargs: Any,
    ) -> list[Message]:
        key = (state or {}).get(self.source_id, {}).get("history_key", session_id or "default")
        rows = await self._db.load_messages(key)
        return [Message.from_dict(row) for row in rows]

    async def save_messages(
        self,
        session_id: str | None,
        messages: Sequence[Message],
        *,
        state: dict[str, Any] | None = None,
        **kwargs: Any,
    ) -> None:
        if not messages:
            return
        if state is not None:
            key = state.setdefault(self.source_id, {}).setdefault("history_key", session_id or "default")
        else:
            key = session_id or "default"
        await self._db.save_messages(key, [m.to_dict() for m in messages])

Fontos

A Pythonban több előzményszolgáltatót is konfigurálhat, de csak egy használható load_messages=True. Használjon további szolgáltatókat a diagnosztikához és értékelésekhez load_messages=False és store_context_messages=True, hogy rögzítsék a bemenet/kimenet mellett más szolgáltatók kontextusát is.

Példaminta:

primary = DatabaseHistoryProvider(db)
audit = InMemoryHistoryProvider("audit", load_messages=False, store_context_messages=True)
agent = OpenAIChatClient().as_agent(context_providers=[primary, audit])

Következő lépések

Tárolás