Använda funktionella verktyg med godkännanden som involverar mänsklig övervakning

Det här handledningssteget visar hur du använder funktionsverktyg som kräver mänskligt godkännande med en agent, där agenten använder tjänsten Azure OpenAI Chat Completion.

När agenter kräver någon användarinmatning, till exempel för att godkänna ett funktionsanrop, refereras detta till som ett mönster för människan-i-loopen. En agentkörning som kräver användarindata slutförs med ett svar som anger vilka indata som krävs från användaren, i stället för att slutföras med ett slutligt svar. Anroparen för agenten ansvarar sedan för att hämta nödvändiga indata från användaren och skicka tillbaka dem till agenten som en del av en ny agentkörning.

Förutsättningar

Förutsättningar och installation av NuGet-paket finns i steget Skapa och kör en enkel agent i den här självstudien.

Skapa agenten med funktionsverktyg

När du använder funktioner är det möjligt att ange för varje funktion om den kräver mänskligt godkännande innan den körs. Detta görs genom att omsluta instansen AIFunction i en ApprovalRequiredAIFunction instans.

Här är ett exempel på ett enkelt funktionsverktyg som förfalskar att få vädret för en viss plats.

using System;
using System.ComponentModel;
using System.Linq;
using Azure.AI.OpenAI;
using Azure.Identity;
using Microsoft.Agents.AI;
using Microsoft.Extensions.AI;
using OpenAI;

[Description("Get the weather for a given location.")]
static string GetWeather([Description("The location to get the weather for.")] string location)
    => $"The weather in {location} is cloudy with a high of 15°C.";

Om du vill skapa en AIFunction och sedan omsluta den i en ApprovalRequiredAIFunctionkan du göra följande:

AIFunction weatherFunction = AIFunctionFactory.Create(GetWeather);
AIFunction approvalRequiredWeatherFunction = new ApprovalRequiredAIFunction(weatherFunction);

När du skapar agenten kan du nu tillhandahålla det godkännande som kräver funktionsverktyget till agenten genom att skicka en lista med verktyg till CreateAIAgent metoden.

AIAgent agent = new AzureOpenAIClient(
    new Uri("https://<myresource>.openai.azure.com"),
    new AzureCliCredential())
     .GetChatClient("gpt-4o-mini")
     .CreateAIAgent(instructions: "You are a helpful assistant", tools: [approvalRequiredWeatherFunction]);

Eftersom du nu har en funktion som kräver godkännande kan agenten svara med en begäran om godkännande, i stället för att köra funktionen direkt och returnera resultatet. Du kan kontrollera svarsinnehållet för alla FunctionApprovalRequestContent instanser, vilket indikerar att agenten kräver användargodkännande för en funktion.

AgentThread thread = agent.GetNewThread();
AgentRunResponse response = await agent.RunAsync("What is the weather like in Amsterdam?", thread);

var functionApprovalRequests = response.Messages
    .SelectMany(x => x.Contents)
    .OfType<FunctionApprovalRequestContent>()
    .ToList();

Om det finns några begäranden om funktionsgodkännande finns information om funktionsanropet inklusive namn och argument i FunctionCall egenskapen på instansen FunctionApprovalRequestContent . Detta kan visas för användaren så att de kan bestämma om de vill godkänna eller avvisa funktionsanropet. Anta att det finns en begäran i det här exemplet.

FunctionApprovalRequestContent requestContent = functionApprovalRequests.First();
Console.WriteLine($"We require approval to execute '{requestContent.FunctionCall.Name}'");

När användaren har angett sina indata kan du skapa en FunctionApprovalResponseContent instans med hjälp av CreateResponse metoden på FunctionApprovalRequestContent. Använd true för att godkänna funktionsanropet, eller använd false för att avvisa funktionsanropet.

Svarsinnehållet kan sedan skickas till agenten i ett nytt UserChatMessage, tillsammans med samma trådobjekt för att få tillbaka resultatet från agenten.

var approvalMessage = new ChatMessage(ChatRole.User, [requestContent.CreateResponse(true)]);
Console.WriteLine(await agent.RunAsync(approvalMessage, thread));

När du använder funktionsverktyg med mänskliga godkännanden i loopen, ska du komma ihåg att kontrollera FunctionApprovalRequestContent instanser i svaret efter varje agentkörning, tills alla funktionsanrop har godkänts eller avvisats.

Detta handledningssteg visar hur du använder funktionsverktyg som kräver manuellt godkännande med en agent.

När agenter kräver någon användarinmatning, till exempel för att godkänna ett funktionsanrop, refereras detta till som ett mönster för människan-i-loopen. En agentkörning som kräver användarindata slutförs med ett svar som anger vilka indata som krävs från användaren, i stället för att slutföras med ett slutligt svar. Anroparen för agenten ansvarar sedan för att hämta nödvändiga indata från användaren och skicka tillbaka dem till agenten som en del av en ny agentkörning.

Förutsättningar

Förutsättningar och installation av Python-paket finns i steget Skapa och kör en enkel agent i den här självstudien.

Skapa agenten med funktionsverktyg som kräver godkännande

När du använder funktioner är det möjligt att ange för varje funktion om den kräver mänskligt godkännande innan den körs. Detta görs genom att ange parametern approval_mode till "always_require" när du använder dekoratören @ai_function .

Här är ett exempel på ett enkelt funktionsverktyg som förfalskar att få vädret för en viss plats.

from typing import Annotated
from agent_framework import ai_function

@ai_function
def get_weather(location: Annotated[str, "The city and state, e.g. San Francisco, CA"]) -> str:
    """Get the current weather for a given location."""
    return f"The weather in {location} is cloudy with a high of 15°C."

Om du vill skapa en funktion som kräver godkännande kan du använda parametern approval_mode :

@ai_function(approval_mode="always_require")
def get_weather_detail(location: Annotated[str, "The city and state, e.g. San Francisco, CA"]) -> str:
    """Get detailed weather information for a given location."""
    return f"The weather in {location} is cloudy with a high of 15°C, humidity 88%."

När du skapar agenten kan du nu tillhandahålla det godkännande som kräver funktionsverktyget till agenten genom att skicka en lista med verktyg till ChatAgent konstruktorn.

from agent_framework import ChatAgent
from agent_framework.openai import OpenAIResponsesClient

async with ChatAgent(
    chat_client=OpenAIResponsesClient(),
    name="WeatherAgent",
    instructions="You are a helpful weather assistant.",
    tools=[get_weather, get_weather_detail],
) as agent:
    # Agent is ready to use

Eftersom du nu har en funktion som kräver godkännande kan agenten svara med en begäran om godkännande, i stället för att köra funktionen direkt och returnera resultatet. Du kan kontrollera svaret för alla begäranden om användarindata, vilket indikerar att agenten kräver användargodkännande för en funktion.

result = await agent.run("What is the detailed weather like in Amsterdam?")

if result.user_input_requests:
    for user_input_needed in result.user_input_requests:
        print(f"Function: {user_input_needed.function_call.name}")
        print(f"Arguments: {user_input_needed.function_call.arguments}")

Om det finns några begäranden om funktionsgodkännande finns information om funktionsanropet, inklusive namn och argument i function_call egenskapen på användarens indatabegäran. Detta kan visas för användaren så att de kan bestämma om de vill godkänna eller avvisa funktionsanropet.

När användaren har angett sina indata kan du skapa ett svar med hjälp av create_response metoden för användarens indatabegäran. Använd True för att godkänna funktionsanropet, eller använd False för att avvisa funktionsanropet.

Svaret kan sedan skickas till agenten i en ny ChatMessage, för att få tillbaka resultatet från agenten.

from agent_framework import ChatMessage, Role

# Get user approval (in a real application, this would be interactive)
user_approval = True  # or False to reject

# Create the approval response
approval_message = ChatMessage(
    role=Role.USER, 
    contents=[user_input_needed.create_response(user_approval)]
)

# Continue the conversation with the approval
final_result = await agent.run([
    "What is the detailed weather like in Amsterdam?",
    ChatMessage(role=Role.ASSISTANT, contents=[user_input_needed]),
    approval_message
])
print(final_result.text)

Hantera godkännanden i en loop

När du arbetar med flera funktionsanrop som kräver godkännande kan du behöva hantera godkännanden i en loop tills alla funktioner har godkänts eller avvisats:

async def handle_approvals(query: str, agent) -> str:
    """Handle function call approvals in a loop."""
    current_input = query

    while True:
        result = await agent.run(current_input)

        if not result.user_input_requests:
            # No more approvals needed, return the final result
            return result.text

        # Build new input with all context
        new_inputs = [query]

        for user_input_needed in result.user_input_requests:
            print(f"Approval needed for: {user_input_needed.function_call.name}")
            print(f"Arguments: {user_input_needed.function_call.arguments}")

            # Add the assistant message with the approval request
            new_inputs.append(ChatMessage(role=Role.ASSISTANT, contents=[user_input_needed]))

            # Get user approval (in practice, this would be interactive)
            user_approval = True  # Replace with actual user input

            # Add the user's approval response
            new_inputs.append(
                ChatMessage(role=Role.USER, contents=[user_input_needed.create_response(user_approval)])
            )

        # Continue with all the context
        current_input = new_inputs

# Usage
result_text = await handle_approvals("Get detailed weather for Seattle and Portland", agent)
print(result_text)

När du använder funktionsverktyg som kräver mänskliga inslag i godkännandeprocessen, kom ihåg att söka efter begäranden om användardata i svaret, efter varje körning av agenten, tills alla funktionsanrop har blivit godkända eller avvisade.

Nästa steg

Skapa strukturerade utdata med agenter