Yapay zeka aracısı için istemci uygulaması geliştirme

Tamamlandı

Tavsiye

Daha fazla ayrıntı için Metin ve resimler sekmesine bakın!

Microsoft Foundry'deki bir aracı, görevleri gerçekleştirmek için ihtiyaç duyduğu modeli, yönergeleri ve araçları kapsüller. Aracıyı kullanıcıların kullanımına sunmak için aracıya istem gönderen ve yanıtlarını işleyen bir istemci uygulaması oluşturabilirsiniz.

Temsilciye bağlan

Foundry'de çalışan bir aracı, OpenAI Responses protokolünü destekleyen bir uç nokta sağlar. Uygulamalar OpenAI SDK'sını kullanarak bu uç noktaya bağlanabilir ve uygun izinlere sahip kullanıcılar veya uygulama kimlikleri Microsoft Entra ID kullanarak kimlik doğrulaması yapabilir.

Örneğin, Bilgi İşlem Geçmişi aracısı için bir web uygulaması geliştirebilirsiniz; kullanıcıların aracıya istem göndermesine olanak tanır.

İstemci uygulaması, senaryonuzun gerektirdiği herhangi bir kullanıcı deneyimini veya uygulama mantığını içerebilir. Tasarımından bağımsız olarak, aracıyla çekirdek etkileşim aynı deseni izler:

1. Ajan uç noktası için kimlik doğrulaması yaparak bir istemci oluşturun.
2. Yanıtlar API'sini kullanarak kullanıcının istemini gönderin.
3. Yanıtı işleyin ve kullanıcıya veya başka bir uygulama bileşenine sunun.

OpenAI SDK'sını kullanma

Aşağıdaki Python örneği, Microsoft Entra erişim belirtecini almak için DefaultAzureCredential kullanır ve aracının uç noktası için yapılandırılmış bir OpenAI istemcisi oluşturur. Ardından client.responses.create aracılığıyla bir istem gönderir ve aracının metin yanıtını yazdırır.

from azure.identity import DefaultAzureCredential, get_bearer_token_provider
from openai import OpenAI

# Get an OpenAI client for the agent
token = get_bearer_token_provider(
    DefaultAzureCredential(), 
    "https://ai.azure.com/.default")

client = OpenAI(
    api_key=token,
    base_url="https://ai-resrce.services.ai.azure.com/api/projects/ai-project/agents/computinghistorycode/endpoint/protocols/openai",
    default_query={"api-version": "v1"}) 

# Submit a prompt to the agent and print the response
response = client.responses.create(
    input="Who was Grace Hopper?")

print(response.output_text)

DefaultAzureCredential birden çok kimlik bilgisi kaynağını destekler ve aynı uygulama kodunun yerel geliştirmede ve barındırılan bir ortamda kimlik doğrulamasına olanak tanır. Kimliği doğrulanmış kullanıcının Foundry projesini ve ajanını kullanma iznine sahip olması gerekir.

Yanıtlar API'si, uygulamaların ve hizmetlerin model ve aracılarla etkileşim kurması için tutarlı bir yol sağlar. Aracıları OpenAI uyumlu bir uç nokta aracılığıyla kullanıma sunarak Foundry, aracı modeli, yönergeleri ve araçları Foundry'de yönetilirken tanıdık SDK desenlerini kullanmanıza olanak tanır.