Yönlendirilebilir aracı dağıtın (önizleme)

Bu makalede, yönlendirmeyi destekleyen uzun süre çalışan bir barındırılan aracıyı dağıtırsınız: ilk dönüş hâlâ çalışıyorken aynı konuşmada ikinci bir dönüş gelirse, platform yeni dönüşü kuyruğa alır ve onu 409 conversation_locked ile reddetmek yerine o anda işlenmekte olan dönüşü işbirlikçi şekilde iptal eder.

Örnek, iki seçenekle dayanıklılığı ve yönlendirmeyi etkinleştiren bir Responses protokol aracısıdır. Simüle edilmiş bir model akışı kullanır, bu nedenle model kimlik bilgileri olmadan çalıştırabilirsiniz.

Uyarı

Uzun süreli çalışan ajanlar önizleme sürümündedir. API'ler ve paket sürümleri değiştirilebilir.

Prerequisites

  • Microsoft Foundry erişimine sahip bir Azure aboneliği.
  • Python 3.13.
  • azd ile Foundry aracı uzantısı (), azd extension install azure.ai.agents invoke bayrağı ve azd-ext-azure-ai-agents_1.0.0-beta.16 yaşam döngüsü komutları için invocations veya sonraki bir sürüm olmalıdır. azd dağıtılan aracıyı çağırdığında kimlik doğrulamasını işler.

Örneği alma

Boş bir dizinde, dayanıklı yönlendirme aracısını azure.yaml manifestinden başlatın:

azd auth login
azd ai agent init -t https://github.com/microsoft-foundry/foundry-samples/blob/main/samples/python/hosted-agents/bring-your-own/responses/resilient-steering/azure.yaml

Bu komut, örnek kaynak kodunu indirir, azure.yaml yapılandırmasını kullanır, bir azd ortamı oluşturur ve bunu seçtiğiniz Foundry projesine bağlar.

Aracı, ana bilgisayarı oluştururken dayanıklılık ve yönlendirme sağlar:

options = ResponsesServerOptions(
    resilient_background=True,
    steerable_conversations=True,
)
app = ResponsesAgentServerHost(options=options)

steerable_conversations=True kullanıldığında, meşgul bir konuşmadaki ikinci çağrı kuyruğa alınır ve çalışmakta olan işleyici, 409 conversation_locked döndürülmesi yerine işbirlikçi olarak iptal edilir.

Sağlama ve devreye alma

Projeyi hazırlayın ve aracıyı dağıtın. Konum istendiğinde barındırılan aracıları destekleyen bir bölge seçin.

azd up

azd up Yanıtlar uç noktasını ve bir oyun alanı bağlantısını yazdırır.

Dağıtılmış ajanı yönlendirin

Yönlendirme, devam eden bir dönüşü başka yöne yönlendirir; bu nedenle, ikincisini gönderirken ilk dönüşün çalışmaya devam etmesi gerekir. İlk yanıtı yeni bir konuşmada uzun süre çalışan bir arka plan yanıtı olarak başlatın ve hemen --no-wait ile dönün:

azd ai agent invoke --long-running --no-wait --new-session "Explain quantum computing in detail, including its history, principles, algorithms, hardware, error correction, and applications."

--long-running, background=true ve store=true gönderir; azd ai agent invoke ise varsayılan olarak bir sonraki çağrınızda bu konuşmayı yeniden kullanır. İlk dönüş çalışmaya devam ederken, uçuş dönüşlerini yönlendirmek için yeni bir yönerge gönderin. CLI’nin bağlı kalması ve yönlendirilen dönüşü tamamlanana kadar akış halinde iletmesi için bu kez --no-wait ifadesini atlayın:

azd ai agent invoke --long-running "Instead, explain relativity and focus on practical examples."

İlk döngü, kuyruktaki girdiyi algılar ve bir sonraki güvenli noktada sonlanır. Kuyruğa alınan işlem daha sonra terminalinizde tamamlanana kadar akış halinde görüntülenir; böylece devir işlemini izleyebilirsiniz. Bunun yerine belirli bir yanıtı kimliğine göre yeniden oynatmak için azd ai agent invocations follow --id <response-id> kullanın.

Temizleme

azd down

İlgili içerik

  • Son güncelleştirme: