Azure AI Foundry Aracı Hizmeti nedir?

Çoğu işletme yalnızca sohbet botlarını istemez; daha hızlı ve daha az hata içeren otomasyon ister. Bu, belgeleri özetleme, faturaları işleme, destek biletlerini yönetme veya blog gönderileri yayımlama anlamına gelebilir. Her durumda hedef aynıdır: yinelenen ve öngörülebilir görevleri boşaltarak kişileri ve kaynakları daha yüksek değerli işlere odaklanmaya serbest bırakmak.

Büyük dil modelleri (LLM'ler) yapılandırılmamış verileri anlayabilen, kararlar verebilen ve içerik oluşturabilen sistemlerle yeni bir otomasyon türünün kapısını açtı. Pratikte işletmelerin tanıtımların ötesine geçerek üretime geçmesi zor olabilir. LLM'ler sapabilir, yanlış olabilir ve sorumluluk eksikliği olabilir. Görünürlük, ilke zorlaması ve düzenleme olmadan, bu modellere gerçek iş akışlarında güvenmek zordur.

Azure AI Foundry bunu değiştirmek için tasarlanmıştır. Akıllı aracılar oluşturmak için modelleri, araçları, çerçeveleri ve idareyi birleşik bir sistemde birleştiren bir platform. Bu sistemin merkezinde, geliştirme, dağıtım ve üretim genelinde aracıların çalışmasını sağlayan Azure AI Foundry Agent Service yer alır.

AI Foundry Agent Service, Azure AI Foundry'nin modeller, araçlar ve çerçeveler gibi temel parçalarını tek bir çalışma zamanına bağlar. İş parçacıklarını yönetir, araç çağrılarını düzenler, içerik güvenliğini sağlar ve kimlik, ağ ve gözlemlenebilirlik sistemleriyle entegre ederek aracıların güvenli, ölçeklenebilir ve üretime hazır olmasını sağlar.

AI Foundry Agent Service, altyapı karmaşıklığını soyutlayarak ve tasarım gereği güven ve güvenliği zorunlu kılarak prototipten üretime güvenle geçmeyi kolaylaştırır.

Yapay Zeka Aracısı nedir?

Ajanlar kararlar alır, araçları kullanır ve iş akışlarına katılır. Bazen bağımsız olarak, bazen diğer aracılarla veya insanlarla işbirliği içinde. Aracıları yardımcılardan ayıran şey özerkliktir: yardımcılar insanları destekler, aracılar hedefleri tamamlar. Bunlar gerçek süreç otomasyonu için temeldir.

AI Foundry kullanılarak oluşturulan aracılar monolit değildir. Bunlar birleştirilebilir birimlerdir. Her birinin belirli bir rolü vardır, doğru model tarafından desteklenir ve doğru araçlarla donatılmıştır ve güvenli, gözlemlenebilir ve yönetilebilir bir çalışma zamanında dağıtılır.

Her temsilci üç temel bileşene sahiptir.

• Model (LLM): Mantık ve dil anlama özelliklerini destekler
• Yönergeler: Aracının hedeflerini, davranışını ve kısıtlamalarını tanımlama
• Araçlar: Aracının bilgi almasına veya işlem yapmasına izin verin

Aracılar kullanıcı istemleri, uyarılar veya diğer aracılardan gelen iletiler gibi yapılandırılmamış girişleri alır. Bunlar, araç sonuçları veya iletiler biçiminde çıkışlar üretir. Yol boyunca, alma işlemleri yapmak veya eylemleri tetiklemek için araçlar çağırabilirler.

AI Foundry'deki aracılar nasıl çalışır?

Azure AI Foundry'yi akıllı aracılar için bir derleme hattı olarak düşünün. Her modern fabrika gibi, her biri son ürünün bir kısmını şekillendirmeden sorumlu olan farklı özel istasyonları bir araya getirir. Agent Factory, güvenli, test edilebilir ve üretime hazır aracılar oluşturmak için makineler ve taşıyıcı bantlar yerine modelleri, araçları, ilkeleri ve düzenlemeyi kullanır. Fabrika adım adım şu şekilde çalışır:

1. Modeller

Üretim hattı, aracınıza zekasını veren bir model seçerek başlar. GPT-4o, GPT-4, GPT-3.5 (Azure OpenAI) ve Llama gibi diğer büyük dil modellerinden oluşan büyüyen bir katalog arasından seçim yapın. Bu, kararlarını destekleyen ajanın akıl yürütme çekirdeğidir.

2. Özelleştirme

Ardından, bu modeli kullanım örneğinize uyacak şekilde şekillendirin. Aracınızı hassas ayarlama, damıtma veya etki alanına özgü istemlerle özelleştirin. Bu adım gerçek iş parçacığı içeriğinden ve araç sonuçlarından yakalanan verileri kullanarak önceki performanstan aracı davranışını, role özgü bilgileri ve desenleri kodlamanıza olanak tanır.

3. AI Araçları

Ardından aracınızı araçlarla donatın. Bunlar, kurumsal bilgilere (Bing, SharePoint, Azure AI Search gibi) erişmesine ve gerçek dünya eylemleri gerçekleştirmesine (Logic Apps, Azure İşlevleri, OpenAPI ve daha fazlası aracılığıyla) olanak sağlar. Bu, aracının özelliklerini genişletme becerisini geliştirir.

4. Düzenleme

Ardından, temsilcinin koordinasyona ihtiyacı var. Bağlı aracılar araç çağrılarını işleme, iş parçacığı durumunu güncelleştirme, yeniden denemeleri yönetme ve çıkışları günlüğe kaydetme gibi tüm yaşam döngüsünü düzenler.

5. Gözlemlenebilirlik

Son olarak ajanlar test edilir ve izlenir. AI Foundry her adımda günlükleri, izlemeleri ve değerlendirmeleri yakalayabilir. Tam iş parçacığı düzeyinde görünürlük ve Application Insights tümleştirmesi sayesinde ekipler her kararı inceleyebilir ve zaman içinde aracıları sürekli geliştirebilir.

6. Güven

Aracıların atandıkları iş yükü için uygun ve güvenilir olduğundan emin olmak önemlidir. AI Foundry, Microsoft Entra, RBAC, içerik filtreleri, şifreleme ve ağ yalıtımı aracılığıyla kimlik dahil olmak üzere kurumsal düzeyde güven özelliklerini uygular. Platform tarafından yönetilen veya kendi altyapınızı getirerek aracılarınızın nasıl ve nerede çalıştırılacaklarını siz seçersiniz.

Sonuç mu? Üretime hazır bir aracı: güvenilir, genişletilebilir ve iş akışlarınızda dağıtılması güvenli.

Azure AI Foundry Aracı Hizmeti neden kullanılır?

Azure AI Foundry Agent Service, kurumsal ortamlarda akıllı aracıları dağıtmak için üretime hazır bir temel sağlar. Temel özellikler arasında aşağıdaki gibi karşılaştırmalar yapılır:

Kapasite	Azure AI Foundry Agent Hizmeti
1. Konuşmalara görünürlük	Yapılandırılmış konulara, hem kullanıcı↔temsilci hem de temsilci↔temsilci mesajları dahil olmak üzere, tam erişim. UI'ler, hata ayıklama ve eğitim için idealdir
2. Çok aracılı koordinasyon	Aracıdan aracıya mesajlaşma için yerleşik destek.
3. Araç orkestrasyonu	Yapılandırılmış günlük kaydı ile sunucu tarafı yürütme ve araç çağrılarını yeniden deneme. El ile düzenleme gerekmez.
4. Güven ve güvenlik	Tümleşik içerik filtreleri kötüye kullanımı önlemeye ve komut ekleme risklerini (XPIA) azaltmaya yardımcı olur. tüm çıkışlar politikalar tarafından yönetilir.
5. Kurumsal tümleştirme	Uyumluluk gereksinimlerini karşılamak için kendi depolama alanınızı, Azure AI Arama dizininizi ve sanal ağınızı getirin.
6. Gözlemlenebilirlik ve hata ayıklama	İş parçacıkları, araç çağrıları ve ileti izlemeleri tamamen izlenebilir; Telemetri için Application Insights entegrasyonu
7. Kimlik ve ilke denetimi	RBAC, denetim günlükleri ve kurumsal koşullu erişim için tam destekle Microsoft Entra üzerine kurulmuştur.

Foundry Agent Service'i kullanmaya başlama

Foundry Agent Service'i kullanmaya başlamak için Azure aboneliğinizde bir Azure AI Foundry projesi oluşturmanız gerekir.

Hizmeti ilk kez kullanıyorsanız ortam kurulumu ve hızlı başlangıç kılavuzu ile başlayın.

1. Gerekli kaynaklarla bir proje oluşturabilirsiniz.
2. Proje oluşturduktan sonra GPT-4o gibi uyumlu bir model dağıtabilirsiniz.
3. Dağıtılan bir modeliniz olduğunda, SDK'ları kullanarak hizmete API çağrıları yapmaya da başlayabilirsiniz.

Sonraki Adımlar

Aracıları destekleyen modeller hakkında daha fazla bilgi edinin.