Not
Bu sayfaya erişim yetkilendirme gerektiriyor. Oturum açmayı veya dizinleri değiştirmeyi deneyebilirsiniz.
Bu sayfaya erişim yetkilendirme gerektiriyor. Dizinleri değiştirmeyi deneyebilirsiniz.
Çoğu işletme yalnızca sohbet botları istemiyor. Daha hızlı ve daha az hatası olan otomasyon isterler. Bu istek belgeleri özetlemek, faturaları işlemek, destek biletlerini yönetmek veya blog gönderileri yayımlamak anlamına gelebilir. Her durumda hedef aynıdır: yinelenen ve öngörülebilir görevleri boşaltarak kişileri ve kaynakları daha yüksek değerli işlere odaklanmaya serbest bırakmak.
Büyük dil modelleri (LLM'ler), yapılandırılmamış verileri anlayabilen, kararlar verebilen ve içerik oluşturabilen sistemlerle yeni bir otomasyon türü sunar. Pratikte işletmeler demoların ötesine geçerek üretime geçme konusunda zorluk çekebiliyor. LLM'ler sapabilir, yanlış olabilir ve sorumluluk eksikliği olabilir. Görünürlük, ilke uygulanması ve düzenleme olmadan, bu modellere gerçek iş akışlarında güvenmek zordur.
Microsoft Foundry bunu değiştirmek için tasarlanmıştır. Akıllı aracılar oluşturmak için modelleri, araçları, çerçeveleri ve idareyi birleşik bir sistemde birleştiren bir platform. Bu sistemin merkezinde, geliştirme, dağıtım ve üretim genelinde aracıların çalışmasını mümkün kılan Foundry Agent Service yer alır.
Aracı Servisi, Foundry platformunun modeller, araçlar ve çerçeveler gibi temel parçalarını tek bir çalışma sürecine bağlar. Konuşmaları yönetir, araç çağrılarını düzenler, içerik güvenliğini sağlar ve kimlik, ağ ve gözlemlenebilirlik sistemleriyle tümleştirir. Bu özellikler güvenli, ölçeklenebilir ve üretime hazır aracılar oluşturmanıza yardımcı olur.
Aracı Hizmeti, altyapı karmaşıklığını soyutlayarak ve tasarım gereği güven ve güvenliği zorunlu kılarak prototipten üretime güvenle geçmenize yardımcı olabilir.
Önkoşullar
- Dökümhane kaynaklarını oluşturma ve yönetme iznine sahip bir Azure aboneliği.
- Dökümhane projesi. Henüz oluşturmadıysanız ortam kurulumuyla başlayın.
- Ajanınızın kullanabileceği dağıtılmış bir model. Model ve bölge kullanılabilirliği farklılık gösterebilir; aracıları bilgilendiren modellere bakın.
Kullanılabilirlik, bölgeler ve sınırlar
Agent Hizmeti yetkinlikleri, kullandığınız Foundry deneyimine ve seçtiğiniz modele ve bölgeye göre farklılık gösterebilir.
- Hizmet sınırları, kotalar ve kısıtlama konusundaki bilgilere ulaşmak için bkz. Aracı Hizmeti için kotalar ve sınırlar.
- Model ve bölge desteği için bkz. Aracıları bilgilendiren modeller.
İlk aracınızı oluşturuyorsanız, Foundry deneyiminiz için doğru API yolunda olduğunuzdan emin olmak için Foundry Aracısı Hizmeti'ni kullanmaya başlama sayfasındaki hızlı başlangıç bağlantılarıyla başlayın.
Yapay zeka aracısı nedir?
Ajanlar kararlar alır, araçları kullanır ve iş akışlarına katılır. Bu görevleri bazen bağımsız olarak, bazen de diğer aracılarla veya insanlarla işbirliği yaparak gerçekleştirirler. Gerçek süreç otomasyonlarının temelini oluştururlar.
Foundry aracılığıyla oluşturduğunuz aracılar monolit değildir. Birleştirilebilir birimlerdir. Her bir temsilci belirli bir role sahiptir, doğru modelle desteklenir ve doğru donanımlarla donatılmıştır. Her aracıyı güvenli, gözlemlenebilir ve yönetilebilir bir çalışma zamanı içinde dağıtırsınız.
Bir aracı üç temel bileşene sahiptir:
- Model (LLM): Mantık ve dil anlama özelliklerini destekler.
-
Yönergeler: Aracının hedeflerini, davranışını ve kısıtlamalarını tanımlayın. Aşağıdaki türlere sahip olabilirler:
- Bildirimsel:
- İstem tabanlı: Davranışı yönlendirmek için model yapılandırmasını, yönergeleri, araçları ve doğal dil istemlerini birleştiren bildirim temelli olarak tanımlanmış tek bir aracı.
- İş akışı: Birden çok aracıyı birlikte düzenlemek veya belirli ölçütlere göre bir eylem tetikleme amacıyla YAML veya başka bir kod olarak ifade edilebilen aracı iş akışı.
- Barındırılan: Kodda oluşturulup dağıtılan ve Foundry tarafından barındırılan kapsayıcılı ajanlar.
- Bildirimsel:
- Araçlar: Aracın bilgi almasına veya işlem yapmasına izin verin.
Aracılar kullanıcı istemleri, uyarılar veya diğer aracılardan gelen iletiler gibi yapılandırılmamış girişleri alır. Bunlar, araç sonuçları veya iletiler biçiminde çıkışlar üretir. Bu süreçte, bilgi alma veya eylemleri tetiklemek için araçları çağırabilirler.
Foundry'deki aracılar nasıl çalışır?
Foundry'yi akıllı aracılar için bir montaj hattı olarak düşünün. Her modern fabrika gibi Foundry de her biri son ürünün bir kısmını şekillendirmeden sorumlu olan özel istasyonları bir araya getirir. Aracı Fabrikası, güvenli, test edilebilir ve üretime hazır aracılar oluşturmak için makineler ve taşıyıcı bantlar yerine modelleri, araçları, politikaları ve orkestrasyonu kullanır. Fabrika adım adım şu şekilde çalışır:
1. Modeller
Montaj hattı, temsilcinize zekasını kazandıran bir modeli seçtiğinizde başlar. GPT-4o, GPT-4, GPT-3.5 (Azure OpenAI) ve Llama gibi diğer büyük dil modellerinin (LLM) büyüyen kataloğundan seçim yapın. Model, ajanın kararlarını bilgilendiren mantık çekirdeğidir.
2. Özelleştirilebilirlik
Modeli kullanım örneğinize uyacak şekilde şekillendirin. Aracınızı hassas ayarlama, damıtma veya etki alanına özgü istemlerle özelleştirin. Gerçek konuşma içeriğinden ve araç sonuçlarından elde edilen verileri kullanarak, aracı davranışını, role özgü bilgileri ve önceki performans örüntülerini kodlayın.
3. Bilgi ve araçlar
Temsilcinizi araçlarla donatın. Bu araçlar, aracının kurumsal bilgilere (Bing, SharePoint ve Azure AI Search gibi) erişmesine ve gerçek dünya eylemleri gerçekleştirmesine (Azure Logic Apps, Azure İşlevleri, OpenAPI ve daha fazlası aracılığıyla) olanak sağlar. Bu adım, ajanın yeteneklerini genişletme becerisini geliştirir.
4. Düzenleme
Temsilcinin koordinasyona ihtiyacı var. İş akışları araç çağrılarını işleme, konuşma durumunu güncelleştirme, yeniden denemeleri yönetme ve çıkışları günlüğe kaydetme gibi tüm yaşam döngüsünü düzenler.
5. Gözlemlenebilirlik
Ajanları test edin ve izleyin. Foundry her adımda günlükleri, izleri ve değerlendirmeleri yakalayabilir. Tam konuşma düzeyinde görünürlük ve Application Insights tümleştirmesi sayesinde ekipler her kararı inceleyebilir ve zaman içinde aracıları sürekli geliştirebilir.
6. Güven
Aracıların atandıkları iş yükü için uygun ve güvenilir olduğundan emin olun. Dökümhane, Microsoft Entra aracılığıyla kimlik, rol tabanlı erişim denetimi (RBAC), içerik filtreleri, şifreleme ve ağ yalıtımı gibi kurumsal düzeyde güven özelliklerini uygular. Platform tarafından yönetilen veya kendi altyapınızı getir seçeneğini kullanarak aracılarınızın nasıl ve nerede çalıştırileceğini seçersiniz.
Sonuç, üretime hazır bir aracıdır: güvenilir, genişletilebilir ve iş akışlarınızda dağıtılması güvenlidir.
Foundry Aracı Hizmeti neden kullanmalıyız?
Aracı Hizmeti, kurumsal ortamlarda akıllı aracıları dağıtmak için üretime hazır bir temel sağlar. Temel özellikler arasında aşağıdaki gibi karşılaştırmalar yapılır:
| Kapasite | Temsilci Hizmeti |
|---|---|
| Konuşmalara erişim görünürlüğü | Hem kullanıcıdan aracıya hem de aracıdan aracıya iletiler dahil olmak üzere yapılandırılmış konuşmalara tam erişim. Kullanıcı arayüzleri, hata ayıklama ve eğitim için idealdir. |
| Çoklu ajan koordinasyonu | Aracıdan aracıya mesajlaşma için yerleşik destek. |
| Araç orkestrasyonu | Yapılandırılmış günlük kaydıyla sunucu tarafı yürütme ve araç çağrılarını yeniden deneme. El ile düzenleme gerekmez. |
| Güven ve güvenlik | Yanlış kullanımı önlemeye ve istem ekleme risklerini hafifletmeye yardımcı olan, çapraz istem ekleme saldırıları (XPIA) dahil tümleşik içerik filtreleri. Tüm çıkışlar politika tarafından yönetilmektedir. |
| Kurumsal tümleştirme | Uyumluluk gereksinimlerini karşılamak için kendi depolama alanınızı, Azure AI Arama dizininizi ve sanal ağınızı getirebilme. |
| Gözlemlenebilirlik ve hata ayıklama | Konuşmaların, araç çağrılarının ve ileti izlemelerinin tam izlenebilirliği; Kullanım verileri için Application Insights tümleştirmesi. |
| Kimlik ve ilke denetimi | RBAC, denetim günlükleri ve kurumsal koşullu erişim için tam destekle Microsoft Entra üzerine kurulmuştur. |
Güvenlik, gizlilik ve uyumluluk
Aracı Hizmeti, kimlik, ağ, veri işleme ve güvenlik üzerinde güçlü denetimlere ihtiyacınız olan kurumsal iş yükleri için tasarlanmıştır.
- Güvenlik denetimleri: Güvenli olmayan çıkışları azaltmaya ve çapraz istem ekleme saldırıları (XPIA) dahil olmak üzere istem ekleme risklerini azaltmaya yardımcı olmak için tümleşik içerik filtrelerini kullanın.
- Ağ yalıtımı ve veri yerleşimi denetimleri: Gereksinimlerinizi karşılamak için sanal ağları kullanın ve kendi kaynaklarınızı getirin.
- Kendi kaynaklarınızı getirin: Uyumluluk ve operasyonel gereksinimleri karşılamak için kendi Azure kaynaklarınızı (depolama, Azure AI Search ve konuşma durumu için Azure Cosmos DB gibi) kullanın. Bkz . Kendi kaynaklarınızı kullanma.
- Sorumlu yapay zeka kılavuzu: Daha geniş bir öneri ve idare kaynağı kümesi için bkz. Microsoft Foundry için sorumlu yapay zeka.
Foundry Agent Service'i kullanmaya başlama
Aracı Hizmeti'ne başlamak için Azure aboneliğinizde bir Foundry projesi oluşturun.
Kod üzerinde çalışıyorsanız, SDK seçenekleri ve kılavuzu için Microsoft Foundry SDK'ları inceleyin.
Hizmeti ilk kez kullanıyorsanız , ortam kurulumu ve hızlı başlangıç kılavuzları ile başlayın.
Gerekli kaynaklarla bir proje oluşturun. Proje oluşturduktan sonra GPT-4o gibi uyumlu bir model dağıtın. Dağıtılan bir modeliniz olduğunda SDK'ları kullanarak Aracı Hizmetine API çağrıları yapmaya başlayabilirsiniz.
GitHub'da yeni Python aracısı SDK'sı ile resmi örneklerin listesini bulabilirsiniz.
Aracılar için BCDR
Hizmet dayanıklılığını desteklemek için Aracı Hizmeti, iş sürekliliği ve olağanüstü durum kurtarma (BCDR) için müşteri tarafından sağlanan Azure Cosmos DB hesaplarına dayanır. Bu yaklaşım, bölgesel bir kesinti durumunda aracı durumunuzun korunabilmesini ve kurtarılabilmesini sağlamaya yardımcı olur.
Azure Standart müşterisi olarak kendi tek kiracılı Azure Cosmos DB hesabınızı sağlar ve yönetirsiniz. Tüm aracı durumlarını bu hesapta depoluyorsunuz. Azure Cosmos DB'deki yerel özelliklerle yedekleme ve kurtarmayı denetleyebilirsiniz.
Birincil bölge kullanılamaz duruma gelirse, aracı otomatik olarak ikincil bölgedeki aynı Azure Cosmos DB hesabına bağlanır. Cosmos DB tüm geçmişi koruduğundan, aracı minimum kesintiyle çalışmaya devam edebilir.
Azure Cosmos DB hesabınızı sağlayın ve koruyun ve uygun yedekleme ve kurtarma ilkelerini yapılandırın. Bu çaba, birincil bölge kullanılamaz duruma gelirse sorunsuz bir süreklilik sağlamaya yardımcı olur.
Yapılandırma yönergeleri için bkz. Kendi kaynaklarınızı ve sanal ağlarınızı kullanma.
Maliyetler
Temsilci Hizmeti'ni kullanmak, dağıttığınız model ve projeniz için kullandığınız Azure kaynaklarından dolayı (örneğin, günlüğe kaydetme ve bağladığınız müşteri tarafından yönetilen kaynaklar) maliyete neden olabilir.
Maliyet sürücülerini anlamak ve yönetmek için bkz. Maliyetleri planlama ve yönetme.
Sorun giderme
Kullanmaya başlamanız engellendiyse şu yaygın sorunları denetleyin:
- Model bölgenizde kullanılamıyor: Aracıları bilgilendiren modellere bakın.
- İstekler kota nedeniyle kısıtlanıyor veya başarısız oldu: Bkz. Aracı Hizmeti için kotalar ve sınırlar.
- Kaynaklara veya dağıtımlara erişemezsiniz: Rol atamalarınızı onaylayın ve ortam kurulumunu izleyin.
- Araç çağrılarında veya aracı davranışında hata ayıklamanız gerekir: SDK ile aracıları izleyin ve ölçümler ile başlayın.