Not
Bu sayfaya erişim yetkilendirme gerektiriyor. Oturum açmayı veya dizinleri değiştirmeyi deneyebilirsiniz.
Bu sayfaya erişim yetkilendirme gerektiriyor. Dizinleri değiştirmeyi deneyebilirsiniz.
operasyonel kalite, güvenilirlik ve maliyeti değerlendirirken Microsoft 365 Copilot (bildirim temelli aracılar), Copilot Studio (özel aracılar) veya Azure gibi aracı konağı seçimini göz önünde bulundurun. Kararı, ajan oluşturma yönteminden ayrı tutun. Bir ajanın nerede çalıştığı veya barındırıldığı onun orkestrasyon yeteneklerini, model erişimini ve operasyonel özelliklerini belirler. Bu özellikler yanıt kalitesini, performansı ve çözümü büyük ölçekte çalıştırma maliyetini doğrudan etkiler.
Bu makale, ajan host platformlarının çözüm yeteneklerini nasıl etkilediğini açıklar. Tutarlı kalite ve davranışı korurken farklı yazma yöntemlerinin aynı konak platformunda aracılar oluşturabileceğini, tek bir yazma yönteminin farklı kalite ve davranış sonuçlarına sahip farklı platformlarda aracıları nasıl oluşturabileceğini ve konağın çözümün maliyet profilini nasıl şekillendirebileceğini öğreneceksiniz.
Kullanılabilirlik olarak maliyet konusunda dikkat edilmesi gerekenler
Maliyeti tek seferlik bir tedarik sorusu değil, kararlı bir operasyonel özellik olarak değerlendirin. İki çözüm aynı yanıtları üretebilir; ancak maliyet, yalnızca
- Etkileşim başına belirteç tüketimi. Modelin belirli bir dönüşte işlediği her yönerge, bilgi parçacığı ve araç tanımı bu dönüşte faturalandırılır. Her etkileşimde yüklenen sabit bağlam, alakalı olsun ya da olmasın, her etkileşimde ücretlendirilir.
- Model turu sayısı. Düzenleyici, bir görevi tamamlamak için modelin kaç kez çağrıleceğine karar verir. Daha fazla araç çağrısı döngüsü ve daha fazla yeniden planlama, daha fazla çıkarım anlamına gelir.
- Model seçimi. Daha büyük akıl yürütme modellerinin belirteç başına maliyeti daha yüksektir ve gecikme süresi ekler. Ana sistem, hangi modellerin mevcut olduğunu ve farklı adımların farklı modellere yönlendirilip yönlendirilemeyeceğini belirler.
- Determinizm. Belirleyici olan çalışmaların model çıkarımına hiç ihtiyacı yoktur. Bunu koda veya eylemlere taşımak hem belirteç maliyetini hem de değişkenliği kaldırır.
Aşağıdaki bölümler, maliyeti en çok etkileyen denetimleri ayrıntılı olarak ele alır: orkestrasyon katmanı, model seçimi ve yönergeleri belirlenimci eylemlere kıyasla nasıl yapılandırdığınız.
Microsoft 365 Copilot barındırma
Microsoft 365 Copilot yerleşik idare, güvenlik ve uyumluluk özelliklerine sahip bildirim temelli aracılar için yönetilen bir barındırma ortamı sağlar. Bu platform, ajanı oluşturmak için kullandığınız yazarlık yöntemine bakılmaksızın tutarlı performans özellikleri sunar.
Örneğin, Microsoft 365 Copilot,
Farklı yazarlık platformları, farklı organizasyon ihtiyaçlarına ve geliştirme yaşam döngüsü aşamalarına uygun farklı operasyonel yetenekler seviyeleri sunar. Temel aracı sunucu olarak Microsoft 365 Copilot (bildirimsel aracılar) kaldığı sürece, operasyonel gereksinimlerinizi karşılamak adına farklı oluşturma platformlarında ilerledikçe kalite tutarlı kalır.
Aşağıdaki tablo, açıklama amaçlı ajanlar için hangi yazarlık platformunun kullanılacağına dair dikkate alınan değerlendirmeleri örnek olarak özetlemektedir.
| Gereksinim | Copilot'de Agent Builder özelliği | Copilot Studio | Profesyonel Kod |
|---|---|---|---|
| Çözüm sahibi | Tek tek | Grup | Enterprise |
| Güncelleme ve bakım | Sürüm oluşturma yok | Kilitli düzenleme ile sürüm oluşturma | Eşzamanlı düzenleme ile sürüm oluşturma |
| Değerlendirme çerçevesi | Test Paneli | Test Paneli ve Pro Code | Tamamen özelleştirilebilir |
| CI/CD | Hiçbiri | Some | Evet |
| Gerçek zamanlı izleme | Hiçbiri | Hiçbiri | Evet |
| Telemetry | Limited | Some | Tamamen özelleştirilebilir |
| Maliyet/yatırım getirisi | Microsoft 365 Copilot ile birlikte sağlanır | Lisanstan tüketime kadar değişen aralıklar | Pro-kod seçimlerine göre tamamen özelleştirilebilir |
| Work IQ kullanım maliyeti | Microsoft 365 Copilot lisansına Work IQ temellendirmesi dahildir; lisansı olmayan kullanıcılar kullanıma göre faturalandırılır | Copilot Kredilerinde tüketim tabanlı (kullandıkça öde veya ön ödemeli) | Work IQ API’leri aracılığıyla Copilot Kredileri kapsamında kullanıma dayalı; Microsoft 365 yönetim merkezinde ölçülür ve sınırlandırılır |
Örneğin, bir ajan bağlam, erişim veya eylemler için Work IQ’dan yararlandığında, bu kullanım değişken olarak ücretlendirilir; kredi maliyeti ise bağlam boyutu, muhakeme derinliği ve adım sayısı gibi etkenler de dahil olmak üzere senaryonun karmaşıklığına göre ölçeklenir.
Note
Ayrı bir İş IQ aboneliği, SKU veya kullanıcı başına lisans yoktur. Sohbet ve bağlam maliyetleri değişkenlik gösterdiğinden, iki benzer aracı, ne kadar bağlam oluşturduklarına ve ne kadar çok adımlı akıl yürütme gerçekleştirdiklerine bağlı olarak çok farklı kredi hacimleri kullanabilir. Kredi kullanımını izlemek ve kiracılar, gruplar ve kullanıcılar için harcama limitleri ayarlamak için Microsoft 365 yönetim merkezi maliyet yönetimi panosunu kullanın. Maliyet optimizasyonu için mimari oluşturma bölümündeki maliyet optimizasyonu desenleri — her zaman açık bağlamı en aza indirmek ve deterministik işleri komut dosyalarına ve eylemlere taşımak — Work IQ harcamalarını kontrol etmeye yardımcı olur.
Geliştirici avantajı ve hata ayıklama araçları gibi diğer faktörleri de göz önünde bulundurun (tabloda gösterilmemiştir). Bu faktörlerin, kuruluşunuzun güvenlik duruşu ve belirli bir geliştirme platformu kapasitesi tarafından büyük ölçüde etkilendiğini unutmayın.
Agent Builder'da yerleşik Microsoft 365 Copilot bildirimci acenteleri, Microsoft 365 Agents Toolkit ile yazılmış bir bildirimci acenteye yükseltin. Bu strateji, tutarlı aracı davranışı sağlamak için orkestratör olarak Microsoft 365 Copilot'u korur. Copilot Studio'da oluşturulan deneysel bir özel araç, kanıt kavramı değerlendirme ölçütlerini karşılıyorsa ve kurumsal işlemler için kaynak kontrolü gerekiyorsa, aracı yönetilen bir pipeline'a Power Platform'da terfi ettirin. Bu yaklaşım, Copilot Studio orkestratörünün aracın davranışını sürdürmek için birincil mekanizma olarak kalmasını sağlar.
Düzenleme ve aracı donanımı
Düzenleyici ya da "harness"; adımları planlayan, araçları seçip çalıştıran, bağlam penceresini yöneten ve bir görevin ne zaman tamamlandığını belirleyen çalışma zamanı döngüsüdür. Hem yanıt kalitesinin hem de işletim maliyetinin en büyük tek sürücüsü olan bu özellik, kaç model dönüşünün gerçekleştiğini, her dönüşte ne kadar bağlam biriktiğini ve araç sonuçlarının modele nasıl geri beslendiğini denetler.
Ana platform orkestratörü sağladığı için, ana platform seçimi maliyet ve gecikme sınırlarınızı büyük ölçüde belirler:
- Microsoft 365 Copilot yönetilen bir düzenleyici sağlar. Döngünün kendisi üzerinde sınırlı denetimle, öngörülebilir, lisansın dâhil olduğu bir maliyete ve tutarlı davranışa sahip olursunuz.
- Copilot Studio yapılandırılabilir düzenleme (örneğin, konular ve üretken düzenleme) sağlar. Maliyet, modele ne kadar üretken iş yüklediğinize bağlı olarak lisans bazlıdan kullanım bazlıya kadar değişmektedir.
- Azure ve pro-code size döngü üzerinde tam denetim sağlar. Copilot SDK gibi bakımı iyi yapılan bir altyapıdan veya SDK'dan yararlanmaya kıyasla kod bakım maliyetini değerlendirin.
Barındırıcı bunları erişime açtığında, temel orkestrasyon denetim mekanizmaları şunlardır:
- Tur bütçesi. Orkestratörün döndürmeden önce gerçekleştirdiği planlama ve araç çağrısı yineleme sayısını sınırlayın veya ayarlayın.
- Paralel ve sıralı araç çağrıları. Gecikme süresini azaltmak için bağımsız araç çağrılarını eşzamanlı olarak çalıştırın. Mümkün olduğunda, adım sayısını azaltmak için çağrıları birleştirin.
- Bağlam yönetimi. Bağlamın sınırsız şekilde büyümesini önlemek için konuşmayı kırpın, özetleyin veya pencere uygulayın; böylece tur başına token maliyeti katlanarak artmak yerine sabit kalır.
- Ön belleğe alma. Kalıcı bağlam için yeniden faturalandırmayı önlemek amacıyla, önbelleğe alınmış komut istemi öneklerini turlar veya oturumlar arasında yeniden kullanın.
Note
Daha yetenekli bir düzenleyici aynı anda kaliteyi ve maliyeti artırabilir. Orkestrasyonun gelişmişlik düzeyini göreve uygun seçin. Basit bir arama aracısının çok adımlı üretken planlamaya ihtiyacı yoktur ve bunun için ödeme, sonuçları iyileştirmeden maliyeti artırır.
Model seçimi
Seçtiğiniz model belirteç başına maliyeti ve gecikme süresini etkiler ve yazma yönteminden büyük ölçüde bağımsızdır. Daha büyük mantık modelleri karmaşık görevlerde daha yüksek kaliteli sonuçlar sunar, ancak belirteç başına daha fazla maliyet sunar ve daha yavaş yanıt verir. Modeli, her görev için en uygun seçeneği varsayılan olarak kullanmak yerine görev zorluğuyla eşleştirin.
Ana bilgisayar bunu desteklediğinde model yönlendirme mimarı:
- Belirsiz mantık yürütme, sentez veya açık uçlu oluşturma gibi gerçekten zor adımlar için sınırsal mantık modellerini ayırın.
- Sınıflandırma, ayıklama, biçimlendirme ve yönlendirme gibi belirleyici veya basit alt görevleri daha küçük, daha ucuz ve daha hızlı modellere yönlendirin.
- Düzenleyici, adım bazında model seçimini destekliyorsa tek bir aracı içinde modelleri karıştırın; böylece her adım yalnızca ihtiyaç duyduğu yetenek için ödeme yapar.
Ana platform, katalogda hangi modellerin yer aldığını, adım başına yönlendirme yapıp yapamayacağınızı, maksimum bağlam penceresini (daha büyük pencereler daha fazla bağlama izin verir ancak etkileşim başına daha yüksek maliyet anlamına gelir) ve istem önbelleğe almanın kullanılabilir olup olmadığını belirler. Konak kararının bir parçası olarak bu özellikleri doğrulayın, çünkü bunlar daha sonra gerçekleştirebileceğiniz model düzeyindeki maliyet iyileştirmesini kapsıyor.
Maliyet iyileştirme için mimari oluşturma
Bir barındırma ortamı, orkestratör ve model seçmenin ötesinde, bir ajanın yönergelerini ve eylemlerini nasıl yapılandırdığınız, maliyetler üzerinde doğrudan ve yinelenen bir etkiye sahiptir. uygun maliyetli tasarıma yol gösteren iki ilke:
Deterministik işler için model çıkarımına para harcamayın. Belirleyici eylemleri, modelin her çalıştırmada yorumlaması gereken doğal dil yönergeleri olarak tanımlamak yerine betikler, eylemler veya bağlayıcılar halinde paketleyin. Kod tahmin edilebilir bir çıkışla, belirteç maliyeti olmadan ve daha az değişkenlikle bir kez, ucuz bir şekilde yürütülür. Aynı işlemi gerçekleştirmek için doğal dil kullanmak, her seferinde çıkarım yapılmasını gerektirir ve tutarsız sonuçlar üretebilir.
Nadiren kullandığınız talimatlar için sabit token maliyeti ödemeyin. Önceden yüklenmiş ajan düzeyindeki talimatlar, kullanıcının isteğiyle ilgisiz olsalar bile her etkileşimin her turunda ücretlendirilir. Yönlendirme ve bilgiyi talep üzerine, yalnızca görev uygun olduğunda yüklemek, o bağlamın ücretini sürekli olarak değil, yalnızca gerçekten kullanıldığında ödediğiniz anlamına gelir. Bu aşamalı açıklama düzeni, her etkileşimin temel maliyetini düşük tutar.
Aşağıdaki tablo, yönergelerin ne zaman ajana önceden yüklenmesi gerektiğini ve işin ne zaman deterministik betiklere veya isteğe bağlı kaynaklara aktarılması gerektiğini özetler.
| Ajan düzeyindeki yönergeleri önceden yükleyin… | Betikleri, eylemleri veya isteğe bağlı kaynakları şu durumlarda kullanın… |
|---|---|
| Bu davranış neredeyse tüm etkileşimler için geçerlidir (çekirdek rol, ton, güvenlik koruyucuları). | Davranış göreve özgüdür veya yalnızca zaman zaman ilgilidir. |
| Kılavuz kısadır ve her zaman ilgilidir. | Kılavuz uzundur veya büyük referans veya bilgi malzemeleri tarafından desteklenmiştir. |
| Modelin davranış hakkında gerçekten mantık yürütmesi veya uyarlaması gerekir. | Eylem belirlenebilir, yinelenebilir ve iyi tanımlanmış bir çıktıya sahiptir. |
| Ekstra bir veri alma veya araç çağrısının neden olduğu gecikme, kullanıcı deneyimini olumsuz etkileyecektir. | Her turda bağlamı taşımaya ilişkin sembolik maliyet, ara sıra ortaya çıkan yükten daha ağır basar. |
Maliyet açısından verimli bir aracı, sürekli etkin talimatlarını asgari düzeyde tutar ve bunları kimlik ile güvenliğe odaklar. Sabit prosedürleri betikler veya eylemler olarak ele alır ve uzmanlaşmış bilgi ile göreve özgü rehberliği, yalnızca ilgili olduklarında yüklenen isteğe bağlı kaynaklar olarak sunar. Bu yaklaşım her etkileşim için belirteç maliyetini düşürür, davranışı daha öngörülebilir hale getirir ve çekirdek istemini daha küçük tutar ve yetenekten ödün vermeden bakımını kolaylaştırır.
Sonraki adım
Değerlendirme çerçeveleri kullanarak ajanların kalitesini nasıl ölçeceğini, çeşitli senaryolarda performansı doğrulamayı ve dağıtımdan önce operasyonel hazırlığı nasıl sağlayacağınızı öğrenin.