Kuruluşunuz genelinde aracı oluşturma işlemi

Bu makalede, ekiplerin kuruluş genelinde tutarlı bir şekilde yapay zeka aracıları oluşturmak için izlemesi gereken standartlaştırılmış süreç özetlenmiştir. Bu kılavuzda, tek tek iş yüklerinin teknik uygulaması yerine geliştirme ekiplerini desteklemek için gereken idare ve yapısal kararlar ele alınmaktadır. Bu süreci anlamak, yapay zeka aracısını benimseme işlemindeki Derleme aracıları aşamasının son bileşenidir (bkz. şekil 1).

Şekil 1. Microsoft'un yapay zeka aracısı benimseme süreci.

Kuruluşlar birleşik bir geliştirme süreci olmadan denetimsiz aracı yayılması, tutarsız mimariler ve kritik güvenlik boşluklarıyla karşılaşabilir. Bu sorunlar teknik borç ve operasyonel risk olarak birikir ve kuruluşun yapay zeka benimsemesini etkili bir şekilde ölçeklendirmesini engelleyebilir. İş yükü ekiplerinin Well-Architected Framework'ün yapay zeka iş yükü kılavuzundaki en iyi yöntemleri tümleştirmesi gerekir.

1. Aracı düzenleme

Stratejik düzenleme kararları, aracıların çalışmayı nasıl koordine edip mevcut sistemlerle tümleştirileceğini ve kuruluş genelinde nasıl ölçeklendirileceğini belirler. Bu seçenekler geliştirme hızını, operasyonel karmaşıklığı ve kuruluşun aracı benimsemesi büyüdükçe denetimi koruma becerisini etkiler.

Temsilci görev tanımını belirleme

Ajan sınırlarını ve iş uyumunu belgeleyen yönetim belgeleri oluşturun. Tüzük, aracı sisteminin neleri başarması ve nelerden kaçınması gerektiği hakkında yetkili bir referans görevi görür. Bu belge kapsam ürpermesini önler, uyumluluk ekiplerinin sistem sınırlarını anlamasını sağlar ve sorunlar ortaya çıktığında net bir sorumluluk sağlar. Belirli iş hedeflerine eşlenen sistem sorumluluklarını, işlevsel çakışmayı önleyen aracı rollerini ve uyumluluk korumaları oluşturan yasak eylemleri dahil edin. Açık ve net yetkilendirmelerin yokluğunda, aracılar amaçlanan kapsamın ötesine geçerek güvenlik açıkları ve mevzuata uyumsuzluklara yol açabilir.

Düzenleme stratejisi

Düzenleme, aracıların nasıl eşgüdümlü olduğunu, karar vermesini ve görevleri yürütmesini belirler. Kuruluşların, geliştirme hızını operasyonel denetimle dengelemek için onaylı düzenleme desenleri tanımlaması gerekir. Standartlaştırılmış stratejiler olmadan, takımlar izlenmesi, hata ayıklaması ve ölçeklendirilmesi zor uyumsuz sistemler oluşturabilir.

1. Düzenleme yaklaşımını seçin. Kurumsal yetenek ve denetim gereksinimlerine göre yönetilen düzenleme ve kod öncelikli aracı çerçeveleri arasında seçim yapın. Foundry Agent Hizmeti gibi yönetilen düzenleme, dağıtımı hızlandırır ve yerleşik güvenlik sağlar ancak özelleştirmeyi sınırlar. Microsoft Agent Framework veya LangGraph gibi kod öncelikli çerçeveler ayrıntılı denetim ve çoklu bulut esnekliği sunar, ancak önemli mühendislik yatırımı ve sürekli bakım gerektirir. Tutarlılığı sağlamak için ekiplerin her yaklaşımı ne zaman kullanması gerektiğine ilişkin ölçütleri tanımlayın.

2. Düzenleme desenlerini tanımlayın. Çok aracılı koordinasyon için standartlar oluşturun. Ajanları sıralı olarak bağlamaya veya paralel işleme desenlerini uygulamaya karar verin. Sıralı zincirleme, hata ayıklamayı basitleştirir ve net bir sorumluluk sağlar ancak gecikme süresini artırır. Paralel işleme yanıt sürelerini artırır, ancak gelişmiş koordinasyon mekanizmaları ve hata işleme gerektirir. Azure Mimari Merkezi'nde mimari karar alma kılavuzları için Yapay Zeka Aracısı Orkestrasyon Desenleri'ne bakın.

3. Belirleyici iş akışlarını uygulama. Kritik iş mantığı için belirleyici iş akışlarının kullanımını zorunlu kılma. Yalnızca olasılığa dayalı model kararlarına güvenmek yerine sabit yollar içindeki aracı davranışını kısıtlamak için Foundry ve Microsoft Agent Framework'teki iş akışlarını kullanın. Çok aracılı sistemler, teslim etme ve durum yönetimini denetlemek için iş akışları gerektirir. Tek aracılar ve çok aracılı sistemler için iş akışı karar kılavuzlarını gözden geçirin.

Microsoft kolaylaştırması:
Dökümhane: Hızlı geliştirme için komut tabanlı ajanlar ve hızlı prototipleme için uygun görsel, az kodlu tasarım için iş akışları kullanın. Yönetilen altyapıda özel aracı çerçeveleri dağıtmak için barındırılan aracıları kullanın.

Microsoft Agent Framework: Kodda orkestra düzenleme desenlerini uygulamak için iş akışlarını kullanın.

Copilot Studio: Farklı rollere ve onay denetim noktalarına sahip çok aracılı sistemler için aracı akışlarını ayarlayın . Üretici yapay zeka ile düzenleyerek aracı davranışını yapılandırın.

Temsilci talimatları

Yönergeler, yapay zeka aracılarının amacı yorumlaması ve görevleri yürütmesi için operasyonel mantık işlevi görür. Geçici metin yerine yönergeleri yapılandırma kodu olarak ele almak, sorunlar oluştuğunda sürüm denetimini, eş gözden geçirmeyi ve geri almayı etkinleştirir.

1. Yönerge mimarisini standartlaştır. Tutarlı yapılar davranışsal kaymayı azaltır ve uyumluluğu güvence altına alır. Açıkça tanımlamak için yapı yönergeleri:

   Yönerge bileşeni	Amaç	Example
   Kimlik ve ton	Aracı kendisini kullanıcılara nasıl sunar?	Profesyonel, özlü, yardımcı asistan
   Kapsam ve sınırlar	Ajansın gerçekleştirmesi ve kaçınması gerekenler	Bordro sistemlerine erişmeyin; yalnızca müşteri desteğine odaklanma
   Araç zorunlulukları	Araç kullanımı için özel gereksinimler	Tüm yanıtlar için Bilgi Arama aracını kullanın; bulunamazsa "Bilmiyorum" durumu
   Alıntı kuralları	Saydamlık ve kaynak oluşturma gereksinimleri	Her yanıt, kaynak malzemeden alıntılar sağlamalıdır

2. Yapılandırılmış çıkış biçimlerini zorunlu kılma. Aşağı akış sistemleriyle birlikte çalışabilirliği geliştirmek için aracı çıkışları için JSON veya XML gibi biçimler kullanın. Yapılandırılmış çıkışlar, çok aracılı düzenlemelerdeki ayrıştırma hatalarını azaltır ve kullanıcıya ulaşmadan önce aracı yanıtlarının programlı doğrulamasını etkinleştirir.

3. Sürüm denetimi ve doğrulama uygulayın. Değişikliklerin denetim kaydını tutmak için kaynak denetim depolarında yönergeleri depolayın. Değerlendirme betiklerinin veya ikincil aracıların dağıtımdan önce güncelleştirmelerin güvenlik yönergelerine ve biçimlendirme standartlarına uyduğunu doğruladığı otomatik doğrulama adımlarını tümleştirin.

Microsoft kolaylaştırması:
Foundry: Bkz. Sistem iletisi tasarımı. A2A aracını ve Foundry deneme alanı'nı kullanın. Aracı değerlendiricilerini kullanarak davranışı test edin ve geliştirin.

Ajan modeli seçim stratejisi

Model seçimi, aracı filonuzdaki maliyeti, performansı ve uyumluluğu doğrudan etkiler. Varsayılan olarak kullanılabilir en büyük modelleri kullanan kuruluşlar, ölçeklendirmeyi kısıtlayan gereksiz maliyetler ve kota sınırlamalarıyla karşı karşıya kalır.

1. Model özelliklerini görev karmaşıklığıyla eşleştirin. Daha küçük ve iyileştirilmiş modeller, maliyetleri kontrol ederken ve gecikme süresini azaltırken özetleme gibi rutin görevleri verimli bir şekilde işler. Premium modelleri, değerin daha yüksek maliyetleri haklı gösterdiği karmaşık mantık veya çok adımlı analiz gerektiren senaryolar için ayırın. Bu katmanlı yaklaşım, kritik iş yüklerinin uygun kaynakları almasını sağlarken bütçe taşmalarını önler.

2. Kota ve maliyet yönetimini uygulayın. Üst düzey modeller, yoğun yükler sırasında hizmeti kesintiye uğratabilecek daha katı hız sınırları uygular. Tek hata noktalarını önlemek için iş yükleri arasında model kullanımını çeşitlendirerek. Departmana ve kullanım örneğine göre harcamaları izlemek için maliyet ayırma etiketleri uygulayarak model yatırımları hakkında veri odaklı kararlar alın.

3. Dağıtımdan önce doğrulamayı zorunlu hale getirin. Temsili sorgularla küçük ölçekli test, performans dengelerini belgeler ve idare standartlarına uyumluluğu doğrular. Bu doğrulama, ekiplerin basit görevler için pahalı modeller dağıttığı veya karmaşık gereksinimler için modelleri küçük düşürdüğü maliyetli hataları önler.

Microsoft kolaylaştırması:
Dökümhane: Performans ve maliyet dengelerini karşılaştırmak için model kataloğunu kullanın ve model puan tablolarını kullanarak model seçeneklerini değerlendirin. Üretkenlik ve eylem aracıları için , kaliteyi korurken maliyetleri dinamik olarak iyileştirmek için Model Yönlendiricisi'ni kullanın. Modellerin kotalarını ve sınırlarını gözden geçirin.

Copilot Studio: Foundry'den birincil bir yapay zeka modeli seçin veya kendi modelinizi getirin .

3. Ajan bilgisi ve araçları

Veri erişimi ve araç izinleri aracı güvenilirliğini, uyumluluk duruşu ve işlem riskini belirler. Bu ilkeler, aracıların değer sunmasını sağlarken yetkisiz eylemleri önleyen sınırlar oluşturur. Tüm veri idaresi ve uyumluluk ilkelerini izleyin.

Aracı bilgisi

Verilerin açığa çıkışlarını en aza indirmek için bilgileri role göre segmentlere ayırma. Çok aracılı sistemler, her aracının yalnızca işlevi için gerekli bilgilere eriştiği katı veri sınırları gerektirir. Bu segmentasyon, açık veri erişim desenleri oluşturarak saldırı yüzeylerini azaltır ve uyumluluk denetimlerini basitleştirir. Aracılar veri kaynaklarına bağlandığında, alma işleminin yalnızca uygun filtreleme ve erişim denetimleri olan idare edilen depolardan gerçekleştiğinden emin olun. Tümleştirme stratejilerini güvenlik gereksinimleriyle uyumlu hale getirmek için yapay zeka aracıları için Veri mimarisini gözden geçirin.

Microsoft kolaylaştırması:
Dökümhane: İdare denetimlerini korurken aracılı alma altyapısının arkasında birden çok veri kaynağını birleştirmek için aracıları Foundry IQ'ya bağlayın.

Copilot Studio: Kurumsal sistemlerle güvenli bir şekilde tümleştirmek üzere aracıları onaylı bilgi depolarına ve bağlayıcılara bağlamak için bilgi kaynaklarını kullanın.

Ajan araçları

Araçlar, pasif bilgi alımından etkin sistem katılımına kadar aracı özelliklerini genişletir. Aracılar artık verileri değiştirebildiği, iş akışlarını tetikleyebildiği ve dış API'lerle etkileşim kurabildiği için bu geçiş operasyonel risklere neden olur. Araç kullanımı için sıkı bir idare çerçevesi oluşturmak, aracıların tanımlı güvenlik sınırları içinde çalışmalarını ve güvenlik standartlarına uymalarını sağlar.

1. Açık araç sınırları tanımlayın. Dış sistemlerle etkileşim kuran aracılar, yetkisiz değişiklikleri önlemek için sıkı idare gerektirir. Ajanın sistem mesajında, bir aracın tam olarak ne zaman çağrılacağını belirtin ve veritabanı kayıtları veya finansal işlemler gibi yüksek etkili eylemler için insanın süreçte onay vermesini zorunlu kılın. Bu denetim, otonom hataları önler ve durum değiştiren işlemler için sorumluluk sağlar.

2. Tümleştirme uç noktalarını yalıtın. Doğrudan veritabanı veya sistem erişimi yerine dar kapsamlı API'ler aracılığıyla sistem özelliklerini kullanıma sunma. Modelin arka uç sistemlerine ulaşmadan önce oluşturduğu hatalı biçimlendirilmiş verileri reddetmek için bu uç noktalarda katı giriş doğrulaması uygulayın. Aracının yalnızca belirli görev için gerekli izinleri tutmasını sağlayarak kimlik doğrulama belirteçlerine en az ayrıcalık ilkesini uygulayın.

3. Yalıtılmış ortamlardaki eylemleri doğrulama. Test aracı, üretimi yansıtan ancak canlı verileri etkileyemeyen sandbox ortamlar gibi korumalı alanlarda kullanılır. Aracının, sistem iç bilgilerini kullanıcıya göstermeden API hatalarını veya beklenmeyen yükleri düzgün bir şekilde işlediğini doğrulayın. Her eylemi belirli aracı örneği ve konuşma kimliğiyle ilişkilendirecek şekilde günlüğe kaydetmeyi yapılandırın ve hata ayıklama ve uyumluluk için izlenebilir bir denetim izi oluşturun.

Microsoft kolaylaştırması:
Dökümhane: Araç ve gereçleri ve en iyi araç uygulamalarını kullanın. Araç idaresi için yapay zeka ağ geçidi kullanın.

Copilot Studio: Araçlar ve tetikleyiciler ekleyin.

Aracı belleği

Aracı belleği, durum bilgisi olmayan model çıkarımını durum bilgisi olan iş süreçlerine dönüştürür. Kuruluş genelinde bellek gereksinimleri geçici oturum bağlamından kalıcı geçmiş geri çağırmaya kadar değişiklik gösterir. Birleşik bir strateji olmadan geçici bellek uygulamaları veri sızıntısı, gizlilik ihlalleri ve yönetilmeyen depolama büyümesi için vektörler oluşturur. Kuruluşların konuşma geçmişini hassas kurumsal veriler olarak değerlendiren idare modelleri oluşturması gerekir.

1. Kalıcılık modellerini aracı işleviyle hizalayın. Bellek mimarisini aracın rolüne göre farklılaştırın. Veri saklama risklerini en aza indirmek için işlem aracıları için kısa ömürlü, oturum tabanlı bellek kullanın. Uzun süreli, kalıcı belleği, yalnızca geçmiş bağlamın kişiselleştirme veya karmaşık mantık için kritik olduğu durumlarda kullanılmak üzere danışma ajanları için uygulayın. Bu segmentasyon gereksiz veri birikimini önler ve depolama maliyetlerini iş değeriyle hizalar.

2. Durum saklamayı harici hale getirin. Çıkarsama motorundan belleği ayırın. Konuşma geçmişini ve bağlamı, kurumsal güvenlik denetimleri, yedekleme ilkeleri ve erişim denetimi uygulayabileceğiniz yönetilen veri sistemlerinde depolayın. Bu yaklaşım, temel alınan modelden bağımsız olarak verilerin kuruluş denetimi altında kalmasını sağlar ve aracı etkileşimlerine standart uyumluluk ilkelerinin uygulanmasını sağlar.

3. Katı yalıtım sınırlarını zorunlu kılma. Kullanıcılar, kiracılar ve aracı etki alanları arasında bağlam sızıntısını önleyin. Bellek alma mekanizmalarının kimliği doğrulanmış kullanıcının kimliğine ve izinlerine kesinlikle uygun olduğundan emin olun. Çok aracılı mimarilerde, ayrıcalık yükseltmesini veya sınırlar arasında veri taşmasını önlemek için aracılar arasında hangi bellek kesimlerinin paylaşılacağını açıkça tanımlayın.

4. Bekletmeyi ve imhayı otomatikleştir. Aracı bellek depolamasına veri yaşam döngüsü ilkeleri uygulama. Mevzuat gereksinimlerine ve iş yardımcı programlarına göre konuşma günlükleri için otomatik silmeyi yapılandırın. Kullanıcıların gizlilik düzenlemelerine uyumluluğu sağlamak için belirli bellek geçmişlerini görüntülemesine ve silmesine olanak sağlayan mekanizmalar uygulayın.

Microsoft kolaylaştırması:
Foundry: Konuşmaları depolamak için bellek kullanın. Kendi depolama alanınız için bkz. standart aracı kurulumu, Azure Cosmos DB ve Azure Cosmos DB tümleştirmesi.

Microsoft Agent Framework: İş parçacığı durumu ve aracı belleğindeserileştirme ve seri durumdan çıkarma kullanın.

Copilot Studio: İyileştirme fırsatlarını belirlemek için aracı verimliliğini analiz edin . Desenleri keşfetmek ve yanıtları daraltmak için kullanıcı sorularını temaya göre gözden geçirin.

4. Aracı gözlemlenebilirliği

Gözlemlenebilirlik, güvenilir aracı işlemlerini korumak, performansı iyileştirmek ve kuruluş standartlarına uyumluluğu sağlamak için gereken görünürlüğü sağlar. İzleme ve telemetrinin erken uygulanması, proaktif sorun algılama ve sürekli iyileştirme sağlar.

1. İzlemeyi etkinleştir. Yürütme yollarını, karar noktalarını ve etkileşim desenlerini yakalayan izlemeleri yapılandırın. Bu görünürlük, aracılar beklenmeyen sonuçlar ürettiğinde veya performans düşüşü yaşadığında hızlı tanılama sağlar. Gecikme süresi, etkileşim başına maliyet ve başarı oranları için temeller oluşturun. Ölçümler beklenen aralıklardan saptığında, kullanıcılar sorunları fark etmeden önce araştırmayı etkinleştirmek için ekipleri uyarın.

2. Değerlendirme çerçevelerini standartlaştırma. Kalite, güvenlik ve güvenilirliği tutarlı bir şekilde ölçen paylaşılan değerlendirmeler oluşturun. Tüm ekiplerin aynı standartları uyguladığından emin olmak için değerlendirmeleri merkezi bir katalogda depolayın. Üretim dağıtımı öncesinde sorunları yakalamak için değerlendirmeleri CI/CD işlem hatlarıyla tümleştirin. Bu sistematik yaklaşım, aracılar geliştikçe ve yeni sürümler dağıttıkça kalite kaymasını önler.

3. Güvenlik testlerini genişletin. Yapay zeka aracıları, geleneksel güvenlik testlerinin kaçırabileceği benzersiz tehditlerle karşılaşıyor. Özel yapay zeka odaklı kırmızı takım uygulayın; komut enjeksiyonu güvenlik açıklarını test edin, eğitim verilerini veya sistem komutlarını çıkarmaya çalışın ve düşmanca girişimlere karşı korumaları doğrulayın. Düzenli güvenlik değerlendirmeleri, saldırı teknikleri geliştikçe aracıların dayanıklı kalmasını sağlar.

Microsoft kolaylaştırması:
Dökümhane: Ajan filonuzda birleşik görünürlük ve yönetim sağlamak için Microsoft Foundry Kontrol Düzlemi'ni kullanın.

• Aracılar ve iş akışları: Yürütme görünürlüğü için izlemeleri yapılandırın. Foundry örnekleri ve tüm projeler için izlemeyi yapılandırın. Kaliteyi ölçmek için aracı değerlendiricileri kullanın. Bkz. Aracı İzleme Panosu.

• Modeller:Yapay zeka yanıt kalitesini ölçmek için modelleri izleyin ve değerlendirmeleri kullanın.

• Değerlendirme: Değerlendirmeleri değerlendirici kataloğunda oluşturun ve depolayın. Ekiplerin sürekli değerlendirme kullanmasını sağlayın. GitHub Actions veya Azure DevOps kullanarak değerlendirmeleri CI/CD işlem hatlarıyla tümleştirin. Uygulamaları taramak için ayrılmış AI Red Teaming Agent'ı kullanın.

Copilot Studio: Merkezi telemetri için analizi kullanın ve Azure Application Insights'a bağlanın . Değerlendirmeler, Güvenlik ve idare kılavuzu, otomatik güvenlik taramalarıiçin test kümeleri oluşturun ve aracı çalışma zamanı koruma durumunu doğrulayın.

5. Aracı güvenliği

Aracı yaşam döngüsü boyunca eklenen güvenlik denetimleri zararlı çıkışları önler, saldırılara karşı koruma sağlar ve kuruluş standartlarına uyumluluğu güvence altına alır. Bu korumalar, derinlemesine savunma oluşturmak için birden çok katmanda çalışır.

1. Birden çok müdahale noktasına güvenlik çerçeveleri uygulayın. Etkili korumalar tek bir denetim noktasında değil etkileşim yaşam döngüsü boyunca çalışır. İşlemeden önce kötü amaçlı istemleri veya hassas verileri engellemek için kullanıcı girişlerini filtreleyin. Aracılar dış sistemlerle etkileşime geçtiğinde ekleme saldırılarını önlemek için araç çağrılarını doğrulayın. Aracılar bilgileri işlemeden önce araç yanıtlarını uyumluluk ve güvenlik açısından inceleyin. Kullanıcılara teslim etmeden önce son çıkışlara içerik denetimi ve intihal denetimleri uygulayın. Bu katmanlı yaklaşım, tek bir hata noktasının sistemin tamamını tehlikeye atmasını sağlamaz.

2. Tutarlı uygulama için merkezi blok listelerini koruyun. Engelleme listeleri yasaklanmış terimlerin, hassas desenlerin veya güvenli olmayan içeriğin sisteme girmesini veya sistemden çıkmasını engeller. Tüm aracıların ve modellerin tutarlı standartlar uyguladığını güvence altına almak için blok listesi yönetimini merkezileştirin. Yeni tehditlere, yeni uyumluluk gereksinimlerine ve olaylardan alınan derslere göre düzenli aralıklarla listeleri güncelleştirin. Performansı korurken kapsamlı bir kapsama ulaşmak için statik blok listelerini dinamik algılama yöntemleriyle birleştirin.

Microsoft kolaylaştırması:
Dökümhane: Bkz. Korumalara ve denetime genel bakış. Farklı müdahale noktalarına koruyucular uygulayın. Model uç noktalarını denetlemek ve güvenli erişimi zorunlu kılmak için AI Gateway kullanın. Bulut'un yapay zeka koruması için Microsoft Defender'ı kullanın ve Yapay zeka uyarıları için Uygulama ve son kullanıcı bağlamı kazanın.

Sonraki adım

Yapay zeka aracılarını çalıştırma