Aracılığıyla paylaş

Otonom ajan yetenekleri tasarla

Copilot Studio'daki otonom ajanlar, yapay zekanın kullanıcı isteğini beklemeden harekete geçmesini sağlayarak üretken orkestrasyonun değerini artırır. Bu ajanlar, sizin tanımladığınız tetikleyiciler, talimatlar ve koruma korkuluklarıyla olayları algılar, kararlar alır ve görevleri bağımsız olarak yerine getirirler. Sadece konuşmalarda yanıt vermek yerine, sürekli olarak arka planda çalışırlar—verileri izler, koşullara tepki verir ve iş akışlarını ölçekli şekilde yürütürler.

Kurumsal senaryolarda, özerklik, ajanların güncellemeleri işlemek, olayları sıralamak veya takip eylemleri başlatmak gibi zaman açısından hassas veya rutin görevleri yönetmelerine olanak tanır ve organizasyon politikalarıyla uyumlu kalır. Copilot Studio, özerkliğin kontrollü kalmasını sağlar. Her ajan, kapsamlı izinler, açık karar sınırları ve denetlenebilir süreçler içinde çalışır.

Uygulama için en iyi uygulamalar

  • Net kapsam ve hedefler tanımlayın: Ajana iyi tanımlanmış bir görev veya alan verin. Ne yapması gerektiğini ve yetkisinin nerede bittiğini açıkça belirtin. Dar ve açık bir kapsam, ajanın "sapmasını" istenmeyen eylemlere sokmasını engeller.

  • Kaliteli veri ve talimatlar sağla: Temsilcinin doğru, ilgili veri ve kurallara sahip olduğundan emin olun. " Çöp girer, çöp dışarı" ilkesini unutmayın.—ajanın zekası ve kararları, verdiğiniz bilgi ve eğitim kadar iyidir. İyi seçilmiş bilgi ve test vakaları daha iyi performansa yol açar.

  • Detaylı test edin ve kademeli olarak yayınlayın: Ajanı tam kullanımdan önce güvenli ve kontrollü bir ortamda test edin. Ajanın çeşitli senaryolarda nasıl davrandığını görmek için simülasyonlar veya sandbox ile başlayın. Beklenmedik davranışları düzeltin ve ardından aşamalı olarak yayınlayın. Ajanın kararlarını başta yakından takip edin ki onun amaçlandığı gibi davrandığına dair güven kazanın.

  • Kritik eylemler için insan denetimi uygulayın: Yüksek riskli görevler için bir insanı bilgilendirin. Ajanı, hassas olabilecek işlemleri yapmadan önce bir kişiden onay veya onay talep edecek şekilde yapılandırın. Bu yaklaşım, nihai kontrolün gerçekten önemli olduğunda insan uzmanlarında kalmasını sağlar.

  • Yineleme ve geliştirme: Otonom bir ajanı gelişen bir proje olarak ele alın. Performansını ve geri bildirimlerini düzenli olarak gözden geçirin. Talimatlarını güncelleyin veya güvenilirliğini kanıtladıkça yeteneklerini kademeli olarak genişletin. Küçük, kademeli sorumluluk genişletmeleri, ajana birden fazla özerklik vermekten daha güvenlidir.

Güvenlik endişeleri ve korkuluklar

  • En az ayrıcalıklı erişim: Temsilcinin izinlerini sadece işini yapmak için mutlaka ihtiyacı olan izinlerle sınırlayın. Bu en az ayrıcalık ilkesi, ajanın sadece bir veritabanını okuması gerekiyorsa, ona yazma izni de vermemesi anlamına gelir. Erişimini kısıtlamak, arızalanırsa veya yanlış kullanılırsa potansiyel hasarı keskin şekilde azaltır.

  • Girdi doğrulaması ve gerçeklik: Ajanı tetikleyen olayların veya verilerin gerçek ve beklenen olduğundan emin olun. Örneğin, bir ajan gelen e-postalara tepki verirse, saldırganın tetikleyiciyi kolayca sahte yapaması için doğrulama kontrolleri (göndericinin doğrulaması veya belirli anahtar kelimeler gibi) kullanın. Benzer şekilde, ajanı kimlik doğrulamanın arkasına koyun—sadece yetkili sistemler veya kullanıcılar fonksiyonlarını çağırabilmelidir.

  • Sağlam koruma önlemleri ve güvenlik önlemleri: Ajanın eylemlerine sıkı sınırlar programlayın. Bu sınır, "sadece bir bilgi kaynağı kontrol edildikten sonra e-posta gönderin" gibi talimatları içerebilir.

  • Denetim kaydı ve izleme: Ajanın yaptığı her şeyin ayrıntılı kayıtlarını tutun; alınan tetikleyiciler, alınan kararlar ve yapılan işlemler gibi. Bu kayıtların düzenli denetimi, temsilcinin politikaya uyduğundan emin olur ve bir şeyler ters giderse analiz yapılmasına olanak tanır. Birçok kuruluş, ajan faaliyetlerini güvenlik izleme sistemlerine entegre eder. Şüpheli davranış—örneğin ajanın normalde erişmeyeceği verilere erişmesi gibi—anında uyarı almalıdır.

  • Last updated on