Not
Bu sayfaya erişim yetkilendirme gerektiriyor. Oturum açmayı veya dizinleri değiştirmeyi deneyebilirsiniz.
Bu sayfaya erişim yetkilendirme gerektiriyor. Dizinleri değiştirmeyi deneyebilirsiniz.
[Bu makale, yayın öncesi belgelerine dahildir ve değiştirilebilir.]
İnsan gözetimi özelliği, bilgisayar kullanım aracının, şu anda kötü amaçlı talimatlar kategorisindeki olası güvenlik endişelerini algıladığında, İnsan gözetimi ayarları altında yapılandırdığınız gözden geçiren kişiye iletilmesini sağlar.
Not
Bu özellik, Birleşik Devletler bölgesindeki erken yayın döngüsü ortamlarına aşamalı olarak dağıtılmaktadır ve henüz ortamınızda kullanılamayabilir.
Önemli
Bu madde, Microsoft Copilot Studio önizleme belgelerini içerir ve değişikliğe tabidir.
Önizleme özellikleri, üretimde kullanıma yönelik değildir ve sınırlı işlevselliğe sahip olabilir. Bu özellikler, önceden erişebilmeniz ve geri bildirim sağlamanız amacıyla resmi sürümden önce kullanıma sunulur.
Üretime hazır bir aracı oluşturuyorsanız, Microsoft Copilot Studio Genel Bakış'a bakın.
Yapay zeka modeli, modelin davranışını değiştirebilecek saldırgan içerik için ekran görüntüsü görüntülerini değerlendirerek algılama gerçekleştirir. Model, yürütme sırasında bu tür talimatları bayrakla işaretlediğinde (daha önce anında durmaya neden oluyordu), artık isteği doğrulama için bir insana iletir. İnsan gözden geçiren, bayrak eklenmiş güvenlik sorununun orijinal olup olmadığına ve yürütmeyi durdurması gerektiğine veya modelin yanlış bayrak ekleyip işaretlemediğine ve işlemin güvenli bir şekilde devam edip etmeyeceğine karar verir. Bu tür olaylarda sistem, yapılandırılmış insan gözden geçirenlere e-posta (Outlook) aracılığıyla bir gözden geçirme isteği gönderir. Belirtilen zaman aşımı süresi içinde yanıt alınmazsa bu, zaman sınırına ulaşıldığında bilgisayar kullanımı çalıştırması durdurulur.
Önemli
- Bilgisayar kullanımı aracıları ekran görüntüleri, web sayfaları veya diğer girişlerdeki gizli yönergelerin istenmeyen yollarla eylemleri etkilemeye çalıştığı istem ekleme saldırılarıyla karşılaşabilir. Bu riski en aza indirmek için bu aracıları güvenilir, yalıtılmış ortamlarda çalıştırıp talimatları yürütmeden önce sağlam doğrulama denetimleri uygulayın. İnsan gözetiminin etkinleştirilmesi, yetkili insan gözden geçirenlerin model potansiyel olarak zararlı veya kötü amaçlı yönergeler algıladığında bayrak eklenmiş eylemleri doğrulamalarına izin vererek ek görünürlük ve denetim sağlar ve bu da istenmeyen davranış olasılığını azaltabilir.
- Bilgisayar kullanım aracısı tarafından gerçekleştirilen güvenlik denetimleri bir yanıt, giriş veya ekran görüntüsü tarafından ya da bu bağlamın birden çok parçası tarafından tetiklenebilir. Güvenlik denetimleri, bilgisayar kullanım aracısı tarafından geri alınamaz veya kaydedilmemiş olabilecek eylemler gerçekleştirilmeden önce insanların gözden geçirilmesini istemeye yöneliktir, ancak bilgisayar kullanım aracısı denetimleri gerçekleştirirken hata yapabilir. Örneğin, bilgisayar kullanım aracısı belirli eylemleri algılamayabilir veya güvenliğin sorun olmadığı yerleri gözden geçirmeyi isteyebilir. Güvenlik denetimleri, aracının sorumlu tasarımının ve kılavuzunun yerini tutmaz.
- İnsan gözetimi özelliği, geri alınamaz veya kaydedilmemiş olabilecek eylemlerin gözden geçirilmesini ister, ancak şu anda genel onay isteklerini, eksik bilgi istemlerini veya diğer güvenlik denetimlerini desteklemez.
Aracı ve bilgisayar kullanımı etkinliğini gözden geçirme
Bilgisayar kullanımı aracısı kötü amaçlı veya zararlı olabilecek talimatlar algıladığında, yapılandırılmış gözden geçirenler bir Outlook e-postası alır. Yanıtlamadan önce hangi aracı etkinliğinin olduğunu ve isteğin, hangi bilgisayar kullanımı etkinliğiyle ilişkili olduğunu onaylamak kritik önem taşır.
Not
Her aracı çalıştırması ve etkinliği, onu başlatan kullanıcıya bağlıdır. Bilgisayar kullanımı aracısını çalıştıran kişi dışında bir gözden geçiren seçerseniz çalıştırmayı başlatmadığı için büyük olasılıkla etkinliği görmezler. Birden çok gözden geçiren yapılandırıyorsanız her biri bir e-posta alır, ancak yalnızca çalıştırmayı başlatanın etkinlik ayrıntılarına erişimi olur.
Aşağıdaki tabloda, bir insan incelemesi e-posta isteğine dahil edilen ana bilgiler gösterilmektedir:
| Alan | Açıklama |
|---|---|
| Aracı kullanan aracı | Copilot Studio aracısının adı. |
| Bilgisayar kullanım aracı | İsteği tetikleyen bilgisayar kullanım aracının adı. |
| Konuşma kimliği | Belirli bir etkinliği bulmak için kullanabileceğiniz konuşma kimliği. |
| İstek zaman aşımı | İstek zaman aşımı tarihi ve saati. |
| Talep eden | Bilgisayar kullanım aracının oluşturucusu (bağlantı sahibi). |
| Gönder (seçeneklerle) | Son gözden geçiren, Evet veya Hayır seçenekleri ile bilgisayar kullanımı yürütmesine devam etme veya durdurma kararı alır. |
Bilgisayar kullanımı insan inceleme isteklerini gözden geçirme
Not
Aracının etkinlik haritasındaki bilgisayar kullanımı eylem yan panelinde insan inceleme isteklerini gözden geçirmek için ortamınızda Gelişmiş bilgisayar kullanımı etkinliği özelliğini etkinleştirmeniz gerekir. Gelişmiş bilgisayar kullanımı etkinliği deneyimi etkinlik haritasında görünmüyorsa yöneticiniz bu özelliği ortamınız için kapatmış olabilir. Gelişmiş bilgisayar kullanım etkinliği hakkında daha fazla bilgi edinin.
İnsan inceleme isteklerini gözden geçirmek için:
- İnsan inceleme isteği e-posta gövdesinden Konuşma Kimliği'ni (GUID) kopyalayın.
- E-postadaki Aracı kullanan aracı bağlantısını kullanarak Microsoft Copilot Studio'da aracıya genel bakış sayfasını açın.
- Etkinlikler'e gidin.
- Etkinlik listesinin üst kısmında Kimliğe göre çalıştırmayı bul'u seçin ve kopyalanan Konuşma Kimliği'ni girin.
- Yapılandırılan bilgisayar kullanımı aracının adını taşıyan bilgisayar kullanımı eylemini bulun ve yan panelini açın.
- Yan panelin Etkinlik bölümünde etkinlik listesini inceleyin. İnsan incelemesini bekleyen etkinlikler, model yanıt metninin yanında bir bekleme simgesi görüntüler. Bilgisayar kullanım aracısı tarafından gerçekleştirilen güvenlik denetimleri tek bir yanıt, giriş veya ekran görüntüsü tarafından ya da bu bağlamın birden çok parçası tarafından tetiklenebilir. Sonuç olarak, bir insan gözden geçirme isteğinde görüntülenen ekran görüntüsü, kötü amaçlı olabilecek içerik içermeyebilir.
- Bilgisayar kullanımı modeli güvenlik denetiminin geçerli olup olmadığını belirlemek için etkinlik geçmişini ve ekran görüntülerini dikkatle inceleyin.
- İşiniz bittiğinde Outlook'taki e-posta bildirimine dönün ve bulgularınıza göre uygun eylemi gerçekleştirin.