Σημείωση
Η πρόσβαση σε αυτή τη σελίδα απαιτεί εξουσιοδότηση. Μπορείτε να δοκιμάσετε να συνδεθείτε ή να αλλάξετε καταλόγους.
Η πρόσβαση σε αυτή τη σελίδα απαιτεί εξουσιοδότηση. Μπορείτε να δοκιμάσετε να αλλάξετε καταλόγους.
[Αυτό το άρθρο αποτελεί τεκμηρίωση προέκδοσης και ενδέχεται να αλλάξει.]
Η δυνατότητα ανθρώπινης εποπτείας επιτρέπει στο εργαλείο χρήσης υπολογιστή να κλιμακωθεί στον αναθεωρητή που ρυθμίζετε στις ρυθμίσεις ανθρώπινης εποπτείας όταν ανιχνεύσει πιθανά προβλήματα ασφαλείας, προς το παρόν εντός της κατηγορίας κακόβουλων οδηγιών.
Σημείωμα
Αυτή η δυνατότητα διατίθεται σταδιακά σε περιβάλλοντα κύκλου πρώιμης κυκλοφορίας στην περιοχή των Ηνωμένων Πολιτειών και ενδέχεται να μην είναι ακόμα διαθέσιμη στο περιβάλλον σας.
Σημαντικό
Αυτό το άρθρο περιέχει τεκμηρίωση έκδοσης προεπισκόπησης Microsoft Copilot Studio και υπόκειται σε αλλαγές.
Οι δυνατότητες προεπισκόπησης δεν προορίζονται για χρήση παραγωγής και ενδέχεται να έχουν περιορισμένη λειτουργικότητα. Αυτές οι δυνατότητες είναι διαθέσιμες πριν από μια επίσημη κυκλοφορία έτσι ώστε να μπορείτε να έχετε πρόσβαση από νωρίς και να κάνετε σχόλια.
Εάν δημιουργείτε έναν παράγοντα έτοιμο για παραγωγή, δείτε Επισκόπηση του Microsoft Copilot Studio.
Το μοντέλο AI εκτελεί εντοπισμό αξιολογώντας εικόνες στιγμιότυπου οθόνης για περιεχόμενο κατ' αντίπαλο που θα μπορούσε να αλλάξει τη συμπεριφορά του μοντέλου. Όταν το μοντέλο επισημαίνει αυτές τις οδηγίες κατά τη διάρκεια εκτέλεσης (προκαλεί προηγουμένως άμεση διακοπή), προωθεί τώρα την αίτηση σε έναν άνθρωπο για επικύρωση. Ο ανθρώπινος αναθεωρητής αποφασίζει εάν το ζήτημα ασφάλειας με σημαία είναι γνήσιο και θα πρέπει να διακόψει την εκτέλεση ή εάν το μοντέλο το επεσήμανε εσφαλμένα και η διεργασία μπορεί να συνεχιστεί με ασφάλεια. Σε αυτά τα συμβάντα, το σύστημα εγείρει μια αίτηση ελέγχου στους ρυθμισμένους ελεγκτές μέσω ηλεκτρονικού ταχυδρομείου (Outlook). Εάν δεν ληφθεί καμία απόκριση εντός της καθορισμένης περιόδου λήξης χρονικού ορίου, η εκτέλεση χρήσης του υπολογιστή διακόπτεται μόλις συμπληρωθεί αυτό το χρονικό όριο.
Σημαντικό
- Οι παράγοντες χρήσης υπολογιστών μπορεί να αντιμετωπίσουν προτροπές για επιθέσεις με ένεση, όπου κρυφές οδηγίες σε στιγμιότυπα οθόνης, ιστοσελίδες ή άλλες εισόδους επιχειρούν να επηρεάσουν ενέργειες με ακούσιους τρόπους. Για να ελαχιστοποιήσετε αυτόν τον κίνδυνο, θέστε τους παράγοντες αυτούς σε αξιόπιστα, απομονωμένα περιβάλλοντα και εφαρμόστε ισχυρούς ελέγχους επικύρωσης πριν από την εκτέλεση τυχόν οδηγιών. Η ενεργοποίηση της ανθρώπινης εποπτείας προσθέτει επιπλέον ορατότητα και έλεγχο επιτρέποντας στους εξουσιοδοτημένους ανθρώπους ελεγκτές να επικυρώνουν ενέργειες με σημαία όταν το μοντέλο εντοπίζει δυνητικά επιβλαβείς ή κακόβουλες οδηγίες, γεγονός που μπορεί να μειώσει την πιθανότητα ακούσιας συμπεριφοράς.
- Οι έλεγχοι ασφαλείας που εκτελούνται από τον παράγοντα χρήσης υπολογιστή μπορούν να ενεργοποιούνται από μία απόκριση, είσοδο ή στιγμιότυπο οθόνης ή από πολλά τμήματα αυτού του περιβάλλοντος. Οι έλεγχοι ασφαλείας αποσκοπούν στο να προτρέψουν τον ανθρώπινο έλεγχο προτού αναληφθούν δυνητικά μη αναστρέψιμες ή μη διαχωρισμένες ενέργειες από τον παράγοντα χρήσης υπολογιστή, όμως ο παράγοντας χρήσης υπολογιστή μπορεί να κάνει λάθη κατά την εκτέλεση των ελέγχων. Για παράδειγμα, ο παράγοντας χρήσης υπολογιστή ενδέχεται να μην εντοπίζει ορισμένες ενέργειες ή μπορεί να σας ζητήσει να ελέγξετε πού δεν αποτελεί πρόβλημα η ασφάλεια. Οι έλεγχοι ασφαλείας δεν αποτελούν υποκατάστατο του υπεύθυνου σχεδιασμού και καθοδήγησης του παράγοντα.
- Το χαρακτηριστικό ανθρώπινης εποπτείας ζητά αναθεώρηση πιθανώς μη αναστρέψιμων ή μη διαχωρισμένων δράσεων, αλλά επί του παρόντος δεν υποστηρίζει γενικά αιτήματα επιβεβαίωσης, προτροπές για πληροφορίες που λείπουν ή άλλους τύπους ελέγχων ασφαλείας.
Έλεγχος παράγοντα και δραστηριότητας χρήσης υπολογιστή
Όταν ο παράγοντας χρήσης υπολογιστή εντοπίσει πιθανώς κακόβουλες ή επιβλαβείς οδηγίες, οι διαμορφωμένοι αναθεωρητές λαμβάνουν ένα μήνυμα ηλεκτρονικού ταχυδρομείου του Outlook. Πριν από την απόκριση, είναι σημαντικό να επιβεβαιώσετε τη δραστηριότητα του παράγοντα που είναι και σε ποια δραστηριότητα χρήσης υπολογιστή σχετίζεται η αίτηση.
Σημείωμα
Κάθε παράγοντας εκτελείται και η δραστηριότητά του συνδέεται με τον χρήστη που την ξεκινά. Εάν επιλέξετε έναν αναθεωρητή διαφορετικό από το άτομο που εκτελεί τον παράγοντα χρήσης υπολογιστή, πιθανώς δεν θα βλέπουν τη δραστηριότητα επειδή δεν ξεκίνησε την εκτέλεση. Εάν ρυθμίσετε πολλές παραμέτρους ανθρώπινων αναθεωρητών, καθένας λαμβάνει ένα μήνυμα ηλεκτρονικού ταχυδρομείου, αλλά μόνο ο εμπνευστής της εκτέλεσης έχει πρόσβαση στις λεπτομέρειες δραστηριότητας.
Ο παρακάτω πίνακας εμφανίζει τις κύριες πληροφορίες που περιλαμβάνονται σε μια αίτηση ηλεκτρονικού ταχυδρομείου ανθρώπινου ελέγχου:
| Πεδίο | Περιγραφή |
|---|---|
| Παράγοντας που χρησιμοποιεί το εργαλείο | Το όνομα του παράγοντα του Copilot Studio. |
| Εργαλείο χρήσης υπολογιστή | Το όνομα του εργαλείου χρήσης υπολογιστή που ενεργοποίησε την αίτηση. |
| Αναγνωριστικό συνομιλίας | Το αναγνωριστικό συνομιλίας που μπορείτε να χρησιμοποιήσετε για να βρείτε μια συγκεκριμένη δραστηριότητα. |
| Χρονικό όριο αίτησης | Η ημερομηνία και ώρα λήξης χρονικού ορίου αίτησης. |
| Ζητήθηκε από | Ο κατασκευαστής (κάτοχος σύνδεσης) του εργαλείου χρήσης υπολογιστή. |
| Υποβολή (με επιλογές) | Ο τελικός αναθεωρητής Ναι ή Όχι αποφασίζει να προχωρήσει ή να διακόψει την εκτέλεση της χρήσης του υπολογιστή. |
Εξέταση αιτήσεων ελέγχου από ανθρώπους με χρήση υπολογιστή
Σημείωμα
Για να εξετάσετε τις αιτήσεις ανθρώπινου ελέγχου στον πλαϊνό πίνακα ενεργειών χρήσης υπολογιστή στον χάρτη δραστηριότητας του παράγοντα, πρέπει να ενεργοποιήσετε τη δυνατότητα Δραστηριότητα υπολογιστή για προχωρημένους στο περιβάλλον σας. Εάν η προηγμένη εμπειρία δραστηριότητας χρήσης υπολογιστή δεν εμφανίζεται στον χάρτη δραστηριότητας, ο διαχειριστής σας μπορεί να έχει απενεργοποιήσει αυτήν τη δυνατότητα για το περιβάλλον σας. Μάθετε περισσότερα στην προηγμένη δραστηριότητα χρήσης υπολογιστή.
Για να εξετάσετε τις αιτήσεις ανθρώπινου ελέγχου:
- Αντιγράψτε το Αναγνωριστικό συνομιλίας (GUID) από το σώμα μηνύματος ηλεκτρονικού ταχυδρομείου αίτησης ανθρώπινου ελέγχου.
- Επιλέξτε τον παράγοντα χρησιμοποιώντας τη σύνδεση εργαλείου στο μήνυμα ηλεκτρονικού ταχυδρομείου για να ανοίξετε τη σελίδα επισκόπησης του παράγοντα στο Microsoft Copilot Studio.
- Μεταβείτε στην επιλογή Δραστηριότητες.
- Στο επάνω μέρος της λίστας δραστηριοτήτων, επιλέξτε Εύρεση εκτέλεσης κατά αναγνωριστικό και εισαγάγετε το αντιγραμμένο Αναγνωριστικό συνομιλίας.
- Εντοπίστε την ενέργεια χρήσης υπολογιστή με το όνομα του ρυθμισμένου εργαλείου χρήσης υπολογιστή και ανοίξτε τον πλαϊνό πίνακα.
- Στην ενότητα Δραστηριότητα στο πλαϊνό τμήμα, εξετάστε τη λίστα δραστηριοτήτων. Οι δραστηριότητες που περιμένουν την ανθρώπινη αναθεώρηση εμφανίζουν ένα σύμβολο αναμονής δίπλα στο κείμενο απόκρισης μοντέλου. Οι έλεγχοι ασφαλείας που εκτελούνται από τον παράγοντα χρήσης υπολογιστή μπορούν να ενεργοποιούνται από μία απόκριση, είσοδο ή στιγμιότυπο οθόνης ή από πολλά τμήματα αυτού του περιβάλλοντος. Κατά συνέπεια, το στιγμιότυπο οθόνης που εμφανίζεται σε μια αίτηση ανθρώπινου ελέγχου μπορεί να μην περιέχει το ίδιο το πιθανώς κακόβουλο περιεχόμενο.
- Εξετάστε προσεκτικά το ιστορικό δραστηριότητας και τα στιγμιότυπα οθόνης για να προσδιορίσετε εάν ο έλεγχος ασφαλείας μοντέλου χρήσης υπολογιστή είναι έγκυρος.
- Όταν τελειώσετε, επιστρέψτε στην ειδοποίηση ηλεκτρονικού ταχυδρομείου στο Outlook και κάντε τις κατάλληλες ενέργειες με βάση τα ευρήματά σας.