הערה
הגישה לדף זה מחייבת הרשאה. באפשרותך לנסות להיכנס או לשנות מדריכי כתובות.
הגישה לדף זה מחייבת הרשאה. באפשרותך לנסות לשנות מדריכי כתובות.
הערה
המאפיינים במאמר זה מופעלים על ידי הרתמה הסטנדרטית, המשתמשת באפשרויות החיוב המתוארות ברישוי לסוכנים המופעלים על ידי הרתמה הסטנדרטית. למד כיצד לגשת לתכונות סטנדרטיות ב-גישה לסוכנים סטנדרטיים ולתהליכי סוכן.
כאשר אתה משתמש בפיקוח אנושי, הסוכן שמשתמש במחשב מסלים את תצורתו לאדם שאתה קובע בהגדרות של פיקוח אנושי כאשר הוא זקוק לאישור או למידע נוסף.
הערה
סוכנים משתמשי מחשב עשויים להיתקל בהתקפות הזרקת הוראות, שבהן הוראות מוסתרות בצילומי מסך, דפי אינטרנט או קלטים אחרים מנסים להשפיע על פעולות בדרכים לא מכוונות. כדי למזער סיכון זה, הפעל סוכנים אלה בסביבות מהימנות ומבודדות והחל בדיקות אימות חזקות לפני ביצוע הוראות.
תמיכה בתכונות לפי מודל
הטבלה הבאה מפרטת אילו מודלים תומכים בתכונת הפיקוח האנושי.
| ספק מודלים | גירסה | מצב | תומך בפיקוח אנושי |
|---|---|---|---|
| Azure OpenAI | OpenAI סוכן גרסה 1 לשימוש במחשב | הוצא משימוש | כן |
| Azure OpenAI | סוכן המשתמש במחשב (CUA) | פעילות | כן |
| אנטרופית | קלוד סונטה 4.5 | פעילות | כן |
סקירת פעילות הסוכן והשימוש במחשב
במהלך הביצוע, כאשר הסוכן המשתמש במחשב זקוק לאישור או למידע נוסף, הוא יכול לשלוח בקשת סקירה למבקר האנושי המוגדר דרך דואר אלקטרוני של Outlook. הוא גם יכול להציג כרטיס סקירה מובנה בפאנל הפעילות המתקדם לשימוש מחשב.
התנהגות מודל AI הסתברותי מפעילה בקשות בדיקה אנושיות. התנהגות זו משמעותה שהמודל עשוי לא להפעיל את הבקשות הללו בכל מצב שבו אדם ירצה הפסקה, והוא גם עשוי להפעיל בקשות אלו כאשר אין צורך בהפסקה. אל תסתמך על בדיקות אנושיות או בקשות הבהרה כאמצעי בטיחות או כהבטחה שהמערכת תמיד מבקשת משוב אנושי לפני הפעלה.
הערה
- רק יצרן כלי השימוש במחשב מקבל בקשות לסקירה אנושית ויש לו גישה ליומנים מפורטים דרך לוח הפעילות המתקדם לשימוש במחשב. אם תבחר בפרטי משתמש קצה בהגדרות המכונה, האדם שהקים את החיבור במקור יקבל את הבקשות האלה, אבל רק אם הוא כלול גם כאחד הסוקרים האנושיים המיועדים.
- כדי לבדוק את בקשות הסקירה האנושית המובחנות בפאנל הצד של פעילות הסוכן המשתמש במחשב בתוך מפת הפעילות של הסוכן, עליך להפעיל רישום מתקדם לשימוש במחשב בסביבה שלך. אם חוויית הפעילות המתקדמות בשימוש במחשב אינה מופיעה במפות הפעילות, ייתכן שמנהל המערכת ביטל תכונה זו עבור הסביבה שלך.
הטבלה הבאה מציגה את המידע הראשי הכלול בבקשה בדואר אלקטרוני לסקירה אנושית:
| שדה | תיאור |
|---|---|
| סוכן המשתמש בכלי | שם הסוכן Copilot Studio. |
| כלי לשימוש במחשב | שם הכלי לשימוש במחשב שהפעיל את הבקשה. |
| שיחה | הקישור העמוק לפעילות הסוכן שבה כלי השימוש במחשב פועל כעת. |
| זמן קצוב לבקשה | תאריך ושעה של זמן קצוב לבקשה |
| התבקש על-ידי | היוצר (הבעלים של החיבור) של הכלי לשימוש במחשב. |
| ספק מידע חסר | תיבת הטקסט עבור התגובה לשליחה לכלי לשימוש במחשב. |
| שלח | הלחצן לשליחת תגובת הטקסט שהוזנה. לבקשת אישור, כתוב כן לאישור או לא כדי לסרב. |
תגובה לבקשות לסקירת בני אדם
כדי להגיב לבקשות של סקירת אנשים, באפשרותך להגיב באמצעות דואר אלקטרוני או בצורה מוטמעת באמצעות פאנל הפעילות של שימוש במחשב בתוך מפת הפעילות של הסוכן. תגובות בקו דורשות הפעלה מתקדמת של רישום ממוחשב בסביבה. בשני המקרים, אם לא תספק תגובה, זרימת העבודה תישאר מושהית ומפסיקה באופן אוטומטי כאשר הזמן הקצוב שצוין בהודעת הדואר האלקטרוני מופסק.
Important
מערכת הפיקוח האנושית מבוססת על התנהגות מודל בינה מלאכותית צפויה. בעוד שהמערכת כוללת בקשת מערכת ואולי אילוצים אחרים, היא עשויה ליצור מדי פעם בקשות הבהרה שאינן נחוצות. ייתכן שהוא לא יופעל כאשר הוא צפוי, או שהוא עשוי לבקש מידע שלא אמור להינתן בהקשר הנתון, כולל מידע שעשוי להיות רגיש.
כתוצאה מכך, על הסוקרים לנהוג בשיקול דעת בעת תגובה לבקשות פיקוח אנושי ולא להגיש מידע רגיש כגון שמות משתמש, סיסמאות, PINs, פרטי כרטיסי אשראי או מספרי ביטוח לאומי. בהתאם לתצורה של הארגון שלך, תגובות לבקשות ביקורת אנושיות עשויות להישאר קיימות בסביבת Dataverse שלך או ביומני הביקורת של Purview ולהיות נראות למשתמשים מורשים בתוך הארגון.
הגב באמצעות דואר אלקטרוני
הודעת הדואר האלקטרוני של בקשת הסקירה האנושית כוללת פרטים אודות הסוכן, הכלי והשיחה, יחד עם המידע הספציפי או הבהרה המבוקשים. עיין בבקשה בקפידה כדי לקבוע אם יש לך מספיק מידע כדי להגיב. במידת הצורך, הזן את תגובתך בשדה הטקסט המיועד ובחר שלח.
ענה בתוך השורה
- בחר את הקישור שיחה בהודעת הדואר האלקטרוני של בקשת הסקירה האנושית כדי לפתוח את מפת הפעילות של הסוכן.
- חפש את פעולת השימוש במחשב התואמת לכלי השימוש במחשב שתצורתו נקבעה ופתח את הלוח הצידי שלו.
- במקטע פעילות בלוח הצידי, סקור את רשימת הפעילויות. פעילויות המממתינים לסקירת בני אדם מסומנות באמצעות מחוון המתנה לצד תגובת המודל.
- עיין בבקשה בקפידה וקבע אם יש לך מספיק מידע כדי להגיב. במידת הצורך, הזן את תגובתך בשדה הטקסט המיועד ובחר שלח.
כבה את הפיקוח האנושי
Important
כיבוי הפיקוח האנושי לא הופך את הסוכן המשתמש במחשב לאוטונומי מלא. הסוכן עדיין עוצר כשהוא צריך אישור או הבהרה. אם לא מוגדרים סוקרים, הבקשות הללו אינן יכולות לנתב, ולכן הסשן נכשל כאשר הסוכן עוצר. הגדר לפחות מבקר אחד.
כדי לכבות פיקוח אנושי, עבור לסעיף הפיקוח האנושי בכלי השימוש במחשב והסר את כל הסוקרים מבקשות ההקצאה לרשימה .