หมายเหตุ
การเข้าถึงหน้านี้ต้องได้รับการอนุญาต คุณสามารถลอง ลงชื่อเข้าใช้หรือเปลี่ยนไดเรกทอรีได้
การเข้าถึงหน้านี้ต้องได้รับการอนุญาต คุณสามารถลองเปลี่ยนไดเรกทอรีได้
[บทความนี้เป็นคู่มือรุ่นก่อนวางจำหน่าย และอาจจะมีการเปลี่ยนแปลงในอนาคต]
คุณลักษณะการกำกับดูแลโดยมนุษย์ช่วยให้เครื่องมือที่ใช้คอมพิวเตอร์ส่งต่อข้อมูลไปยังผู้ตรวจสอบที่คุณกำหนดค่าไว้ในการตั้งค่าการควบคุมดูแลโดยมนุษย์ เมื่อตรวจพบปัญหาความปลอดภัยที่อาจเกิดขึ้น ซึ่งปัจจุบันอยู่ในประเภท คำสั่งที่เป็นอันตราย
หมายเหตุ
คุณลักษณะนี้กำลังทยอยเปิดตัวในสภาพแวดล้อมรอบการเปิดตัวช่วงแรกในภูมิภาคสหรัฐอเมริกา และอาจยังไม่พร้อมใช้งานในสภาพแวดล้อมของคุณ
สำคัญ
บทความนี้มีเอกสารรุ่นพรีวิว Microsoft Copilot Studio และอาจจะมีการเปลี่ยนแปลงในอนาคต
คุณลักษณะพรีวิวไม่ได้มีไว้สำหรับการนำไปใช้งานจริงและอาจมีฟังก์ชันการทำงานที่จำกัด คุณลักษณะเหล่านี้สามารถใช้ได้ก่อนการเปิดตัวอย่างเป็นทางการเพื่อให้คุณสามารถเข้าใช้งานได้ก่อนเวลาและให้ข้อคิดเห็น
หากคุณกำลังสร้างเอเจนต์ที่พร้อมสำหรับการใช้งานจริง โปรดดู ภาพรวมของ Microsoft Copilot Studio
โมเดล AI ทำการตรวจหาโดยการประเมินรูปภาพสกรีนช็อตสำหรับเนื้อหาที่เป็นโฆษณาซึ่งอาจเปลี่ยนลักษณะการทำงานของโมเดล เมื่อโมเดลจะตั้งค่าสถานะคำสั่งดังกล่าวในระหว่างการดำเนินการ (ก่อนหน้านี้ทำให้เกิดการหยุดทันที) จะมีการส่งต่อคำขอไปยังมนุษย์เพื่อทำการตรวจสอบ ผู้ตรวจสอบที่เป็นมนุษย์ตัดสินใจว่าปัญหาด้านความปลอดภัยที่ถูกตั้งค่าสถานะเป็นของจริงและควรหยุดการดำเนินการหรือไม่ หรือโมเดลถูกตั้งค่าสถานะอย่างไม่ถูกต้องและกระบวนการสามารถดำเนินการต่อได้อย่างปลอดภัยหรือไม่ ในกรณีดังกล่าว ระบบจะสร้างคำขอตรวจสอบให้กับผู้ตรวจสอบที่เป็นมนุษย์ที่กำหนดค่าไว้ผ่านทางอีเมล (Outlook) ถ้าไม่ได้รับการตอบกลับภายในระยะเวลาหมดเวลาที่ระบุ คอมพิวเตอร์ที่ใช้จะหยุดเมื่อถึงขีดจำกัดเวลาดังกล่าว
สำคัญ
- เอเจนต์การใช้คอมพิวเตอร์อาจพบการโจมตีด้วยการแทรกพร้อมท์ ซึ่งคำแนะนำที่ซ่อนอยู่ในสกรีนช็อต หน้าเว็บ หรืออินพุตอื่นๆ พยายามที่จะส่งผลกระทบต่อการดำเนินการในรูปแบบที่ไม่ได้ตั้งใจ เพื่อลดความเสี่ยงนี้ ให้ดำเนินการเอเจนต์เหล่านี้ภายในสภาพแวดล้อมที่น่าเชื่อถือ แยกจากกัน และใช้การตรวจสอบความถูกต้องที่มีประสิทธิภาพก่อนที่จะดำเนินการคำแนะนำใดๆ การเปิดใช้งานการกำกับดูแลโดยมนุษย์ช่วยเพิ่มการมองเห็นและการควบคุม โดยอนุญาตให้ผู้ตรวจสอบที่ได้รับสิทธิ์สามารถตรวจสอบและยืนยันการกระทำที่ถูกตั้งค่าสถานะ เมื่อโมเดลตรวจพบคำสั่งที่อาจเป็นอันตรายหรือเป็นอันตรายร้ายแรง ซึ่งอาจช่วยลดโอกาสของพฤติกรรมที่ไม่ตั้งใจได้
- การตรวจสอบความปลอดภัยที่ดำเนินการโดยเอเจนต์การใช้คอมพิวเตอร์อาจถูกทริกเกอร์โดยการตอบกลับ การป้อนข้อมูล หรือสกรีนช็อต หรือโดยบริบทดังกล่าวหลายชิ้น การตรวจสอบความปลอดภัยมีวัตถุประสงค์เพื่อแจ้งการตรวจสอบของมนุษย์ก่อนที่จะดำเนินการกลับไม่ได้หรือไม่ได้ดำเนินการโดยเอเจนต์การใช้คอมพิวเตอร์ แต่คอมพิวเตอร์ใช้เอเจนต์สามารถทำผิดพลาดได้เมื่อทำการตรวจสอบ ตัวอย่างเช่น เอเจนต์การใช้คอมพิวเตอร์อาจตรวจไม่พบการดำเนินการบางอย่าง หรืออาจเป็นการแจ้งให้ตรวจทานว่าความปลอดภัยนั้นไม่ใช่ข้อกังวล การตรวจสอบความปลอดภัยไม่ใช่สิ่งทดแทนสำหรับการออกแบบที่มีความรับผิดชอบและคำแนะนำของเอเจนต์
- คุณลักษณะการกำกับดูแลโดยมนุษย์จะให้การตรวจสอบการดำเนินการที่อาจไม่สามารถย้อนกลับได้หรือไม่ได้ดำเนินการแต่ไม่สนับสนุนคำขอยืนยันทั่วไป พร้อมท์สำหรับข้อมูลที่ขาดหายไป หรือการตรวจสอบความปลอดภัยประเภทอื่นๆ
ตรวจสอบกิจกรรมของเอเจนต์และการใช้คอมพิวเตอร์
เมื่อเอเจนต์การใช้คอมพิวเตอร์ตรวจพบคำแนะนำที่อาจเป็นอันตรายหรือเป็นอันตราย ผู้ตรวจทานที่กำหนดค่าไว้จะได้รับอีเมล Outlook ก่อนตอบกลับ สิ่งสำคัญคือต้องยืนยันว่าเป็นกิจกรรมของเอเจนต์ใด และกิจกรรมการใช้งานคอมพิวเตอร์ใดที่คำขอนั้นเกี่ยวข้อง
หมายเหตุ
การเรียกใช้เอเจนต์แต่ละครัั้งและกิจกรรมเชื่อมโยงกับผู้ใช้ที่้เป็นผู้เริ่มต้น ถ้าคุณเลือกผู้ตรวจสอบนอกเหนือจากบุคคลที่เรียกใช้เอเจนต์การใช้คอมพิวเตอร์ พวกเขาอาจไม่เห็นกิจกรรมเนื่องจากไม่ได้เริ่มการทำงาน ถ้าคุณกำหนดค่าผู้ตรวจสอบที่เป็นมนุษย์หลายคน แต่ละคนจะได้รับอีเมล แต่เฉพาะผู้เริ่มต้นของการเรียกใช้เท่านั้นที่สามารถเข้าถึงรายละเอียดกิจกรรมได้
ตารางต่อไปนี้แสดงข้อมูลหลักที่รวมอยู่ในคำขออีเมลการตรวจสอบโดยมนุษย์:
| ฟิลด์ | คำอธิบาย |
|---|---|
| เอเจนต์ที่ใช้เครื่องมือ | ชื่อของเอเจนต์ Copilot Studio |
| เครื่องมือการใช้คอมพิวเตอร์ | ชื่อของเครื่องมือการใช้คอมพิวเตอร์ที่ทริกเกอร์คำขอ |
| รหัสการสนทนา | ID การสนทนาที่คุณสามารถใช้เพื่อค้นหากิจกรรมบางอย่าง |
| คำขอหมดเวลา | วันที่และเวลาของคำขอหมดเวลา |
| ขอโดย | ผู้สร้าง (เจ้าของการเชื่อมต่อ) ของเครื่องมือการใช้คอมพิวเตอร์ |
| ส่ง (พร้อมตัวเลือก) | การตัดสินใจ ใช่ หรือ ไม่ ผู้ตรวจสอบขั้นสุดท้ายที่จะดำเนินการต่อหรือหยุดการดำเนินการใช้คอมพิวเตอร์ |
ตรวจทานคำขอการตรวจสอบโดยมนุษย์โดยใช้คอมพิวเตอร์
หมายเหตุ
หากต้องการตรวจสอบคำขอตรวจสอบโดยมนุษย์ในแผงข้างการดำเนินการใช้คอมพิวเตอร์ในแผนผังกิจกรรมของเอเจนต์ คุณต้องเปิดใช้งานคุณลักษณะ กิจกรรมการใช้คอมพิวเตอร์ขั้นสูง ในสภาพแวดล้อมของคุณ ถ้าประสบการณ์กิจกรรมการใช้คอมพิวเตอร์ขั้นสูงไม่ปรากฏในแผนผังกิจกรรม ผู้ดูแลระบบของคุณอาจปิดใช้งานคุณลักษณะนี้สำหรับสภาพแวดล้อมของคุณ เรียนรู้เพิ่มเติมใน กิจกรรมการใช้คอมพิวเตอร์ขั้นสูง
วิธีตรวจสอบคำขอตรวจสอบโดยมนุษย์:
- คัดลอก ID การสนทนา (GUID) จากเนื้อความอีเมลของคำขอตรวจสอบโดยมนุษย์
- เลือกลิงก์ เอเจนต์ที่ใช้เครื่องมือ ในอีเมลเพื่อเปิดหน้าภาพรวมของเอเจนต์ใน Microsoft Copilot Studio
- ไปที่ กิจกรรม
- ที่ด้านบนของรายการกิจกรรม เลือก ค้นหาการเรียกใช้ตาม ID และป้อน ID การสนทนาที่คัดลอกมา
- ค้นหาการดำเนินการการใช้คอมพิวเตอร์ด้วยชื่อของเครื่องมือที่ใช้คอมพิวเตอร์ที่กำหนดค่าไว้และเปิดแผงด้านข้าง
- ในส่วน กิจกรรม ของแผงด้านข้าง ให้ตรวจสอบรายการกิจกรรม กิจกรรมที่รอการตรวจสอบจากมนุษย์จะแสดงสัญลักษณ์การรอถัดจากข้อความตอบกลับของโมเดล การตรวจสอบความปลอดภัยที่ดำเนินการโดยเอเจนต์การใช้คอมพิวเตอร์อาจถูกทริกเกอร์โดยการตอบกลับครั้งเดียว การป้อนข้อมูล หรือสกรีนช็อต หรือโดยบริบทดังกล่าวหลายชิ้น ดังนั้น สกรีนช็อตที่แสดงในคำขอตรวจสอบโดยมนุษย์อาจไม่ประกอบด้วยเนื้อหาที่อาจเป็นอันตรายใดๆ
- ตรวจสอบประวัติกิจกรรมและสกรีนช็อตอย่างรอบคอบเพื่อตรวจสอบว่าการตรวจสอบความปลอดภัยของโมเดลการใช้คอมพิวเตอร์ถูกต้องหรือไม่
- เมื่อคุณทำเสร็จแล้ว ให้กลับไปยังการแจ้งเตือนทางอีเมลใน Outlook และดำเนินการที่เหมาะสมตามการค้นพบของคุณ