ทําความเข้าใจตัวแทน AI และบริการตัวแทน Microsoft Foundry

เสร็จสมบูรณ์เมื่อ

เคล็ดลับ

ดูแท็บ ข้อความและรูปภาพ สําหรับรายละเอียดเพิ่มเติม!

ตัวแทน AI เป็นบริการซอฟต์แวร์ที่ใช้ Generative AI เพื่อทําความเข้าใจและทํางานในนามของผู้ใช้หรือโปรแกรมอื่นๆ ซึ่งแตกต่างจากแอปพลิเคชันแบบดั้งเดิมที่ปฏิบัติตามกฎที่กําหนดไว้ล่วงหน้า ตัวแทน AI สามารถทํางานได้อย่างอิสระโดยการทําความเข้าใจบริบท การตัดสินใจ และดําเนินการเพื่อให้บรรลุเป้าหมายที่เฉพาะเจาะจง ตัวแทนเหล่านี้รวมโมเดล AI ขั้นสูงเข้ากับเครื่องมือพิเศษเพื่อสร้างระบบอัตโนมัติอัจฉริยะที่ปรับให้เข้ากับสถานการณ์ต่างๆ

วิวัฒนาการของ Generative AI ช่วยให้ตัวแทนสามารถประพฤติตนอย่างชาญฉลาดในนามของเรา การทําความเข้าใจว่าตัวแทน AI คืออะไรและใช้งานอย่างไรเป็นสิ่งสําคัญสําหรับการทํางานอัตโนมัติ

เหตุใดตัวแทน AI จึงมีประโยชน์

ตัวแทน AI ให้คุณค่าที่สําคัญในหลายมิติ:

ระบบอัตโนมัติของงานประจํา - ตัวแทน AI จัดการกิจกรรมที่ซ้ําซากและทางโลก ทําให้พนักงานที่เป็นมนุษย์มีอิสระในการมุ่งเน้นไปที่งานเชิงกลยุทธ์และความคิดสร้างสรรค์ สิ่งนี้นําไปสู่การเพิ่มผลผลิตและประสิทธิภาพที่วัดได้

ปรับปรุงการตัดสินใจ - ด้วยการประมวลผลข้อมูลจํานวนมหาศาลและให้ข้อมูลเชิงลึก ตัวแทน AI สนับสนุนการตัดสินใจที่ดีขึ้น พวกเขาสามารถวิเคราะห์แนวโน้ม คาดการณ์ผลลัพธ์ และเสนอคําแนะนําตามข้อมูลแบบเรียลไทม์ ซึ่งแตกต่างจากโมเดลแชทธรรมดาที่สร้างเฉพาะข้อความ ตัวแทน AI ใช้อัลกอริทึมขั้นสูงและการเรียนรู้ของเครื่องเพื่อวิเคราะห์ข้อมูลและตัดสินใจอย่างชาญฉลาดโดยอัตโนมัติ

ความสามารถในการปรับขนาด - ตัวแทน AI ปรับขนาดการดําเนินงานโดยไม่เพิ่มทรัพยากรบุคคลตามสัดส่วน องค์กรสามารถเพิ่มขีดความสามารถได้โดยไม่ต้องเพิ่มต้นทุนการดําเนินงานอย่างมีนัยสําคัญ

ความพร้อมใช้งานตลอด 24 ชั่วโมงทุกวัน - เช่นเดียวกับซอฟต์แวร์ทั้งหมด ตัวแทน AI ทํางานอย่างต่อเนื่องโดยไม่หยุดพัก เพื่อให้มั่นใจว่างานจะเสร็จสมบูรณ์ทันทีและบริการยังคงพร้อมให้บริการตลอดเวลา

ตัวอย่างกรณีใช้ตัวแทน AI

ตัวแทน AI มีการใช้งานที่หลากหลายในอุตสาหกรรม:

ตัวแทนผลผลิตส่วนบุคคล

ตัวแทนเพิ่มประสิทธิภาพส่วนบุคคลช่วยงานประจําวัน เช่น กําหนดเวลาการประชุม การส่งอีเมล และการจัดการรายการ to-do Microsoft 365 Copilot ช่วยให้ผู้ใช้ร่างเอกสาร สร้างงานนําเสนอ และวิเคราะห์ข้อมูลภายในชุดโปรแกรม Microsoft Office

ตัวแทนด้านการวิจัย

ตัวแทนการวิจัยติดตามแนวโน้ม รวบรวมข้อมูล และสร้างรายงานอย่างต่อเนื่อง บริการทางการเงินใช้เพื่อติดตามประสิทธิภาพของหุ้นองค์กรด้านการดูแลสุขภาพติดตามการวิจัยทางการแพทย์และทีมการตลาดวิเคราะห์พฤติกรรมผู้บริโภค

ตัวแทนขาย

ตัวแทนขายสร้างโอกาสในการขายและคุณสมบัติโดยอัตโนมัติ พวกเขาค้นคว้าโอกาสในการขาย ส่งข้อความติดตามผลส่วนบุคคล และกําหนดเวลาการโทรขาย ระบบอัตโนมัตินี้ช่วยให้ทีมขายมุ่งเน้นไปที่การปิดการขายมากกว่างานธุรการ

ตัวแทนฝ่ายบริการลูกค้า

เจ้าหน้าที่บริการลูกค้าจะจัดการการสอบถามที่เป็นประจํา ให้ข้อมูล และแก้ไขปัญหาทั่วไป รวมเข้ากับแชทบอทบนเว็บไซต์หรือแพลตฟอร์มการส่งข้อความ ให้การสนับสนุนทันที ตัวอย่างเช่น Cineplex ใช้ตัวแทน AI เพื่อประมวลผลคําขอคืนเงิน ซึ่งช่วยลดเวลาในการจัดการได้อย่างมากและปรับปรุงความพึงพอใจของลูกค้า

ตัวแทนนักพัฒนา

ตัวแทนนักพัฒนาซอฟต์แวร์ช่วยในงานพัฒนาซอฟต์แวร์ รวมถึงการตรวจสอบโค้ด การแก้ไขข้อบกพร่อง และการจัดการที่เก็บ พวกเขาอัปเดตฐานรหัสโดยอัตโนมัติ แนะนําการปรับปรุง และตรวจสอบให้แน่ใจว่ามาตรฐานการเข้ารหัสได้รับการรักษาไว้ GitHub Copilot เป็นตัวอย่างของตัวแทนประเภทนี้

เคล็ดลับ

หากต้องการเรียนรู้เพิ่มเติมเกี่ยวกับ GitHub Copilot ให้สํารวจเส้นทางการเรียนรู้พื้นฐาน GitHub Copilot

ข้อควรพิจารณาด้านความปลอดภัยสําหรับตัวแทน AI

เมื่อเอเจนต์ AI มีความเป็นอิสระมากขึ้นและรวมเข้ากับระบบขององค์กร เนื่องจากตัวแทนสามารถเข้าถึงข้อมูลที่ละเอียดอ่อน ตัดสินใจ และดําเนินการได้อย่างอิสระ คุณจึงต้องออกแบบโดยคํานึงถึงความปลอดภัยตั้งแต่เริ่มต้น

ความเสี่ยงด้านความปลอดภัยที่สําคัญ ได้แก่ :

พื้นที่เสี่ยง คำอธิบาย ตัวอย่างผลกระทบ
การรั่วไหลของข้อมูลและการเปิดเผยความเป็นส่วนตัว ตัวแทนมักจะเข้าถึงข้อมูลทางธุรกิจหรือผู้ใช้ที่ละเอียดอ่อน หากไม่มีการควบคุมที่เหมาะสม อาจเปิดเผยข้อมูลที่เป็นความลับโดยไม่ได้ตั้งใจ ตัวแทนที่สรุปไฟล์ภายในโดยไม่ได้ตั้งใจรวมข้อมูลส่วนตัวในการตอบกลับที่ลูกค้าต้องเผชิญ
การโจมตีแบบฉีดและจัดการทันที ผู้ใช้ที่ประสงค์ร้ายสร้างอินพุตที่แทนที่พฤติกรรมที่ตั้งใจไว้ของตัวแทน หลอกลวงให้เปิดเผยข้อมูลหรือดําเนินการโดยไม่ได้รับอนุญาต คําแนะนําที่ซ่อนอยู่ในข้อความทําให้เอเจนต์รั่วไหลข้อมูลประจําตัวของระบบ
การเข้าถึงโดยไม่ได้รับอนุญาตและการยกระดับสิทธิ์ การรับรองความถูกต้องหรือการควบคุมการเข้าถึงที่อ่อนแอทําให้เจ้าหน้าที่หรือผู้ไม่หวังดีที่ควบคุมพวกเขาเข้าถึงระบบที่พวกเขาไม่ควร ตัวแทนที่เชื่อมต่อกับเครื่องมือ CRM จะดําเนินการระดับผู้ดูแลระบบ เช่น การส่งออกหรือลบเรกคอร์ด
ข้อมูลเป็นพิษ ผู้โจมตีทําให้การฝึกอบรมหรือข้อมูลตามบริบทเสียหาย ทําให้เจ้าหน้าที่ตัดสินใจอย่างมีอคติ ไม่ถูกต้อง หรือไม่ปลอดภัย ชุดข้อมูลที่เป็นพิษทําให้ตัวแทนฝ่ายสนับสนุนลูกค้าแนะนําเนื้อหาที่เป็นอันตราย
ช่องโหว่ของห่วงโซ่อุปทาน เอเจนต์พึ่งพา API ภายนอก ปลั๊กอิน หรือตําแหน่งข้อมูลโมเดล เพื่อขยายพื้นผิวการโจมตี ปลั๊กอินของบุคคลที่สามที่ถูกบุกรุกจะแทรกโค้ดที่เป็นอันตรายลงในเวิร์กโฟลว์ของเอเจนต์
การพึ่งพาการกระทําที่เป็นอิสระมากเกินไป ตัวแทนที่มีความเป็นอิสระสูงอาจดําเนินการโดยไม่ได้ตั้งใจหากไม่ได้รับข้อจํากัดหรือตรวจสอบอย่างรอบคอบ ตัวแทนส่งการชําระเงินหรือเผยแพร่เนื้อหาที่ไม่ได้รับการยืนยันโดยไม่ได้ตั้งใจ
การตรวจสอบและการบันทึกไม่เพียงพอ หากไม่มีการบันทึกโดยละเอียด จะเป็นเรื่องยากที่จะติดตามการกระทําหรือตรวจพบพฤติกรรมที่เป็นอันตรายตั้งแต่เนิ่นๆ ทีมรักษาความปลอดภัยไม่สามารถระบุการใช้ข้อมูลในทางที่ผิดได้เนื่องจากบันทึกกิจกรรมขาดหายไป
การผกผันของโมเดลและการรั่วไหลของเอาต์พุต ผู้โจมตีอาจใช้ประโยชน์จากเอาต์พุตของโมเดลเพื่ออนุมานข้อมูลที่ละเอียดอ่อนที่ใช้ระหว่างการฝึกอบรมหรือการแจ้งเตือน คิวรีซ้ําจะดึงข้อมูลส่วนตัวจากชุดข้อมูลที่ปรับแต่งอย่างละเอียด

กลยุทธ์การบรรเทาผลกระทบ

เพื่อลดความเสี่ยงเหล่านี้ ให้ใช้แนวทางการรักษาความปลอดภัยโดยการออกแบบซึ่งรวมถึง:

  • การบังคับใช้การควบคุมการเข้าถึงตามบทบาท (RBAC) และสิทธิ์สิทธิ์ขั้นต่ํา
  • การเพิ่มเลเยอร์ การกรองและการตรวจสอบความถูกต้อง เพื่อป้องกันการโจมตีแบบแทรก
  • แซนด์บ็อกซ์หรือปิดกั้นการดําเนินการที่ละเอียดอ่อนเบื้องหลัง การอนุมัติแบบมนุษย์ในลูป
  • รักษา การบันทึกและการตรวจสอบย้อนกลับที่ครอบคลุม สําหรับการดําเนินการทั้งหมดของตัวแทน
  • การตรวจสอบการ พึ่งพา และการผสานรวมของบุคคลที่สามอย่างสม่ําเสมอ
  • การฝึกอบรมใหม่และตรวจสอบความถูกต้องของโมเดลอย่างต่อเนื่องเพื่อตรวจจับ การเบี่ยงเบนของข้อมูล หรือ ความพยายามในการวางยาพิษ

ด้วยการฝังแนวทางปฏิบัติเหล่านี้ในช่วงต้นของการพัฒนา คุณจะสามารถปรับใช้ตัวแทน AI ได้อย่างปลอดภัยและมั่นใจในสภาพแวดล้อมจริง

ภาพรวมของบริการตัวแทน Microsoft Foundry

Microsoft Foundry Agent Service เป็นบริการที่มีการจัดการเต็มรูปแบบที่ออกแบบมาเพื่อเพิ่มศักยภาพให้กับนักพัฒนาในการสร้าง ปรับใช้ และปรับขนาดตัวแทน AI คุณภาพสูงได้อย่างปลอดภัยโดยไม่ต้องจัดการทรัพยากรการประมวลผลและที่เก็บข้อมูลพื้นฐาน บริการนี้ช่วยให้คุณสร้างตัวแทนที่ปรับให้เหมาะกับความต้องการของคุณผ่านคําแนะนําที่กําหนดเองและเครื่องมือขั้นสูง

ก่อนหน้านี้ การสร้างประสบการณ์ที่เหมือนตัวแทนต้องใช้ความพยายามในการเขียนโค้ดอย่างมากโดยใช้ API มาตรฐาน Microsoft Foundry Agent Service จัดการกับความซับซ้อนผ่านอินเทอร์เฟซที่คล่องตัว ช่วยให้คุณสามารถสร้างตัวแทนผ่านพอร์ทัล Foundry หรือในแอปพลิเคชันของคุณเองด้วยโค้ดน้อยกว่า 50 บรรทัด

ชนิดของตัวแทน

Microsoft Foundry รองรับตัวแทนสองประเภทหลัก:

ตัวแทนประกาศ - ตัวแทนที่กําหนดผ่านการกําหนดค่าแทนที่จะเป็นโค้ด ตัวแทนประกาศมีสองรูปแบบ:

  • ตัวแทนตามพรอมต์ - ตัวแทนเดียวที่กําหนดค่าด้วยโมเดล คําแนะนํา เครื่องมือ และข้อความแจ้ง นี่เป็นประเภทที่พบบ่อยที่สุดและเป็นจุดสนใจของโมดูลนี้
  • ตัวแทนเวิร์กโฟลว์ - การประสานงานหลายตัวแทนที่กําหนดไว้ใน YAML ทําให้สามารถสร้างสถานการณ์ที่ซับซ้อนซึ่งตัวแทนหลายคนทํางานร่วมกันเพื่อทํางานให้เสร็จสมบูรณ์

ตัวแทนที่โฮสต์ - ตัวแทนคอนเทนเนอร์ที่สร้างและปรับใช้ในโค้ด จากนั้นโฮสต์โดยแพลตฟอร์ม Foundry ตัวแทนที่โฮสต์ช่วยให้คุณควบคุมตรรกะและการดําเนินการของตัวแทนได้อย่างเต็มที่ในขณะที่แพลตฟอร์มจัดการโครงสร้างพื้นฐาน

การทําความเข้าใจชนิดตัวแทนเหล่านี้ช่วยให้คุณเลือกแนวทางที่เหมาะสมสําหรับสถานการณ์ของคุณ โมดูลนี้มุ่งเน้นไปที่ตัวแทนตามพรอมต์แบบประกาศเป็นหลัก ซึ่งให้เส้นทางที่เข้าถึงได้มากที่สุดในการเริ่มต้นใช้งาน

คุณสมบัติหลักของ Microsoft Foundry Agent Service

บริการนี้มีความสามารถอันทรงพลังหลายประการ:

การเรียกใช้เครื่องมืออัตโนมัติ - บริการจะจัดการวงจรชีวิตการเรียกใช้เครื่องมือทั้งหมด รวมถึงการเรียกใช้แบบจําลอง การเรียกใช้เครื่องมือ และการส่งคืนผลลัพธ์ สิ่งนี้ช่วยขจัดโค้ดการรวมที่ซับซ้อน

ข้อมูลที่มีการจัดการอย่างปลอดภัย - สถานะการสนทนาได้รับการจัดการอย่างปลอดภัยผ่าน Responses API ซึ่งไม่จําเป็นต้องมีการจัดการสถานะด้วยตนเอง

แค็ตตาล็อกเครื่องมือที่ครอบคลุม - ชุดเครื่องมือในตัวและเครื่องมือชุมชนที่หลากหลายช่วยขยายความสามารถของตัวแทนนอกเหนือจากการสร้างข้อความ รวมถึงการเรียกใช้โค้ด การค้นหาไฟล์ การค้นหาเว็บ และการผสานรวมกับบริการ Azure และ API ภายนอก

การเลือกโมเดล - เลือก จากโมเดล AI ต่างๆ เพื่อให้ตรงกับความต้องการด้านประสิทธิภาพและต้นทุนของคุณ

การรักษาความปลอดภัยระดับองค์กร - บริการนี้รับประกันความเป็นส่วนตัวของข้อมูลและการปฏิบัติตามข้อกําหนดด้วยการจัดการข้อมูลที่ปลอดภัย

โซลูชันการจัดเก็บข้อมูลที่ปรับแต่งได้- ใช้ที่เก็บข้อมูลที่มีการจัดการโดยแพลตฟอร์มหรือนําที่เก็บข้อมูล Azure Blob ของคุณเองเพื่อการมองเห็นและการควบคุมอย่างเต็มที่

ความสามารถในการสังเกตและการติดตาม - ความสามารถในการตรวจสอบในตัวช่วยให้คุณติดตามพฤติกรรมของตัวแทน

คุณลักษณะเหล่านี้เป็นวิธีที่คล่องตัวและปลอดภัยในการสร้างและปรับใช้เอเจนต์ AI เมื่อเทียบกับการพัฒนาด้วย Inference API โดยตรง

Note

คุณสามารถสํารวจเพิ่มเติมเกี่ยวกับตัวแทนโดยทั่วไปด้วยข้อมูลพื้นฐานของโมดูลตัวแทน AI