ทดสอบ ปรับใช้ และรวมตัวแทน

เสร็จสมบูรณ์เมื่อ

Tip

ดูแท็บ ข้อความและรูปภาพ สําหรับรายละเอียดเพิ่มเติม!

การทดสอบ การปรับใช้ และการเผยแพร่เอเจนต์เป็นขั้นตอนสําคัญในการเปลี่ยนจากการพัฒนาไปสู่การผลิต Microsoft Foundry มีความสามารถที่ครอบคลุมสําหรับการตรวจสอบพฤติกรรมของตัวแทน การปรับใช้กับโครงการ Foundry ของคุณ และตัวแทนการเผยแพร่เป็นจุดสิ้นสุดที่เรียกได้ซึ่งผู้บริโภคและแอปพลิเคชันภายนอกสามารถใช้ได้

กลยุทธ์การทดสอบสําหรับตัวแทน

การทดสอบอย่างละเอียดช่วยให้มั่นใจได้ว่าตัวแทนของคุณทํางานได้อย่างน่าเชื่อถือในสถานการณ์ที่หลากหลายก่อนที่จะเข้าถึงผู้ใช้ ทั้งพอร์ทัล Foundry และส่วนขยาย Visual Studio Code มีสนามเด็กเล่นสําหรับการทดสอบแบบโต้ตอบ

การใช้สนามเด็กเล่นอย่างมีประสิทธิภาพ:

• การทดสอบเส้นทางที่มีความสุข - ตรวจสอบว่าเอเจนต์จัดการคําขอทั่วไปที่คาดหวังอย่างถูกต้อง
• การทดสอบกรณีและปัญหา Edge - ลองป้อนข้อมูลที่คลุมเครือ ข้อมูลที่ไม่สมบูรณ์ และคําขอที่ผิดปกติเพื่อเปิดเผยว่าตัวแทนจัดการกับความไม่แน่นอนอย่างไร
• การทดสอบขอบเขต - ยืนยันว่าตัวแทนเคารพขอบเขตที่กําหนดไว้ในคําแนะนําโดยการทดสอบคําขอที่อยู่นอกขอบเขต
• การทดสอบการสนทนาแบบหลายเทิร์น - ตรวจสอบว่าเจ้าหน้าที่รักษาบริบทในการแลกเปลี่ยนหลายครั้งและต่อยอดจากการตอบกลับก่อนหน้านี้
• การทดสอบการเรียกใช้เครื่องมือ - ตรวจสอบว่าเจ้าหน้าที่เรียกใช้เครื่องมือที่ถูกต้องในเวลาที่เหมาะสมและรวมผลลัพธ์อย่างถูกต้อง

บันทึกผลการทดสอบเพื่อติดตามการปรับปรุงและจับการถดถอย

การปรับใช้เอเจนต์กับโปรเจ็กต์ของคุณ

Microsoft Foundry สนับสนุนการปรับใช้ตัวแทนจากพอร์ทัลหรือ Visual Studio Code การปรับใช้จะบันทึกการกําหนดค่าเอเจนต์ของคุณไปยังโครงการ Foundry เพื่อให้คุณสามารถทดสอบและทําซ้ําได้

การปรับใช้จากพอร์ทัล Foundry

1. นําทางไปยังตัวแทนของคุณในพอร์ทัล Foundry
2. ตรวจสอบว่าการกําหนดค่าและผลการทดสอบเป็นที่น่าพอใจ
3. เลือก บันทึก จากหน้าของตัวแทน
4. ยืนยันการตั้งค่าเวอร์ชันและการปรับใช้

การปรับใช้จาก Visual Studio Code

1. เปิดตัวแทนของคุณในชุดเครื่องมือ AI
2. เลือก บันทึกไปยังโรงหล่อ เพื่อผลักดันการเปลี่ยนแปลงการกําหนดค่า
3. สําหรับตัวแทนที่เป็นโฮสต์ ให้เปิดเมนู +สร้าง ในเครื่องมือสําหรับนักพัฒนา แล้วเลือก ปรับใช้กับ Microsoft Foundry
4. เลือกการกําหนดค่าคอนเทนเนอร์ของคุณและยืนยัน

ทั้งสองวิธีทําให้ตัวแทนของคุณอยู่ในพื้นที่ทํางานโครงการของคุณซึ่งสมาชิกในทีมสามารถเข้าถึงและทดสอบได้

ตัวแทนการเผยแพร่ไปยังปลายทาง

การเผยแพร่จะย้ายตัวแทนจากพื้นที่ทํางานโครงการของคุณไปยังทรัพยากร Azure ที่มีการจัดการที่เรียกว่า แอปพลิเคชันตัวแทน ขั้นตอนนี้คือสิ่งที่ทําให้ตัวแทนของคุณสามารถโทรจากภายนอกผ่านปลายทางที่เสถียร

สิ่งที่การเผยแพร่สร้างขึ้น

เมื่อคุณเผยแพร่เวอร์ชันตัวแทน Foundry จะสร้าง:

• แอปพลิเคชันตัวแทน - ทรัพยากร Azure ที่มี URL การเรียกใช้ นโยบายการรับรองความถูกต้อง และข้อมูลประจําตัวของตัวแทน Entra ของตัวเอง
• การปรับใช้ - อินสแตนซ์ที่ทํางานอยู่ของเอเจนต์เวอร์ชันเฉพาะภายในแอปพลิเคชัน พร้อมการจัดการวงจรชีวิตเริ่มต้น/หยุด

ความแตกต่างที่สําคัญระหว่างการปรับใช้และการเผยแพร่คือขอบเขต การปรับใช้จะทําให้เอเจนต์อยู่ในโปรเจ็กต์ของคุณ การเผยแพร่จะสร้างจุดสิ้นสุดเฉพาะที่ผู้บริโภคภายนอกสามารถเรียกใช้ได้โดยไม่ต้องเข้าถึงโครงการ Foundry ของคุณ

การเผยแพร่จากพอร์ทัลโรงหล่อ

1. ในพอร์ทัล ให้เลือกเวอร์ชันของตัวแทนที่คุณต้องการเผยแพร่
2. เลือก เผยแพร่ เพื่อสร้างแอปพลิเคชันตัวแทนและการปรับใช้

การประกาศจาก Visual Studio Code

1. เปิด Command Palette (Ctrl+Shift+P) และเรียกใช้ Microsoft Foundry: ปรับใช้ตัวแทนที่เป็นโฮสต์ สําหรับตัวแทนที่เป็นโฮสต์
2. เลือกพื้นที่ทํางานเป้าหมายและการตั้งค่าคอนฟิกคอนเทนเนอร์
3. ยืนยันและปรับใช้

หลังจากเผยแพร่ ตัวแทนจะปรากฏในส่วน ตัวแทนที่เป็นโฮสต์ (พรีวิว) ของมุมมองแผนผังส่วนขยาย AI Toolkit

ตําแหน่งข้อมูลแอปพลิเคชันตัวแทน

เอเจนต์ที่เผยแพร่จะแสดงตําแหน่งข้อมูลที่เสถียรโดยใช้โปรโตคอล Responses API:

https://<foundry-resource-name>.services.ai.azure.com/api/projects/<project-name>/applications/<app-name>/protocols/openai/responses

URL นี้จะยังคงเหมือนเดิมแม้ว่าคุณจะเปิดตัวตัวแทนเวอร์ชันใหม่ ดังนั้นผู้บริโภคปลายทางจึงไม่ถูกรบกวนจากการอัปเดต

การรับรองความถูกต้องและข้อมูลประจําตัว

แอปพลิเคชันตัวแทนใช้ Microsoft Entra ID สําหรับการรับรองความถูกต้อง ผู้โทรต้องมีบทบาท ผู้ใช้ Azure AI ในทรัพยากรแอปพลิเคชันตัวแทน การรับรองความถูกต้องของคีย์ API ไม่ได้รับการสนับสนุนสําหรับแอปพลิเคชันตัวแทน

สำคัญ

เมื่อคุณเผยแพร่ตัวแทน จะได้รับข้อมูลประจําตัว Entra เฉพาะของตัวเอง ซึ่งแยกจากข้อมูลประจําตัวที่ใช้ร่วมกันของโครงการ สิทธิ์จะไม่ถ่ายโอนโดยอัตโนมัติ คุณต้องกําหนดบทบาท RBAC ใหม่ให้กับข้อมูลประจําตัวของตัวแทนใหม่สําหรับทรัพยากรใดๆ ที่เอเจนต์เข้าถึง หากคุณข้ามขั้นตอนนี้ การเรียกใช้เครื่องมือที่ทํางานระหว่างการพัฒนาจะล้มเหลวโดยมีข้อผิดพลาดในการให้สิทธิ์เมื่อเผยแพร่เอเจนต์

การตรวจสอบปลายทาง

หลังจากเผยแพร่แล้ว ให้ตรวจสอบว่าปลายทางทํางาน:

1. รับโทเค็นเพื่อการเข้าถึง

   az account get-access-token --resource https://ai.azure.com
   

2. เรียกตําแหน่งข้อมูลแอปพลิเคชันตัวแทน:

   curl -X POST \
     "https://<foundry-resource-name>.services.ai.azure.com/api/projects/<project-name>/applications/<app-name>/protocols/openai/responses?api-version=2025-11-15-preview" \
     -H "Authorization: Bearer <access-token>" \
     -H "Content-Type: application/json" \
     -d '{"input":"Say hello"}'
   

ถ้าคุณได้รับ 403 Forbiddenยืนยันว่าผู้โทรมีบทบาท ผู้ใช้ Azure AI ในทรัพยากรแอปพลิเคชันตัวแทน

การอัปเดตตัวแทนที่เผยแพร่

วิธีเปิดตัวเอเจนต์เวอร์ชันใหม่:

1. ทําการเปลี่ยนแปลงในสภาพแวดล้อมการพัฒนาของคุณและทดสอบอย่างละเอียด
2. ในพอร์ทัล Foundry ให้เลือก เผยแพร่การอัปเดต จาก Playground ตัวแทน
3. แอปพลิเคชันเอเจนต์กําหนดเส้นทางการรับส่งข้อมูล 100% ไปยังเวอร์ชันใหม่โดยอัตโนมัติ

URL ปลายทางยังคงไม่เปลี่ยนแปลง ดังนั้นการผสานรวมที่มีอยู่จึงยังคงทํางานต่อไป

การสร้างโค้ดการรวม

ส่วนขยาย Microsoft Foundry VS Code สร้างรหัสการรวมตัวอย่างเพื่อเชื่อมต่อแอปพลิเคชันของคุณกับตัวแทนที่เผยแพร่:

1. เลือกเอเจนต์ที่ปรับใช้ของคุณในมุมมอง ทรัพยากรของฉัน
2. เลือก ดูรหัส
3. เลือกโฟลเดอร์ของคุณ
4. ส่วนขยายสร้างรหัสสําหรับการตรวจสอบสิทธิ์ เชื่อมต่อ ส่งข้อความ และประมวลผลการตอบกลับ

รูปแบบการผนวกรวม

รูปแบบทั่วไปสําหรับการรวมตัวแทนที่เผยแพร่ ได้แก่:

• เว็บแอปพลิเคชัน - ส่งข้อความผู้ใช้ไปยังปลายทาง Responses API และแสดงการตอบกลับใน UI จัดเก็บประวัติการสนทนาฝั่งไคลเอ็นต์สําหรับการโต้ตอบแบบหลายเทิร์น
• เวิร์กโฟลว์ที่ขับเคลื่อนด้วย API - เรียกใช้ปลายทางของตัวแทนจากบริการแบ็กเอนด์ที่ทริกเกอร์โดยเหตุการณ์หรือกําหนดการ ประมวลผลการตอบสนองโดยทางโปรแกรมเพื่อขับเคลื่อนการดําเนินการดาวน์สตรีม
• อินเทอร์เฟซแชทบอ ท - แมปเซสชันผู้ใช้กับการสนทนา จัดการการแลกเปลี่ยนข้อความแบบเรียลไทม์ผ่านปลายทาง
• ระบบอัตโนมัติเบื้องหลัง - กําหนดเวลาการโทรหาตัวแทนสําหรับงานที่เกิดซ้ํา ป้อนข้อมูลระบบไปยังตัวแทนและประมวลผลผลลัพธ์เพื่ออัปเดตระบบธุรกิจ

ข้อควรพิจารณาในการผลิต

การเรียกใช้ตัวแทนในการผลิตต้องให้ความสนใจกับพื้นที่ปฏิบัติการหลายประการ:

• การตรวจสอบ - ติดตามเวลาตอบสนอง อัตราความสําเร็จในการเรียกใช้เครื่องมือ รูปแบบข้อผิดพลาด และการใช้โทเค็นโดยใช้การรวม Application Insights
• ความปลอดภัย - ใช้ข้อมูลประจําตัวที่มีการจัดการสําหรับการรับรองความถูกต้อง
• การจัดการต้นทุน - ตรวจสอบการใช้โทเค็น กําหนดขีดจํากัดความยาวการตอบสนอง และใช้การจํากัดอัตราเพื่อป้องกันการพุ่งสูงขึ้นโดยไม่คาดคิด
• การจัดการข้อผิดพลาด - ใช้ตรรกะการลองใหม่ด้วยการแบ็คออฟแบบเอ็กซ์โพเนนเชียลสําหรับความล้มเหลวชั่วคราว จัดการกับการจํากัดอัตราด้วยกลยุทธ์การแบ็คออฟ ตรวจสอบอินพุตก่อนส่งไปยังตัวแทน
• การจัดการการสนทนา - ตําแหน่งข้อมูลแอปพลิเคชันตัวแทนในปัจจุบันรองรับเฉพาะ API การตอบกลับแบบไร้สถานะเท่านั้น จัดเก็บประวัติการสนทนาในไคลเอ็นต์ของคุณเพื่อประสบการณ์หลายเทิร์น