หมายเหตุ
การเข้าถึงหน้านี้ต้องได้รับการอนุญาต คุณสามารถลอง ลงชื่อเข้าใช้หรือเปลี่ยนไดเรกทอรีได้
การเข้าถึงหน้านี้ต้องได้รับการอนุญาต คุณสามารถลองเปลี่ยนไดเรกทอรีได้
Important
คุณลักษณะนี้อยู่ในตัวอย่าง
Microsoft Fabric ช่วยให้คุณให้บริการการทํานายแบบเรียลไทม์จากโมเดล ML โดยใช้อุปกรณ์ปลายทางออนไลน์ที่ปลอดภัย ขยายได้ และใช้งานง่าย โมเดล Fabric ส่วนใหญ่มีอุปกรณ์เหล่านี้เป็นคุณสมบัติในตัว และไม่ต้องตั้งค่าเพื่อเริ่มการติดตั้งแบบเรียลไทม์ที่จัดการเต็มรูปแบบ
คุณสามารถเปิดใช้งาน กําหนดค่า และสอบถามจุดสิ้นสุดของโมเดลโดยใช้ REST API ที่เปิดเผยต่อสาธารณะ คุณยังสามารถเริ่มต้นใช้งานโดยตรงจากอินเทอร์เฟซ Fabric โดยใช้ประสบการณ์ low-code เพื่อเปิดใช้งานจุดสิ้นสุดของโมเดลและดูตัวอย่างการทํานายได้ทันที
Prerequisites
- tenant ของคุณเปิดใช้งานจุดสิ้นสุดของโมเดลการเรียนรู้ของเครื่องโดยค่าเริ่มต้น หากผู้ดูแลระบบของคุณต้องการปิดใช้งานคุณลักษณะนี้ พวกเขาสามารถปิด สวิตช์ผู้เช่าสําหรับปลายทางแบบจําลอง ML ในพอร์ทัลผู้ดูแลระบบ Fabric
Limitations
- จุดสิ้นสุดพร้อมใช้งานสําหรับชุดที่จํากัดของรูปแบบ ML รสชาติ รวมถึง Keras, LightGBM, Sklearn และ XGBoost
- ขณะนี้ปลายทางไม่ พร้อมใช้งาน สําหรับโมเดลที่มีสคีมาที่ใช้เทนเซอร์หรือไม่มีสคีมา
Note
อุปกรณ์การเรียนรู้ของเครื่องรองรับโมเดลที่ฝึกด้วย AutoML
เริ่มต้นใช้งานจุดสิ้นสุดแบบจําลอง
โมเดล ML ใน Fabric มาพร้อมกับอุปกรณ์เชื่อมต่อออนไลน์ที่คุณสามารถใช้ในการทํานายแบบเรียลไทม์ แต่ละเวอร์ชันของโมเดลที่ลงทะเบียนจะมี URL จุดสิ้นสุดเฉพาะ ซึ่งคุณสามารถดูได้ในหัวข้อรายละเอียดจุดปลายทางในอินเทอร์เฟซ Fabric URL นี้ลงท้ายด้วยซับพาธที่ระบุเวอร์ชันเฉพาะ (เช่น /versions/1/score)
จุดสิ้นสุดของแบบจําลองมีคุณสมบัติต่อไปนี้:
| Property | Description | Default |
|---|---|---|
| เวอร์ชันเริ่มต้น | คุณสมบัตินี้ (Yes หรือ No) ระบุว่าเวอร์ชันนั้นถูกตั้งค่าเป็นค่าเริ่มต้นของโมเดลสําหรับการให้บริการการทํานายจริงหรือไม่ คุณสามารถ ปรับแต่งเวอร์ชันเริ่มต้น ในการตั้งค่าของแบบจําลอง |
No |
| Status | คุณสมบัตินี้ระบุว่าจุดสิ้นสุดพร้อมที่จะรองรับการคาดการณ์หรือไม่ สถานะอาจเป็น Inactive, Activating, Active, , DeactivatingหรือFailed เฉพาะจุดสิ้นสุดที่ใช้งานอยู่เท่านั้นที่สามารถตอบสนองการคาดการณ์ได้ |
Inactive |
| สลีปอัตโนมัติ | คุณสมบัตินี้ (On หรือ Off) ระบุว่าเมื่อจุดสิ้นสุดเปิดใช้งานแล้ว ควรปรับขนาดการใช้ความจุลงเป็นศูนย์ในกรณีที่ไม่มีปริมาณการใช้งาน ถ้าโหมดสลีปอัตโนมัติเปิดอยู่ ปลายทางจะเข้าสู่สถานะว่างหลังจากห้านาทีโดยไม่มีคําขอเข้ามา การเรียกครั้งแรกเพื่อตื่นขึ้นมาจุดสิ้นสุดที่ไม่ได้ใช้งานเกี่ยวข้องกับการหน่วงเวลาสั้น ๆ |
On |
เรียกใช้ปลายทางของแบบจําลอง
คุณสามารถเปิดใช้งานตําแหน่งข้อมูลแบบจําลองได้โดยตรงจากอินเทอร์เฟซ Fabric ไปที่เวอร์ชันที่คุณต้องการใช้สําหรับการทํานายแบบเรียลไทม์และเลือก เปิดใช้งานจุดสิ้นสุดเวอร์ชัน จากริบบอน
ข้อความ toast แสดงว่า Fabric กําลังเตรียมอุปกรณ์ปลายทางของคุณเพื่อให้บริการการทํานาย และสถานะของจุดปลายทางจะเปลี่ยนเป็น Activating. เบื้องหลัง Fabric จะเริ่มโครงสร้างพื้นฐานของคอนเทนเนอร์เพื่อโฮสต์โมเดลของคุณ ภายในไม่กี่นาที จุดสิ้นสุดของคุณพร้อมที่จะรองรับการคาดการณ์
ทุกอุปกรณ์ปลายทางมีสถานะที่บ่งบอกว่าพร้อมให้บริการการทํานายแบบเรียลไทม์หรือไม่:
| Status | Description |
|---|---|
Inactive |
endpoint ไม่ได้ถูกเปิดใช้งานเพื่อให้บริการการทํานายแบบเรียลไทม์ และไม่ได้ใช้ความจุของ Fabric |
Activating |
จุดสิ้นสุดจะถูกกําหนดค่าเพื่อตอบสนองการคาดการณ์แบบเรียลไทม์ เบื้องหลัง Fabric ตั้งค่าโครงสร้างพื้นฐานคอนเทนเนอร์พื้นฐานเพื่อโฮสต์โมเดล ภายในไม่กี่นาที จุดสิ้นสุดจะเปิดใช้งาน |
Active |
จุดสิ้นสุดพร้อมที่จะรองรับการทํานายแบบเรียลไทม์ เบื้องหลัง Fabric จัดการโครงสร้างพื้นฐานพื้นฐาน โดยขยายการใช้ทรัพยากรตามการรับส่งข้อมูลที่เข้ามา การรับส่งข้อมูลที่สูงขึ้นส่งผลให้การใช้ความจุ Fabric สูงขึ้น |
Deactivating |
ปลายทางถูกปิดใช้งาน จึงไม่สามารถให้บริการการทํานายแบบเรียลไทม์หรือใช้ความจุของ Fabric ได้อีกต่อไป เบื้องหลัง Fabric รื้อโครงสร้างพื้นฐานคอนเทนเนอร์พื้นฐาน |
Note
แบบจําลอง ML สามารถรองรับจุดสิ้นสุดที่ใช้งานอยู่ได้สูงสุดห้าเวอร์ชันในครั้งเดียว หากต้องการรองรับการคาดการณ์จากเวอร์ชันที่หก คุณต้อง ปิดใช้งานจุดสิ้นสุดที่ใช้งานอยู่ก่อน
จัดการจุดสิ้นสุดแบบจําลอง
หากต้องการดูภาพรวมของจุดสิ้นสุดที่ใช้งานอยู่ของโมเดลของคุณ ให้เลือก จัดการจุดปลาย ทางจากริบบอนในอินเทอร์เฟซ ทุกแบบจําลองมีจุดสิ้นสุดเริ่มต้นที่สามารถปรับแต่งได้ซึ่งทําหน้าที่คาดการณ์จากเวอร์ชันที่คุณเลือก คุณสามารถอัปเดตเวอร์ชันเริ่มต้นได้โดยใช้ตัวเลือกแบบเลื่อนลงในบานหน้าต่างการตั้งค่า
Important
ตั้งค่าคุณสมบัติเริ่มต้นเป็นเวอร์ชันที่ใช้งานอยู่หากคุณวางแผนจะใช้ หากคุณไม่ได้ตั้งค่าคุณสมบัติเริ่มต้น หรือตั้งค่าเป็นเวอร์ชันที่ไม่ใช้งาน การเรียกไปยังจุดปลายทางเริ่มต้นจะล้มเหลว
การตั้งค่าปลายทางของโมเดลจะแสดงทุกเวอร์ชันที่มีปลายปลายที่ใช้งานอยู่ คุณสามารถแก้ไขคุณสมบัติการนอนอัตโนมัติของแต่ละปลายทางได้โดยสลับสวิตช์เป็น เปิด หรือ ปิด
Tip
อุปกรณ์ปลายทางที่เปิดใช้งานโหมดสลีปอัตโนมัติจะเข้าสู่สถานะว่างหลังจากไม่มีการใช้งานเป็นเวลา 5 นาที การโทรครั้งแรกเพื่อปลุกพวกเขาต้องรอเวลาสั้นๆ คุณอาจต้องการปิดคุณสมบัตินี้สําหรับจุดปลายทางในกระบวนการผลิต
จุดสิ้นสุดของแบบจําลองคิวรีสําหรับการคาดการณ์แบบเรียลไทม์
คุณสามารถทดสอบจุดสิ้นสุดของโมเดลได้ทันทีโดยใช้ประสบการณ์ low-code ใน Fabric ไปยังเวอร์ชันที่มีจุดสิ้นสุดที่ใช้งานอยู่และเลือก ดูตัวอย่างการทํานาย จากริบบอนในอินเทอร์เฟซ คุณสามารถส่งคําขอตัวอย่างไปยังจุดสิ้นสุดและรับการทํานายตัวอย่างแบบเรียลไทม์โดยใช้ฟิลด์ฟอร์มที่ตรงกับลายเซ็นอินพุตของโมเดล
เลือก เติมข้อมูลอัตโนมัติ เพื่อเติมข้อมูลในฟิลด์แบบฟอร์มด้วยค่าตัวอย่างแบบสุ่ม คุณสามารถเพิ่มชุดค่าของฟอร์มเพิ่มเติมเพื่อทดสอบจุดสิ้นสุดด้วยอินพุตหลายรายการ เลือก รับการทํานาย เพื่อส่งจุดสิ้นสุดไปยังคําขอตัวอย่างของคุณ
ถ้าคุณต้องการจัดรูปแบบคําขอตัวอย่างเป็นส่วนข้อมูล JSON ให้ใช้ตัวเลือกแบบเลื่อนลงเพื่อเปลี่ยนมุมมอง
ยกเลิกการเรียกใช้ปลายทางของแบบจําลอง
คุณสามารถปิดใช้งานจุดสิ้นสุดแบบจําลองได้โดยตรงจากอินเทอร์เฟซ Fabric ไปยังเวอร์ชันที่คุณไม่ต้องการเพื่อให้บริการการทํานายแบบเรียลไทม์ และเลือก ปิดการใช้งานจุดสิ้นสุดเวอร์ชัน จากริบบอนในอินเทอร์เฟซ
ข้อความ toast แสดงว่า Fabric กําลังรื้อถอนการติดตั้งที่ใช้งานอยู่ของคุณ และสถานะของจุดปลายทางเปลี่ยนเป็น Deactivating. ปลายทางไม่สามารถทํานายแบบเรียลไทม์ได้ถ้าคุณไม่เปิดใช้งานมันใหม่
คุณสามารถปิดใช้งานปลายทางสําหรับหลายเวอร์ชันพร้อมกันได้จากบานหน้าต่างการตั้งค่าของแบบจําลอง เลือก จัดการจุดสิ้นสุด (Manage endpoints ) จากริบบอนในอินเทอร์เฟซ และเลือกจุดปลายทางที่ใช้งานอยู่หนึ่งจุดหรือมากกว่าเพื่อปิดใช้งาน
อัตราปริมาณการใช้
การโฮสต์ตําแหน่งข้อมูลแบบจําลองที่ใช้งานอยู่จะใช้ Fabric Capacity Units (CU) ปลายทางทํางานบนโหนดการประมวลผลและสามารถปรับขนาดได้สูงสุดสามโหนดโดยอัตโนมัติตามการรับส่งข้อมูลขาเข้า การเรียกเก็บเงินจะคํานวณต่อโหนดในขณะที่ปลายทางทํางานอยู่ ตารางต่อไปนี้แสดงการใช้ CU สําหรับจุดสิ้นสุดโมเดล ML ที่ใช้งานอยู่
| การดำเนินการ | หน่วยวัดการดําเนินงาน |
อัตราปริมาณการใช้ |
|---|---|---|
| จุดสิ้นสุดของโมเดล | 1 ระดับจุดสิ้นสุด (เวอร์ชัน) ต่อวินาทีต่อโหนด | 5 CU วินาที |
ตารางต่อไปนี้แสดงตัวอย่างสถานการณ์และอัตราการบริโภคและต้นทุนรายชั่วโมงที่เกี่ยวข้อง
| สถานการณ์สมมติ | Description | อัตราปริมาณการใช้ |
ค่าใช้จ่ายรายชั่วโมง |
|---|---|---|---|
| โมเดลที่มีปลายทางที่ไม่ได้ใช้งาน | โมเดลเหล่านี้ไม่มีตําแหน่งข้อมูลเวอร์ชันที่ใช้งานอยู่และไม่มีการใช้ทรัพยากรที่เกี่ยวข้อง พวกเขาไม่มีค่าใช้จ่ายเพิ่มเติม | 0 CU วินาที | 0 CU ชั่วโมง |
| โมเดลที่มีปลายทางที่ใช้งานอยู่แต่ไม่ได้ใช้งาน | โมเดลเหล่านี้มีอุปกรณ์ปลายทางเวอร์ชันที่ใช้งานอยู่หนึ่งจุดขึ้นไป แต่หากไม่มีทราฟฟิกประจํา จุดเชื่อมต่อทั้งหมดจะขยายเป็นศูนย์ ลดต้นทุนโดยอัตโนมัติ | 5 CU วินาที | 0.42 CU ชั่วโมง |
| รุ่นที่มี 1 ปลายทางที่ใช้งานอยู่และปริมาณการใช้งานต่ําคงที่ | โมเดลเหล่านี้มีปลายทางเวอร์ชันที่ใช้งานอยู่เพียง 1 รายการที่ให้บริการการคาดการณ์ แต่ไม่มีการรับส่งข้อมูลเพียงพอที่จะทริกเกอร์การขยายขนาดเต็มรูปแบบ โหนดเดียวสามารถให้บริการการรับส่งข้อมูลทั้งหมดได้ อุปกรณ์ปลายทางเวอร์ชันอื่น ๆ อาจไม่ทํางานหรือไม่ได้ใช้งาน | 5 CU วินาที | ชั่วโมง 5 CU |
| รุ่นที่มี 1 ปลายทางที่ใช้งานอยู่และปริมาณการใช้งานสูงคงที่ | โมเดลเหล่านี้มีเพียงเวอร์ชันเดียวที่ให้บริการการทํานายจุดปลายทาง โดยมีปริมาณการใช้งานเพียงพอที่จะทําให้เกิดการขยายขนาดเต็มรูปแบบ อุปกรณ์ปลายทางเวอร์ชันอื่น ๆ อาจไม่ทํางานหรือไม่ได้ใช้งาน | 15 CU วินาที | ชั่วโมง 15 CU |
| รุ่นที่มี 5 ปลายทางที่ใช้งานอยู่และการรับส่งข้อมูลสูงคงที่ | โมเดลเหล่านี้มีตําแหน่งข้อมูลเวอร์ชันที่ใช้งานอยู่ 5 ตําแหน่ง (ขีดจํากัดปัจจุบัน) ที่ให้บริการการคาดการณ์ โดยแต่ละรุ่นมีการรับส่งข้อมูลเพียงพอที่จะทริกเกอร์การขยายขนาดเต็มรูปแบบ | 75 CU วินาที | ชั่วโมง 75 CU |
แอปเมตริกความจุ Fabric แสดงการใช้ความจุทั้งหมดสําหรับการดําเนินการปลายทางแบบจําลองภายใต้ชื่อ "จุดสิ้นสุดแบบจําลอง" นอกจากนี้ ผู้ใช้ยังสามารถดูสรุปค่าบริการเรียกเก็บเงินสําหรับการใช้งาน Model Endpoint ภายใต้รายการใบแจ้งหนี้ "ML Model Endpoint Capacity Usage CU"
การดําเนินการปลายทางของโมเดลถูกจัดประเภทเป็นการดําเนินการเบื้องหลัง
อัตราปริมาณการใช้อาจเปลี่ยนแปลงได้ตลอดเวลา Microsoft ใช้ความพยายามอย่างสมเหตุสมผลในการแจ้งให้ทราบผ่านทางอีเมลหรือผ่านการแจ้งเตือนในผลิตภัณฑ์ การเปลี่ยนแปลงจะมีผลในวันที่ที่ระบุไว้ในบันทึกการปล่อยของ Microsoft หรือบล็อก Microsoft Fabric ถ้ามีการเปลี่ยนแปลงใดๆ กับจุดสิ้นสุดแบบจําลองใน Fabric Consumption Rate จะเพิ่มหน่วยความจุ (CU) ที่จําเป็นในการใช้งานอย่างมีนัยสําคัญ ลูกค้าสามารถใช้ตัวเลือกการยกเลิกที่พร้อมใช้งานสําหรับวิธีการชําระเงินที่เลือก
เนื้อหาที่เกี่ยวข้อง
- จัดการและสอบถามอุปกรณ์ปลายทางด้วยโปรแกรมโดยใช้ REST API ของโมเดล ML
- เรียกตําแหน่งข้อมูลแบบจําลองจาก Dataflow Gen2 เพื่อเพิ่มความสมบูรณ์ของข้อมูลแบบเรียลไทม์
- สร้างการทํานายแบบแบตช์โดยใช้
PREDICTฟังก์ชันในสมุดบันทึก Fabric - เรียนรู้เพิ่มเติมเกี่ยวกับการฝึกอบรมและการทดลองแบบจําลอง ใน Fabric
- เราพลาดคุณลักษณะที่คุณต้องการหรือไม่ แนะนําในฟอรัมไอเดีย Fabric