หมายเหตุ
การเข้าถึงหน้านี้ต้องได้รับการอนุญาต คุณสามารถลอง ลงชื่อเข้าใช้หรือเปลี่ยนไดเรกทอรีได้
การเข้าถึงหน้านี้ต้องได้รับการอนุญาต คุณสามารถลองเปลี่ยนไดเรกทอรีได้
Important
คุณลักษณะนี้อยู่ในตัวอย่าง
Microsoft Fabric ช่วยให้คุณสามารถใช้การคาดการณ์แบบเรียลไทม์จากแบบจําลอง ML ที่มีจุดสิ้นสุดออนไลน์ที่ปลอดภัย ปรับขนาดได้ และใช้งานง่าย จุดสิ้นสุดเหล่านี้พร้อมใช้งานเป็นคุณสมบัติในตัวของแบบจําลอง Fabric ส่วนใหญ่และพวกเขาไม่จําเป็นต้องมีการตั้งค่าเพื่อเริ่มต้นการปรับใช้แบบเรียลไทม์ที่มีการจัดการอย่างสมบูรณ์
คุณสามารถเปิดใช้งาน กําหนดค่า และคิวรีจุดสิ้นสุดแบบจําลองด้วย REST API ที่เชื่อมต่อกับสาธารณะได้ คุณยังสามารถเริ่มต้นได้โดยตรงจากอินเทอร์เฟซ Fabric โดยใช้ประสบการณ์โค้ดต่ําเพื่อเปิดใช้งานจุดสิ้นสุดของแบบจําลองและการคาดการณ์การแสดงตัวอย่างได้ทันที
Prerequisites
- เพื่อใช้การคาดการณ์แบบเรียลไทม์ ผู้ดูแลระบบของคุณต้องเปิดใช้งาน สวิตช์ผู้เช่าสําหรับจุดสิ้นสุดแบบจําลอง ML ในพอร์ทัลผู้ดูแลระบบ Fabric
Limitations
- จุดสิ้นสุดพร้อมใช้งานสําหรับชุดที่จํากัดของรูปแบบ ML รสชาติ รวมถึง Keras, LightGBM, Sklearn และ XGBoost
- ขณะนี้ปลายทางไม่ พร้อมใช้งาน สําหรับโมเดลที่มีสคีมาที่ใช้เทนเซอร์หรือไม่มีสคีมา
เริ่มต้นใช้งานจุดสิ้นสุดแบบจําลอง
แบบจําลอง ML ใน Fabric มาพร้อมกับจุดสิ้นสุดออนไลน์ที่สามารถใช้เพื่อให้บริการการคาดการณ์แบบเรียลไทม์ แบบจําลองที่ลงทะเบียนแต่ละเวอร์ชันมี URL จุดสิ้นสุดเฉพาะ ซึ่งสามารถพบได้ภายใต้หัวข้อ "รายละเอียดจุดสิ้นสุด" ในอินเทอร์เฟซ Fabric URL นี้ลงท้ายด้วยเส้นทางย่อยที่กําหนดเวอร์ชันเฉพาะนั้น (ตัวอย่างเช่น /versions/1/score)
จุดสิ้นสุดของแบบจําลองมีคุณสมบัติต่อไปนี้:
| Property | Description | Default |
|---|---|---|
| เวอร์ชันเริ่มต้น | คุณสมบัตินี้ (Yes หรือ No) ระบุว่าเวอร์ชันถูกตั้งค่าเป็นค่าเริ่มต้นของแบบจําลองสําหรับให้บริการการคาดการณ์จริงหรือไม่ คุณสามารถ ปรับแต่งเวอร์ชันเริ่มต้น ในการตั้งค่าของแบบจําลอง |
No |
| Status | คุณสมบัตินี้ระบุว่าจุดสิ้นสุดพร้อมที่จะรองรับการคาดการณ์หรือไม่ สถานะอาจเป็น Inactive, Activating, Active, , DeactivatingหรือFailed เฉพาะจุดสิ้นสุดที่ใช้งานอยู่เท่านั้นที่สามารถตอบสนองการคาดการณ์ได้ |
Inactive |
| สลีปอัตโนมัติ | คุณสมบัตินี้ (On หรือ Off) ระบุว่าเมื่อจุดสิ้นสุดเปิดใช้งานแล้ว ควรปรับขนาดการใช้ความจุลงเป็นศูนย์ในกรณีที่ไม่มีปริมาณการใช้งาน ถ้าโหมดสลีปอัตโนมัติเปิดอยู่ จุดสิ้นสุดจะเข้าสู่สถานะไม่ได้ใช้งานหลังจากห้านาทีโดยไม่มีคําขอขาเข้า การเรียกครั้งแรกเพื่อตื่นขึ้นมาจุดสิ้นสุดที่ไม่ได้ใช้งานเกี่ยวข้องกับการหน่วงเวลาสั้น ๆ |
On |
เรียกใช้ปลายทางของแบบจําลอง
คุณสามารถเปิดใช้งานจุดสิ้นสุดแบบจําลองได้โดยตรงจากอินเทอร์เฟซ Fabric นําทางไปยังเวอร์ชันที่คุณต้องการใช้งานการคาดการณ์แบบเรียลไทม์ และเลือก "เปิดใช้งานจุดสิ้นสุดเวอร์ชัน" จากริบบิ้น
ข้อความ toast แสดงว่า Fabric กําลังเตรียมจุดสิ้นสุดของคุณให้พร้อมสําหรับการทํานาย และสถานะของจุดสิ้นสุดเปลี่ยนไปเป็น "เปิดใช้งาน" ในเบื้องหลัง Fabric หมุนโครงสร้างพื้นฐานคอนเทนเนอร์พื้นฐานเพื่อโฮสต์แบบจําลองของคุณ ภายในไม่กี่นาที จุดสิ้นสุดของคุณพร้อมที่จะรองรับการคาดการณ์
ทุกจุดสิ้นสุดมีสถานะที่ระบุว่าพร้อมสําหรับให้บริการการคาดการณ์แบบเรียลไทม์หรือไม่:
| Status | Description |
|---|---|
Inactive |
จุดสิ้นสุดไม่ได้ถูกเปิดใช้งานเพื่อรองรับการทํานายแบบเรียลไทม์และไม่ได้ใช้ความจุ Fabric |
Activating |
จุดสิ้นสุดจะถูกกําหนดค่าเพื่อตอบสนองการคาดการณ์แบบเรียลไทม์ ในเบื้องหลัง Fabric ตั้งค่าโครงสร้างพื้นฐานคอนเทนเนอร์เบื้องต้นเพื่อโฮสต์แบบจําลอง ภายในไม่กี่นาที จุดสิ้นสุดจะเปิดใช้งาน |
Active |
จุดสิ้นสุดพร้อมที่จะรองรับการทํานายแบบเรียลไทม์ ในเบื้องหลัง Fabric จัดการโครงสร้างพื้นฐานพื้นฐาน ปรับมาตราส่วนการใช้ทรัพยากรตามปริมาณการใช้งานที่เข้ามา ผลลัพธ์ปริมาณการใช้งานที่สูงขึ้นในการใช้งานความจุของผ้าสูงขึ้น |
Deactivating |
จุดสิ้นสุดจะถูกปิดใช้งานเพื่อไม่ให้ทําหน้าที่คาดการณ์แบบเรียลไทม์หรือใช้ความจุ Fabric อีกต่อไป ในเบื้องหลัง Fabric จะแยกส่วนโครงสร้างพื้นฐานคอนเทนเนอร์เบื้องต้น |
Note
แบบจําลอง ML สามารถรองรับจุดสิ้นสุดที่ใช้งานอยู่ได้สูงสุดห้าเวอร์ชันในครั้งเดียว หากต้องการรองรับการคาดการณ์จากเวอร์ชันที่หก คุณต้อง ปิดใช้งานจุดสิ้นสุดที่ใช้งานอยู่ก่อน
จัดการจุดสิ้นสุดแบบจําลอง
สําหรับภาพรวมของจุดสิ้นสุดที่ใช้งานอยู่ของแบบจําลองของคุณ เลือก "จัดการจุดสิ้นสุด" จากริบบิ้นในอินเทอร์เฟซ ทุกแบบจําลองมีจุดสิ้นสุดเริ่มต้นที่สามารถปรับแต่งได้ซึ่งทําหน้าที่คาดการณ์จากเวอร์ชันที่คุณเลือก คุณสามารถอัปเดตเวอร์ชันเริ่มต้นโดยใช้ตัวเลือกแบบเลื่อนลงในบานหน้าต่างการตั้งค่า
Important
ตรวจสอบให้แน่ใจว่าได้ตั้งค่าคุณสมบัติเริ่มต้นเป็นเวอร์ชันที่ใช้งานอยู่ถ้าคุณวางแผนที่จะใช้ ถ้าไม่ได้ตั้งค่าคุณสมบัติเริ่มต้นหรือถูกตั้งค่าเป็นเวอร์ชันที่ไม่ได้ใช้งาน การเรียกไปยังจุดสิ้นสุดเริ่มต้นจะล้มเหลว
เวอร์ชันทั้งหมดที่มีจุดสิ้นสุดที่ใช้งานอยู่จะแสดงอยู่ภายใต้การตั้งค่าจุดสิ้นสุดของแบบจําลอง คุณสามารถปรับเปลี่ยนคุณสมบัติการสลีปอัตโนมัติของแต่ละจุดสิ้นสุดได้โดยการสลับตัวสลับเป็น "เปิด" หรือ "ปิด"
Tip
จุดสิ้นสุดที่ใช้งานอยู่ที่มีการเปิดใช้การสลีปอัตโนมัติจะเปิดเข้าสู่สถานะไม่ได้ใช้งานหลังจากห้านาทีโดยไม่มีปริมาณการใช้งานและการเรียกใช้ครั้งแรกเพื่อปลุกพวกเขาขึ้นมาเกี่ยวข้องกับการหน่วงเวลาสั้น ๆ คุณอาจต้องการปิดคุณสมบัตินี้สําหรับจุดสิ้นสุดในการผลิต
จุดสิ้นสุดของแบบจําลองคิวรีสําหรับการคาดการณ์แบบเรียลไทม์
จุดสิ้นสุดแบบจําลองพร้อมใช้งานสําหรับการทดสอบทันทีด้วยประสบการณ์การใช้งานรหัสต่ําใน Fabric นําทางไปยังเวอร์ชันที่มีจุดสิ้นสุดที่ใช้งานอยู่และเลือก "แสดงตัวอย่างการคาดการณ์" จากริบบิ้นในอินเทอร์เฟซ คุณสามารถส่งคําขอตัวอย่างไปยังจุดสิ้นสุดและรับการคาดการณ์ตัวอย่างในแบบเรียลไทม์— โดยใช้เขตข้อมูลฟอร์มที่ตรงกับลายเซ็นสําหรับการป้อนข้อมูลของแบบจําลอง
เมื่อต้องการเติมเขตข้อมูลฟอร์มด้วยค่าตัวอย่างแบบสุ่ม ให้เลือก "การเติมอัตโนมัติ" คุณสามารถเพิ่มชุดของค่าแบบฟอร์มเพิ่มเติมเพื่อทดสอบจุดสิ้นสุดด้วยข้อมูลป้อนเข้าหลายรายการได้ เลือก "รับการคาดการณ์" เพื่อส่งจุดสิ้นสุดของคําขอตัวอย่างของคุณ
ถ้าคุณต้องการจัดรูปแบบคําขอตัวอย่างเป็นส่วนข้อมูล JSON ให้ใช้ตัวเลือกแบบเลื่อนลงเพื่อเปลี่ยนมุมมอง
ยกเลิกการเรียกใช้ปลายทางของแบบจําลอง
คุณสามารถปิดใช้งานจุดสิ้นสุดแบบจําลองได้โดยตรงจากอินเทอร์เฟซ Fabric นําทางไปยังเวอร์ชันที่คุณไม่จําเป็นต้องใช้เพื่อการคาดการณ์แบบเรียลไทม์และเลือก "ปิดใช้งานจุดสิ้นสุดเวอร์ชัน" จากริบบิ้นในอินเทอร์เฟซ
ข้อความ toast แสดงว่า Fabric กําลังแยกการใช้งานของคุณ และสถานะของจุดสิ้นสุดเปลี่ยนเป็น "การปิด" จุดสิ้นสุดจะไม่สามารถตอบสนองการคาดการณ์แบบเรียลไทม์เว้นแต่ว่าคุณเปิดใช้งานอีกครั้ง
คุณสามารถปิดใช้งานจุดสิ้นสุดสําหรับหลายเวอร์ชันพร้อมกันจากบานหน้าต่างการตั้งค่าของแบบจําลอง เลือก "จัดการจุดสิ้นสุด" จากริบบอนในอินเทอร์เฟซ และเลือกจุดสิ้นสุดที่ใช้งานอยู่อย่างน้อยหนึ่งรายการเพื่อปิดใช้งาน
อัตราปริมาณการใช้
การโฮสต์ตําแหน่งข้อมูลของโมเดลที่ใช้งานอยู่จะใช้หน่วยความจุ Fabric (CU) ปลายทางทํางานบนโหนดการประมวลผลและสามารถปรับขนาดได้สูงสุดสามโหนดโดยอัตโนมัติตามการรับส่งข้อมูลขาเข้า การเรียกเก็บเงินจะคํานวณต่อโหนดในขณะที่ปลายทางทํางานอยู่ ตารางด้านล่างแสดงการใช้ CU สําหรับจุดสิ้นสุดแบบจําลองแมชชีนเลิร์นนิ่งที่ใช้งานอยู่
| การดำเนินการ | หน่วยวัดการดําเนินงาน |
อัตราปริมาณการใช้ |
|---|---|---|
| จุดสิ้นสุดของแบบจําลอง | 1 ระดับจุดสิ้นสุด (เวอร์ชัน) ต่อวินาทีต่อโหนด | 5 CU วินาที |
ตารางด้านล่างแสดงสถานการณ์ตัวอย่างและอัตราการใช้และต้นทุนรายชั่วโมงที่สอดคล้องกัน
| สถานการณ์สมมติ | Description | อัตราปริมาณการใช้ |
ค่าใช้จ่ายรายชั่วโมง |
|---|---|---|---|
| โมเดลที่มีปลายทางที่ไม่ได้ใช้งาน | โมเดลเหล่านี้ไม่มีตําแหน่งข้อมูลเวอร์ชันที่ใช้งานอยู่และไม่มีการใช้ทรัพยากรที่เกี่ยวข้อง พวกเขาไม่มีค่าใช้จ่ายเพิ่มเติม | 0 CU วินาที | 0 CU ชั่วโมง |
| โมเดลที่มีปลายทางที่ใช้งานอยู่แต่ไม่ได้ใช้งาน | โมเดลเหล่านี้มีปลายทางเวอร์ชันที่ใช้งานอยู่อย่างน้อยหนึ่งรายการ แต่หากไม่มีการรับส่งข้อมูลปกติ ทั้งหมดจะปรับขนาดเป็นศูนย์ ซึ่งช่วยลดต้นทุนโดยอัตโนมัติ | 5 CU วินาที | 0.42 CU ชั่วโมง |
| รุ่นที่มี 1 ปลายทางที่ใช้งานอยู่และปริมาณการใช้งานต่ําคงที่ | โมเดลเหล่านี้มีปลายทางเวอร์ชันที่ใช้งานอยู่เพียง 1 รายการที่ให้บริการการคาดการณ์ แต่ไม่มีการรับส่งข้อมูลเพียงพอที่จะทริกเกอร์การขยายขนาดเต็มรูปแบบ โหนดเดียวสามารถให้บริการการรับส่งข้อมูลทั้งหมดได้ ปลายทางเวอร์ชันอื่นๆ อาจไม่ใช้งานหรือไม่ได้ใช้งาน | 5 CU วินาที | ชั่วโมง 5 CU |
| รุ่นที่มี 1 ปลายทางที่ใช้งานอยู่และปริมาณการใช้งานสูงคงที่ | โมเดลเหล่านี้มีการคาดการณ์ตําแหน่งข้อมูลเวอร์ชันที่ใช้งานอยู่เพียง 1 รายการ โดยมีการรับส่งข้อมูลเพียงพอที่จะทริกเกอร์การขยายขนาดเต็มรูปแบบ ปลายทางเวอร์ชันอื่นๆ อาจไม่ใช้งานหรือไม่ได้ใช้งาน | 15 CU วินาที | ชั่วโมง 15 CU |
| รุ่นที่มี 5 ปลายทางที่ใช้งานอยู่และการรับส่งข้อมูลสูงคงที่ | โมเดลเหล่านี้มีตําแหน่งข้อมูลเวอร์ชันที่ใช้งานอยู่ 5 ตําแหน่ง (ขีดจํากัดปัจจุบัน) ที่ให้บริการการคาดการณ์ โดยแต่ละรุ่นมีการรับส่งข้อมูลเพียงพอที่จะทริกเกอร์การขยายขนาดเต็มรูปแบบ | 75 CU วินาที | ชั่วโมง 75 CU |
แอป Fabric Capacity Metrics แสดงการใช้ความจุทั้งหมดสําหรับการดําเนินการปลายทางแบบจําลองภายใต้ชื่อ "จุดสิ้นสุดแบบจําลอง" นอกจากนี้ ผู้ใช้สามารถดูสรุปค่าบริการสําหรับการเรียกเก็บเงินสําหรับการใช้งาน Model Endpoint ภายใต้รายการออกใบแจ้งหนี้ "ML Model Endpoint Capacity Usage CU"
การดําเนินการปลายทางของโมเดลถูกจัดประเภทเป็นการดําเนินการเบื้องหลัง
อัตราปริมาณการใช้อาจเปลี่ยนแปลงได้ตลอดเวลา Microsoft ใช้ความพยายามอย่างสมเหตุสมผลในการให้การแจ้งเตือนทางอีเมลหรือผ่านการแจ้งเตือนในผลิตภัณฑ์ การเปลี่ยนแปลงจะมีผลตามวันที่ระบุไว้ในบันทึกย่อประจํารุ่นของ Microsoft หรือบล็อก Microsoft Fabric หากมีการเปลี่ยนแปลงใดๆ กับจุดสิ้นสุดแบบจําลองในอัตราการใช้ Fabric เพิ่มหน่วยความจุ (CU) ที่จําเป็นในการใช้งานอย่างมีนัยสําคัญ ลูกค้าสามารถใช้ตัวเลือกการยกเลิกที่พร้อมใช้งานสําหรับวิธีการชําระเงินที่เลือก
เนื้อหาที่เกี่ยวข้อง
- จัดการและคิวรีจุดสิ้นสุดทางโปรแกรมด้วยจุดสิ้นสุดของแบบจําลอง ML REST API
- สร้างการคาดการณ์ชุดงานด้วย
PREDICTฟังก์ชัน ใน Fabric notebooks - เรียนรู้เพิ่มเติมเกี่ยวกับ การฝึกแบบจําลองและการทดลอง ใน Fabric
- เราพลาดคุณลักษณะที่คุณต้องการหรือไม่ แนะนําได้ที่ ฟอรั่ม Fabric Ideas