Giới thiệu
Xây dựng các ứng dụng AI tổng quát hiệu quả đòi hỏi phải chọn mô hình nền tảng phù hợp cho trường hợp sử dụng cụ thể của bạn. Với hàng nghìn mô hình có sẵn, bạn cần một cách tiếp cận có cấu trúc để khám phá, so sánh, triển khai và xác thực rằng một mô hình đáp ứng yêu cầu của bạn.
Hãy xem xét một kịch bản trong đó bạn đang xây dựng một chatbot hỗ trợ khách hàng được hỗ trợ bởi AI cho một công ty bán lẻ. Bạn cần chọn một mô hình ngôn ngữ có thể hiểu câu hỏi của khách hàng, đưa ra câu trả lời chính xác và duy trì giọng điệu và tiêu chuẩn an toàn phù hợp. Nhưng làm thế nào để bạn chọn từ danh mục khổng lồ các mô hình có sẵn? Làm thế nào để bạn biết liệu một mô hình có hoạt động tốt cho nhu cầu cụ thể của bạn hay không? Và sau khi triển khai, làm thế nào để bạn đo lường và cải thiện hiệu suất của nó?
Cổng thông tin Microsoft Foundry cung cấp một nền tảng toàn diện cho toàn bộ quy trình làm việc này. Bạn có thể khám phá hơn 1.900 mô hình từ các nhà cung cấp như Microsoft, Anthropic, OpenAI, Meta và Hugging Face. Bạn có thể so sánh các mô hình bằng cách sử dụng điểm chuẩn tiêu chuẩn ngành về chất lượng, an toàn, chi phí và hiệu suất. Sau khi chọn một mô hình, bạn triển khai mô hình đó đến một điểm cuối nơi ứng dụng của bạn có thể sử dụng mô hình đó. Cuối cùng, bạn đánh giá hiệu suất của mô hình bằng cách sử dụng cả số liệu tự động và kiểm tra thủ công để đảm bảo mô hình đáp ứng các yêu cầu về chất lượng và an toàn của bạn.
Trong mô-đun này, bạn khám phá cách sử dụng cổng thông tin Microsoft Foundry để chọn, triển khai và đánh giá các mô hình từ danh mục mô hình. Bạn học cách đưa ra quyết định sáng suốt về lựa chọn mô hình, hiểu các tùy chọn triển khai khác nhau và đánh giá hiệu suất mô hình bằng cách sử dụng các phương pháp đánh giá khác nhau.
Đến cuối mô-đun này, bạn sẽ có thể:
- Khám phá và lọc các mô hình trong danh mục mô hình
- So sánh các mô hình bằng cách sử dụng các chỉ số điểm chuẩn về chất lượng, an toàn, chi phí và hiệu suất
- Triển khai mô hình đến điểm cuối và kiểm tra mô hình đó trong sân chơi
- Đánh giá hiệu suất mô hình bằng cách sử dụng phương pháp thủ công và tự động
- Hiểu các chỉ số đánh giá khác nhau và thời điểm sử dụng chúng