Triển khai mô hình

  • 5 phút

Sau khi tạo tài nguyên Azure OpenAI, bạn phải triển khai mô hình để khởi động cuộc gọi API và tạo văn bản. Sử dụng API triển khai để chọn và triển khai mô hình của bạn.

Triển khai

Triển khai cung cấp điểm cuối cho mô hình cơ sở Azure OpenAI hoặc mô hình bạn chọn. Trong quá trình triển khai, bạn cn điều chỉnh mô hình để đáp ứng nhu cầu của mình, bằng cách chỉ định mô hình kiểm duyệt nội dung, xử lý phiên bản và kích cỡ triển khai.

Quan trọng

Sau khi triển khai, bạn nhận được hai mục chính:

  • Điểm cuối, là nối kết mà bạn có thể sử dụng để gọi mô hình của mình hoặc thực hiện yêu cầu HTTP.
  • Khóa API, hoạt động như mật khẩu để xác thực các yêu cầu đến điểm cuối và cấp quyền truy nhập vào tài khoản của bạn.

Azure OpenAI Studio

Azure OpenAI Studio là giao diện dựa trên web cho phép bạn tương tác với Dịch vụ Azure OpenAI. Bạn có thể sử dụng sân chơi để thử nghiệm với khả năng dịch vụ bằng cách gửi lời nhắc và tạo ra hoàn thành. Bạn cũng có thể sử dụng Azure OpenAI Studio để quản lý triển khai và các mô hình của mình. Để đăng nhập vào Azure OpenAI Studio:

  • Điều hướng trực tiếp đến giao diện, chọn đăng ký của bạn và chọn tài nguyên đám mây của bạn.
    Hoặc
  • Điều hướng đến trang web thông qua tab tài nguyên đám mây trong cổng thông tin Azure.

Những điều bạn có thể làm với Azure OpenAI Studio

  • Tạo và quản lý triển khai.
  • Kiểm tra chức năng trong sân chơi.
  • Xử lý tệp dữ liệu để đào tạo.
  • Quản lý hạn ngạch.
  • Lọc nội dung.

Cung cấp triển khai mô hình bằng azure CLI

Có thể sử dụng Azure CLI thay vì cổng thông tin Azure để triển khai các tài nguyên đám mây. Bạn cũng có thể sử dụng Azure CLI để tạo triển khai mô hình bằng cách chỉ định:

  • Tên tài nguyên để xác định tài khoản mà bạn đang tạo triển khai mô hình.
  • Tên nhóm tài nguyên, hoạt động như bộ chứa lô-gic để lưu trữ tài nguyên đã tạo.
  • tên triển khai (tùy chọn) giúp xác định các triển khai khác nhau từ cùng một mô hình. Ví dụ: bạn phải có tên triển khai khi gửi yêu cầu theo chương trình. Mặc định là tên của mô hình được chọn nếu không xác định tên triển khai.
  • Tên kiểu mô hình. Nhập kiểu mô hình cụ thể, tùy thuộc vào việc bạn đang tìm cách thực hiện điều gì. Ví dụ: nhập thế hệ văn bản, chat, hoặc tạo hình.
  • Định dạng mô hình.
  • Giá trị công suất SKU (tùy chọn).
  • Tên SKU (tùy chọn).

Dưới đây là ví dụ về cách tạo triển khai mô hình của bạn. Thay đổi mã để phù hợp với nhu cầu của bạn.


az cognitiveservices account deployment create \ 
--name cognitiveServiceAccountName \ 
--resource-group resourceGroupName \ 
--deployment-name deploymentName \ 
--model-name gpt-35-turbo \ 
--model-version "0301" \ 
--model-format OpenAI \ 
--sku-capacity "1" \ 
--sku-name "Standard"

Ghi

Để sử dụng triển khai mới được tạo từ CLI, bạn cần truy xuất URL điểm cuối và khóa API. Để biết thêm thông tin, hãy tạo và triển khai tài nguyên Azure OpenAI Service.