Membuat dan menyebarkan sumber daya Azure OpenAI Service
Artikel ini menjelaskan cara memulai Azure OpenAI Service dan menyediakan instruksi langkah demi langkah untuk membuat sumber daya dan menyebarkan model. Anda dapat membuat sumber daya di Azure dengan beberapa cara berbeda:
- Portal Microsoft Azure
- REST API, Azure CLI, PowerShell, atau pustaka klien
- Template Azure Resource Manager (ARM)
Dalam artikel ini, Anda meninjau contoh untuk membuat dan menyebarkan sumber daya di portal Azure dan dengan Azure CLI.
Prasyarat
- Langganan Azure. Buat akun gratis.
- Akses izin untuk membuat sumber daya Azure OpenAI dan untuk menyebarkan model.
Membuat sumber daya
Langkah-langkah berikut menunjukkan cara membuat sumber daya Azure OpenAI di portal Azure.
Mengidentifikasi sumber daya
Masuk dengan langganan Azure Anda di portal Azure.
Pilih Buat sumber daya dan cari Azure OpenAI. Saat Anda menemukan layanan, pilih Buat.
Pada halaman Buat Azure OpenAI , berikan informasi berikut untuk bidang pada tab Dasar :
Bidang Deskripsi Langganan Langganan Azure yang digunakan dalam aplikasi onboarding Azure OpenAI Service Anda. Grup sumber daya Grup sumber daya Azure untuk berisi sumber daya Azure OpenAI Anda. Anda dapat membuat grup baru atau menggunakan grup yang sudah ada sebelumnya. Wilayah Lokasi instansi anda. Lokasi yang berbeda dapat memperkenalkan latensi, tetapi tidak memengaruhi ketersediaan runtime sumber daya Anda. Nama Nama deskriptif untuk sumber daya Azure OpenAI Service Anda, seperti MyOpenAIResource. Tingkatan harga Tingkat harga untuk sumber daya. Saat ini, hanya tingkat Standar yang tersedia untuk Layanan Azure OpenAI. Untuk informasi selengkapnya tentang harga, kunjungi halaman harga Azure OpenAI Pilih Selanjutnya.
Mengonfigurasi keamanan jaringan
Tab Jaringan menyajikan tiga opsi untuk Jenis keamanan:
- Opsi 1: Semua jaringan, termasuk internet, dapat mengakses sumber daya ini.
- Opsi 2: Jaringan yang dipilih, konfigurasikan keamanan jaringan untuk sumber daya layanan Azure AI Anda.
- Opsi 3: Dinonaktifkan, tidak ada jaringan yang dapat mengakses sumber daya ini. Anda dapat mengonfigurasi koneksi titik akhir privat yang akan menjadi cara eksklusif untuk mengakses sumber daya ini.
Bergantung pada opsi yang Anda pilih, Anda mungkin perlu memberikan informasi tambahan.
Opsi 1: Izinkan semua jaringan
Opsi pertama memungkinkan semua jaringan, termasuk internet, untuk mengakses sumber daya Anda. Opsi ini adalah pengaturan default. Tidak diperlukan pengaturan tambahan untuk opsi ini.
Opsi 2: Izinkan jaringan tertentu saja
Opsi kedua memungkinkan Anda mengidentifikasi jaringan tertentu yang dapat mengakses sumber daya Anda. Saat Anda memilih opsi ini, halaman diperbarui untuk menyertakan bidang yang diperlukan berikut ini:
Bidang | Deskripsi |
---|---|
Jaringan virtual | Tentukan jaringan virtual yang diizinkan akses ke sumber daya Anda. Anda dapat mengedit nama jaringan virtual default di portal Azure. |
Subnet | Tentukan subnet yang diizinkan akses ke sumber daya Anda. Anda dapat mengedit nama subnet default di portal Azure. |
Bagian Firewall menyediakan bidang Rentang alamat opsional yang dapat Anda gunakan untuk mengonfigurasi pengaturan firewall untuk sumber daya.
Opsi 3: Nonaktifkan akses jaringan
Opsi ketiga memungkinkan Anda menonaktifkan akses jaringan ke sumber daya Anda. Saat Anda memilih opsi ini, halaman diperbarui untuk menyertakan tabel Titik akhir privat.
Sebagai opsi, Anda dapat menambahkan titik akhir privat untuk akses ke sumber daya Anda. Pilih Tambahkan titik akhir privat, dan selesaikan konfigurasi titik akhir.
Mengonfirmasi konfigurasi dan membuat sumber daya
Pilih Berikutnya dan konfigurasikan Tag apa pun untuk sumber daya Anda, sesuai keinginan.
Pilih Berikutnya untuk berpindah ke tahap akhir dalam proses: Tinjau + kirim.
Konfirmasi pengaturan konfigurasi Anda, dan pilih Buat.
portal Azure menampilkan pemberitahuan saat sumber daya baru tersedia. Pilih Buka sumber daya.
Terapkan model
Sebelum anda dapat membuat teks atau inferensi, Anda perlu menyebarkan model. Anda dapat memilih dari salah satu dari beberapa model yang tersedia di Azure OpenAI Studio.
Untuk menyebarkan model, ikuti langkah-langkah berikut:
Masuk ke Azure OpenAI Studio.
Pilih langganan dan sumber daya Azure OpenAI untuk dikerjakan, dan pilih Gunakan sumber daya.
Di bawah Manajemen pilih Penyebaran.
Pilih Buat penyebaran baru dan konfigurasikan bidang berikut:
Bidang Deskripsi Pilih model Ketersediaan model bervariasi menurut region. Untuk daftar model yang tersedia per wilayah, lihat Tabel ringkasan model dan ketersediaan wilayah. Nama penyebaran Pilih nama dengan hati-hati. Nama penyebaran digunakan dalam kode Anda untuk memanggil model dengan menggunakan pustaka klien dan REST API. Jenis penyebaran Standard, Global-Batch, Global-Standard, Provisioned-Managed. Pelajari selengkapnya tentang opsi jenis penyebaran. Opsi tingkat lanjut (Opsional) Anda dapat mengatur pengaturan tingkat lanjut opsional, sesuai kebutuhan untuk sumber daya Anda.
- Untuk Filter Konten, tetapkan filter konten ke penyebaran Anda.
- Untuk Token per Batas Tarif Menit, sesuaikan Token per Menit (TPM) untuk menetapkan batas tarif efektif untuk penyebaran Anda. Anda dapat mengubah nilai ini kapan saja dengan menggunakan menu Kuota. Kuota Dinamis memungkinkan Anda untuk memanfaatkan lebih banyak kuota ketika kapasitas tambahan tersedia.Pilih model dari daftar dropdown.
Masukkan nama penyebaran untuk mengidentifikasi model.
Penting
Saat Anda mengakses model melalui API, Anda perlu merujuk ke nama penyebaran daripada nama model yang mendasari dalam panggilan API, yang merupakan salah satu perbedaan utama antara OpenAI dan Azure OpenAI. OpenAI hanya memerlukan nama model. Azure OpenAI selalu memerlukan nama penyebaran, bahkan saat menggunakan parameter model. Dalam dokumen kami, kami sering memiliki contoh di mana nama penyebaran diwakili sebagai identik dengan nama model untuk membantu menunjukkan model mana yang bekerja dengan titik akhir API tertentu. Pada akhirnya nama penyebaran Anda dapat mengikuti konvensi penamaan apa pun yang terbaik untuk kasus penggunaan Anda.
Untuk penyebaran pertama Anda, biarkan Opsi tingkat lanjut diatur ke default.
Pilih Buat.
Tabel penyebaran memperlihatkan entri baru yang sesuai dengan model yang baru Anda buat.
Saat penyebaran selesai, status penyebaran model Anda berubah menjadi berhasil.
Prasyarat
- Langganan Azure. Buat akun gratis.
- Akses izin untuk membuat sumber daya Azure OpenAI dan untuk menyebarkan model.
- Azure CLI. Untuk informasi selengkapnya, lihat Cara menginstal Azure CLI.
Masuk ke Azure CLI
Masuk ke Azure CLI atau pilih Buka Cloudshell dalam langkah-langkah berikut.
Membuat Grup Sumber Daya Azure
Untuk membuat sumber daya Azure OpenAI, Anda memerlukan grup sumber daya Azure. Saat membuat sumber daya baru melalui Azure CLI, Anda juga dapat membuat grup sumber daya baru atau menginstruksikan Azure untuk menggunakan grup yang sudah ada. Contoh berikut menunjukkan cara membuat grup sumber daya baru bernama OAIResourceGroup dengan perintah az group create . Grup sumber daya dibuat di lokasi US Timur.
az group create \
--name OAIResourceGroup \
--location eastus
Membuat sumber daya
Gunakan perintah az cognitiveservices account create untuk membuat sumber daya Azure OpenAI di grup sumber daya. Dalam contoh berikut, Anda membuat sumber daya bernama MyOpenAIResource di grup sumber daya OAIResourceGroup . Saat Anda mencoba contoh, perbarui kode untuk menggunakan nilai yang Anda inginkan untuk grup sumber daya dan nama sumber daya, bersama dengan id> langganan ID <langganan Azure Anda.
az cognitiveservices account create \
--name MyOpenAIResource \
--resource-group OAIResourceGroup \
--location eastus \
--kind OpenAI \
--sku s0 \
--subscription <subscriptionID>
Mengambil informasi tentang sumber daya
Setelah membuat sumber daya, Anda dapat menggunakan perintah yang berbeda untuk menemukan informasi yang berguna tentang instans Azure OpenAI Service Anda. Contoh berikut menunjukkan cara mengambil URL dasar titik akhir REST API dan kunci akses untuk sumber daya baru.
Mendapatkan URL titik akhir
Gunakan perintah az cognitiveservices account show untuk mengambil URL dasar titik akhir REST API untuk sumber daya. Dalam contoh ini, kami mengarahkan output perintah melalui prosesor JQ JSON untuk menemukan .properties.endpoint
nilai .
Saat Anda mencoba contoh, perbarui kode untuk menggunakan nilai Anda untuk grup sumber daya myResourceGroupName> dan sumber daya< myResourceName>.<
az cognitiveservices account show \
--name <myResourceName> \
--resource-group <myResourceGroupName> \
| jq -r .properties.endpoint
Mendapatkan kunci API utama
Untuk mengambil kunci akses untuk sumber daya, gunakan perintah az cognitiveservices account keys list . Dalam contoh ini, kami mengarahkan output perintah melalui prosesor JQ JSON untuk menemukan .key1
nilai .
Saat Anda mencoba contoh, perbarui kode untuk menggunakan nilai Anda untuk grup sumber daya dan sumber daya.
az cognitiveservices account keys list \
--name <myResourceName> \
--resource-group <myResourceGroupName> \
| jq -r .key1
Terapkan model
Untuk menyebarkan model, gunakan perintah az cognitiveservices account deployment create . Dalam contoh berikut, Anda menyebarkan instans text-embedding-ada-002
model dan memberinya nama MyModel. Saat Anda mencoba contoh, perbarui kode untuk menggunakan nilai Anda untuk grup sumber daya dan sumber daya. Anda tidak perlu mengubah model-version
nilai , model-format
atau sku-capacity
, dan sku-name
.
az cognitiveservices account deployment create \
--name <myResourceName> \
--resource-group <myResourceGroupName> \
--deployment-name MyModel \
--model-name text-embedding-ada-002 \
--model-version "1" \
--model-format OpenAI \
--sku-capacity "1" \
--sku-name "Standard"
--sku-name
menerima jenis penyebaran berikut: Standard
, , GlobalBatch
, GlobalStandard
dan ProvisionedManaged
. Pelajari selengkapnya tentang opsi jenis penyebaran.
Penting
Saat Anda mengakses model melalui API, Anda perlu merujuk ke nama penyebaran daripada nama model yang mendasari dalam panggilan API, yang merupakan salah satu perbedaan utama antara OpenAI dan Azure OpenAI. OpenAI hanya memerlukan nama model. Azure OpenAI selalu memerlukan nama penyebaran, bahkan saat menggunakan parameter model. Dalam dokumen kami, kami sering memiliki contoh di mana nama penyebaran diwakili sebagai identik dengan nama model untuk membantu menunjukkan model mana yang bekerja dengan titik akhir API tertentu. Pada akhirnya nama penyebaran Anda dapat mengikuti konvensi penamaan apa pun yang terbaik untuk kasus penggunaan Anda.
Hapus model dari sumber daya anda
Anda dapat menghapus model apa pun yang disebarkan dari sumber daya Anda dengan perintah az cognitiveservices account deployment delete . Dalam contoh berikut, Anda menghapus model bernama MyModel. Saat Anda mencoba contoh, perbarui kode untuk menggunakan nilai Anda untuk grup sumber daya, sumber daya, dan model yang disebarkan.
az cognitiveservices account deployment delete \
--name <myResourceName> \
--resource-group <myResourceGroupName> \
--deployment-name MyModel
Menghapus sumber daya
Jika Anda ingin membersihkan setelah latihan ini, Anda dapat menghapus sumber daya Azure OpenAI dengan menghapus sumber daya melalui Azure CLI. Anda juga dapat menghapus grup sumber daya. Jika Anda memilih untuk menghapus grup sumber daya, semua sumber daya yang terkandung dalam grup juga akan dihapus.
Untuk menghapus grup sumber daya dan sumber daya terkait, gunakan perintah az cognitiveservices account delete .
Jika Anda tidak akan terus menggunakan sumber daya yang dibuat dalam latihan ini, jalankan perintah berikut untuk menghapus grup sumber daya Anda. Pastikan untuk memperbarui kode contoh untuk menggunakan nilai Anda untuk grup sumber daya dan sumber daya.
az cognitiveservices account delete \
--name <myResourceName> \
--resource-group <myResourceGroupName>
Prasyarat
- Langganan Azure. Buat akun gratis.
- Azure PowerShell. Untuk informasi selengkapnya, lihat Cara menginstal Azure PowerShell.
- Akses izin untuk membuat sumber daya Azure OpenAI dan untuk menyebarkan model.
Masuk ke Azure PowerShell
Masuk ke Azure PowerShell atau pilih Buka Cloudshell dalam langkah-langkah berikut.
Membuat Grup Sumber Daya Azure
Untuk membuat sumber daya Azure OpenAI, Anda memerlukan grup sumber daya Azure. Saat membuat sumber daya baru melalui Azure PowerShell, Anda juga dapat membuat grup sumber daya baru atau menginstruksikan Azure untuk menggunakan grup yang sudah ada. Contoh berikut menunjukkan cara membuat grup sumber daya baru bernama OAIResourceGroup dengan perintah New-AzResourceGroup . Grup sumber daya dibuat di lokasi US Timur.
New-AzResourceGroup -Name OAIResourceGroup -Location eastus
Membuat sumber daya
Gunakan perintah New-AzCognitiveServicesAccount untuk membuat sumber daya Azure OpenAI di grup sumber daya. Dalam contoh berikut, Anda membuat sumber daya bernama MyOpenAIResource di grup sumber daya OAIResourceGroup . Saat Anda mencoba contoh, perbarui kode untuk menggunakan nilai yang Anda inginkan untuk grup sumber daya dan nama sumber daya, bersama dengan id> langganan ID <langganan Azure Anda.
New-AzCognitiveServicesAccount -ResourceGroupName OAIResourceGroup -Name MyOpenAIResource -Type OpenAI -SkuName S0 -Location eastus
Mengambil informasi tentang sumber daya
Setelah membuat sumber daya, Anda dapat menggunakan perintah yang berbeda untuk menemukan informasi yang berguna tentang instans Azure OpenAI Service Anda. Contoh berikut menunjukkan cara mengambil URL dasar titik akhir REST API dan kunci akses untuk sumber daya baru.
Mendapatkan URL titik akhir
Gunakan perintah Get-AzCognitiveServicesAccount untuk mengambil URL dasar titik akhir REST API untuk sumber daya. Dalam contoh ini, kita mengarahkan output perintah melalui cmdlet Select-Object untuk menemukan endpoint
nilai.
Saat Anda mencoba contoh, perbarui kode untuk menggunakan nilai Anda untuk grup <myResourceGroupName>
sumber daya dan sumber daya <myResourceName>
.
Get-AzCognitiveServicesAccount -ResourceGroupName OAIResourceGroup -Name MyOpenAIResource |
Select-Object -Property endpoint
Mendapatkan kunci API utama
Untuk mengambil kunci akses untuk sumber daya, gunakan perintah Get-AzCognitiveServicesAccountKey . Dalam contoh ini, kita mengarahkan output perintah melalui cmdlet Select-Object untuk menemukan Key1
nilai.
Saat Anda mencoba contoh, perbarui kode untuk menggunakan nilai Anda untuk grup sumber daya dan sumber daya.
Get-AzCognitiveServicesAccountKey -Name MyOpenAIResource -ResourceGroupName OAIResourceGroup |
Select-Object -Property Key1
Terapkan model
Untuk menyebarkan model, gunakan perintah New-AzCognitiveServicesAccountDeployment . Dalam contoh berikut, Anda menyebarkan instans text-embedding-ada-002
model dan memberinya nama MyModel. Saat Anda mencoba contoh, perbarui kode untuk menggunakan nilai Anda untuk grup sumber daya dan sumber daya. Anda tidak perlu mengubah model-version
nilai , model-format
atau sku-capacity
, dan sku-name
.
$model = New-Object -TypeName 'Microsoft.Azure.Management.CognitiveServices.Models.DeploymentModel' -Property @{
Name = 'text-embedding-ada-002'
Version = '2'
Format = 'OpenAI'
}
$properties = New-Object -TypeName 'Microsoft.Azure.Management.CognitiveServices.Models.DeploymentProperties' -Property @{
Model = $model
}
$sku = New-Object -TypeName "Microsoft.Azure.Management.CognitiveServices.Models.Sku" -Property @{
Name = 'Standard'
Capacity = '1'
}
New-AzCognitiveServicesAccountDeployment -ResourceGroupName OAIResourceGroup -AccountName MyOpenAIResource -Name MyModel -Properties $properties -Sku $sku
Properti Name
$sku
variabel menerima jenis penyebaran berikut: Standard
, , GlobalBatch
GlobalStandard
, dan ProvisionedManaged
. Pelajari selengkapnya tentang opsi jenis penyebaran.
Penting
Saat Anda mengakses model melalui API, Anda perlu merujuk ke nama penyebaran daripada nama model yang mendasari dalam panggilan API, yang merupakan salah satu perbedaan utama antara OpenAI dan Azure OpenAI. OpenAI hanya memerlukan nama model. Azure OpenAI selalu memerlukan nama penyebaran, bahkan saat menggunakan parameter model. Dalam dokumen kami, kami sering memiliki contoh di mana nama penyebaran diwakili sebagai identik dengan nama model untuk membantu menunjukkan model mana yang bekerja dengan titik akhir API tertentu. Pada akhirnya nama penyebaran Anda dapat mengikuti konvensi penamaan apa pun yang terbaik untuk kasus penggunaan Anda.
Hapus model dari sumber daya anda
Anda dapat menghapus model apa pun yang disebarkan dari sumber daya Anda dengan perintah Remove-AzCognitiveServicesAccountDeployment . Dalam contoh berikut, Anda menghapus model bernama MyModel. Saat Anda mencoba contoh, perbarui kode untuk menggunakan nilai Anda untuk grup sumber daya, sumber daya, dan model yang disebarkan.
Remove-AzCognitiveServicesAccountDeployment -ResourceGroupName OAIResourceGroup -AccountName MyOpenAIResource -Name MyModel
Menghapus sumber daya
Jika Anda ingin membersihkan setelah latihan ini, Anda dapat menghapus sumber daya Azure OpenAI dengan menghapus sumber daya melalui Azure PowerShell. Anda juga dapat menghapus grup sumber daya. Jika Anda memilih untuk menghapus grup sumber daya, semua sumber daya yang terkandung dalam grup juga akan dihapus.
Untuk menghapus grup sumber daya dan sumber daya terkait, gunakan perintah Remove-AzCognitiveServicesAccount .
Jika Anda tidak akan terus menggunakan sumber daya yang dibuat dalam latihan ini, jalankan perintah berikut untuk menghapus grup sumber daya Anda. Pastikan untuk memperbarui kode contoh untuk menggunakan nilai Anda untuk grup sumber daya dan sumber daya.
Remove-AzCognitiveServicesAccount -Name MyOpenAIResource -ResourceGroupName OAIResourceGroup
Langkah berikutnya
- Lakukan panggilan API dan buat teks dengan mulai cepat Azure OpenAI Service.
- Pelajari selengkapnya tentang model Layanan Azure OpenAI.
- Untuk informasi tentang harga, kunjungi halaman harga Azure OpenAI
Saran dan Komentar
https://aka.ms/ContentUserFeedback.
Segera hadir: Sepanjang tahun 2024 kami akan menghentikan penggunaan GitHub Issues sebagai mekanisme umpan balik untuk konten dan menggantinya dengan sistem umpan balik baru. Untuk mengetahui informasi selengkapnya, lihat:Kirim dan lihat umpan balik untuk