Membuat dan menyebarkan sumber daya Azure OpenAI Service

Artikel ini menjelaskan cara memulai Azure OpenAI Service dan menyediakan instruksi langkah demi langkah untuk membuat sumber daya dan menyebarkan model. Anda dapat membuat sumber daya di Azure dengan beberapa cara berbeda:

• Portal Microsoft Azure
• REST API, Azure CLI, PowerShell, atau pustaka klien
• Template Azure Resource Manager (ARM)

Dalam artikel ini, Anda meninjau contoh untuk membuat dan menyebarkan sumber daya di portal Azure dan dengan Azure CLI.

Prasyarat

• Langganan Azure. Buat akun gratis.
• Akses yang diberikan ke Azure OpenAI dalam langganan Azure yang diinginkan.
• Akses izin untuk membuat sumber daya Azure OpenAI dan untuk menyebarkan model.

Catatan

Saat ini, Anda harus mengirimkan aplikasi untuk mengakses Layanan Azure OpenAI. Untuk mengajukan akses, lengkapi formulir ini. Jika Anda memerlukan bantuan, buka masalah di repositori ini untuk menghubungi Microsoft.

Membuat sumber daya

Langkah-langkah berikut menunjukkan cara membuat sumber daya Azure OpenAI di portal Azure.

Mengidentifikasi sumber daya

1. Masuk dengan langganan Azure Anda di portal Azure.

2. Pilih Buat sumber daya dan cari Azure OpenAI. Saat Anda menemukan layanan, pilih Buat.

   

3. Pada halaman Buat Azure OpenAI , berikan informasi berikut untuk bidang pada tab Dasar :

   Bidang	Deskripsi
   Langganan	Langganan Azure yang digunakan dalam aplikasi onboarding Azure OpenAI Service Anda.
   Grup sumber daya	Grup sumber daya Azure untuk berisi sumber daya Azure OpenAI Anda. Anda dapat membuat grup baru atau menggunakan grup yang sudah ada sebelumnya.
   Wilayah	Lokasi instansi anda. Lokasi yang berbeda dapat memperkenalkan latensi, tetapi tidak memengaruhi ketersediaan runtime sumber daya Anda.
   Nama	Nama deskriptif untuk sumber daya Azure OpenAI Service Anda, seperti MyOpenAIResource.
   Tingkatan harga	Tingkat harga untuk sumber daya. Saat ini, hanya tingkat Standar yang tersedia untuk Layanan Azure OpenAI. Untuk informasi selengkapnya tentang harga, kunjungi halaman harga Azure OpenAI

   

4. Pilih Selanjutnya.

Mengonfigurasi keamanan jaringan

Tab Jaringan menyajikan tiga opsi untuk Jenis keamanan:

• Opsi 1: Semua jaringan, termasuk internet, dapat mengakses sumber daya ini.
• Opsi 2: Jaringan yang dipilih, konfigurasikan keamanan jaringan untuk sumber daya layanan Azure AI Anda.
• Opsi 3: Dinonaktifkan, tidak ada jaringan yang dapat mengakses sumber daya ini. Anda dapat mengonfigurasi koneksi titik akhir privat yang akan menjadi cara eksklusif untuk mengakses sumber daya ini.

Bergantung pada opsi yang Anda pilih, Anda mungkin perlu memberikan informasi tambahan.

Opsi 1: Izinkan semua jaringan

Opsi pertama memungkinkan semua jaringan, termasuk internet, untuk mengakses sumber daya Anda. Opsi ini adalah pengaturan default. Tidak diperlukan pengaturan tambahan untuk opsi ini.

Opsi 2: Izinkan jaringan tertentu saja

Opsi kedua memungkinkan Anda mengidentifikasi jaringan tertentu yang dapat mengakses sumber daya Anda. Saat Anda memilih opsi ini, halaman diperbarui untuk menyertakan bidang yang diperlukan berikut ini:

Bidang	Deskripsi
Jaringan virtual	Tentukan jaringan virtual yang diizinkan akses ke sumber daya Anda. Anda dapat mengedit nama jaringan virtual default di portal Azure.
Subnet	Tentukan subnet yang diizinkan akses ke sumber daya Anda. Anda dapat mengedit nama subnet default di portal Azure.

Bagian Firewall menyediakan bidang Rentang alamat opsional yang dapat Anda gunakan untuk mengonfigurasi pengaturan firewall untuk sumber daya.

Opsi 3: Nonaktifkan akses jaringan

Opsi ketiga memungkinkan Anda menonaktifkan akses jaringan ke sumber daya Anda. Saat Anda memilih opsi ini, halaman diperbarui untuk menyertakan tabel Titik akhir privat.

Sebagai opsi, Anda dapat menambahkan titik akhir privat untuk akses ke sumber daya Anda. Pilih Tambahkan titik akhir privat, dan selesaikan konfigurasi titik akhir.

Mengonfirmasi konfigurasi dan membuat sumber daya

1. Pilih Berikutnya dan konfigurasikan Tag apa pun untuk sumber daya Anda, sesuai keinginan.

2. Pilih Berikutnya untuk berpindah ke tahap akhir dalam proses: Tinjau + kirim.

3. Konfirmasi pengaturan konfigurasi Anda, dan pilih Buat.

portal Azure menampilkan pemberitahuan saat sumber daya baru tersedia.

Terapkan model

Sebelum anda dapat membuat teks atau inferensi, Anda perlu menyebarkan model. Anda dapat memilih dari salah satu dari beberapa model yang tersedia di Azure OpenAI Studio.

Untuk menyebarkan model, ikuti langkah-langkah berikut:

1. Masuk ke Azure OpenAI Studio.

2. Pilih langganan dan sumber daya Azure OpenAI untuk dikerjakan, dan pilih Gunakan sumber daya.

3. Di bawah Manajemen pilih Penyebaran.

4. Pilih Buat penyebaran baru dan konfigurasikan bidang berikut:

   Bidang	Deskripsi
   Pilih model	Ketersediaan model bervariasi menurut region. Untuk daftar model yang tersedia per wilayah, lihat Tabel ringkasan model dan ketersediaan wilayah.
   Nama penyebaran	Pilih nama dengan hati-hati. Nama penyebaran digunakan dalam kode Anda untuk memanggil model dengan menggunakan pustaka klien dan REST API.
   Opsi tingkat lanjut (Opsional)	Anda dapat mengatur pengaturan tingkat lanjut opsional, sesuai kebutuhan untuk sumber daya Anda. - Untuk Filter Konten, tetapkan filter konten ke penyebaran Anda. - Untuk Token per Batas Tarif Menit, sesuaikan Token per Menit (TPM) untuk menetapkan batas tarif efektif untuk penyebaran Anda. Anda dapat mengubah nilai ini kapan saja dengan menggunakan menu Kuota. Kuota Dinamis memungkinkan Anda untuk memanfaatkan lebih banyak kuota ketika kapasitas tambahan tersedia.

5. Pilih model dari daftar dropdown.

6. Masukkan nama penyebaran untuk mengidentifikasi model.

   Penting

   Saat Anda mengakses model melalui API, Anda perlu merujuk ke nama penyebaran daripada nama model yang mendasari dalam panggilan API, yang merupakan salah satu perbedaan utama antara OpenAI dan Azure OpenAI. OpenAI hanya memerlukan nama model. Azure OpenAI selalu memerlukan nama penyebaran, bahkan saat menggunakan parameter model. Dalam dokumen kami, kami sering memiliki contoh di mana nama penyebaran diwakili sebagai identik dengan nama model untuk membantu menunjukkan model mana yang bekerja dengan titik akhir API tertentu. Pada akhirnya nama penyebaran Anda dapat mengikuti konvensi penamaan apa pun yang terbaik untuk kasus penggunaan Anda.

7. Untuk penyebaran pertama Anda, biarkan Opsi tingkat lanjut diatur ke default.

8. Pilih Buat.

Tabel penyebaran memperlihatkan entri baru yang sesuai dengan model yang baru Anda buat.

Saat penyebaran selesai, status penyebaran model Anda berubah menjadi berhasil.

Prasyarat

• Langganan Azure. Buat akun gratis.
• Akses yang diberikan ke Azure OpenAI dalam langganan Azure yang diinginkan.
• Akses izin untuk membuat sumber daya Azure OpenAI dan untuk menyebarkan model.
• Azure CLI. Untuk informasi selengkapnya, lihat Cara menginstal Azure CLI.

Catatan

Saat ini, Anda harus mengirimkan aplikasi untuk mengakses Layanan Azure OpenAI. Untuk mengajukan akses, lengkapi formulir ini. Jika Anda memerlukan bantuan, buka masalah di repositori ini untuk menghubungi Microsoft.

Masuk ke Azure CLI

Masuk ke Azure CLI atau pilih Buka Cloudshell dalam langkah-langkah berikut.

Membuat Grup Sumber Daya Azure

Untuk membuat sumber daya Azure OpenAI, Anda memerlukan grup sumber daya Azure. Saat membuat sumber daya baru melalui Azure CLI, Anda juga dapat membuat grup sumber daya baru atau menginstruksikan Azure untuk menggunakan grup yang sudah ada. Contoh berikut menunjukkan cara membuat grup sumber daya baru bernama OAIResourceGroup dengan perintah az group create . Grup sumber daya dibuat di lokasi US Timur.

az group create \
--name OAIResourceGroup \
--location eastus

Membuat sumber daya

Gunakan perintah az cognitiveservices account create untuk membuat sumber daya Azure OpenAI di grup sumber daya. Dalam contoh berikut, Anda membuat sumber daya bernama MyOpenAIResource di grup sumber daya OAIResourceGroup . Saat Anda mencoba contoh, perbarui kode untuk menggunakan nilai yang Anda inginkan untuk grup sumber daya dan nama sumber daya, bersama dengan id> langganan ID <langganan Azure Anda.

az cognitiveservices account create \
--name MyOpenAIResource \
--resource-group OAIResourceGroup \
--location eastus \
--kind OpenAI \
--sku s0 \
--subscription <subscriptionID>

Mengambil informasi tentang sumber daya

Setelah membuat sumber daya, Anda dapat menggunakan perintah yang berbeda untuk menemukan informasi yang berguna tentang instans Azure OpenAI Service Anda. Contoh berikut menunjukkan cara mengambil URL dasar titik akhir REST API dan kunci akses untuk sumber daya baru.

Mendapatkan URL titik akhir

Gunakan perintah az cognitiveservices account show untuk mengambil URL dasar titik akhir REST API untuk sumber daya. Dalam contoh ini, kami mengarahkan output perintah melalui prosesor JQ JSON untuk menemukan .properties.endpoint nilai .

Saat Anda mencoba contoh, perbarui kode untuk menggunakan nilai Anda untuk grup sumber daya myResourceGroupName> dan sumber daya< myResourceName>.<

az cognitiveservices account show \
--name <myResourceName> \
--resource-group  <myResourceGroupName> \
| jq -r .properties.endpoint

Mendapatkan kunci API utama

Untuk mengambil kunci akses untuk sumber daya, gunakan perintah az cognitiveservices account keys list . Dalam contoh ini, kami mengarahkan output perintah melalui prosesor JQ JSON untuk menemukan .key1 nilai .

Saat Anda mencoba contoh, perbarui kode untuk menggunakan nilai Anda untuk grup sumber daya dan sumber daya.

az cognitiveservices account keys list \
--name <myResourceName> \
--resource-group  <myResourceGroupName> \
| jq -r .key1

Terapkan model

Untuk menyebarkan model, gunakan perintah az cognitiveservices account deployment create . Dalam contoh berikut, Anda menyebarkan instans text-embedding-ada-002 model dan memberinya nama MyModel. Saat Anda mencoba contoh, perbarui kode untuk menggunakan nilai Anda untuk grup sumber daya dan sumber daya. Anda tidak perlu mengubah model-versionnilai , model-format atau sku-capacity, dan sku-name .

az cognitiveservices account deployment create \
--name <myResourceName> \
--resource-group  <myResourceGroupName> \
--deployment-name MyModel \
--model-name text-embedding-ada-002 \
--model-version "1"  \
--model-format OpenAI \
--sku-capacity "1" \
--sku-name "Standard"

Penting

Saat Anda mengakses model melalui API, Anda perlu merujuk ke nama penyebaran daripada nama model yang mendasari dalam panggilan API, yang merupakan salah satu perbedaan utama antara OpenAI dan Azure OpenAI. OpenAI hanya memerlukan nama model. Azure OpenAI selalu memerlukan nama penyebaran, bahkan saat menggunakan parameter model. Dalam dokumen kami, kami sering memiliki contoh di mana nama penyebaran diwakili sebagai identik dengan nama model untuk membantu menunjukkan model mana yang bekerja dengan titik akhir API tertentu. Pada akhirnya nama penyebaran Anda dapat mengikuti konvensi penamaan apa pun yang terbaik untuk kasus penggunaan Anda.

Hapus model dari sumber daya anda

Anda dapat menghapus model apa pun yang disebarkan dari sumber daya Anda dengan perintah az cognitiveservices account deployment delete . Dalam contoh berikut, Anda menghapus model bernama MyModel. Saat Anda mencoba contoh, perbarui kode untuk menggunakan nilai Anda untuk grup sumber daya, sumber daya, dan model yang disebarkan.

az cognitiveservices account deployment delete \
--name <myResourceName> \
--resource-group  <myResourceGroupName> \
--deployment-name MyModel

Menghapus sumber daya

Jika Anda ingin membersihkan setelah latihan ini, Anda dapat menghapus sumber daya Azure OpenAI dengan menghapus sumber daya melalui Azure CLI. Anda juga dapat menghapus grup sumber daya. Jika Anda memilih untuk menghapus grup sumber daya, semua sumber daya yang terkandung dalam grup juga akan dihapus.

Untuk menghapus grup sumber daya dan sumber daya terkait, gunakan perintah az cognitiveservices account delete .

Jika Anda tidak akan terus menggunakan sumber daya yang dibuat dalam latihan ini, jalankan perintah berikut untuk menghapus grup sumber daya Anda. Pastikan untuk memperbarui kode contoh untuk menggunakan nilai Anda untuk grup sumber daya dan sumber daya.

az cognitiveservices account delete \
--name <myResourceName> \
--resource-group  <myResourceGroupName>

Prasyarat

• Langganan Azure. Buat akun gratis.
• Akses yang diberikan ke Azure OpenAI dalam langganan Azure yang diinginkan.
• Akses izin untuk membuat sumber daya Azure OpenAI dan untuk menyebarkan model.
• Azure PowerShell. Untuk informasi selengkapnya, lihat Cara menginstal Azure PowerShell.

Catatan

Saat ini, Anda harus mengirimkan aplikasi untuk mengakses Layanan Azure OpenAI. Untuk mengajukan akses, lengkapi formulir ini. Jika Anda memerlukan bantuan, buka masalah di repositori ini untuk menghubungi Microsoft.

Masuk ke Azure PowerShell

Masuk ke Azure PowerShell atau pilih Buka Cloudshell dalam langkah-langkah berikut.

Membuat Grup Sumber Daya Azure

Untuk membuat sumber daya Azure OpenAI, Anda memerlukan grup sumber daya Azure. Saat membuat sumber daya baru melalui Azure PowerShell, Anda juga dapat membuat grup sumber daya baru atau menginstruksikan Azure untuk menggunakan grup yang sudah ada. Contoh berikut menunjukkan cara membuat grup sumber daya baru bernama OAIResourceGroup dengan perintah New-AzResourceGroup . Grup sumber daya dibuat di lokasi US Timur.

New-AzResourceGroup -Name OAIResourceGroup -Location eastus

Membuat sumber daya

Gunakan perintah New-AzCognitiveServicesAccount untuk membuat sumber daya Azure OpenAI di grup sumber daya. Dalam contoh berikut, Anda membuat sumber daya bernama MyOpenAIResource di grup sumber daya OAIResourceGroup . Saat Anda mencoba contoh, perbarui kode untuk menggunakan nilai yang Anda inginkan untuk grup sumber daya dan nama sumber daya, bersama dengan id> langganan ID <langganan Azure Anda.

New-AzCognitiveServicesAccount -ResourceGroupName OAIResourceGroup -Name MyOpenAIResource -Type OpenAI -SkuName S0 -Location eastus

Mengambil informasi tentang sumber daya

Setelah membuat sumber daya, Anda dapat menggunakan perintah yang berbeda untuk menemukan informasi yang berguna tentang instans Azure OpenAI Service Anda. Contoh berikut menunjukkan cara mengambil URL dasar titik akhir REST API dan kunci akses untuk sumber daya baru.

Mendapatkan URL titik akhir

Gunakan perintah Get-AzCognitiveServicesAccount untuk mengambil URL dasar titik akhir REST API untuk sumber daya. Dalam contoh ini, kita mengarahkan output perintah melalui cmdlet Select-Object untuk menemukan endpoint nilai.

Saat Anda mencoba contoh, perbarui kode untuk menggunakan nilai Anda untuk grup <myResourceGroupName> sumber daya dan sumber daya <myResourceName>.

Get-AzCognitiveServicesAccount -ResourceGroupName OAIResourceGroup -Name MyOpenAIResource |
  Select-Object -Property endpoint

Mendapatkan kunci API utama

Untuk mengambil kunci akses untuk sumber daya, gunakan perintah Get-AzCognitiveServicesAccountKey . Dalam contoh ini, kita mengarahkan output perintah melalui cmdlet Select-Object untuk menemukan Key1 nilai.

Saat Anda mencoba contoh, perbarui kode untuk menggunakan nilai Anda untuk grup sumber daya dan sumber daya.

Get-AzCognitiveServicesAccountKey -Name MyOpenAIResource -ResourceGroupName OAIResourceGroup |
  Select-Object -Property Key1

Terapkan model

Untuk menyebarkan model, gunakan perintah New-AzCognitiveServicesAccountDeployment . Dalam contoh berikut, Anda menyebarkan instans text-embedding-ada-002 model dan memberinya nama MyModel. Saat Anda mencoba contoh, perbarui kode untuk menggunakan nilai Anda untuk grup sumber daya dan sumber daya. Anda tidak perlu mengubah model-versionnilai , model-format atau sku-capacity, dan sku-name .

$model = New-Object -TypeName 'Microsoft.Azure.Management.CognitiveServices.Models.DeploymentModel' -Property @{
    Name = 'text-embedding-ada-002'
    Version = '2'
    Format = 'OpenAI'
}

$properties = New-Object -TypeName 'Microsoft.Azure.Management.CognitiveServices.Models.DeploymentProperties' -Property @{
    Model = $model
}

$sku = New-Object -TypeName "Microsoft.Azure.Management.CognitiveServices.Models.Sku" -Property @{
    Name = 'Standard'
    Capacity = '1'
}

New-AzCognitiveServicesAccountDeployment -ResourceGroupName OAIResourceGroup -AccountName MyOpenAIResource -Name MyModel -Properties $properties -Sku $sku

Penting

Saat Anda mengakses model melalui API, Anda perlu merujuk ke nama penyebaran daripada nama model yang mendasari dalam panggilan API, yang merupakan salah satu perbedaan utama antara OpenAI dan Azure OpenAI. OpenAI hanya memerlukan nama model. Azure OpenAI selalu memerlukan nama penyebaran, bahkan saat menggunakan parameter model. Dalam dokumen kami, kami sering memiliki contoh di mana nama penyebaran diwakili sebagai identik dengan nama model untuk membantu menunjukkan model mana yang bekerja dengan titik akhir API tertentu. Pada akhirnya nama penyebaran Anda dapat mengikuti konvensi penamaan apa pun yang terbaik untuk kasus penggunaan Anda.

Hapus model dari sumber daya anda

Anda dapat menghapus model apa pun yang disebarkan dari sumber daya Anda dengan perintah Remove-AzCognitiveServicesAccountDeployment . Dalam contoh berikut, Anda menghapus model bernama MyModel. Saat Anda mencoba contoh, perbarui kode untuk menggunakan nilai Anda untuk grup sumber daya, sumber daya, dan model yang disebarkan.

Remove-AzCognitiveServicesAccountDeployment -ResourceGroupName OAIResourceGroup -AccountName MyOpenAIResource -Name MyModel

Menghapus sumber daya

Jika Anda ingin membersihkan setelah latihan ini, Anda dapat menghapus sumber daya Azure OpenAI dengan menghapus sumber daya melalui Azure PowerShell. Anda juga dapat menghapus grup sumber daya. Jika Anda memilih untuk menghapus grup sumber daya, semua sumber daya yang terkandung dalam grup juga akan dihapus.

Untuk menghapus grup sumber daya dan sumber daya terkait, gunakan perintah Remove-AzCognitiveServicesAccount .

Jika Anda tidak akan terus menggunakan sumber daya yang dibuat dalam latihan ini, jalankan perintah berikut untuk menghapus grup sumber daya Anda. Pastikan untuk memperbarui kode contoh untuk menggunakan nilai Anda untuk grup sumber daya dan sumber daya.

Remove-AzCognitiveServicesAccount -Name MyOpenAIResource -ResourceGroupName OAIResourceGroup

Langkah berikutnya

• Lakukan panggilan API dan buat teks dengan mulai cepat Azure OpenAI Service.
• Pelajari selengkapnya tentang model Layanan Azure OpenAI.
• Untuk informasi tentang harga, kunjungi halaman harga Azure OpenAI