Apa itu Azure OpenAI Service?
Azure OpenAI Service menyediakan akses REST API ke model bahasa OpenAI yang canggih termasuk seri model o1-preview, o1-mini, GPT-4o, GPT-4o mini, GPT-4 Turbo dengan Vision, GPT-4, GPT-3.5-Turbo, dan Embeddings. Model-model ini dapat dengan mudah disesuaikan dengan tugas spesifik Anda termasuk tetapi tidak terbatas pada pembuatan konten, ringkasan, pemahaman gambar, pencarian semantik, dan terjemahan bahasa alami ke kode. Pengguna dapat mengakses layanan melalui REST API, Python SDK, atau di Azure AI Studio.
Gambaran umum fitur
| Fitur | Azure OpenAI |
|---|---|
| Model yang tersedia | pratinjau o1 & o1-mini - (Akses Terbatas - Akses Permintaan) GPT-4o & GPT-4o mini Seri GPT-4 (termasuk GPT-4 Turbo dengan Visi) Seri GPT-3.5-Turbo Seri penyematan Pelajari selengkapnya di halaman Model kami. |
| Penyesuaian halus | GPT-4o-mini (pratinjau) GPT-4 (pratinjau) GPT-3.5-Turbo (0613) babbage-002 davinci-002. |
| Harga | Tersedia di sini Untuk detail tentang GPT-4 Turbo dengan Visi, lihat informasi harga khusus. |
| Dukungan jaringan virtual & dukungan tautan privat | Ya. |
| Identitas Terkelola | Ya, melalui MICROSOFT Entra ID |
| Pengalaman antarmuka pengguna | portal Azure untuk akun & manajemen sumber daya, Azure AI Studio untuk eksplorasi dan penyempurnaan model |
| Ketersediaan regional model | Ketersediaan model |
| Pemfilteran konten | Perintah dan penyelesaian dievaluasi berdasarkan kebijakan konten kami dengan sistem otomatis. Konten tingkat keparahan tinggi difilter. |
AI yang Bertanggung Jawab
Di Microsoft, kami berkomitmen untuk kemajuan AI yang didorong oleh prinsip-prinsip yang mengutamakan manusia. Model generatif seperti yang tersedia di Azure OpenAI memiliki manfaat potensial yang signifikan, tetapi tanpa desain yang cermat dan mitigasi yang bijaksana, model tersebut berpotensi menghasilkan konten yang salah atau bahkan berbahaya. Microsoft telah melakukan investasi yang signifikan untuk membantu melindungi dari penyalahgunaan dan bahaya yang tidak diinginkan, yang termasuk memasukkan prinsip-prinsip Microsoft untuk penggunaan AI yang bertanggung jawab, mengadopsi Kode Etik untuk penggunaan layanan, membangun filter konten untuk mendukung pelanggan, dan memberikan informasi dan panduan AI yang bertanggung jawab yang harus dipertimbangkan pelanggan saat menggunakan Azure OpenAI.
Mulai menggunakan Layanan Azure OpenAI
Untuk mulai menggunakan Azure OpenAI Service, Anda perlu membuat sumber daya Azure OpenAI Service di langganan Azure Anda.
Mulailah dengan panduan Membuat dan menyebarkan sumber daya Azure OpenAI Service.
Anda dapat membuat sumber daya melalui portal Azure, Azure CLI, atau Azure PowerShell.
Saat Anda memiliki sumber daya Azure OpenAI Service, Anda dapat menyebarkan model seperti GPT-4o.
Saat Anda memiliki model yang disebarkan, Anda dapat:
- Cobalah taman bermain Azure AI Studio untuk menjelajahi kemampuan model.
- Anda juga dapat mulai melakukan panggilan API ke layanan menggunakan REST API atau SDK.
Misalnya, Anda dapat mencoba audio dan asisten real time di taman bermain atau melalui kode.
Catatan
Formulir pendaftaran Akses Terbatas diperlukan untuk mengakses beberapa model atau fitur Azure OpenAI Service. Pelajari selengkapnya di halaman Akses Terbatas Azure OpenAI.
Membandingkan Azure OpenAI dan OpenAI
Layanan Azure OpenAI memberi pelanggan AI bahasa lanjutan dengan OpenAI GPT-4, GPT-3, Codex, DALL-E, Whisper, dan model teks ke ucapan dengan janji keamanan dan perusahaan Azure. Azure OpenAI bersama-sama mengembangkan API dengan OpenAI, memastikan kompatibilitas dan transisi yang lancar dari satu ke yang lain.
Dengan Azure OpenAI, pelanggan mendapatkan kemampuan keamanan Microsoft Azure sambil menjalankan model yang sama dengan OpenAI. Azure OpenAI menawarkan jaringan privat, ketersediaan regional, dan pemfilteran konten AI yang bertanggung jawab.
Konsep kunci
Perintah & penyelesaian
Titik akhir penyelesaian adalah komponen inti dari layanan API. API ini menyediakan akses ke antarmuka teks masuk dan teks keluar model. Pengguna hanya perlu memberikan perintah input yang berisi perintah teks bahasa Inggris, dan model menghasilkan penyelesaian teks.
Berikut adalah contoh perintah dan penyelesaian sederhana:
Perintah:
""" count to 5 in a for loop """Penyelesaian:
for i in range(1, 6): print(i)
Token
Token teks
Azure OpenAI memproses teks dengan memecahnya menjadi token. Token dapat berupa kata-kata atau hanya potongan karakter. Misalnya, kata "hamburger" dipecah menjadi token "ham", "bur", dan "ger", sementara kata pendek dan umum seperti "pear" adalah token tunggal. Banyak token dimulai dengan spasi kosong, misalnya "hello" dan " bye".
Jumlah total token yang diproses dalam permintaan tertentu tergantung pada panjang parameter input, output, dan permintaan Anda. Kuantitas token yang sedang diproses juga akan memengaruhi throughput dan latensi respons Anda untuk model tersebut.
Token gambar
Kemampuan pemrosesan gambar Azure OpenAI dengan GPT-4o, GPT-4o mini, dan GPT-4 Turbo dengan model Visi menggunakan tokenisasi gambar untuk menentukan jumlah total token yang digunakan oleh input gambar. Jumlah token yang digunakan dihitung berdasarkan dua faktor utama: tingkat detail gambar (rendah atau tinggi) dan dimensi gambar. Berikut cara biaya token dihitung:
- Mode resolusi rendah
- Detail rendah memungkinkan API mengembalikan respons yang lebih cepat untuk skenario yang tidak memerlukan analisis resolusi gambar tinggi. Token yang digunakan untuk gambar detail rendah adalah:
- GPT-4o dan GPT-4 Turbo dengan Visi: Tarif tetap 85 token per gambar, terlepas dari ukurannya.
- GPT-4o mini: Tarif tetap 2833 token per gambar, terlepas dari ukurannya.
- Contoh: Gambar 4096 x 8192 (detail rendah): Biayanya adalah 85 token tetap dengan GPT-4o, karena gambar detailnya rendah, dan ukurannya tidak memengaruhi biaya dalam mode ini.
- Detail rendah memungkinkan API mengembalikan respons yang lebih cepat untuk skenario yang tidak memerlukan analisis resolusi gambar tinggi. Token yang digunakan untuk gambar detail rendah adalah:
- Mode resolusi tinggi
- Detail tinggi memungkinkan API menganalisis gambar secara lebih rinci. Token gambar dihitung berdasarkan dimensi gambar. Perhitungan melibatkan langkah-langkah berikut:
- Mengubah ukuran gambar: Gambar diubah ukurannya agar pas dalam persegi 2048 x 2048 piksel. Jika sisi terpendek lebih besar dari 768 piksel, gambar akan diubah ukurannya lebih jauh sehingga sisi terpendek memiliki panjang 768 piksel. Rasio aspek dipertahankan selama pengubahan ukuran.
- Perhitungan petak: Setelah diubah ukurannya, gambar dibagi menjadi petak peta 512 x 512 piksel. Petak peta parsial apa pun dibulatkan ke atas ke petak penuh. Jumlah petak peta menentukan total biaya token.
- Perhitungan token:
- GPT-4o dan GPT-4 Turbo dengan Visi: Setiap petak peta 512 x 512 piksel dikenakan biaya 170 token. Tambahan 85 token dasar ditambahkan ke total.
- GPT-4o mini: Setiap petak peta 512 x 512 piksel dikenakan biaya 5667 token. Tambahan 2833 token dasar ditambahkan ke total.
- Contoh: Gambar 2048 x 4096 (detail tinggi):
- Gambar awalnya diubah ukurannya menjadi 1024 x 2048 piksel agar pas dalam persegi 2048 x 2048 piksel.
- Gambar diubah ukurannya lebih lanjut menjadi 768 x 1536 piksel untuk memastikan sisi terpendek adalah maksimum 768 piksel.
- Gambar dibagi menjadi 2 x 3 petak peta, masing-masing 512 x 512 piksel.
- Perhitungan akhir:
- Untuk GPT-4o dan GPT-4 Turbo dengan Visi, total biaya token adalah 6 petak x 170 token per petak peta + 85 token dasar = 1105 token.
- Untuk GPT-4o mini, total biaya token adalah 6 petak x 5667 token per petak + 2833 token dasar = 36835 token.
- Detail tinggi memungkinkan API menganalisis gambar secara lebih rinci. Token gambar dihitung berdasarkan dimensi gambar. Perhitungan melibatkan langkah-langkah berikut:
Sumber
Azure OpenAI adalah penawaran produk baru di Azure. Anda dapat memulai dengan Azure OpenAI dengan cara yang sama seperti produk Azure lainnya tempat Anda membuat sumber daya, atau instans layanan, di Langganan Azure Anda. Anda dapat membaca lebih lanjut tentang desain manajemen sumber daya Azure.
Penyebaran
Setelah membuat Sumber Daya Azure OpenAI, Anda harus menyebarkan model sebelum dapat mulai melakukan panggilan API dan menghasilkan teks. Tindakan ini dapat dilakukan menggunakan API Penyebaran. API ini memungkinkan Anda menentukan model yang ingin Anda gunakan.
Rekayasa perintah
Model GPT-3, GPT-3.5, dan GPT-4 dari OpenAI berbasis perintah. Dengan model berbasis perintah, pengguna berinteraksi dengan model dengan memasukkan perintah teks, yang ditanggapi oleh model dengan penyelesaian teks. Penyelesaian ini merupakan kelanjutan model teks input.
Meskipun model-model ini kuat, perilakunya juga sensitif terhadap perintah. Hal ini membuat rekayasa prompt menjadi keterampilan penting untuk dikembangkan.
Konstruksi prompt bisa sulit. Dalam praktiknya, permintaan bertindak untuk mengonfigurasi bobot model untuk menyelesaikan tugas yang diinginkan, tetapi lebih dari seni daripada ilmu pengetahuan, sering membutuhkan pengalaman dan intuisi untuk membuat permintaan yang sukses.
Model
Layanan ini menyediakan akses pengguna ke banyak model yang berbeda. Setiap model menyediakan kemampuan dan titik harga yang berbeda.
Model DALL-E (beberapa dalam pratinjau; lihat model) menghasilkan gambar dari perintah teks yang disediakan pengguna.
Model Whisper dapat digunakan untuk mentranskripsikan dan menerjemahkan ucapan ke teks.
Model teks ke ucapan, yang saat ini dalam pratinjau, dapat digunakan untuk mensintesis teks ke ucapan.
Pelajari lebih lanjut tentang setiap model di halaman konsep model kami.
Langkah berikutnya
Pelajari selengkapnya tentang model yang mendasari yang mendukung Azure OpenAI.