Apa itu Azure OpenAI Service?

  • Artikel

Azure OpenAI Service menyediakan akses REST API ke model bahasa OpenAI yang kuat termasuk seri model GPT-4, GPT-4 Turbo dengan Vision, GPT-3.5-Turbo, dan Embeddings. Selain itu, seri model GPT-4 dan GPT-3.5-Turbo baru sekarang telah mencapai ketersediaan umum. Model-model ini dapat dengan mudah disesuaikan dengan tugas spesifik Anda termasuk tetapi tidak terbatas pada pembuatan konten, ringkasan, pemahaman gambar, pencarian semantik, dan bahasa alami untuk terjemahan kode. Pengguna dapat mengakses layanan melalui REST API, Python SDK, atau antarmuka berbasis web kami di Azure OpenAI Studio.

Gambaran umum fitur

Fitur Azure OpenAI
Model yang tersedia Seri GPT-4 (termasuk GPT-4 Turbo dengan Visi)
Seri GPT-3.5-Turbo
Seri penyematan
Pelajari selengkapnya di halaman Model kami.
Penyempurnaan (pratinjau) GPT-3.5-Turbo (0613)
babbage-002
davinci-002.
Harga Tersedia di sini
Untuk detail tentang GPT-4 Turbo dengan Visi, lihat informasi harga khusus.
Dukungan jaringan virtual & dukungan tautan privat Ya, kecuali menggunakan Azure OpenAI pada data Anda.
Identitas Terkelola Ya, melalui MICROSOFT Entra ID
Pengalaman antarmuka pengguna portal Azure untuk akun & manajemen sumber daya,
Azure OpenAI Service Studio untuk eksplorasi model dan penyempurnaan
Ketersediaan regional model Ketersediaan model
Pemfilteran konten Perintah dan penyelesaian dievaluasi berdasarkan kebijakan konten kami dengan sistem otomatis. Konten dengan tingkat keparahan tinggi akan difilter.

AI yang Bertanggung Jawab

Di Microsoft, kami berkomitmen untuk kemajuan AI yang didorong oleh prinsip-prinsip yang mengutamakan manusia. Model generatif seperti yang tersedia di Azure OpenAI memiliki manfaat potensial yang signifikan, tetapi tanpa desain yang cermat dan mitigasi yang bijaksana, model tersebut berpotensi menghasilkan konten yang salah atau bahkan berbahaya. Microsoft telah melakukan investasi yang signifikan untuk membantu menjaga dari penyalahgunaan dan bahaya yang tidak diinginkan, yang mencakup dalam mewajibkan pelamar untuk menunjukkan kasus penggunaan yang terdefinisi dengan baik, menggabungkan prinsip-prinsip penggunaan AI yang bertanggung jawab Microsoft, membuat filter konten untuk mendukung pelanggan, dan menyediakan panduan penerapan AI yang bertanggung jawab untuk pelanggan yang sudah bergabung.

Bagaimana cara mendapatkan akses ke Azure OpenAI?

Bagaimana cara mendapatkan akses ke Azure OpenAI?

Akses saat ini terbatas karena kami menavigasi permintaan yang tinggi, peningkatan produk yang akan datang, dan komitmen Microsoft terhadap AI yang bertanggung jawab. Untuk saat ini, kami bekerja dengan pelanggan dengan kemitraan yang sudah ada dengan Microsoft, kasus penggunaan risiko yang lebih rendah, dan mereka yang berkomitmen untuk memasukkan mitigasi.

Informasi yang lebih spesifik disertakan dalam formulir aplikasi. Kami menghargai kesabaran Anda saat kami bekerja untuk secara bertanggung jawab memungkinkan akses yang lebih luas ke Azure OpenAI.

Terapkan di sini untuk akses:

Terapkan sekarang

Membandingkan Azure OpenAI dan OpenAI

Layanan Azure OpenAI memberi pelanggan AI bahasa lanjutan dengan OpenAI GPT-4, GPT-3, Codex, DALL-E, Whisper, dan model teks ke ucapan dengan janji keamanan dan perusahaan Azure. Azure OpenAI bersama-sama mengembangkan API dengan OpenAI, memastikan kompatibilitas dan transisi yang lancar dari satu ke yang lain.

Dengan Azure OpenAI, pelanggan mendapatkan kemampuan keamanan Microsoft Azure sambil menjalankan model yang sama dengan OpenAI. Azure OpenAI menawarkan jaringan privat, ketersediaan regional, dan pemfilteran konten AI yang bertanggung jawab.

Konsep kunci

Perintah & penyelesaian

Titik akhir penyelesaian adalah komponen inti dari layanan API. API ini menyediakan akses ke antarmuka teks masuk dan teks keluar model. Pengguna hanya perlu memberikan perintah input yang berisi perintah teks bahasa Inggris dan model akan menghasilkan penyelesaian teks.

Berikut adalah contoh perintah dan penyelesaian sederhana:

Perintah: """ count to 5 in a for loop """

Penyelesaian: for i in range(1, 6): print(i)

Token

Token teks

Azure OpenAI memproses teks dengan memecahnya menjadi token. Token dapat berupa kata-kata atau hanya potongan karakter. Misalnya, kata "hamburger" dipecah menjadi token "ham", "bur", dan "ger", sementara kata pendek dan umum seperti "pear" adalah token tunggal. Banyak token dimulai dengan spasi kosong, misalnya "hello" dan " bye".

Jumlah total token yang diproses dalam permintaan tertentu tergantung pada panjang parameter input, output, dan permintaan Anda. Kuantitas token yang sedang diproses juga akan memengaruhi throughput dan latensi respons Anda untuk model tersebut.

Token gambar (GPT-4 Turbo dengan Visi)

Biaya token gambar input tergantung pada dua faktor utama: ukuran gambar dan pengaturan detail (rendah atau tinggi) yang digunakan untuk setiap gambar. Berikut adalah perincian cara kerjanya:

  • Detail: Mode resolusi rendah

    • Detail rendah memungkinkan API untuk mengembalikan respons yang lebih cepat dan menggunakan lebih sedikit token input untuk kasus penggunaan yang tidak memerlukan detail tinggi.
    • Gambar-gambar ini masing-masing dikenakan biaya 85 token, terlepas dari ukuran gambarnya.
    • Contoh: Gambar 4096 x 8192 (detail rendah): Biayanya adalah 85 token tetap, karena ini adalah gambar detail rendah, dan ukurannya tidak memengaruhi biaya dalam mode ini.

  • Detail: Mode resolusi tinggi

    • Detail tinggi memungkinkan API melihat gambar secara lebih rinci dengan memangkasnya menjadi kotak yang lebih kecil. Setiap persegi menggunakan lebih banyak token untuk menghasilkan teks.
    • Biaya token dihitung dengan serangkaian langkah penskalaan:
      1. Gambar ini pertama kali diskalakan agar sesuai dalam persegi 2048 x 2048 sambil mempertahankan rasio aspeknya.
      2. Gambar kemudian diskalakan ke bawah sehingga sisi terpendek memiliki panjang 768 piksel.
      3. Gambar dibagi menjadi petak peta persegi 512 piksel, dan jumlah petak peta ini (dibulatkan untuk petak peta parsial) menentukan biaya akhir. Setiap petak peta dikenakan biaya 170 token.
      4. Tambahan 85 token ditambahkan ke total biaya.
    • Contoh: Gambar 2048 x 4096 (detail tinggi)
      1. Awalnya diubah ukurannya menjadi 1024 x 2048 agar pas dalam persegi 2048.
      2. Selanjutnya diubah ukurannya menjadi 768 x 1536.
      3. Membutuhkan enam petak peta 512px untuk menutupi.
      4. Total biaya adalah 170 × 6 + 85 = 1105 token.

Sumber

Azure OpenAI adalah penawaran produk baru di Azure. Anda dapat memulai dengan Azure OpenAI dengan cara yang sama seperti produk Azure lainnya tempat Anda membuat sumber daya, atau instans layanan, di Langganan Azure Anda. Anda dapat membaca lebih lanjut tentang desain manajemen sumber daya Azure.

Penyebaran

Setelah membuat Sumber Daya Azure OpenAI, Anda harus menyebarkan model sebelum dapat mulai melakukan panggilan API dan menghasilkan teks. Tindakan ini dapat dilakukan menggunakan API Penyebaran. API ini memungkinkan Anda menentukan model yang ingin Anda gunakan.

Rekayasa perintah

Model GPT-3, GPT-3.5, dan GPT-4 dari OpenAI berbasis perintah. Dengan model berbasis perintah, pengguna berinteraksi dengan model dengan memasukkan perintah teks, yang ditanggapi oleh model dengan penyelesaian teks. Penyelesaian ini merupakan kelanjutan model teks input.

Meskipun model ini sangat kuat, perilakunya juga sangat sensitif terhadap perintah. Hal ini membuat rekayasa prompt menjadi keterampilan penting untuk dikembangkan.

Konstruksi prompt bisa sulit. Dalam praktiknya, permintaan bertindak untuk mengonfigurasi bobot model untuk menyelesaikan tugas yang diinginkan, tetapi lebih dari seni daripada ilmu pengetahuan, sering membutuhkan pengalaman dan intuisi untuk membuat permintaan yang sukses.

Model

Layanan ini menyediakan akses pengguna ke banyak model yang berbeda. Setiap model menyediakan kemampuan dan titik harga yang berbeda.

Model DALL-E (beberapa dalam pratinjau; lihat model) menghasilkan gambar dari perintah teks yang disediakan pengguna.

Model Whisper dapat digunakan untuk mentranskripsikan dan menerjemahkan ucapan ke teks.

Model teks ke ucapan, yang saat ini dalam pratinjau, dapat digunakan untuk mensintesis teks ke ucapan.

Pelajari lebih lanjut tentang setiap model di halaman konsep model kami.

Langkah berikutnya

Pelajari selengkapnya tentang model yang mendasari yang mendukung Azure OpenAI.