Bagikan melalui

Apa itu Azure OpenAI di Model Azure AI Foundry?

Azure OpenAI menyediakan akses REST API ke model bahasa OpenAI yang kuat termasuk o4-mini, o3, gpt-4.1, o3-mini, o1, o1-mini, GPT-4o, GPT-4o mini, GPT-4 Turbo dengan Vision, GPT-4, GPT-3.5-Turbo, dan Embeddings model series. Model-model ini dapat dengan mudah disesuaikan dengan tugas spesifik Anda termasuk tetapi tidak terbatas pada pembuatan konten, ringkasan, pemahaman gambar, pencarian semantik, dan terjemahan bahasa alami ke kode. Pengguna dapat mengakses layanan melalui REST API, Python/C#/JS/Java/Go SDK.

Gambaran umum fitur

Fitur Azure OpenAI
Model yang tersedia o4-mini &o3
gpt-4.1
pratinjau-penggunaan-komputer
o3-mini &o1
o1-mini
GPT-4o & GPT-4o mini
Seri GPT-4 (termasuk GPT-4 Turbo dengan Visi)
Seri GPT-3.5-Turbo
Seri penyematan
Pelajari selengkapnya di halaman Model kami.
Penyempurnaan GPT-4o-mini (pratinjau)
GPT-4 (pratinjau)
GPT-3.5-Turbo (0613).
Harga Tersedia di sini
Untuk detail tentang model obrolan berfitur visi, lihat informasi harga khusus.
Dukungan jaringan virtual & dukungan tautan privat Ya.
Identitas yang Dikelola Ya, melalui MICROSOFT Entra ID
Pengalaman antarmuka pengguna portal Azure untuk akun & manajemen sumber daya,
Azure AI Foundry untuk eksplorasi model dan penyempurnaan
Ketersediaan regional model Ketersediaan model
Pemfilteran konten Perintah dan penyelesaian dievaluasi berdasarkan kebijakan konten kami dengan sistem otomatis. Konten tingkat keparahan tinggi difilter.

AI yang Bertanggung Jawab

Di Microsoft, kami berkomitmen untuk kemajuan AI yang didorong oleh prinsip-prinsip yang mengutamakan manusia. Model generatif seperti yang tersedia di Azure OpenAI memiliki manfaat potensial yang signifikan, tetapi tanpa desain yang cermat dan mitigasi yang bijaksana, model tersebut berpotensi menghasilkan konten yang salah atau bahkan berbahaya. Microsoft telah melakukan investasi signifikan untuk membantu melindungi dari penyalahgunaan dan bahaya yang tidak diinginkan, yang termasuk memasukkan prinsip-prinsip Microsoft untuk penggunaan AI yang bertanggung jawab, mengadopsi Kode Etik yang harus dipertimbangkan pelanggan saat menggunakan Azure OpenAI.

Mulai menggunakan Azure OpenAI

Untuk mulai menggunakan Azure OpenAI, Anda perlu membuat sumber daya Azure OpenAI di langganan Azure Anda.

Mulailah dengan panduan Membuat dan menyebarkan sumber daya Azure OpenAI .

  1. Anda dapat membuat sumber daya melalui portal Azure, Azure CLI, atau Azure PowerShell.

  2. Saat Anda memiliki sumber daya Azure OpenAI, Anda dapat menyebarkan model seperti GPT-4o.

  3. Saat Anda memiliki model yang disebarkan, Anda dapat:

    • Cobalah taman bermain portal Azure AI Foundry untuk menjelajahi kemampuan model.
    • Anda juga dapat mulai melakukan panggilan API ke layanan menggunakan REST API atau SDK.

    Misalnya, Anda dapat mencoba audio real-time di taman bermain atau melalui kode.

Nota

Formulir pendaftaran Akses Terbatas diperlukan untuk mengakses beberapa model atau fitur Azure OpenAI. Pelajari selengkapnya di halaman Akses Terbatas Azure OpenAI.

Membandingkan Azure OpenAI dan OpenAI

Azure OpenAI memberikan pelanggan AI bahasa tingkat lanjut dengan OpenAI GPT-4, GPT-3, Codex, GPT-image-1 (pratinjau), DALL-E, model ucapan ke teks, dan model teks ke ucapan dengan jaminan keamanan dan solusi perusahaan dari Azure. Azure OpenAI bersama-sama mengembangkan API dengan OpenAI, memastikan kompatibilitas dan transisi yang lancar dari satu ke yang lain.

Dengan Azure OpenAI, pelanggan mendapatkan kemampuan keamanan Microsoft Azure sambil menjalankan model yang sama dengan OpenAI. Azure OpenAI menawarkan jaringan privat, ketersediaan regional, dan pemfilteran konten AI yang bertanggung jawab.

Konsep utama

Petunjuk & penyelesaian

Titik akhir penyelesaian adalah komponen inti dari layanan API. API ini menyediakan akses ke antarmuka teks masuk dan keluar model. Pengguna hanya perlu memberikan perintah input yang berisi perintah teks bahasa Inggris, dan model menghasilkan penyelesaian teks.

Berikut adalah contoh perintah dan penyelesaian sederhana:

Perintah: """ count to 5 in a for loop """

Penyelesaian: for i in range(1, 6): print(i)

Beberapa Token

Token teks

Azure OpenAI memproses teks dengan memecahnya menjadi token. Token dapat berupa kata-kata atau hanya potongan karakter. Misalnya, kata "hamburger" dipecah menjadi token "ham", "bur", dan "ger", sementara kata pendek dan umum seperti "pear" adalah token tunggal. Banyak token dimulai dengan spasi kosong, misalnya "hello" dan " bye".

Jumlah total token yang diproses dalam permintaan tertentu tergantung pada panjang parameter input, output, dan permintaan Anda. Kuantitas token yang sedang diproses juga akan memengaruhi throughput dan latensi respons Anda untuk model tersebut.

Token untuk masukan gambar

Kemampuan pemrosesan gambar Azure OpenAI dengan GPT-4o, GPT-4o-mini, dan GPT-4 Turbo dengan model Visi menggunakan tokenisasi gambar untuk menentukan jumlah total token yang digunakan oleh input gambar. Jumlah token yang digunakan dihitung berdasarkan dua faktor utama: tingkat detail gambar (rendah atau tinggi) dan dimensi gambar. Berikut cara biaya token dihitung:

  • Mode resolusi rendah
    • Detail rendah memungkinkan API mengembalikan respons yang lebih cepat untuk skenario yang tidak memerlukan analisis resolusi gambar tinggi. Token yang digunakan untuk gambar detail rendah adalah:
      • GPT-4o dan GPT-4 Turbo dengan Visi: Tarif tetap 85 token per gambar, terlepas dari ukurannya.
      • GPT-4o mini: Tarif tetap 2833 token per gambar, tanpa memperhatikan ukurannya.
    • Contoh: Gambar 4096 x 8192 (detail rendah): Biayanya adalah 85 token tetap dengan GPT-4o, karena gambar detailnya rendah, dan ukurannya tidak memengaruhi biaya dalam mode ini.
  • Mode resolusi tinggi
    • Detail tinggi memungkinkan API menganalisis gambar secara lebih rinci. Token gambar dihitung berdasarkan dimensi gambar. Perhitungan melibatkan langkah-langkah berikut:
      1. Mengubah ukuran gambar: Gambar diubah ukurannya agar pas dalam persegi 2048 x 2048 piksel. Jika sisi terpendek lebih besar dari 768 piksel, gambar akan diubah ukurannya lebih jauh sehingga sisi terpendek memiliki panjang 768 piksel. Rasio aspek tetap terjaga selama pengubahan ukuran.
      2. Perhitungan ubin: Setelah diubah ukurannya, gambar dibagi menjadi ubin 512 x 512 piksel. Setiap ubin parsial dibulatkan ke ubin penuh. Jumlah ubin menentukan total biaya token.
      3. Perhitungan Token:
        • GPT-4o dan GPT-4 Turbo dengan Visi: Setiap petak peta 512 x 512 piksel dikenakan biaya 170 token. Tambahan 85 token dasar ditambahkan ke total.
        • GPT-4o mini: Setiap petak peta 512 x 512 piksel dikenakan biaya 5667 token. Tambahan 2833 token dasar ditambahkan ke total.
    • Contoh: Gambar 2048 x 4096 (detail tinggi):
      1. Gambar awalnya diubah ukurannya menjadi 1024 x 2048 piksel agar pas dalam persegi 2048 x 2048 piksel.
      2. Gambar diubah ukurannya lebih lanjut menjadi 768 x 1536 piksel untuk memastikan sisi terpendek tidak lebih dari 768 piksel.
      3. Gambar dibagi menjadi 2 x 3 petak, masing-masing 512 x 512 piksel.
      4. Perhitungan akhir:
        • Untuk GPT-4o dan GPT-4 Turbo dengan Visi, total biaya token adalah 6 petak x 170 token per petak peta + 85 token dasar = 1105 token.
        • Untuk GPT-4o mini, total biaya token adalah 6 petak x 5667 token per petak + 2833 token dasar = 36835 token.

Token pembuatan gambar

GPT-image-1 menghasilkan gambar dengan terlebih dahulu menghasilkan token gambar khusus. Latensi dan biaya akhirnya sebanding dengan jumlah token yang diperlukan untuk merender gambar. Jumlah token yang dihasilkan tergantung pada dimensi dan kualitas gambar:

Kualitas Persegi (1024×1024) Potret (1024×1536) lanskap (1536×1024)
Kurang Penting 272 token 408 token 400 token
Menengah 1056 token 1584 token 1568 token
Tinggi 4.160 token 6240 token 6208 token

Sumber Daya

Azure OpenAI adalah penawaran produk baru di Azure. Anda dapat memulai dengan Azure OpenAI dengan cara yang sama seperti produk Azure lainnya tempat Anda membuat sumber daya, atau instans layanan, di Langganan Azure Anda. Anda dapat membaca lebih lanjut tentang desain manajemen sumber daya Azure.

Penyebaran

Setelah membuat Sumber Daya Azure OpenAI, Anda harus menyebarkan model sebelum dapat mulai melakukan panggilan API dan menghasilkan teks. Tindakan ini dapat dilakukan menggunakan API Penyebaran. API ini memungkinkan Anda menentukan model yang ingin Anda gunakan.

Rekayasa pemicu

Model GPT-3, GPT-3.5, dan GPT-4 dari OpenAI berbasis perintah. Dengan model berbasis perintah, pengguna berinteraksi dengan model dengan memasukkan perintah teks, yang ditanggapi oleh model dengan penyelesaian teks. Penyelesaian ini merupakan kelanjutan model teks input.

Meskipun model-model ini kuat, perilakunya juga sensitif terhadap perintah. Hal ini membuat rekayasa prompt menjadi keterampilan penting untuk dikembangkan.

Membuat prompt bisa sulit. Dalam praktiknya, prompt digunakan untuk mengonfigurasi bobot model guna menyelesaikan tugas yang diinginkan. Namun, ini lebih merupakan seni daripada ilmu, seringkali membutuhkan pengalaman dan intuisi untuk merancang prompt yang berhasil.

Model

Layanan ini menyediakan akses pengguna ke banyak model yang berbeda. Setiap model menyediakan kemampuan dan titik harga yang berbeda.

Model pembuatan gambar (beberapa dalam pratinjau; lihat model) menghasilkan dan mengedit gambar dari perintah teks yang disediakan pengguna.

Model API audio dapat digunakan untuk mentranskripsikan dan menerjemahkan ucapan ke teks. Model teks ke ucapan, yang saat ini dalam pratinjau, dapat digunakan untuk mensintesis teks ke ucapan.

Pelajari lebih lanjut tentang setiap model di halaman konsep model kami.

Langkah selanjutnya

Pelajari selengkapnya tentang model yang mendasari yang mendukung Azure OpenAI.