Catatan
Akses ke halaman ini memerlukan otorisasi. Anda dapat mencoba masuk atau mengubah direktori.
Akses ke halaman ini memerlukan otorisasi. Anda dapat mencoba mengubah direktori.
Dalam artikel ini, Anda belajar mengembangkan aplikasi AI generatif dengan memulai dari model GitHub lalu meningkatkan pengalaman Anda dengan menyebarkan sumber daya Foundry Tools dengan Microsoft Foundry Models.
GitHub Model berguna ketika Anda ingin menemukan dan bereksperimen dengan model AI secara gratis saat Anda mengembangkan aplikasi AI generatif. Ketika Anda siap untuk membawa aplikasi Anda ke produksi, tingkatkan pengalaman Anda dengan menyebarkan sumber daya Foundry Tools dalam langganan Azure dan mulai menggunakan Model Foundry. Anda tidak perlu mengubah apa pun dalam kode Anda.
Taman bermain dan penggunaan API gratis untuk Model GitHub rate terbatas berdasarkan permintaan per menit, permintaan per hari, token per permintaan, dan permintaan bersamaan. Jika Anda mendapatkan tarif terbatas, Anda perlu menunggu batas tarif yang Anda tekan untuk mengatur ulang sebelum Anda dapat membuat lebih banyak permintaan.
Prasyarat
Anda memerlukan:
- Akun GitHub dengan akses ke GitHub Models.
- Langganan Azure dengan metode pembayaran yang valid. Jika Anda tidak memiliki langganan Azure, buat akun Azure bayar untuk memulai. Atau, Anda dapat menunggu hingga siap untuk menyebarkan model ke produksi, di mana Anda akan diminta untuk membuat atau memperbarui akun Azure Anda ke akun standar.
- Model Foundry dari mitra dan komunitas membutuhkan akses ke Azure Marketplace. Pastikan Anda memiliki izin yang diperlukan untuk berlangganan penawaran model. Model Foundry yang dijual langsung oleh Azure tidak memiliki persyaratan ini.
Tingkatkan ke Model Foundry
Batas tarif untuk taman bermain dan penggunaan API gratis membantu Anda bereksperimen dengan model dan mengembangkan aplikasi AI Anda. Saat Anda siap untuk meluncurkan aplikasi Anda ke lingkungan produksi, gunakan kunci dan titik akhir dari akun Azure berbayar. Anda tidak perlu mengubah apa pun dalam kode Anda.
Nota
Model GitHub gratis dengan batas tarif. Setelah Anda meningkatkan ke Model Foundry, penggunaan akan ditagihkan ke langganan Azure Anda berdasarkan jenis penyebaran yang Anda pilih.
Untuk mendapatkan kunci dan titik akhir:
Buka GitHub Model dan pilih model untuk mendarat di taman bermainnya. Artikel ini menggunakan Mistral Medium 3 (25.05).
Ketik beberapa perintah atau gunakan beberapa perintah yang disarankan untuk berinteraksi dengan model di taman bermain.
Pilih Gunakan model ini dari taman bermain. Tindakan ini membuka jendela untuk memulai dengan model-model di kode dasar Anda.
Di langkah "Konfigurasi autentikasi", pilih Dapatkan kunci Microsoft Foundry dari bagian "Azure AI".
cuplikan layar memperlihatkan cara mendapatkan kunci produksi AI Azure dari sandbox Model GitHub
Jika Anda sudah masuk ke akun Azure Anda, lewati langkah ini. Namun, jika Anda tidak memiliki akun Azure atau tidak masuk ke akun Anda, ikuti langkah-langkah berikut:
Jika Anda tidak memiliki akun Azure, pilih Buat akun saya dan ikuti langkah-langkah untuk membuatnya.
Atau, jika Anda memiliki akun Azure, pilih Simpan kembali. Jika akun yang ada adalah akun gratis, Anda harus terlebih dahulu meningkatkan ke paket standar.
Kembali ke taman bermain model dan pilih Dapatkan kunci Microsoft Foundry lagi.
Masuk ke akun Azure Anda.
Anda dibawa ke Foundry > GitHub dan masuk ke halaman beranda di foundry project.
Petunjuk / Saran
Jika Anda memasuki pengalaman Foundry (klasik), alihkan sakelar New Foundry di navigasi kanan atas untuk beralih ke pengalaman Foundry baru.
Ikuti langkah-langkah dalam Menyebarkan model untuk menyebarkan model pilihan Anda, mengujinya di Playground, dan menyimpulkan model yang disebarkan dengan kode.
Uji apakah penyebaran berfungsi dengan mengirimkan prompt uji di Playground. Jika Anda menerima respons, model Anda siap digunakan oleh kode.
Penting
Tidak seperti model GitHub di mana semua model sudah dikonfigurasi, sumber daya Foundry Tools memungkinkan Anda mengontrol model mana yang tersedia di titik akhir Anda dan di bawah konfigurasi mana. Tambahkan model sebanyak yang Anda rencanakan untuk digunakan sebelum menunjukkannya dalam model parameter . Pelajari cara menambahkan lebih banyak model ke sumber daya Anda.
Menjelajahi fitur tambahan
Model Foundry mendukung fitur yang tidak tersedia dalam Model GitHub:
- Model catalog — Telusuri, bandingkan, dan evaluasi model dari Azure, mitra, dan komunitas sumber terbuka.
- Autentikasi tanpa kunci — Gunakan Microsoft Entra ID untuk autentikasi berbasis token tanpa mengelola kunci API.
- Pemfilteran konten — Mengonfigurasi filter keamanan konten untuk setiap penerapan Anda.
- Pembatasan tarif — Tetapkan batas tarif kustom untuk model tertentu di sumber daya Anda.
- Jenis penyebaran — Pilih dari beberapa SKU penyebaran seperti pembayaran per token, terprovisi, dan berkelompok.
Pemecahan Masalah Umum
| Masalah | Resolusi |
|---|---|
| Model tidak tersedia di wilayah Anda | Periksa ketersediaan wilayah model pada halaman katalog model dan pilih wilayah yang didukung. |
| Kesalahan autentikasi setelah pertukaran kunci | Verifikasi bahwa Anda menyalin kunci yang benar dari portal Foundry. Pilih pengaturan Proyek>Kunci dan titik akhir untuk melihat kunci Anda. |
| Kesalahan batas laju setelah peningkatan | Batas tarif Model Foundry bergantung pada jenis penyebaran Anda. Tingkatkan skala atau pilih penyebaran dengan throughput yang lebih tinggi. |