Catatan
Akses ke halaman ini memerlukan otorisasi. Anda dapat mencoba masuk atau mengubah direktori.
Akses ke halaman ini memerlukan otorisasi. Anda dapat mencoba mengubah direktori.
Dalam artikel ini, Anda belajar mengembangkan aplikasi AI generatif dengan memulai dari Model GitHub lalu meningkatkan pengalaman Anda dengan menyebarkan sumber daya Foundry Tools dengan Microsoft Foundry Models.
Model GitHub berguna ketika Anda ingin menemukan dan bereksperimen dengan model AI secara gratis saat Anda mengembangkan aplikasi AI generatif. Saat Anda siap untuk membawa aplikasi Anda ke produksi, tingkatkan pengalaman Anda dengan menyebarkan sumber daya Foundry Tools dalam langganan Azure dan mulai menggunakan Model Foundry. Anda tidak perlu mengubah apa pun dalam kode Anda.
"Taman bermain dan penggunaan API gratis untuk Model GitHub dibatasi kuota oleh permintaan per menit, permintaan per hari, token per permintaan, dan permintaan bersamaan." Jika Anda mendapatkan tarif terbatas, Anda perlu menunggu batas tarif yang Anda tekan untuk mengatur ulang sebelum Anda dapat membuat lebih banyak permintaan.
Prasyarat
Anda memerlukan:
- Akun GitHub dengan akses ke GitHub Models.
- Langganan Azure dengan metode pembayaran yang valid. Jika Anda tidak memiliki langganan Azure, buat akun Azure berbayar untuk memulai. Atau, Anda dapat menunggu hingga Anda siap untuk menyebarkan model ke produksi, di mana Anda akan diminta untuk membuat atau memperbarui akun Azure Anda ke akun standar.
- Model Foundry dari mitra dan komunitas memerlukan akses ke Marketplace Azure. Pastikan Anda memiliki izin yang diperlukan untuk berlangganan penawaran model. Model Foundry yang dijual langsung oleh Azure tidak memiliki persyaratan ini.
Tingkatkan ke Model Foundry
Batas tarif untuk taman bermain dan penggunaan API gratis membantu Anda bereksperimen dengan model dan mengembangkan aplikasi AI Anda. Ketika Anda siap untuk memasukkan aplikasi Anda ke dalam produksi, gunakan kunci dan titik akhir dari akun Azure yang berbayar. Anda tidak perlu mengubah apa pun dalam kode Anda.
Nota
Model GitHub gratis dengan batas tarif. Setelah Anda meningkatkan ke Model Foundry, penggunaan ditagih ke langganan Azure Anda berdasarkan jenis penyebaran yang Anda pilih.
Untuk mendapatkan kunci dan titik akhir:
Buka GitHub Models dan pilih model untuk masuk ke area eksperimen. Artikel ini menggunakan Mistral Medium 3 (25.05).
Ketik beberapa perintah atau gunakan beberapa perintah yang disarankan untuk berinteraksi dengan model di taman bermain.
Pilih Gunakan model ini dari taman bermain. Tindakan ini membuka jendela untuk "Mulai menggunakan Model di basis kode Anda".
Di langkah "Konfigurasi autentikasi", pilih Dapatkan kunci Microsoft Foundry dari bagian "Azure AI".
Jika Anda sudah masuk ke akun Azure Anda, lewati langkah ini. Namun, jika Anda tidak memiliki akun Azure atau tidak masuk ke akun Anda, ikuti langkah-langkah berikut:
Jika Anda tidak memiliki akun Azure, pilih Buat akun saya dan ikuti langkah-langkah untuk membuatnya.
Atau, jika Anda memiliki akun Azure, pilih Masuk kembali. Jika akun yang ada adalah akun gratis, Anda harus terlebih dahulu meningkatkan ke paket standar.
Kembali ke taman bermain model dan pilih Dapatkan kunci Microsoft Foundry lagi.
Masuk menggunakan akun Azure Anda.
Anda dibawa ke Foundry > GitHub dan mendarat di halaman beranda dalam proyek Foundry.
Petunjuk / Saran
Jika Anda memasuki pengalaman Foundry (klasik), alihkan sakelar New Foundry di navigasi kanan atas untuk beralih ke pengalaman Foundry baru.
Ikuti langkah-langkah dalam Menyebarkan model untuk menyebarkan model pilihan Anda, mengujinya di Playground, dan menyimpulkan model yang disebarkan dengan kode.
Uji apakah penyebaran berfungsi dengan mengirimkan prompt uji di Playground. Jika Anda menerima respons, model Anda siap digunakan oleh kode.
Penting
Tidak seperti Model GitHub tempat semua model sudah dikonfigurasi, sumber daya Foundry Tools memungkinkan Anda mengontrol model mana yang tersedia di titik akhir Anda dan di bawah konfigurasi mana. Tambahkan model sebanyak yang Anda rencanakan untuk digunakan sebelum menunjukkannya dalam model parameter . Pelajari cara menambahkan lebih banyak model ke sumber daya Anda.
Menjelajahi fitur tambahan
Model Foundry mendukung fitur yang tidak tersedia di Model GitHub:
- Katalog model — Telusuri, bandingkan, dan evaluasi model dari Azure, mitra, dan komunitas sumber terbuka.
- Autentikasi tanpa kunci — Gunakan ID Microsoft Entra untuk autentikasi berbasis token tanpa mengelola kunci API.
- Pemfilteran konten — Mengonfigurasi filter keamanan konten untuk setiap penerapan Anda.
- Pembatasan tarif — Tetapkan batas tarif kustom untuk model tertentu di sumber daya Anda.
- Jenis penyebaran — Pilih dari beberapa SKU penyebaran seperti pembayaran per token, terprovisi, dan berkelompok.
Pemecahan Masalah Umum
| Masalah | Resolusi |
|---|---|
| Model tidak tersedia di wilayah Anda | Periksa ketersediaan wilayah model di halaman katalog modelnya dan pilih wilayah yang didukung. |
| Kesalahan autentikasi setelah pertukaran kunci | Verifikasi bahwa Anda menyalin kunci yang benar dari portal Foundry. Pilih Pengaturan proyek>Kunci dan titik akhir untuk melihat kunci Anda. |
| Kesalahan batas laju setelah peningkatan | Batas tarif Model Foundry bergantung pada jenis penyebaran Anda. Tingkatkan skala atau pilih penyebaran dengan throughput yang lebih tinggi. |