Sumber daya hub Azure AI
Catatan
Azure AI Studio saat ini dalam pratinjau publik. Pratinjau ini disediakan tanpa perjanjian tingkat layanan, dan kami tidak merekomendasikannya untuk beban kerja produksi. Fitur tertentu mungkin tidak didukung atau mungkin memiliki kemampuan terbatas. Untuk mengetahui informasi selengkapnya, lihat Ketentuan Penggunaan Tambahan untuk Pratinjau Microsoft Azure.
Sumber daya hub Azure AI adalah sumber daya Azure tingkat atas untuk AI Studio dan menyediakan lingkungan kerja bagi tim untuk membangun dan mengelola aplikasi AI. Di Azure, sumber daya memungkinkan akses ke layanan Azure untuk individu dan tim. Sumber daya juga menyediakan kontainer untuk penagihan, konfigurasi keamanan, dan pemantauan.
Sumber daya hub Azure AI dapat digunakan untuk mengakses beberapa layanan Azure AI dengan satu penyiapan. Sebelumnya, layanan Azure AI yang berbeda termasuk Azure OpenAI, Azure Pembelajaran Mesin, Azure AI Speech, memerlukan penyiapan individual mereka.
Dalam artikel ini, Anda mempelajari selengkapnya tentang kemampuan sumber daya hub Azure AI, dan cara menyiapkan Azure AI untuk organisasi Anda. Anda dapat melihat sumber daya yang dibuat di portal Azure dan di Azure AI Studio.
Lingkungan kolaborasi untuk tim
Sumber daya hub Azure AI menyediakan lingkungan kolaborasi bagi tim untuk membangun dan mengelola aplikasi AI, melayani dua persona:
- Bagi pengembang AI, sumber daya hub Azure AI menyediakan lingkungan kerja untuk membangun aplikasi AI yang memberikan akses ke berbagai alat untuk pembuatan model AI. Alat dapat digunakan bersama-sama, dan memungkinkan Anda menggunakan dan menghasilkan komponen yang dapat dibagikan termasuk himpunan data, indeks, model. Sumber daya hub Azure AI memungkinkan Anda mengonfigurasi koneksi ke sumber daya eksternal, menyediakan sumber daya komputasi yang digunakan oleh alat dan titik akhir dan kunci akses ke model AI bawaan. Saat Anda menggunakan proyek untuk menyesuaikan kemampuan AI, proyek tersebut dihosting oleh sumber daya hub Azure AI dan dapat mengakses sumber daya bersama yang sama.
- Kepada administrator TI, pemimpin tim, dan petugas risiko, sumber daya hub Azure AI menyediakan satu panel kaca pada proyek yang dibuat oleh tim, mengaudit koneksi yang digunakan ke sumber daya eksternal, dan kontrol tata kelola lainnya untuk membantu memenuhi persyaratan biaya dan kepatuhan. Pengaturan keamanan dikonfigurasi pada sumber daya hub Azure AI, dan setelah disiapkan berlaku untuk semua proyek yang dibuat di bawahnya, memungkinkan administrator untuk memungkinkan pengembang membuat proyek mandiri untuk mengatur pekerjaan.
Konsep pengaturan dan manajemen pusat
Berbagai konsep manajemen tersedia di sumber daya hub Azure AI untuk mendukung prospek dan admin tim untuk mengelola lingkungan tim secara terpusat.
- Konfigurasi keamanan termasuk akses jaringan publik, jaringan virtual, enkripsi kunci yang dikelola pelanggan, dan akses istimewa yang dapat membuat proyek untuk penyesuaian. Pengaturan keamanan yang dikonfigurasi pada sumber daya hub Azure AI secara otomatis diteruskan ke setiap proyek. Jaringan virtual terkelola dibagikan antara semua proyek yang berbagi sumber daya hub Azure AI yang sama.
- Koneksi si diberi nama dan referensi terautentikasi ke sumber daya Azure dan non-Azure seperti penyedia penyimpanan data. Gunakan koneksi sebagai sarana untuk membuat sumber daya eksternal tersedia untuk sekelompok pengembang tanpa harus mengekspos kredensial tersimpannya kepada individu.
- Alokasi komputasi dan kuota dikelola sebagai kapasitas bersama untuk semua proyek di AI Studio yang berbagi sumber daya hub Azure AI yang sama. Ini termasuk instans komputasi sebagai stasiun kerja berbasis cloud terkelola untuk individu. Instans komputasi dapat digunakan di seluruh proyek oleh pengguna yang sama.
- Kunci akses layanan AI ke titik akhir untuk model AI bawaan dikelola pada cakupan sumber daya hub Azure AI. Gunakan titik akhir ini untuk mengakses model fondasi dari Azure OpenAI, Speech, Vision, dan Content Brankas ty dengan satu kunci API
- Kebijakan yang diberlakukan di Azure pada cakupan sumber daya hub Azure AI berlaku untuk semua proyek yang dikelola di bawahnya.
- Sumber daya Azure dependen disiapkan sekali per sumber daya hub Azure AI dan proyek terkait dan digunakan untuk menyimpan artefak yang Anda hasilkan saat bekerja di AI Studio seperti log atau saat mengunggah data. Lihat Dependensi Azure AI untuk detail selengkapnya.
Mengatur pekerjaan dalam proyek untuk kustomisasi
Sumber daya hub Azure AI menyediakan lingkungan hosting untuk proyek Azure AI di AI Studio. Proyek adalah kontainer organisasi yang memiliki alat untuk kustomisasi dan orkestrasi AI, memungkinkan Anda mengatur pekerjaan, menyimpan status di berbagai alat seperti alur perintah, dan berkolaborasi dengan orang lain. Misalnya, Anda dapat berbagi file dan koneksi yang diunggah ke sumber data.
Beberapa proyek dapat menggunakan sumber daya hub Azure AI, dan proyek dapat digunakan oleh beberapa pengguna. Proyek juga membantu Anda melacak penagihan, dan mengelola akses dan menyediakan isolasi data. Setiap proyek memiliki kontainer penyimpanan khusus untuk memungkinkan Anda mengunggah file dan membagikannya hanya dengan anggota proyek lain saat menggunakan pengalaman 'data'.
Proyek memungkinkan Anda membuat dan mengelompokkan komponen yang dapat digunakan kembali yang dapat digunakan di seluruh alat di AI Studio:
| Aset | Deskripsi |
|---|---|
| Data | Himpunan data yang dapat digunakan untuk membuat indeks, menyempurnakan model, dan mengevaluasi model. |
| Alur | Set instruksi yang dapat dieksekusi yang dapat mengimplementasikan logika AI. |
| Evaluasi | Evaluasi model atau alur. Anda dapat menjalankan evaluasi manual atau berbasis metrik. |
| Indeks | Indeks pencarian vektor yang dihasilkan dari data Anda. |
Proyek juga memiliki pengaturan khusus yang hanya berlaku untuk proyek tersebut:
| Aset | Deskripsi |
|---|---|
| Koneksi proyek | Koneksi ke sumber daya eksternal seperti penyedia penyimpanan data yang hanya dapat digunakan oleh Anda dan anggota proyek lainnya. Mereka melengkapi koneksi bersama di sumber daya hub Azure AI yang dapat diakses oleh semua proyek. |
| Runtime alur perintah | Alur perintah adalah fitur yang dapat digunakan untuk menghasilkan, menyesuaikan, atau menjalankan alur. Untuk menggunakan alur prompt, Anda perlu membuat runtime di atas instans komputasi. |
Catatan
Di AI Studio Anda juga dapat mengelola pengaturan bahasa dan pemberitahuan yang berlaku untuk semua proyek Azure AI Studio yang dapat Anda akses terlepas dari sumber daya atau proyek hub Azure AI.
Kunci akses API layanan Azure AI
Sumber daya hub Azure AI mengekspos titik akhir API dan kunci untuk layanan AI bawaan yang dibuat oleh Microsoft seperti Azure OpenAI Service. Layanan tepat mana yang tersedia untuk Anda tunduk pada wilayah Azure dan penyedia layanan Azure AI pilihan Anda pada saat penyiapan (opsi 'tingkat lanjut'):
- Jika Anda membuat sumber daya hub Azure AI bersama dengan sumber daya Azure OpenAI Service yang ada, Anda hanya memiliki kemampuan untuk Azure OpenAI Service. Gunakan opsi ini jika Anda ingin menggunakan kembali penyebaran kuota dan model Azure OpenAI yang ada. Saat ini, tidak ada jalur peningkatan untuk mendapatkan kemampuan Ucapan dan Visi setelah hub AI dibuat.
- Jika Anda membuat sumber daya hub Azure AI bersama dengan penyedia layanan Azure AI, Anda dapat menggunakan Layanan Azure OpenAI dan layanan AI lainnya seperti Ucapan dan Visi. Saat ini, opsi ini hanya tersedia melalui Azure AI CLI dan SDK.
Untuk memahami lapisan lengkap sumber daya hub Azure AI dan dependensi Azure-nya termasuk penyedia layanan Azure AI, dan bagaimana ini diwakili di Azure AI Studio dan di portal Azure, lihat Menemukan sumber daya Azure AI Studio di portal Azure.
Dengan kunci API yang sama, Anda dapat mengakses semua layanan Azure AI berikut:
| Layanan | Deskripsi |
|---|---|
 Azure OpenAI |
Melakukan berbagai tugas bahasa alami |
 Konten Brankas ty |
Layanan AI yang mendeteksi konten yang tidak diinginkan |
 Ucapan |
Ucapan ke teks, teks ke ucapan, terjemahan, dan pengenalan pembicara |
 Visi |
Menganalisis konten dalam gambar dan video |
Model bahasa besar yang dapat digunakan untuk menghasilkan teks, ucapan, gambar, dan lainnya, dihosting oleh sumber daya hub Azure AI. Model yang disempurnakan dan model terbuka yang disebarkan dari katalog model selalu dibuat dalam konteks proyek untuk isolasi.
Jaringan virtual
Sumber daya hub Azure AI, sumber daya komputasi, dan proyek berbagi jaringan virtual Azure yang dikelola Microsoft yang sama. Setelah Anda mengonfigurasi pengaturan jaringan terkelola selama proses pembuatan sumber daya hub Azure AI, semua proyek baru yang dibuat menggunakan sumber daya hub Azure AI tersebut akan mewarisi pengaturan jaringan virtual yang sama. Oleh karena itu, setiap perubahan pada pengaturan jaringan diterapkan ke semua proyek saat ini dan baru di sumber daya hub Azure AI tersebut. Secara default, sumber daya hub Azure AI menyediakan akses jaringan publik.
Untuk membuat koneksi masuk privat ke lingkungan sumber daya hub Azure AI Anda, buat titik akhir Azure Private Link pada cakupan berikut:
- Sumber daya hub Azure AI
- Dependen
Azure AI servicesmenyediakan sumber daya - Dependensi Azure AI lainnya seperti penyimpanan Azure
Meskipun proyek muncul sebagai sumber daya pelacakan mereka sendiri di portal Azure, proyek tersebut tidak memerlukan titik akhir tautan privat mereka sendiri untuk diakses. Proyek baru yang dibuat setelah penyiapan sumber daya hub Azure AI, secara otomatis ditambahkan ke lingkungan yang terisolasi jaringan.
Koneksi ke Azure dan sumber daya pihak ketiga
Azure AI menawarkan sekumpulan konektor yang memungkinkan Anda menyambungkan ke berbagai jenis sumber data dan alat Azure lainnya. Anda dapat memanfaatkan konektor untuk terhubung dengan data seperti indeks di Azure AI Search untuk menambah alur Anda.
Koneksi dapat disiapkan sebagai dibagikan dengan semua proyek di sumber daya hub Azure AI yang sama, atau dibuat secara eksklusif untuk satu proyek. Untuk mengelola koneksi proyek melalui Azure AI Studio, navigasikan ke halaman proyek, lalu navigasikan ke pengaturan> proyek AI Koneksi ions. Untuk mengelola koneksi bersama, navigasikan ke halaman Kelola . Sebagai administrator, Anda dapat mengaudit koneksi bersama dan cakupan proyek pada tingkat sumber daya hub Azure AI untuk memiliki satu panel kaca konektivitas di seluruh proyek.
Dependensi Azure AI
Lapisan Azure AI Studio di atas layanan Azure yang ada termasuk layanan Azure AI dan Azure Pembelajaran Mesin. Meskipun ini mungkin tidak terlihat pada nama tampilan di portal Azure, AI Studio, atau saat menggunakan SDK atau CLI, beberapa detail arsitektur ini menjadi jelas saat Anda bekerja dengan AZURE REST API, menggunakan pelaporan biaya Azure, atau menggunakan templat infrastruktur sebagai kode seperti Azure Bicep atau Azure Resource Manager. Dari perspektif Penyedia Sumber Daya Azure, jenis sumber daya Azure AI Studio dipetakan ke jenis penyedia sumber daya berikut:
| Jenis Sumber Daya | Penyedia sumber daya | Kind |
|---|---|---|
| Sumber daya hub Azure AI dan proyek Azure AI |
Microsoft.MachineLearningServices/workspace |
hubproject |
| Layanan Azure AI atau Layanan Azure AI OpenAI |
Microsoft.CognitiveServices/account |
AIServicesOpenAI |
Saat Anda membuat sumber daya hub Azure AI baru, sekumpulan sumber daya Azure dependen diperlukan untuk menyimpan data yang Anda unggah atau buat saat bekerja di studio AI. Jika tidak disediakan oleh Anda, dan diperlukan, sumber daya ini secara otomatis dibuat.
| Sumber daya Azure dependen | Penyedia sumber daya | Opsional | Catatan |
|---|---|---|---|
| Pencarian Azure AI | Microsoft.Search/searchServices |
✔ | Menyediakan kemampuan pencarian untuk proyek Anda. |
| Akun Azure Storage | Microsoft.Storage/storageAccounts |
Menyimpan artefak untuk proyek Anda seperti alur dan evaluasi. Untuk isolasi data, kontainer penyimpanan diawali menggunakan GUID proyek, dan diamankan secara kondisional menggunakan Azure ABAC untuk identitas proyek. | |
| Azure Key Vault | Microsoft.KeyVault/vaults |
Menyimpan rahasia seperti string koneksi untuk koneksi sumber daya Anda. Untuk isolasi data, rahasia tidak dapat diambil di seluruh proyek melalui API. | |
| Azure Container Registry | Microsoft.ContainerRegistry/registries |
✔ | Menyimpan gambar docker yang dibuat saat menggunakan runtime kustom untuk alur perintah. Untuk isolasi data, gambar docker diawali menggunakan GUID proyek. |
| Azure Application Insights & Ruang Kerja Analitik Log |
Microsoft.Insights/componentsMicrosoft.OperationalInsights/workspaces |
Digunakan sebagai penyimpanan log saat Anda ikut serta dalam pengelogan tingkat aplikasi untuk alur permintaan yang Anda sebarkan. |
Mengelola biaya
Biaya Azure AI bertambah berdasarkan berbagai sumber daya Azure.
Secara umum, sumber daya dan proyek hub Azure AI tidak memiliki biaya bulanan tetap, dan Anda hanya dikenakan biaya untuk penggunaan dalam hal jam komputasi dan token yang digunakan. Azure Key Vault, Storage, dan Application Insights membebankan biaya transaksi dan berbasis volume, tergantung pada jumlah data yang disimpan dengan proyek Azure AI Anda.
Jika Anda perlu mengelompokkan biaya layanan yang berbeda ini bersama-sama, sebaiknya buat sumber daya hub Azure AI di satu atau beberapa grup sumber daya khusus dan langganan di lingkungan Azure Anda.
Anda dapat menggunakan manajemen biaya dan tag sumber daya Azure untuk membantu perincian biaya tingkat sumber daya terperinci, atau menjalankan kalkulator harga Azure pada sumber daya yang tercantum di atas untuk mendapatkan perkiraan harga. Untuk informasi selengkapnya, lihat Merencanakan dan mengelola biaya untuk layanan Azure AI.
Menemukan sumber daya Azure AI Studio di portal Azure
Di portal Azure, Anda dapat menemukan sumber daya yang sesuai dengan proyek Azure AI Anda di Azure AI Studio.
Catatan
Bagian ini mengasumsikan bahwa sumber daya hub Azure AI dan proyek Azure AI berada dalam grup sumber daya yang sama.
Di Azure AI Studio, buka Pengaturan proyek Build>AI untuk melihat sumber daya proyek Azure AI Anda seperti koneksi dan kunci API. Ada tautan ke sumber daya hub Azure AI Anda di Azure AI Studio dan tautan untuk melihat sumber daya proyek yang sesuai di portal Azure.
Pilih nama hub AI untuk melihat proyek dan koneksi bersama hub Azure AI Anda. Ada juga tautan untuk melihat sumber daya yang sesuai di portal Azure.
Pilih Tampilkan di Portal Microsoft Azure untuk melihat sumber daya hub Azure AI Anda di portal Azure.
- Pilih penyedia Layanan AI untuk melihat kunci dan titik akhir yang diperlukan untuk mengautentikasi permintaan Anda ke layanan Azure AI seperti Azure OpenAI. Untuk informasi selengkapnya, lihat Kunci akses API layanan Azure AI.
- Selain itu dari halaman hub Azure AI, Anda dapat memilih grup sumber daya Proyek untuk menemukan proyek Azure AI Anda.
