Mengelola, berkolaborasi, dan mengatur dengan hub

Artikel
09/01/2024

Hub adalah sumber daya Azure tingkat atas utama untuk AI Studio dan menyediakan cara terpusat bagi tim untuk mengatur sumber daya keamanan, konektivitas, dan komputasi di seluruh taman bermain dan proyek. Setelah hub dibuat, pengembang dapat membuat proyek darinya dan mengakses sumber daya perusahaan bersama tanpa memerlukan bantuan berulang administrator TI.

Ruang kerja proyek yang dibuat menggunakan hub mewarisi pengaturan keamanan dan akses sumber daya bersama yang sama. Teams dapat membuat ruang kerja proyek sesuai kebutuhan untuk mengatur pekerjaan mereka, mengisolasi data, dan/atau membatasi akses.

Dalam artikel ini, Anda mempelajari selengkapnya tentang kemampuan hub, dan cara menyiapkan hub untuk organisasi Anda. Anda dapat melihat sumber daya yang dibuat di portal Azure dan di Azure AI Studio.

Eksplorasi kasus penggunaan AI cepat tanpa hambatan IT

Aplikasi dan model AI yang berhasil biasanya dimulai sebagai prototipe, di mana pengembang menguji kelayakan ide, atau menilai kualitas data atau model untuk tugas tertentu. Prototipe adalah batu loncatan menuju pendanaan proyek atau implementasi skala penuh.

Ketika satu tim platform bertanggung jawab atas penyiapan sumber daya cloud, transisi dari membuktikan kelayakan ide ke proyek yang didanai mungkin menjadi hambatan dalam produktivitas. Tim seperti itu mungkin satu-satunya yang berwenang untuk mengonfigurasi keamanan, konektivitas, atau sumber daya lain yang mungkin dikenakan biaya. Situasi ini dapat menyebabkan backlog besar, yang mengakibatkan tim pengembangan diblokir untuk berinovasi dengan ide baru. Di Azure AI Studio, hub membantu mengurangi hambatan ini. TI dapat menyiapkan lingkungan yang telah dikonfigurasi sebelumnya dan dapat digunakan kembali (hub), untuk tim satu kali. Kemudian tim dapat menggunakan hub tersebut untuk membuat proyek mereka sendiri untuk membuat prototipe, membangun, dan mengoperasikan aplikasi AI.

Menyiapkan dan mengamankan hub untuk tim Anda

Mulailah dengan membuat hub pertama Anda di Azure AI Studio, atau gunakan portal Azure atau templat untuk opsi konfigurasi tingkat lanjut. Anda dapat menyesuaikan jaringan, identitas, enkripsi, pemantauan, atau tag, untuk memenuhi kepatuhan terhadap persyaratan organisasi Anda.

Seringkali, proyek dalam domain bisnis memerlukan akses ke sumber daya perusahaan yang sama seperti indeks vektor, titik akhir model, atau repos. Sebagai pemimpin tim, Anda dapat melakukan prakonfigurasi konektivitas dengan sumber daya ini dalam hub, sehingga pengembang dapat mengaksesnya dari ruang kerja proyek baru tanpa penundaan pada IT.

Koneksi memungkinkan Anda mengakses objek di AI Studio yang dikelola di luar hub Anda. Misalnya, data yang diunggah di akun penyimpanan Azure, atau penyebaran model pada sumber daya Azure OpenAI yang ada. Koneksi dapat dibagikan dengan setiap proyek atau dibuat dapat diakses oleh satu proyek tertentu. Koneksi dapat dikonfigurasi dengan akses berbasis kunci atau ID Microsoft Entra untuk mengotorisasi akses ke pengguna pada sumber daya yang terhubung. Selain itu, sebagai administrator, Anda dapat melacak, mengaudit, dan mengelola koneksi di seluruh proyek menggunakan hub Anda.

Sumber daya dan konfigurasi Azure bersama

Berbagai konsep manajemen tersedia di hub untuk mendukung prospek tim dan admin untuk mengelola lingkungan tim secara terpusat.

Konfigurasi keamanan termasuk akses jaringan publik, jaringan virtual, enkripsi kunci yang dikelola pelanggan, dan akses istimewa yang dapat membuat proyek untuk penyesuaian. Pengaturan keamanan yang dikonfigurasi pada hub secara otomatis diteruskan ke setiap proyek. Jaringan virtual terkelola dibagikan antara semua proyek yang berbagi hub yang sama.
Koneksi diberi nama dan referensi terautentikasi ke sumber daya Azure dan non-Azure seperti penyedia penyimpanan data. Gunakan koneksi sebagai sarana untuk membuat sumber daya eksternal tersedia untuk sekelompok pengembang tanpa harus mengekspos kredensial tersimpannya kepada individu.
Alokasi komputasi dan kuota dikelola sebagai kapasitas bersama untuk semua proyek di AI Studio yang memiliki hub yang sama. Kuota ini mencakup instans komputasi sebagai stasiun kerja berbasis cloud terkelola untuk individu. Pengguna yang sama dapat menggunakan instans komputasi di seluruh proyek.
Kunci akses layanan AI ke titik akhir untuk model AI bawaan dikelola pada cakupan hub. Gunakan titik akhir ini untuk mengakses model fondasi dari Azure OpenAI, Speech, Vision, dan Content Safety dengan satu kunci API
Kebijakan yang diberlakukan di Azure pada cakupan hub berlaku untuk semua proyek yang dikelola di bawahnya.
Sumber daya Azure dependen disiapkan sekali per hub dan proyek terkait dan digunakan untuk menyimpan artefak yang Anda hasilkan saat bekerja di AI Studio seperti log atau saat mengunggah data. Untuk informasi selengkapnya, lihat Dependensi Azure AI.

Mengatur pekerjaan dalam proyek untuk kustomisasi

Hub menyediakan lingkungan hosting untuk proyek di AI Studio. Proyek adalah kontainer organisasi yang memiliki alat untuk kustomisasi dan orkestrasi AI. Ini memungkinkan Anda mengatur pekerjaan Anda, menyimpan status di berbagai alat seperti alur perintah, dan berkolaborasi dengan orang lain. Misalnya, Anda dapat berbagi file dan koneksi yang diunggah ke sumber data.

Beberapa proyek dapat menggunakan hub, dan beberapa pengguna dapat menggunakan proyek. Proyek juga membantu Anda melacak penagihan, dan mengelola akses dan menyediakan isolasi data. Setiap proyek menggunakan kontainer penyimpanan khusus untuk memungkinkan Anda mengunggah file dan membagikannya hanya dengan anggota proyek lain saat menggunakan pengalaman 'data'.

Proyek memungkinkan Anda membuat dan mengelompokkan komponen yang dapat digunakan kembali yang dapat digunakan di seluruh alat di AI Studio:

Aset	Deskripsi
Data	Himpunan data yang dapat digunakan untuk membuat indeks, menyempurnakan model, dan mengevaluasi model.
Alur	Set instruksi yang dapat dieksekusi yang dapat mengimplementasikan logika AI.
Evaluasi	Evaluasi model atau alur. Anda dapat menjalankan evaluasi manual atau berbasis metrik.
Indeks	Indeks pencarian vektor yang dihasilkan dari data Anda.

Proyek juga memiliki pengaturan khusus yang hanya berlaku untuk proyek tersebut:

Aset	Deskripsi
Koneksi proyek	Koneksi ke sumber daya eksternal seperti penyedia penyimpanan data yang hanya dapat digunakan oleh Anda dan anggota proyek lainnya. Mereka melengkapi koneksi bersama di hub yang dapat diakses oleh semua proyek.
Runtime alur perintah	Alur perintah adalah fitur yang dapat digunakan untuk menghasilkan, menyesuaikan, atau menjalankan alur. Untuk menggunakan alur prompt, Anda perlu membuat runtime di atas instans komputasi.

Catatan

Di AI Studio, Anda juga dapat mengelola pengaturan bahasa dan pemberitahuan yang berlaku untuk semua proyek yang dapat Anda akses terlepas dari hub atau proyek.

Kunci akses API layanan Azure AI

Hub memungkinkan Anda menyiapkan koneksi ke jenis sumber daya Azure OpenAI atau Azure AI Services yang ada, yang dapat digunakan untuk menghosting penyebaran model. Anda dapat mengakses penyebaran model ini dari sumber daya yang terhubung di AI Studio. Kunci ke sumber daya yang terhubung dapat dicantumkan dari AI Studio atau portal Azure. Untuk informasi selengkapnya, lihat Menemukan sumber daya Azure AI Studio di portal Azure.

Jaringan virtual

Hub, sumber daya komputasi, dan proyek berbagi jaringan virtual Azure yang dikelola Microsoft yang sama. Setelah Anda mengonfigurasi pengaturan jaringan terkelola selama proses pembuatan hub, semua proyek baru yang dibuat menggunakan hub tersebut akan mewarisi pengaturan jaringan virtual yang sama. Oleh karena itu, setiap perubahan pada pengaturan jaringan diterapkan ke semua proyek saat ini dan baru di hub tersebut. Secara default, hub menyediakan akses jaringan publik.

Untuk membuat koneksi masuk privat ke lingkungan hub Anda, buat titik akhir Azure Private Link pada cakupan berikut:

Hub
Dependen Azure AI services menyediakan sumber daya
Dependensi Azure AI lainnya seperti penyimpanan Azure

Meskipun proyek muncul sebagai sumber daya pelacakan mereka sendiri di portal Azure, proyek tersebut tidak memerlukan titik akhir tautan privat mereka sendiri untuk diakses. Proyek baru yang dibuat setelah penyiapan hub, secara otomatis ditambahkan ke lingkungan yang terisolasi jaringan.

Koneksi ke Azure dan sumber daya pihak ketiga

Azure AI menawarkan sekumpulan konektor yang memungkinkan Anda menyambungkan ke berbagai jenis sumber data dan alat Azure lainnya. Anda dapat memanfaatkan konektor untuk terhubung dengan data seperti indeks di Azure AI Search untuk menambah alur Anda.

Koneksi dapat disiapkan sebagai dibagikan dengan semua proyek di hub yang sama, atau dibuat secara eksklusif untuk satu proyek. Untuk mengelola koneksi proyek melalui Azure AI Studio, buka proyek Anda lalu pilih Pengaturan>Koneksi. Untuk mengelola koneksi bersama untuk hub, buka pengaturan hub Anda. Sebagai administrator, Anda dapat mengaudit koneksi bersama dan cakupan proyek pada tingkat hub untuk memiliki satu panel konektivitas kaca di seluruh proyek.

Dependensi Azure AI

Lapisan Azure AI Studio di atas layanan Azure yang ada termasuk layanan Azure AI dan Azure Pembelajaran Mesin. Meskipun mungkin tidak terlihat pada nama tampilan di portal Azure, AI Studio, atau saat menggunakan SDK atau CLI, beberapa detail arsitektur ini menjadi jelas saat Anda bekerja dengan AZURE REST API, menggunakan pelaporan biaya Azure, atau menggunakan templat infrastruktur sebagai kode seperti Azure Bicep atau Azure Resource Manager. Dari perspektif Penyedia Sumber Daya Azure, jenis sumber daya Azure AI Studio dipetakan ke jenis penyedia sumber daya berikut:

Jenis Sumber Daya	Penyedia sumber daya	Kind
Hub Azure AI Studio	`Microsoft.MachineLearningServices/workspace`	`hub`
Proyek Azure AI Studio	`Microsoft.MachineLearningServices/workspace`	`project`
Layanan Azure AI atau Layanan Azure AI OpenAI	`Microsoft.CognitiveServices/account`	`AIServices` `OpenAI`

Saat Anda membuat hub baru, sekumpulan sumber daya Azure dependen diperlukan untuk menyimpan data yang Anda unggah atau buat saat bekerja di AI Studio. Jika tidak disediakan oleh Anda, dan diperlukan, sumber daya ini secara otomatis dibuat.

Sumber daya Azure dependen	Penyedia sumber daya	Opsional	Catatan
Pencarian Azure AI	`Microsoft.Search/searchServices`	✔	Menyediakan kemampuan pencarian untuk proyek Anda.
Akun Azure Storage	`Microsoft.Storage/storageAccounts`		Menyimpan artefak untuk proyek Anda seperti alur dan evaluasi. Untuk isolasi data, kontainer penyimpanan diawali menggunakan GUID proyek, dan diamankan secara kondisional menggunakan Azure ABAC untuk identitas proyek.
Azure Key Vault	`Microsoft.KeyVault/vaults`		Menyimpan rahasia seperti string koneksi untuk koneksi sumber daya Anda. Untuk isolasi data, rahasia tidak dapat diambil di seluruh proyek melalui API.
Azure Container Registry	`Microsoft.ContainerRegistry/registries`	✔	Menyimpan gambar docker yang dibuat saat menggunakan runtime kustom untuk alur perintah. Untuk isolasi data, gambar docker diawali menggunakan GUID proyek.
Azure Application Insights & Ruang Kerja Analitik Log	`Microsoft.Insights/components` `Microsoft.OperationalInsights/workspaces`	✔	Digunakan sebagai penyimpanan log saat Anda ikut serta dalam pengelogan tingkat aplikasi untuk alur permintaan yang Anda sebarkan.

Mengelola biaya

Biaya Azure AI bertambah berdasarkan berbagai sumber daya Azure.

Secara umum, hub dan proyek tidak memiliki biaya bulanan tetap, dan Anda hanya dikenakan biaya untuk penggunaan dalam hal jam komputasi dan token yang digunakan. Azure Key Vault, Storage, dan Application Insights membebankan transaksi dan berbasis volume, tergantung pada jumlah data yang disimpan dengan proyek Anda.

Jika Anda perlu mengelompokkan biaya layanan yang berbeda ini bersama-sama, sebaiknya buat hub di satu atau beberapa grup sumber daya khusus dan langganan di lingkungan Azure Anda.

Anda dapat menggunakan manajemen biaya dan tag sumber daya Azure untuk membantu perincian biaya tingkat sumber daya terperinci, atau menjalankan kalkulator harga Azure pada sumber daya yang tercantum di atas untuk mendapatkan perkiraan harga. Untuk informasi selengkapnya, lihat Merencanakan dan mengelola biaya untuk layanan Azure AI.

Menemukan sumber daya Azure AI Studio di portal Azure

Di portal Azure, Anda dapat menemukan sumber daya yang sesuai dengan proyek Anda di Azure AI Studio.