Apa itu Microsoft Foundry Control Plane?

Microsoft Foundry Control Plane adalah antarmuka manajemen terpadu yang menyediakan visibilitas, tata kelola, dan kontrol untuk agen, model, dan alat AI di seluruh perusahaan Foundry Anda. Foundry Control Plane memusatkan manajemen untuk armada agen AI Anda, dari build hingga produksi.

Saat organisasi Anda berkembang dari kopilot terisolasi menjadi armada multi-agen otonom, Anda memerlukan pengawasan terpadu. Foundry Control Plane memberikan visibilitas, tata kelola, dan kontrol yang perlu Anda skalakan dengan andal.

Artikel ini ditujukan untuk administrator perusahaan dan pengembang AI yang mengelola agen AI di beberapa proyek. Anda mempelajari apa yang ditawarkan Foundry Control Plane, termasuk manajemen armada, pengamatan, penegakan kepatuhan, dan kemampuan keamanan.

Dalam artikel ini, Anda mempelajari apa yang ditawarkan Foundry Control Plane, termasuk manajemen armada, pengamatan, penegakan kepatuhan, dan kemampuan keamanan.

Prasyarat

Untuk menjelajahi Foundry Control Plane, Anda perlu:

• Langganan Azure. Buat satu secara gratis.
• Sebuah proyek Foundry. Untuk informasi selengkapnya, lihat Buat project.
• Gateway AI yang dikonfigurasi untuk fitur tata kelola tingkat lanjut.
• Izin kontrol akses berbasis peran (RBAC) Azure yang sesuai untuk langganan Anda.

Kapan menggunakan Foundry Control Plane

Pertimbangkan untuk menggunakan Foundry Control Plane saat organisasi Anda:

• Mengelola beberapa agen AI di berbagai proyek atau tim.
• Memerlukan visibilitas kepatuhan terpusat dan penegakan kebijakan di seluruh armada AI.
• Mengintegrasikan Microsoft Defender dan Microsoft Purview untuk tata kelola AI dan perlindungan ancaman.
• Mengoperasikan agen dari beberapa platform, termasuk Foundry, Microsoft, dan sumber non-Microsoft.
• Perlu melacak biaya, penggunaan token, dan konsumsi sumber daya di seluruh lingkungan AI.

Tanpa Foundry Control Plane, Anda mengelola agen, model, dan kepatuhan melalui bilah portal Azure individual dan tampilan per proyek terpisah. Foundry Control Plane menambahkan visibilitas lintas project, penegakan kepatuhan terpadu, dan sinyal keamanan terintegrasi dalam satu antarmuka.

Kemampuan Sarana Kontrol Foundry

Foundry Control Plane mengonsolidasikan inventaritas, pengamatan, kepatuhan, dan keamanan ke dalam satu antarmuka yang sadar peran. Ini terintegrasi dengan sistem keamanan dan tata kelola Microsoft (Microsoft Defender, Microsoft Purview, Microsoft Entra) untuk memberikan tata kelola dalam skala besar.

Diagram berikut menunjukkan bagaimana Foundry Control Plane menyediakan visibilitas armada terpadu dengan agen, model, dan alat yang tercantum di seluruh proyek dalam langganan.

Foundry Control Plane mendukung tugas berikut.

Mengelola armada agen multi-platform Anda

• Lacak indikator performa utama seperti agen aktif, penyelesaian eksekusi, postur kepatuhan, efisiensi biaya, dan perilaku yang dilarang di seluruh platform agen yang didukung.

• Gunakan tautan mendalam untuk mengevaluasi dan memantau pengalaman untuk penelusuran kesalahan, diagnosis, dan remediasi yang cepat.

• Visualisasikan kesehatan armada melalui papan kendali yang menampilkan tren dan anomali.

Memantau dan meningkatkan performa agen

• Menghubungkan pemberitahuan, hasil evaluasi, dan melacak data untuk mengidentifikasi masalah dengan cepat.

• Terus mengevaluasi performa, kualitas, dan dimensi risiko agen. Dimensi risiko mungkin mencakup kepatuhan terhadap tugas, penyelesaian niat, keberhasilan panggilan alat, keterkaitan, kebocoran data sensitif, dan paparan terhadap serangan injeksi perintah jailbreak serta lintas domain (XPIAs).

• Gunakan Agen Teaming Merah AI dan analisis kluster untuk pemeriksaan kerentanan otomatis dan penemuan akar penyebab kesalahan.

• Lihat rekomendasi untuk penyempurnaan permintaan, peningkatan versi model, dan perubahan konfigurasi.

Menerapkan pagar pembatas kepatuhan

• Tentukan kebijakan pagar pembatas di seluruh perusahaan untuk keamanan, kepatuhan, dan kualitas.

• Terapkan remediasi massal untuk memperbaiki konfigurasi yang tidak patuh di seluruh armada Anda.

Agen aman

• Jadwalkan pemindaian red teaming otomatis dan pemantauan pergeseran untuk pengujian agen yang sedang berlangsung.

• Lihat pemberitahuan Defender dan Microsoft Purview langsung di dasbor Foundry Control Plane.

• Lacak batas laju, penggunaan token, dan anomali biaya untuk mencegah ketidakefisienan atau penyalahgunaan.

Fitur utama

Kemampuan-kemampuan yang dijelaskan sebelumnya diatur ke dalam panel yang Anda mengakses dengan memilih Operate di toolbar kanan atas ruang kerja Foundry. Dari Operasikan, Anda dapat memantau, mengelola, dan mengoptimalkan setiap agen, model, dan penyebaran di dalam langganan Anda.

Setiap panel dalam Operasi dirancang di sekitar pekerjaan tertentu. Panel ini membantu berbagai peran, dari penyusun hingga administrator, mengelola sistem AI dalam skala besar.

Gambaran Umum

Gunakan panel Gambaran Umum untuk memahami kesehatan, performa, dan kepatuhan armada secara sekilas.

Panel ini menyediakan rekam jepret tingkat tinggi sumber daya AI Anda dengan menggabungkan metrik operasional dan kepatuhan utama dalam satu tampilan. Kamu bisa:

• Lihat statistik utama seperti agen aktif, tren biaya, tingkat penyelesaian eksekusi, dan perilaku yang dicegah.
• Telusuri anomali atau lonjakan biaya melalui bagan kontekstual dan tautan langsung ke informasi inventarisasi, pengamatan, atau kebijakan.
• Identifikasi potensi risiko dini dengan menggunakan skor kesehatan berbasis tren dan ringkasan pemberitahuan.

Aset

Gunakan panel Aset untuk melacak, menganalisis, dan mengelola setiap agen, model, dan alat dari satu tempat.

Panel ini menyediakan tabel terpadu yang dapat dicari dari semua aset AI di seluruh proyek dalam langganan. Ini menyatukan metadata penting dan indikator kesehatan, sehingga Anda dapat menilai dan bertindak pada sumber daya AI Anda secara efisien. Kamu bisa:

• Filter dan urutkan menurut atribut utama seperti versi, tag, skor kesehatan (persentase), biaya, pemberitahuan, dan penggunaan token untuk menemukan aset dengan cepat.
• Telusuri secara mendalam dari entry mana pun pada tabel inventaris agen ke tab Evaluasi atau Pemantauan untuk analisis sebelum dan sesudah penyebaran.
• Menampilkan rekomendasi langsung untuk menyempurnakan perintah, meningkatkan model, atau mengoptimalkan konfigurasi berdasarkan sinyal performa dan biaya.
• Menghubungkan log runtime dengan hasil evaluasi untuk mengungkap akar penyebab kesalahan atau penurunan performa.
• Visualisasikan penyimpangan, latensi, dan kluster kesalahan di seluruh eksekusi atau build untuk mendeteksi masalah yang muncul lebih awal.
• Integrasikan dengan Agen AI Red Teaming untuk mengotomatiskan probing kerentanan, pengujian regresif, dan replikasi masalah.
• Amati dan ubah pagar pembatas model dan agen.

Kepatuhan

Gunakan panel Kepatuhan untuk mengatur sistem AI Anda dan menerapkan pagar pembatas yang tepat.

Panel Kepatuhan memungkinkan Anda menentukan, menerapkan, dan terus memantau pagar pembatas dan kebijakan kepatuhan di seluruh sumber daya AI Anda. Ini menyediakan antarmuka terpadu untuk mengoprasikan prinsip AI yang bertanggung jawab sambil membantu memastikan keamanan tingkat perusahaan dan keselarasan peraturan. Kamu bisa:

• Menentukan dan menerapkan perlindungan melalui integrasi mendalam dengan Azure Policy, Defender, dan Microsoft Purview. Integrasi ini membantu memastikan bahwa perlindungan identitas, data, dan ancaman bekerja secara harmonis.
• Terapkan kebijakan berversi dan lacak penetapan untuk menjaga auditabilitas penuh dan pelacakan penuh di seluruh agen-agen dan lingkungan.
• Pantau postur kepatuhan secara real time, sehingga Anda dapat menampilkan aset yang tidak patuh dan mengaktifkan remediasi massal langsung dari Foundry Control Plane.

Manajemen kebijakan di Foundry memungkinkan administrator dan pengembang untuk menyematkan persyaratan kualitas dan keselamatan ke dalam siklus hidup pengembangan dan penyebaran. Kebijakan ini membantu memastikan bahwa semua model beroperasi dengan aman dan mematuhi standar organisasi dan peraturan.

Quota

Gunakan panel Kuota untuk menampilkan, menyesuaikan, dan meminta kuota.

Panel Kuota memperlihatkan penyebaran model Anda dan berapa banyak kuota yang digunakan setiap penyebaran. Ini memberikan wawasan tentang pola penggunaan dan membantu Anda mengelola sumber daya secara efektif.

Secara default, tampilan kuota hanya menampilkan model dengan penyebaran aktif. Aktifkan tombol Tampilkan semua untuk melihat daftar lengkap model dan wilayah yang tersedia, termasuk model yang belum Anda sebarkan. Gunakan Tampilkan semua untuk menjelajahi kuota yang tersedia sebelum Anda membuat penyebaran, atau untuk memeriksa wilayah mana yang memiliki kapasitas untuk model tertentu.

Untuk informasi selengkapnya, lihat Mengelola dan meningkatkan kuota untuk sumber daya.

Admin

Gunakan panel Admin untuk menampilkan, menata, dan mengelola semua proyek, pengguna, dan sumber daya yang terhubung di seluruh lingkungan Foundry Anda.

Panel ini memperluas tampilan operasional Anda di luar satu project. Sebagian besar pekerjaan di Foundry terjadi dalam konteks project. Panel Admin menyediakan lensa tingkat perusahaan untuk mengawasi dan mengonfigurasi beberapa proyek, izin pengguna, dan sumber daya Azure tertaut dari satu tempat.

Dari Admin, administrator dan pengguna tingkat lanjut dapat:

• Dapatkan kemampuan untuk melihat semua proyek pada semua langganan atau tenant mereka, termasuk ruang kerja yang aktif, tidak aktif, dan yang diarsipkan.
• Lihat informasi project terperinci seperti pemilik, wilayah, layanan terhubung, dan postur kepatuhan.
• Tambahkan atau hapus pengguna langsung dari project, untuk menentukan tingkat access terperinci yang selaras dengan peran organisasi.
• Lampirkan atau kelola sumber daya yang terhubung, seperti akun penyimpanan, gugus komputasi, dan Foundry Tools, sehingga proyek tetap dipasok dengan benar.
• Tetapkan akses pada cakupan induk (langganan atau grup sumber daya) untuk menerapkan tata kelola yang konsisten dan pengalihan izin di berbagai proyek.

Mulai dengan Foundry Control Plane

Foundry Control Plane tersedia di portal Foundry. Untuk mulai menggunakan Foundry Control Plane, jelajahi sumber daya ini:

• Mengonfigurasi gateway AI: Aktifkan fitur tata kelola tingkat lanjut di proyek Foundry Anda.
• Mengonfigurasi pemantauan untuk armada agen Anda: Aktifkan metrik dan informasi diagnostik dengan fitur pengamatan.
• Menemukan agen di langganan Anda: Lihat agen mana yang tersedia dan kelola secara terpusat.
• Daftarkan agen kustom: Bawa agen eksternal ke registri Foundry Control Plane.

Konten terkait

• Kelola kepatuhan dan keamanan di Microsoft Foundry: Menerapkan kebijakan AI yang bertanggung jawab, mengintegrasikan sinyal Defender dan Microsoft Purview, dan menanggapi pemberitahuan kepatuhan.
• Mengoptimalkan biaya dan performa model: Menganalisis pengandar biaya, penggunaan token, dan konsumsi sumber daya untuk memaksimalkan pengembalian investasi dari armada agen Anda.
• Mengelola agen dalam skala besar: Melacak dan mengelola agen dari platform yang didukung dalam satu tampilan terpadu.
• Terus mengevaluasi agen AI Anda (pratinjau): Memantau performa agen, kualitas, dan dimensi risiko secara otomatis.