Kecerdasan Buatan yang Aman

Artikel ini membantu Anda membuat proses keamanan untuk beban kerja AI di Azure. Lingkungan AI yang aman mendukung tujuan bisnis dan membangun kepercayaan pemangku kepentingan dalam solusi AI.

Diagram yang menunjukkan 6 fase adopsi AI: Strategi, Rencana, Siap, Tata Kelola, Aman, Kelola.

Mengatur AI, Mengelola AI, dan AI Aman adalah proses berkelanjutan yang harus Anda iterasi secara teratur. Tinjau kembali setiap Strategi AI, Rencana AI, dan Kesiapan AI sesuai kebutuhan.

Menemukan risiko keamanan AI

Beban kerja AI membuat permukaan serangan baru yang tidak dapat diatasi oleh langkah-langkah keamanan tradisional. Anda harus mengevaluasi kerentanan khusus AI secara sistematis untuk membangun pertahanan yang efektif. Berikut caranya:

  1. Identifikasi risiko sistem AI di seluruh lingkungan Anda. Adopsi AI memperkenalkan kelas risiko yang mungkin tidak ditangani pemodelan ancaman tradisional secara eksplisit. Meskipun kerangka kerja perusahaan Anda yang ada mungkin sudah mampu memodelkan risiko ini, tata kelola AI memerlukan validasi yang disengaja bahwa itu benar-benar melakukannya. Mulailah dengan kerangka kerja pemodelan ancaman yang anda tetapkan, seperti STRIDE. Kemudian referensikan basis pengetahuan risiko khusus AI dan inventaris, seperti risiko MITRE ATLAS dan OWASP Generative AI untuk mengonfirmasi bahwa teknik serangan khusus AI, skenario penyalahgunaan, dan risiko sistemik ditangani secara memadai. Gunakan sumber ini untuk melengkapi, bukan mengganti, kerangka kerja Anda yang ada, dan untuk menginformasikan identifikasi risiko AI yang konsisten di seluruh organisasi.

  2. Menilai risiko data AI di seluruh alur kerja Anda. Data sensitif dalam alur kerja AI meningkatkan risiko ancaman orang dalam dan kebocoran data yang dapat membahayakan operasi bisnis. Penilaian risiko data membantu Anda memprioritaskan investasi keamanan berdasarkan tingkat eksposur aktual. Manajemen Risiko Orang Dalam Microsoft Purview dapat berintegrasi dengan suite dan solusi keamanan lainnya untuk menilai risiko data di seluruh perusahaan dan memprioritaskannya berdasarkan tingkat sensitivitas data. Ini juga dapat membantu penyelundupan data berbasis prompt dan identifikasi pola perilaku AI berisiko.

  3. Menguji model AI untuk kerentanan keamanan. Model AI berisi kerentanan unik seperti kebocoran data, injeksi prompt, dan inversi model yang dapat dieksploitasi penyerang. Pengujian dunia nyata mengungkap risiko yang tidak dapat dideteksi oleh ulasan statis. Menguji model untuk kerentanan menggunakan teknik pencegahan kehilangan data dan simulasi musuh, dan tim merah baik model AI generatif maupun AI nongeneratif untuk mensimulasikan serangan nyata.

  4. Melakukan penilaian risiko berkala. Ancaman baru muncul seiring berkembangnya model AI, pola penggunaan, dan pelaku ancaman dari waktu ke waktu. Penilaian reguler memastikan postur keamanan Anda beradaptasi dengan perubahan lanskap risiko. Jalankan penilaian berulang untuk mengidentifikasi kerentanan dalam model, alur data, dan lingkungan penyebaran, dan gunakan temuan penilaian untuk memandu prioritas mitigasi risiko Anda di semua lingkungan Anda.

Melindungi sumber daya dan data AI

Sistem AI berisi sumber daya dan data berharga yang memerlukan perlindungan kuat terhadap akses dan serangan yang tidak sah. Anda harus menerapkan kontrol keamanan tertentu untuk melindungi aset penting ini.

Mengamankan sumber daya AI

Langkah-langkah keamanan komprehensif melindungi investasi AI Anda dan menjaga kepercayaan pemangku kepentingan terhadap solusi AI Anda. Terapkan kontrol yang ditargetkan untuk mengamankan semua komponen infrastruktur AI Anda. Berikut caranya:

  1. Buat inventar persediaan aset AI lengkap. Aset AI yang tidak diketahui, atau aset AI yang tidak dilacak untuk kepatuhan terhadap kebijakan AI organisasi Anda, menciptakan risiko keamanan yang dapat dieksploitasi oleh pelaku jahat untuk mendapatkan akses yang tidak sah. Inventori komprehensif memungkinkan pemantauan yang efektif dan respons insiden yang cepat untuk semua komponen AI. Gunakan Azure Resource Graph untuk menemukan sumber daya AI di seluruh langganan. Gunakan Microsoft Defender untuk Cloud untuk mengidentifikasi beban kerja AI generatif. Hasilnya menjadi inventarisasi AI Anda dan harus dipertahankan melalui pemindaian otomatis dan validasi reguler.

  2. Amankan semua saluran komunikasi AI. Jalur komunikasi yang terekspos antara komponen AI memungkinkan penyadapan data dan penyusupan sistem. Saluran yang diamankan dengan benar mencegah akses yang tidak sah dan melindungi informasi sensitif saat transit. Terapkan identitas terkelola untuk autentikasi identitas perangkat dan beban kerja yang aman (non-manusia) tanpa kredensial yang disimpan. Gunakan jaringan virtual untuk mengisolasi komunikasi AI. Sebarkan Azure API Management untuk mengamankan titik akhir server Model Context Protocol (MCP).

  3. Terapkan kontrol keamanan khusus platform. Model penyebaran AI yang berbeda menghadapi ancaman keamanan yang berbeda berdasarkan arsitektur dan titik paparannya. Kontrol yang disesuaikan platform mengatasi kerentanan tertentu yang ada di setiap jenis penyebaran. Ikuti panduan keamanan khusus berdasarkan model penyebaran Anda:

Mengamankan data AI

Beban kerja AI mengandalkan data dan artefak yang memerlukan perlindungan yang kuat untuk mencegah akses yang tidak sah, kebocoran data, dan pelanggaran kepatuhan. Terapkan langkah-langkah keamanan data yang komprehensif untuk melindungi data dan artefak AI. Berikut caranya:

  1. Tentukan dan pertahankan batas data. Batas data yang jelas memastikan beban kerja AI hanya mengakses data yang sesuai dengan audiens dan kasus penggunaan yang ditujukan. Gunakan Microsoft Purview untuk mengklasifikasikan sensitivitas data, menggunakan jenis informasi sensitif, pengklasifikasi yang dapat dilatih, dan klasifikasi data untuk menentukan kebijakan akses. Terapkan Azure kontrol akses berbasis peran (RBAC) untuk membatasi akses data berdasarkan beban kerja dan grup pengguna. Gunakan Azure Private Link untuk mengaktifkan akses ke Layanan PaaS Azure melalui titik akhir privat di jaringan virtual Anda.

  2. Menerapkan pencegahan kehilangan data yang komprehensif. Paparan data yang tidak sah melalui respons AI dapat membahayakan informasi sensitif dan melanggar persyaratan peraturan. Kontrol pencegahan kehilangan data mencegah model AI mengungkapkan data yang dilindungi secara tidak sengaja dalam outputnya. Gunakan Pencegahan Kehilangan Data Microsoft Purview untuk memindai dan memblokir data sensitif dalam alur kerja AI. Konfigurasikan pemfilteran konten untuk mencegah kebocoran informasi sensitif, dan terapkan filter kustom untuk mendeteksi dan meredaksi pola data sensitif khusus organisasi. Untuk Microsoft Copilot Studio, Konfigurasi kebijakan pencegahan kehilangan data untuk agen.

  3. Lindungi artefak AI dari kompromi. Model AI dan himpunan data yang tidak aman menjadi target untuk serangan pencurian, keracunan, atau rekayasa terbalik. Artefak yang dilindungi mempertahankan nilai kekayaan intelektual dan mencegah manipulasi berbahaya sistem AI. Simpan model dan himpunan data di Azure Blob Storage dengan titik akhir privat, terapkan enkripsi saat tidak aktif dan saat transit, dan terapkan kebijakan akses ketat dengan pemantauan untuk mendeteksi upaya akses yang tidak sah.

Mendeteksi ancaman keamanan AI

Sistem AI menghadapi ancaman yang terus berkembang yang memerlukan pemantauan berkelanjutan untuk mencegah pelanggaran keamanan dan gangguan layanan. Deteksi ancaman yang cepat melindungi investasi AI dan menjaga kelangsungan bisnis. Terapkan kemampuan pemantauan dan respons otomatis untuk mengatasi insiden keamanan khusus AI secara efektif. Berikut caranya:

  1. Sebarkan deteksi risiko AI otomatis di seluruh lingkungan Anda. Beban kerja AI memperkenalkan ancaman dinamis yang tidak dapat dideteksi oleh pemantauan manual dengan cukup cepat untuk mencegah kerusakan. Sistem otomatis memberikan visibilitas real-time ke dalam risiko yang muncul dan memungkinkan respons cepat terhadap insiden keamanan. Gunakan AI manajemen postur keamanan dalam Microsoft Defender untuk Cloud untuk mengotomatiskan deteksi dan remediasi risiko AI generatif di seluruh lingkungan Azure Anda.

  2. Menetapkan prosedur respons insiden yang berfokus pada AI. Insiden keamanan yang tidak terdeteksi dapat menyebabkan kehilangan data, penyusupan model, atau gangguan layanan yang merusak operasi bisnis. Prosedur respons insiden khusus membahas karakteristik unik peristiwa keamanan AI. Bangun dan uji rencana respons insiden yang mengatasi ancaman khusus AI dan terus memantau indikator kompromi dalam sistem AI. Tetapkan prosedur eskalasi yang jelas untuk berbagai jenis insiden keamanan AI.

  3. Menerapkan strategi pemantauan khusus platform. Beban kerja AI yang disebarkan pada platform yang berbeda menghadapi tantangan keamanan berbeda yang memerlukan pendekatan pemantauan yang disesuaikan. Pemantauan khusus platform memastikan cakupan komprehensif dari semua vektor serangan potensial. Terapkan panduan pemantauan berdasarkan arsitektur penyebaran Anda sebagai berikut:

Azure sumber daya

Kategori Alat Deskripsi
Penemuan Aset Azure Resource Graph Explorer Menemukan dan menginventarkan sumber daya AI di seluruh langganan Azure
Pemantauan Keamanan Microsoft Defender untuk Awan Mengidentifikasi beban kerja AI generatif dan risiko keamanan
Manajemen Identitas Microsoft Entra identitas terkelola Mengamankan autentikasi layanan AI tanpa menyimpan kredensial
Keamanan Jaringan Virtual Network Mengisolasi komunikasi AI dan membatasi akses jaringan
Keamanan API Azure API Management Mengamankan titik akhir server Protokol Konteks Model
Perlindungan Data Azure Blob Storage Menyediakan penyimpanan terenkripsi untuk artefak AI dengan kontrol akses
Tata Kelola Data Microsoft Purview Katalog dan mengklasifikasikan data AI dengan label sensitivitas

Langkah berikutnya

Seperti yang dinyatakan sebelumnya, proses Mengelola AI, Kelola AI, dan Mengamankan AI merupakan proses berkelanjutan yang harus Anda ulang secara teratur. Tinjau kembali setiap Strategi AI, Rencana AI, dan Kesiapan AI sesuai kebutuhan. Gunakan daftar periksa adopsi AI untuk menentukan langkah Anda berikutnya.

Daftar periksa AI

  • Last updated on