Bagikan melalui

Data, privasi, dan keamanan untuk Layanan Azure OpenAI

Penting

Terjemahan non-bahasa Inggris disediakan hanya untuk kenyamanan. Silakan lihat EN-US versi dokumen ini untuk versi pengikatan.

Artikel ini menyediakan detail tentang bagaimana data yang Anda berikan kepada layanan Azure OpenAI diproses, digunakan, dan disimpan. Azure OpenAI menyimpan dan memproses data untuk menyediakan layanan dan memantau penggunaan yang melanggar ketentuan produk yang berlaku. Lihat juga Adendum Perlindungan Data Produk dan Layanan Microsoft, yang mengatur pemrosesan data oleh Layanan Azure OpenAI. Azure OpenAI adalah layanan Azure; pelajari selengkapnya tentang penawaran kepatuhan Azure yang berlaku.

Penting

Perintah Anda (input) dan penyelesaian (output), penyematan Anda, dan data pelatihan Anda:

  • TIDAK tersedia untuk pelanggan lain.
  • tidak tersedia bagi OpenAI.
  • TIDAK digunakan untuk meningkatkan model OpenAI.
  • TIDAK digunakan untuk melatih, melatih kembali, atau meningkatkan model dasar Azure OpenAI Service.
  • TIDAK digunakan untuk meningkatkan produk atau layanan Microsoft atau pihak ketiga apa pun tanpa izin atau instruksi Anda.
  • Model Azure OpenAI yang disempurnakan tersedia secara eksklusif untuk Anda gunakan.

Layanan Azure OpenAI dioperasikan oleh Microsoft sebagai layanan Azure; Microsoft menghosting model OpenAI di lingkungan Azure Microsoft dan Layanan TIDAK berinteraksi dengan layanan apa pun yang dioperasikan oleh OpenAI (misalnya ChatGPT, atau OpenAI API).

Data apa yang diproses Azure OpenAI Service?

Azure OpenAI memproses jenis data berikut:

  • Pemicu dan konten yang dihasilkan. Perintah dikirim oleh pengguna, dan konten dihasilkan oleh layanan melalui proses penyelesaian konten, penyelesaian obrolan, pembuatan gambar, dan pembenaman.
  • Data yang diunggah. Anda dapat menyediakan data Anda sendiri untuk digunakan dengan fitur layanan tertentu (misalnya, penyempurnaan, API asisten, pemrosesan batch) menggunakan Files API atau penyimpanan vektor.
  • Data untuk entitas berstatus. Saat Anda menggunakan fitur opsional tertentu dari layanan Azure OpenAI, seperti fitur Threads dari Assistants API dan Penyelesaian tersimpan, layanan membuat penyimpanan data untuk mempertahankan riwayat pesan dan konten lainnya, sesuai dengan cara Anda mengonfigurasi fitur tersebut.
  • Data ditingkatkan disertakan dengan atau melalui prompt. Saat Anda menggunakan data yang terkait dengan entitas stateful, layanan mengambil data yang relevan dari penyimpanan data yang dikonfigurasi dan menambah permintaan untuk menghasilkan output yang didasarkan pada data Anda. Prompt juga dapat ditambah dengan data yang diambil dari sumber yang disertakan dalam perintah itu sendiri, seperti URL.
  • Data pelatihan & validasi. Anda dapat memberikan data pelatihan Anda sendiri yang terdiri dari pasangan tuntunan-penyelesaian untuk tujuan menyempurnakan model OpenAI.

Bagaimana cara Azure OpenAI Service memproses data?

Diagram di bawah menggambarkan bagaimana data Anda diproses. Diagram ini mencakup beberapa jenis pemrosesan:

  1. Cara Layanan Azure OpenAI memproses perintah Anda melalui inferensi untuk menghasilkan konten (termasuk saat data tambahan dari sumber data yang ditunjuk ditambahkan ke perintah menggunakan Azure OpenAI pada data, Asisten, atau pemrosesan batch Anda).
  2. Bagaimana fitur Asisten menyimpan data sehubungan dengan Pesan, Utas, dan Jalankan.
  3. Cara fitur Batch memproses data yang Anda unggah.
  4. Cara Azure OpenAI Service membuat model yang disempurnakan (kustom) dengan data yang Anda unggah.
  5. Cara personel Azure OpenAI Service dan Microsoft menganalisis perintah dan penyelesaian (teks dan gambar) untuk konten berbahaya dan untuk pola yang menyarankan penggunaan layanan dengan cara yang melanggar Kode Etik atau ketentuan produk lain yang berlaku.

Diagram aliran data untuk layanan.

Seperti yang digambarkan dalam diagram di atas, pelanggan terkelola dapat mengajukan permohonan untuk memodifikasi pemantauan penyalahgunaan.

Menghasilkan penyelesaian, gambar, atau penyematan melalui proses inferensi

Model-model (dasar atau yang telah disetel) yang diterapkan pada sumber daya Anda memproses prompt input Anda dan menghasilkan respons berupa teks, gambar, atau penyematan. Interaksi pelanggan dengan model secara logis terisolasi dan diamankan menggunakan langkah-langkah teknis termasuk tetapi tidak terbatas pada enkripsi transportasi TLS1.2 atau lebih tinggi, perimeter keamanan komputasi, tokenisasi teks, dan akses eksklusif ke memori GPU yang dialokasikan. Perintah dan penyelesaian dievaluasi secara real time untuk jenis konten berbahaya dan pembuatan konten difilter berdasarkan ambang batas yang dikonfigurasi. Pelajari selengkapnya di pemfilteran konten Azure OpenAI Service.

Perintah dan respons diproses dalam geografi yang ditentukan pelanggan (kecuali Anda menggunakan jenis penyebaran Global), tetapi dapat diproses antar wilayah dalam geografi untuk tujuan operasional (termasuk manajemen performa dan kapasitas). Lihat di bawah ini untuk informasi tentang lokasi pemrosesan saat menggunakan jenis penyebaran Global.

Modelnya stateless: tidak ada perintah atau generasi yang disimpan dalam model. Selain itu, perintah dan generasi tidak digunakan untuk melatih, melatih kembali, atau meningkatkan model dasar.

Memahami lokasi pemrosesan untuk jenis penyebaran "Global" dan "Zona data"

Selain penyebaran standar, Azure OpenAI Service menawarkan opsi penyebaran berlabel 'Global' dan 'DataZone.' Untuk setiap jenis penyebaran berlabel 'Global,' perintah dan respons dapat diproses dalam geografi apa pun di mana model Azure OpenAI yang relevan disebarkan (pelajari selengkapnya tentang ketersediaan model wilayah). Untuk jenis penyebaran apa pun yang diberi label sebagai 'DataZone,' perintah dan respons dapat diproses dalam geografi apa pun dalam zona data yang ditentukan, seperti yang didefinisikan oleh Microsoft. Jika Anda membuat penyebaran DataZone di sumber daya Azure OpenAI yang terletak di Amerika Serikat, perintah dan respons dapat diproses di mana saja dalam Amerika Serikat. Jika Anda membuat penyebaran DataZone di sumber daya Azure OpenAI yang terletak di Negara Anggota Uni Eropa, perintah dan respons dapat diproses di negara tersebut atau Negara Anggota Uni Eropa lainnya. Untuk jenis penyebaran Global dan DataZone, data apa pun yang disimpan saat tidak aktif, seperti data yang diunggah, disimpan dalam geografi yang ditentukan pelanggan. Hanya lokasi pemrosesan yang terpengaruh ketika pelanggan menggunakan jenis penyebaran Global atau jenis penyebaran DataZone di Azure OpenAI Service; Pemrosesan data Azure dan komitmen kepatuhan tetap berlaku.

Meningkatkan permintaan untuk mengaitkan hasil yang dihasilkan berdasarkan data Anda

Fitur Azure OpenAI "berbasis pada data Anda" memungkinkan Anda menyambungkan sumber data untuk memadukan hasil yang dihasilkan dengan data Anda. Data tetap disimpan di sumber data dan lokasi yang Anda tentukan; Azure OpenAI Service tidak membuat penyimpanan data duplikat. Saat permintaan pengguna diterima, layanan mengambil data yang relevan dari sumber data yang terhubung dan menambah permintaan. Model memproses permintaan tertambah ini dan konten yang dihasilkan dikembalikan seperti yang dijelaskan di atas. Pelajari selengkapnya tentang cara menggunakan fitur On Your Data dengan aman.

Penyimpanan data untuk fitur Azure OpenAI Service

Beberapa fitur Azure OpenAI Service menyimpan data dalam layanan. Data ini diunggah oleh pelanggan, menggunakan Files API atau penyimpanan vektor, atau secara otomatis disimpan sehubungan dengan entitas stateful tertentu seperti fitur Threads dari Assistants API dan Penyelesaian tersimpan. Data yang disimpan untuk fitur Azure OpenAI Service:

  • Disimpan dalam keadaan diam di sumber daya Azure OpenAI di penyewa Azure pelanggan, dalam geografi yang sama dengan sumber daya Azure OpenAI.
  • Selalu dienkripsi saat tidak aktif dengan enkripsi AES-256 Microsoft secara default, dengan opsi menggunakan kunci yang dikelola pelanggan (fitur pratinjau tertentu mungkin tidak mendukung kunci yang dikelola pelanggan).
  • Dapat dihapus oleh pelanggan kapan saja.

Nota

Fitur Azure OpenAI dalam pratinjau mungkin tidak mendukung semua kondisi di atas.

Data tersimpan dapat digunakan dengan fitur/kemampuan layanan berikut:

  • Membuat model yang disesuaikan (disempurnakan). Pelajari selengkapnya tentang cara kerja penyempurnaan. Model yang disempurnakan tersedia secara eksklusif untuk pelanggan yang datanya digunakan untuk membuat model yang disempurnakan, dienkripsi saat tidak aktif (ketika tidak disebarkan untuk inferensi), dan dapat dihapus oleh pelanggan kapan saja. Data pelatihan yang diunggah untuk penyempurnaan tidak digunakan untuk melatih, melatih kembali, atau meningkatkan model dasar Microsoft atau pihak ketiga apa pun.
  • Pemrosesan batch. Pelajari selengkapnya tentang cara kerja pemrosesan batch. Pemrosesan batch adalah jenis penyebaran Global; data yang disimpan saat tidak aktif tetap berada dalam geografi Azure yang ditunjuk sampai kapasitas pemrosesan tersedia; pemrosesan dapat terjadi dalam geografi apa pun di mana model Azure OpenAI yang relevan disebarkan (pelajari selengkapnya tentang ketersediaan model wilayah).
  • Assistants API (pratinjau). Pelajari selengkapnya tentang cara kerja Assistants API. Beberapa fitur Asisten, seperti Utas, menyimpan riwayat pesan dan konten lainnya.
  • Penyelesaian tersimpan (pratinjau). Penyelesaian tersimpan menyimpan pasangan input-output dari model Azure OpenAI yang disebarkan pelanggan seperti GPT-4o melalui API penyelesaian obrolan dan menampilkan pasangan di portal Azure AI Foundry. Hal ini memungkinkan pelanggan untuk membangun himpunan data dengan data produksi mereka, yang kemudian dapat digunakan untuk mengevaluasi atau menyempurnakan model (sebagaimana diizinkan dalam Ketentuan Produk yang berlaku).

Mencegah penyalahgunaan dan pembuatan konten yang berbahaya

Untuk mengurangi risiko penggunaan layanan Azure OpenAI yang berbahaya, Azure OpenAI Service menyertakan fitur pemfilteran konten dan pemantauan penyalahgunaan. Untuk mempelajari selengkapnya tentang pemfilteran konten, lihat Pemfilteran konten Azure OpenAI Service. Untuk mempelajari selengkapnya tentang pemantauan penyalahgunaan, lihat pemantauan penyalahgunaan.

Pemfilteran konten terjadi secara sinkron saat layanan memproses permintaan untuk menghasilkan konten seperti yang dijelaskan di atas dan di sini. Tidak ada permintaan atau konten yang dihasilkan yang disimpan dalam model pengklasifikasi konten, dan perintah dan output tidak digunakan untuk melatih, melatih kembali, atau meningkatkan model pengklasifikasi tanpa persetujuan Anda.

Evaluasi keamanan dari model yang disesuaikan bertujuan untuk menilai model yang disesuaikan ini terhadap respons yang berpotensi berbahaya dengan menggunakan metrik risiko dan keamanan Azure. Hanya penilaian yang dihasilkan (dapat disebarkan atau tidak dapat disebarkan) yang dicatat oleh layanan.

Sistem pemantauan penyalahgunaan Azure OpenAI dirancang untuk mendeteksi dan mengurangi instans konten dan/atau perilaku berulang yang menyarankan penggunaan layanan dengan cara yang dapat melanggar kode etik atau ketentuan produk lain yang berlaku. Seperti yang dijelaskan di sini, sistem menggunakan algoritma dan heuristik untuk mendeteksi indikator potensi penyalahgunaan. Ketika indikator ini terdeteksi, sampel permintaan dan penyelesaian pelanggan dapat dipilih untuk ditinjau. Peninjauan dilakukan oleh LLM secara default, dengan ulasan tambahan oleh pengulas manusia seperlunya. Informasi terperinci tentang AI dan tinjauan manusia tersedia di pemantauan penyalahgunaan Layanan Azure OpenAI.

Untuk peninjauan AI, permintaan dan penyelesaian pelanggan tidak disimpan oleh sistem atau digunakan untuk melatih LLM atau sistem lain. Untuk peninjauan manusia, penyimpanan data tempat permintaan dan penyelesaian disimpan secara logis dipisahkan berdasarkan sumber daya pelanggan (setiap permintaan menyertakan ID sumber daya Azure OpenAI pelanggan). Penyimpanan data terpisah terletak di setiap geografi tempat Layanan Azure OpenAI tersedia, dan permintaan pelanggan dan konten yang dihasilkan disimpan dalam geografi Azure tempat sumber daya layanan Azure OpenAI pelanggan disebarkan, dalam batas layanan Azure OpenAI. Peninjau manusia menilai potensi penyalahgunaan dapat mengakses perintah dan menyelesaikan data hanya ketika data tersebut telah ditandai oleh sistem pemantauan penyalahgunaan. Pengulas manusia adalah karyawan Microsoft resmi yang mengakses data melalui kueri bijaksana titik menggunakan ID permintaan, Stasiun Kerja Akses Aman (SAW), dan persetujuan permintaan Just-In-Time (JIT) yang diberikan oleh manajer tim. Untuk Layanan Azure OpenAI yang disebarkan di Area Ekonomi Eropa, karyawan Resmi Microsoft terletak di Area Ekonomi Eropa.

Jika pelanggan telah disetujui untuk pemantauan penyalahgunaan yang dimodifikasi (pelajari selengkapnya di pemantauan penyalahgunaan Layanan Azure OpenAI), Microsoft tidak menyimpan perintah dan penyelesaian yang terkait dengan langganan Azure yang disetujui, dan proses peninjauan manusia yang dijelaskan di atas tidak dimungkinkan dan tidak dilakukan. Namun, peninjauan AI mungkin masih dilakukan dengan memanfaatkan LLM yang meninjau permintaan dan hasil pada saat disediakan atau dihasilkan, sesuai kebutuhan.

Nota

Fitur Pratinjau Azure, termasuk model Azure OpenAI dalam pratinjau, dapat menggunakan praktik privasi yang berbeda, termasuk sehubungan dengan pemantauan penyalahgunaan. Pratinjau dapat tunduk pada ketentuan tambahan di: Ketentuan penggunaan tambahan untuk Pratinjau Microsoft Azure.

Bagaimana pelanggan dapat memverifikasi apakah penyimpanan data untuk pemantauan penyalahgunaan tidak aktif?

Ada dua cara bagi pelanggan, setelah disetujui untuk menonaktifkan pemantauan penyalahgunaan, untuk memverifikasi bahwa penyimpanan data untuk pemantauan penyalahgunaan telah dinonaktifkan dalam langganan Azure yang disetujui:

  • Menggunakan portal Microsoft Azure, atau
  • Azure CLI (atau API manajemen apa pun).

Nota

Nilai "false" untuk atribut "ContentLogging" hanya muncul jika penyimpanan data untuk pemantauan penyalahgunaan dinonaktifkan. Jika tidak, properti ini tidak akan muncul di portal Microsoft Azure atau output Azure CLI.

Prasyarat

  1. Masuk ke Azure
  2. Pilih Langganan Azure yang menghosting sumber daya Azure OpenAI Service.
  3. Navigasi ke halaman Gambaran Umum sumber daya Azure OpenAI Service.

  1. Masuk ke halaman Gambaran Umum sumber daya

  2. Klik tautan tampilan JSON di sudut kanan atas seperti yang ditunjukkan pada gambar di bawah ini.

    Tampilan json status pengelogan di portal Microsoft Azure.

Akan ada nilai dalam daftar Kemampuan yang disebut "ContentLogging" yang akan muncul dan diatur menjadi FALSE saat pencatatan untuk pemantauan penyalahgunaan dimatikan.

{ 
    "name":"ContentLogging",
    "value":"false"
}

Untuk mempelajari selengkapnya tentang komitmen privasi dan keamanan Microsoft, lihat Pusat Kepercayaan Microsoft.

Riwayat Perubahan

Tanggal Perubahan
17 Desember 2024 Menambahkan informasi tentang pemrosesan dan penyimpanan data sehubungan dengan fitur penyelesaian tersimpan baru; menambahkan bahasa yang mengklarifikasi bahwa fitur Azure OpenAI dalam pratinjau mungkin tidak mendukung semua kondisi penyimpanan data; menghapus penetapan "pratinjau" untuk pemrosesan Batch
18 November 2024 Menambahkan informasi tentang lokasi pemrosesan data untuk jenis penyebaran 'Zona data' baru; menambahkan informasi tentang tinjauan AI baru tentang perintah dan penyelesaian sebagai bagian dari mencegah penyalahgunaan dan pembuatan konten berbahaya
4 September 2024 Menambahkan informasi (dan merevisi teks yang ada yang sesuai) tentang pemrosesan data untuk fitur baru termasuk Assistants API (pratinjau), Batch (pratinjau), dan Penyebaran Global; bahasa yang direvisi terkait dengan lokasi pemrosesan data, sesuai dengan prinsip residensi data Azure; menambahkan informasi tentang pemrosesan data untuk evaluasi keamanan model yang disempurnakan; mengklarifikasi komitmen yang terkait dengan penggunaan perintah dan penyelesaian; revisi minor untuk meningkatkan kejelasan
23 Juni 2023 Menambahkan informasi tentang pemrosesan data untuk Azure baru pada fitur data Anda; menghapus informasi tentang pemantauan penyalahgunaan yang sekarang tersedia di pemantauan penyalahgunaan Layanan Azure OpenAI. Menambahkan catatan ringkasan. Konten yang diperbarui dan disederhanakan dan diagram yang diperbarui untuk kejelasan tambahan. menambahkan log perubahan

Lihat juga