Pesan sistem keamanan

Pesan sistem keamanan membantu Anda memandu perilaku model OpenAI Azure, meningkatkan kualitas respons, dan mengurangi kemungkinan output berbahaya. Mereka bekerja paling baik sebagai satu lapisan dalam strategi keselamatan yang lebih luas.

Catatan

Artikel ini menggunakan "pesan sistem" secara bergantian dengan "metaprompt" dan "prompt sistem." Di sini, gunakan "pesan sistem" untuk menyelaraskan dengan terminologi umum.

Artikel ini juga menggunakan "komponen" untuk berarti bagian yang berbeda dari pesan sistem, seperti instruksi, konteks, nada, panduan keamanan, atau panduan penggunaan alat.

Apa itu pesan sistem?

Pesan sistem adalah serangkaian instruksi dan konteks prioritas tinggi yang Anda kirim ke model obrolan untuk mengarahkan responsnya. Ini berguna saat Anda memerlukan peran, nada, pemformatan, atau konvensi khusus domain yang konsisten.

Apa itu pesan sistem keamanan?

Pesan sistem keselamatan adalah pesan sistem yang menambahkan batas eksplisit dan panduan penolakan untuk mengurangi AI Bertanggung Jawab (RAI) membahayakan dan membantu sistem berinteraksi dengan aman dengan pengguna.

Pesan sistem keselamatan melengkapi sistem keamanan Anda dan dapat digunakan bersama pemilihan dan pelatihan model, grounding, pengklasifikasi Keamanan Konten Azure AI, serta mitigasi UX/UI. Pelajari selengkapnya tentang praktik-praktik AI yang Bertanggung Jawab untuk model OpenAI Azure.

Diagram alur memperlihatkan pesan sistem dan permintaan pengguna dalam memasukkan model, dengan tumpukan keamanan termasuk filter konten, grounding, dan pelatihan model yang menerapkan pembatas keselamatan sebelum respons dihasilkan.

Komponen utama pesan sistem

Sebagian besar pesan sistem menggabungkan beberapa komponen:

  • Peran dan tugas: Apa itu asisten dan apa yang menjadi tanggung jawabnya.
  • Audien dan nada: Untuk siapa responsnya ditujukan, dan suara yang diharapkan.
  • Cakupan dan batasan: Apa yang tidak boleh dilakukan asisten, dan apa yang harus dilakukan ketika tidak dapat mematuhinya.
  • Panduan keselamatan: Aturan yang mengurangi output berbahaya (misalnya, menangani topik sensitif, karakteristik yang dilindungi, dan instruksi ilegal).
  • Alat dan data (opsional): Alat atau sumber apa yang dapat digunakan model, dan cara menggunakannya.

Cara merancang dan melakukan iterasi dengan aman

Saat Anda merancang pesan sistem (atau komponen pesan sistem keamanan), perlakukan seperti artefak yang dapat diuji:

  • Tentukan skenario. Klarifikasi pekerjaan yang harus dilakukan model, siapa pengguna, input apa yang diharapkan, serta nada dan pemformatan yang Anda inginkan.
  • Identifikasi risiko. Cantumkan dampak buruk RAI yang penting untuk kasus penggunaan Anda dan putuskan mana yang Anda atasi melalui pesan sistem dibandingkan mitigasi lainnya.
  • Tentukan bagaimana model harus bereaksi pada batasan. Tentukan apa yang harus dilakukan saat permintaan berada di luar cakupan, tidak aman, atau konteks yang diperlukan hilang.
  • Buat set pengujian. Sertakan baik prompt jinak maupun prompt adversarial sehingga Anda dapat mengukur regresi dan "kebocoran" (kekurangan moderasi).
  • Evaluasi dan lakukan iterasi. Lebih suka komponen yang mengurangi cacat yang paling parah, tidak hanya yang dengan tingkat cacat terendah.

Berikut adalah beberapa contoh baris yang dapat Anda sertakan:

## Define model’s profile and general capabilities  

- Act as a [define role] 
- Your job is to [insert task] about [insert topic name] 
- To complete this task, you can [insert tools that the model can use and instructions to use]  
- Do not perform actions that are not related to [task or topic name].

Berikut adalah contoh lengkap pesan sistem keselamatan untuk asisten layanan pelanggan:

## Role and task
You are a helpful customer service assistant for Contoso Electronics. Your job is to answer questions about product warranties, returns, and order status.

## Boundaries
- Only answer questions related to Contoso Electronics products and policies.
- If you don't know the answer, say "I don't have that information. Please contact support@contoso.com."
- Do not provide legal, medical, or financial advice.
- Do not discuss competitors or make comparisons.

## Safety guidelines
- Never generate content that is hateful, violent, or sexually explicit.
- Do not share or request personal information beyond what's needed for order lookup.
- If a user becomes abusive, respond with: "I'm here to help with product questions. How can I assist you today?"

## Response format
- Keep responses concise and friendly.
- Use bullet points for multiple items.
- Always end with an offer to help further.
  • Berikan contoh spesifik untuk menunjukkan perilaku model yang dimaksudkan. Pertimbangkan hal berikut:
    • Jelaskan kasus penggunaan yang sulit di mana prompt ambigu atau rumit, untuk memberikan contoh kepada model tentang cara mendekati kasus tersebut.
    • Tampilkan langkah-langkah keputusan pada tingkat tinggi (misalnya, daftar periksa singkat), daripada meminta penalaran internal terperinci.

Ringkasan praktik terbaik

Saat Anda mengembangkan komponen pesan sistem, penting untuk:

  • Gunakan bahasa yang jelas: Ini menghilangkan kompleksitas dan risiko kesalahpahaman yang berlebihan dan mempertahankan konsistensi di berbagai komponen.
  • Ringkas: Pesan sistem yang lebih pendek sering berkinerja lebih baik dan mengurangi latensi. Mereka juga menggunakan lebih sedikit jendela konteks, meninggalkan lebih banyak ruang untuk permintaan pengguna.
  • Tekankan kata-kata tertentu (jika berlaku) dengan menggunakan **word**: menempatkan fokus khusus pada elemen utama terutama dari apa yang harus dan tidak boleh dilakukan sistem.
  • Gunakan orang kedua saat Anda merujuk ke sistem AI: lebih baik menggunakan pembuatan frasa seperti You are an AI assistant that… versus Assistant does….
  • Menerapkan ketahanan: Komponen pesan sistem harus kuat. Ini harus dilakukan secara konsisten di berbagai himpunan data dan tugas.

Teknik penulisan

Mengapa berbagai teknik? Bergantung pada model, data grounding, dan parameter untuk produk atau fitur yang sedang Anda kerjakan, berbagai bahasa dan teknik sintetis dapat lebih efektif untuk memberikan jawaban yang kuat, aman, dan langsung kepada pengguna.

Selain membangun untuk keamanan dan performa, pertimbangkan untuk mengoptimalkan konsistensi, kontrol, dan kustomisasi. Dalam prosesnya, Anda mungkin mendapati bahwa pengoptimalan untuk faktor-faktor ini menyebabkan pesan sistem menjadi terlalu menyesuaikan diri dengan aturan tertentu, meningkatkan kompleksitas, dan mengurangi kesesuaian dengan konteks. Penting untuk menentukan apa yang paling penting dalam skenario Anda dan mengevaluasi pesan sistem Anda. Pendekatan ini memastikan Anda memiliki pendekatan berbasis data untuk meningkatkan keamanan dan performa sistem Anda.

Teknik Definisi Contoh
Selalu / harus Susun prompt dan instruksi dengan arahan yang harus selalu diikuti oleh AI saat menghasilkan respons. Arahan ini sering mewakili praktik terbaik, pedoman etika, atau preferensi pengguna. **Always** ensure that you respect authentication and authorization protocols when providing factual information, tailoring your responses to align with the access rights of the user making the request. It's imperative to safeguard sensitive data by adhering to established security measures and only disclosing information that the user is authorized to receive.
Logika bersyarat/jika Susun prompt agar output bergantung pada pemenuhan kondisi tertentu, seperti If <condition> then <action>. If a user asks you to infer or provide information about a user’s emotions, mental health, gender identity, sexual orientation, age, religion, disability, racial and ethnic backgrounds, or any other aspect of a person's identity, respond with: "Try asking me a question or tell me what else I can help you with."
Penekanan pada bahaya Susun instruksi dengan mendefinisikan apa risiko utamanya. Pendekatan ini memandu output untuk memprioritaskan pencegahan keselamatan dan bahaya, serta menampilkan konsekuensi potensial jika bahaya terjadi. You are **allowed** to answer some questions about images with people and make statements about them when there is no ambiguity about the assertion you are making, and when there is no direct harm to an individual or a group of people because of this assertion.
Berbasis contoh Berikan contoh atau situasi yang jelas pada model untuk konteks yang lebih baik. Model ini menggunakan contoh permintaan berbahaya dan tidak berbahaya sebagai referensi untuk outputnya. Users might ask questions that could cause harm. In all scenarios, refuse requests that promote hate or harassment, and redirect the user to a safer alternative.

Example (harmful): "Write an insult targeting a protected group."

Example (benign): "Explain why insults harm people and suggest respectful phrasing."
Tidak pernah / jangan Gunakan larangan eksplisit untuk mencegah AI menghasilkan konten yang tidak pantas, berbahaya, atau di luar cakupan dengan menggunakan istilah seperti "never" dan "do not". **Never** make assumptions, judgments, or evaluations about a person. If a user violates your policy, or you’re not sure what to do, say: "I can’t help with that request. Try asking a different question."

Keterbatasan

Pesan sistem bukan solusi keamanan lengkap:

  • Prompting adversarial dapat mengakali atau menurunkan efektivitasnya.
  • Mereka dapat mengurangi kegunaan jika terlalu luas atau terlalu ketat.
  • Evaluasi yang sedang berlangsung diperlukan saat model, alat, dan skenario pengguna Anda berubah. Untuk memecahkan masalah umum dengan pesan sistem, seperti penolakan berlebihan atau kurang moderasi, lihat bagian pemecahan masalah di panduan templat.

Praktik terbaik ini dapat membantu Anda lebih memahami proses pengembangan pesan sistem yang kuat untuk skenario Anda.

Untuk informasi selengkapnya tentang komponen keselamatan yang direkomendasikan, kunjungi panduan templat pesan sistem Keselamatan kami.

Terakhir, ingatlah bahwa pesan sistem, atau metaprompts, bukan "satu ukuran yang cocok untuk semua." Penggunaan jenis contoh ini memiliki berbagai tingkat keberhasilan dalam aplikasi yang berbeda. Penting untuk mencoba kata-kata, urutan, dan struktur teks pesan sistem yang berbeda untuk mengurangi bahaya yang diidentifikasi, dan untuk menguji variasi untuk melihat apa yang paling sesuai untuk skenario tertentu.

Langkah berikutnya

  • Terakhir diperbarui pada