Dokumenteinbettung in Prompts

Die Guardrails und Steuerelemente von Microsoft Foundry können besser ausgeführt werden, wenn sie zwischen den verschiedenen Elementen Ihrer Eingabeaufforderung unterscheiden können, z. B. Systemeingaben, Benutzereingaben und die Ausgabe des KI-Assistenten. Um die Erkennungsfunktionen zu verbessern, sollten Prompts nach den folgenden empfohlenen Methoden formatiert werden.

Standardverhalten in der API für Chatabschlusse

Die Chat-Vervollständigungs-API ist definitionsstrukturiert. Eingaben bestehen aus einer Liste von Nachrichten, die jeweils eine zugewiesene Rolle haben.

Das Sicherheitssystem analysiert dieses strukturierte Format und wendet das folgende Verhalten an.

• Auf dem neuesten "Benutzer"-Inhalt werden die folgenden Kategorien von RAI-Risiken erkannt:
  • Hass
  • Sexuell
  • Gewalt
  • Selbstverletzung
  • Prompt Shields (optional)

Dies ist ein Beispiel für ein Nachrichtenarray:

{"role": "system", "content": "Provide some context and/or instructions to the model."}, 
{"role": "user", "content": "Example question goes here."}, 
{"role": "assistant", "content": "Example answer goes here."}, 
{"role": "user", "content": "First question/message for the model to actually respond to."} 

Einbetten von Dokumenten in Ihren Prompt

Zusätzlich zur Erkennung von Inhalten des letzten Benutzers unterstützt Azure OpenAI auch die Erkennung bestimmter Risiken innerhalb von Kontextdokumenten über Prompt Shields – indirekte Erkennung von Angriffsversuchen und Verankerungserkennung. Sie sollten die Teile der Eingabe identifizieren, die ein Dokument (z. B. abgerufene Website, E-Mail usw.) mit dem folgenden Dokumenttrennzeichen sind.

\"\"\" <documents> *insert your document content here* </documents> \"\"\" 

Wenn Sie dies tun, stehen die folgenden Optionen für die Erkennung für markierte Dokumente zur Verfügung:

• Indirekte Angriffe (optional)
• Groundedness-Erkennung

Nachfolgend sehen Sie ein Beispiel für das Array der Chatvervollständigungsnachrichten:

{"role": "system", "content": "Provide some context and/or instructions to the model.}, 

{"role": "user", "content": "First question/message for the model to actually respond to, including document context.  \"\"\" <documents>\n*insert your document content here*\n</documents> \"\"\"""}

JSON-Escapezeichen

Wenn Sie ungeprüfte Dokumente für die Erkennung markieren, muss der Inhalt des Dokuments mit JSON-Escapezeichen versehen sein, um ein erfolgreiches Parsen durch das Azure OpenAI-Sicherheitssystem zu gewährleisten.

Sehen Sie sich beispielsweise den folgenden E-Mail-Text an:

Hello Josè, 

I hope this email finds you well today.

Mit JSON-Escapezeichen würde er folgendermaßen lauten:

Hello Jos\u00E9,\nI hope this email finds you well today. 

Der Text mit Escapezeichen in einem Chatvervollständigungskontext würde folgendermaßen lauten:

{"role": "system", "content": "Provide some context and/or instructions to the model, including document context. \"\"\" <documents>\n Hello Jos\\u00E9,\\nI hope this email finds you well today. \n</documents> \"\"\""}, 

{"role": "user", "content": "First question/message for the model to actually respond to."}