Výchozí zásady zabezpečení obsahu

Služba Azure OpenAI zahrnuje výchozí bezpečnost použitou pro všechny modely s výjimkou Azure OpenAI Whisper. Tyto konfigurace poskytují ve výchozím nastavení zodpovědné prostředí, včetně modelů filtrování obsahu, seznamů blokovaných položek, transformace výzvy, přihlašovacích údajů k obsahu a dalších.

Cílem výchozí bezpečnosti je zmírnit rizika, jako jsou nenávist a nestrannost, sexuální, násilí, sebepoškozování, chráněný materiálový obsah a útoky prostřednictvím injektáže uživatelů. Další informace o filtrování obsahu najdete v naší dokumentaci popisující kategorie a úrovně závažnosti.

Veškerá bezpečnost je konfigurovatelná. Další informace o konfigurovatelnosti najdete v naší dokumentaci ke konfiguraci filtrování obsahu.

Textové modely: GPT-4, GPT-3.5

Textové modely ve službě Azure OpenAI mohou převzít a generovat text i kód. Tyto modely využívají modely filtrování textového obsahu v Azure k detekci a prevenci škodlivého obsahu. Tento systém funguje na příkazovém řádku i na dokončení.

Kategorie rizika	Výzva/dokončení	Prahová hodnota závažnosti
Nenávist a nestrannost	Výzvy a dokončení	Střední
Násilí	Výzvy a dokončení	Střední
Sexuální	Výzvy a dokončení	Střední
Sebepoškozování	Výzvy a dokončení	Střední
Útok prostřednictvím injektáže uživatele (Jailbreak)	Pobídky	–
Chráněný materiál – text	Dokončení	–
Chráněný materiál – kód	Dokončení	–

Modely obrazu: GPT-4o, GPT-4 Turbo, DALL-E 3, DALL-E 2

GPT-4o a GPT-4 Turbo

Kategorie rizika	Výzva/dokončení	Prahová hodnota závažnosti
Nenávist a nestrannost	Výzvy a dokončení	Střední
Násilí	Výzvy a dokončení	Střední
Sexuální	Výzvy a dokončení	Střední
Sebepoškozování	Výzvy a dokončení	Střední
Identifikace jednotlivců a odvození citlivých atributů	Pobídky	–
Útok prostřednictvím injektáže uživatele (Jailbreak)	Pobídky	–

DALL-E 3 a DALL-E 2

Kategorie rizika	Výzva/dokončení	Prahová hodnota závažnosti
Nenávist a nestrannost	Výzvy a dokončení	Nízká
Násilí	Výzvy a dokončení	Nízká
Sexuální	Výzvy a dokončení	Nízká
Sebepoškozování	Výzvy a dokončení	Nízká
Přihlašovací údaje k obsahu	Dokončení	–
Deceptivní generace politických kandidátů	Pobídky	–
Znázornění veřejných obrázků	Pobídky	–
Útok prostřednictvím injektáže uživatele (Jailbreak)	Pobídky	–
Chráněný materiál – umělecké a studiové znaky	Pobídky	–
Vulgární výrazy	Pobídky	–

Kromě výše uvedených konfigurací zabezpečení nabízí Azure OpenAI DALL-E také ve výchozím nastavení transformace výzvy . K této transformaci dochází na všech výzev k posílení bezpečnosti původní výzvy, konkrétně v rizikových kategoriích rozmanitosti, deceptivní generaci politických kandidátů, znázornění veřejných osobností, chráněných materiálů a dalších.