Visszaélés monitorozása
Az Azure OpenAI szolgáltatás észleli és enyhíti az ismétlődő tartalmak és/vagy viselkedések azon előfordulását, amelyek a szolgáltatás olyan használatára utalnak, amely megsértheti a magatartási kódexet vagy más vonatkozó termékfeltételeket. Az adatok kezelésével kapcsolatos részletek az Adatok, az Adatvédelem és a Biztonság oldalon találhatók. A módosított visszaélések monitorozására az alábbi űrlapon jelentkezhet: Azure OpenAI Korlátozott hozzáférésű hozzáférés felülvizsgálata: Módosított visszaélések monitorozása.
A visszaélések monitorozásának összetevői
A monitorozáshoz több összetevő is szükséges:
Tartalombesorolás: Az osztályozó modellek észlelik a kártékony nyelvet és/vagy képeket a felhasználói kérésekben (bemenetek) és befejezésekben (kimenetekben). A rendszer a tartalomkövetelményekben meghatározott kárkategóriákat keresi, és a tartalomszűrési oldalon részletesebben ismertetett súlyossági szinteket rendel hozzá.
Visszaélési minták rögzítése: Az Azure OpenAI szolgáltatás visszaélés-monitorozása az ügyfelek használati mintáit vizsgálja, és algoritmusokat és heurisztikus megoldásokat alkalmaz a lehetséges visszaélések mutatóinak észlelésére. Az észlelt minták például azt a gyakoriságot és súlyosságot veszik figyelembe, amikor az ügyfél kérései és befejezései káros tartalmakat észlelnek.
Emberi felülvizsgálat és döntés: Ha a kérések és/vagy kiegészítések a fent leírt tartalombesorolás és visszaélési minta rögzítésén keresztül vannak megjelölve, az arra jogosult Microsoft-alkalmazottak értékelhetik a megjelölt tartalmat, és megerősíthetik vagy kijavíthatják a besorolást vagy a meghatározást az előre meghatározott irányelvek és szabályzatok alapján. Az adatok emberi felülvizsgálat céljából csak az arra jogosult Microsoft-alkalmazottak számára érhetők el a Biztonságos hozzáférésű munkaállomásokon (SAW-k) keresztül, a csapatvezetők által megadott just-in-time (JIT) kérelemmel. Az Európai Gazdasági Térségben üzembe helyezett Azure OpenAI-szolgáltatási erőforrások esetében az engedélyezett Microsoft-alkalmazottak az Európai Gazdasági Térségben találhatók.
Értesítés és művelet: Ha a visszaélésszerű viselkedés küszöbértékét az előző három lépés alapján megerősítették, az ügyfél e-mailben értesítést kap a megállapításról. A súlyos vagy ismétlődő visszaélések kivételével az ügyfelek általában lehetőséget kapnak arra, hogy elmagyarázzák vagy orvosolják a visszaélések előfordulását megakadályozó mechanizmusokat. A viselkedés vagy az ismétlődő vagy súlyos visszaélések kezelése meghiúsulása az ügyfél Azure OpenAI-erőforrásokhoz és/vagy képességekhez való hozzáférésének felfüggesztését vagy megszüntetését eredményezheti.
Következő lépések
- További információ az Azure OpenAI-t használó mögöttes modellekről.
- További információ az alkalmazással kapcsolatos kockázatok megértéséről és csökkentéséről: Az Azure OpenAI-modellek felelős AI-eljárásainak áttekintése.
- További információ az adatok feldolgozásáról a tartalomszűréssel és a visszaélések monitorozásával kapcsolatban: Adatok, adatvédelem és biztonság az Azure OpenAI szolgáltatásban.