Provoz zodpovědného řešení generující umělé inteligence

  • 3 min

Jakmile identifikujete potenciální škody, vytvořte způsob, jak měřit jejich přítomnost a implementovat zmírnění rizik pro ně ve vašem řešení, můžete se připravit na vydání řešení. Než to uděláte, je potřeba vzít v úvahu některé aspekty, které vám pomůžou zajistit úspěšné vydání a následné operace.

Kompletní předběžné recenze

Než vydáte řešení generující umělé inteligence, identifikujte různé požadavky na dodržování předpisů ve vaší organizaci a odvětví a zajistěte, aby příslušné týmy získaly příležitost ke kontrole systému a jeho dokumentace. Mezi běžné kontroly dodržování předpisů patří:

  • Právní informace
  • Ochrana osobních údajů
  • Zabezpečení
  • Usnadnění

Uvolnění a provoz řešení

Úspěšná verze vyžaduje určité plánování a přípravu. Zvažte následující pokyny:

  • Vytvořte plán postupného doručování , který vám umožní nejprve uvolnit řešení omezené skupině uživatelů. Tento přístup vám umožní shromáždit zpětnou vazbu a identifikovat problémy před vydáním širšímu publiku.
  • Vytvořte plán reakce na incidenty, který obsahuje odhady času potřebného k reakci na neočekávané incidenty.
  • Vytvořte plán vrácení zpět, který definuje kroky pro vrácení řešení zpět do předchozího stavu, pokud dojde k incidentu.
  • Implementujte schopnost okamžitě blokovat škodlivé systémové odpovědi, když jsou zjištěny.
  • Implementujte možnost blokovat konkrétní uživatele, aplikace nebo IP adresy klienta v případě zneužití systému.
  • Implementujte způsob, jak uživatelům poskytnout zpětnou vazbu a nahlásit problémy. Konkrétně uživatelům umožňuje generovat vygenerovaný obsah jako nepřesný, neúplný, škodlivý, urážlivý nebo jinak problematický.
  • Sledujte telemetrická data, která umožňují určit spokojenost uživatelů a identifikovat funkční mezery nebo problémy s použitelností. Shromážděná telemetrie by měla dodržovat zákony o ochraně osobních údajů a zásady a závazky vaší organizace týkající se ochrany osobních údajů uživatelů.

Využití obsahu Azure AI Sejf ty

Několik prostředků Azure AI poskytuje integrovanou analýzu obsahu, se kterým pracují, včetně jazyka, zpracování obrazu a Azure OpenAI pomocí filtrů obsahu.

Obsah Azure AI Sejf ty poskytuje více funkcí, které se zaměřují na zajištění zabezpečení umělé inteligence a kopírování před rizikem. Mezi tyto funkce patří detekce nevhodného nebo urážlivého jazyka, a to jak ze vstupu, tak z vygenerovaného kódu a zjišťování rizikových nebo nevhodných vstupů.

Mezi funkce obsahu Azure AI Sejf ty patří:

Funkce Funkce
Vyzvání štítů Kontroluje riziko útoků uživatelských vstupů na jazykové modely.
Detekce uzemnění Zjistí, jestli jsou textové odpovědi uzemněné ve zdrojovém obsahu uživatele.
Detekce chráněných materiálů Vyhledá známý obsah s autorským právem.
Vlastní kategorie Definování vlastních kategorií pro všechny nové nebo nově vznikající vzory

Podrobnosti a rychlá zprovoznění pro používání obsahu Azure AI Sejf ty najdete na stránkách dokumentace pro službu.