Zodpovědná AI pro Microsoft Foundry

Tento článek obsahuje přehled prostředků pro sestavování a nasazování důvěryhodných agentů AI. To zahrnuje kompletní zabezpečení, pozorovatelnost a zásady správného řízení s ovládacími prvky a kontrolními body ve všech fázích životního cyklu agenta. Naše doporučené základní kroky vývoje vycházejí z Microsoft zodpovědného standardu AI, který nastavuje požadavky na zásady, které následují naše vlastní technické týmy. Většina obsahu standardu se řídí vzorem a žádá týmy o zjištění, ochranu a řízení potenciálních rizik obsahu.

Na Microsoft se náš přístup řídí architekturou zásad správného řízení, která je kořenem principů AI, která stanoví požadavky na produkty a slouží jako "severní hvězda". Když identifikujeme obchodní případ použití pro generování umělé inteligence, nejprve zjistíme a posoudíme potenciální rizika systému AI, abychom určili kritické oblasti zaměření.

Jakmile tato rizika identifikujeme, vyhodnotíme jejich prevalenci v systému AI prostřednictvím systematického měření, což nám pomáhá určit prioritu oblastí, které vyžadují pozornost. Pak na úrovni modelu a agenta použijeme odpovídající ochranu proti těmto rizikům.

Nakonec prozkoumáme strategie pro řízení rizik v produkčním prostředí, včetně nasazení a provozní připravenosti a nastavení monitorování, které podporuje průběžné řízení, aby se zajistilo dodržování předpisů a po spuštění aplikace identifikovala nová rizika.

V souladu s postupy RAI Microsoft jsou tato doporučení uspořádaná do tří fází:

  • Seznamte se s riziky kvality, bezpečnosti a zabezpečení agenta před nasazením a po nasazení. Otestujte například svého agenta s adversariálními výzvami k identifikaci potenciálních zranitelností jailbreaku.
  • Chraňte – na úrovni výstupu modelu i modulu runtime agenta – proti rizikům zabezpečení, nežádoucím výstupům a nebezpečným akcím. Filtry obsahu a mantinely slouží k blokování škodlivých výstupů, než se dostanou k uživatelům.
  • Řízení agentů prostřednictvím nástrojů pro trasování a monitorování a integrací dodržování předpisů Nastavte průběžné monitorování pro sledování chování agenta a detekci anomálií v produkčním prostředí.

Zobrazení výstrah zabezpečení a reakce na ně

V části Risks + alerts si můžete prohlédnout Defender for Cloud výstrahy a doporučení ke zlepšení stavu zabezpečení. Výstrahy zabezpečení jsou oznámení generovaná plánem Defender for Foundry Tools, když jsou hrozby identifikovány ve vašich úlohách AI. Tyto výstrahy můžete řešit na Azure portálu nebo na portálu Defender.

Zobrazení výstrah zabezpečení:

  1. Přihlaste se k portálu Microsoft Foundry.
  2. Přejděte do svého projektu.
  3. V levém navigačním panelu vyberte Rizika a výstrahy.
  4. Zkontrolujte aktivní výstrahy a doporučení.
  5. Výběrem výstrahy zobrazíte podrobnosti a nápravné kroky.

Další informace o zodpovědné umělé inteligenci

  • Last updated on