Model sdílené odpovědnosti umělé inteligence (AI)

Při zvažování a hodnocení integrace s podporou AI je zásadní pochopit model sdílené odpovědnosti a porozumět tomu, které úkoly AI platforma nebo poskytovatel aplikací zpracovává a jaké vy. Pracovní zátěže se liší podle toho, zda je integrace AI založena na softwaru jako službě (SaaS), platformě jako službě (PaaS) nebo infrastruktuře jako službě (IaaS).

Tento článek rozšiřuje sdílenou odpovědnost v cloudovém modelu i na generativní AI pracovní zátěže. Pro autonomní AI agenty využívající nástroje viz model sdílené odpovědnosti AI agentů.

Note

Tento článek používá "odpovědnost" ve smyslu řízení: kdo má nastavit, provozovat a monitorovat každou kontrolu. Jedná se o ilustrativní vedení a není určeno k tomu, aby vyjadřovalo právní závěry ani měnilo či odporovalo podmínkám jakékoli dohody mezi vámi a Microsoft.

Rozdělení odpovědnosti

Stejně jako u cloudových služeb existuje při implementaci AI schopností ve vaší organizaci více možností. V závislosti na tom, kterou možnost zvolíte, převezmete odpovědnost za různé části nezbytných operací a zásad potřebných k bezpečnému používání umělé inteligence.

Následující diagram znázorňuje oblasti odpovědnosti mezi vámi a Microsoftem podle typu nasazení.

Přehled vrstvy AI

Aplikace s podporou AI se skládá ze tří vrstev funkcí, které seskupují úkoly, jež vy nebo poskytovatel AI provádíte. Bezpečnostní odpovědnosti obvykle nesou strana, která úkoly vykonává, ale poskytovatel AI může zvolit zpřístupnění bezpečnostních nebo jiných kontrol jako konfigurační možnosti vám, pokud je to vhodné. Mezi tyto tři vrstvy patří:

Platforma AI

Vrstva platformy AI poskytuje aplikacím možnosti AI. Na platformní vrstvě je potřeba vybudovat a chránit infrastrukturu, která provozuje AI model, trénovací data a specifické konfigurace, které mění chování modelu, jako jsou váhy a bias. Tato platformová vrstva poskytuje přístup k funkcionalitám prostřednictvím API. API předávají text známý jako metaprompt AI modelu ke zpracování, poté vracejí generovaný výsledek, známý jako prompt-response.

Bezpečnostní aspekty platformy AI – Aby byl systém chráněn před škodlivými vstupy, musí bezpečnostní systém filtrovat potenciálně škodlivé instrukce zasílané do AI modelu (vstupy). Protože modely AI jsou generativní, mohou také generovat a vracet uživateli nějaký škodlivý obsah (výstupy). Každý bezpečnostní systém musí nejprve chránit před potenciálně škodlivými vstupy a výstupy mnoha kategorií, včetně nenávisti, jailbreaků a dalších škod. Tyto klasifikace škod se pravděpodobně budou v průběhu času vyvíjet na základě znalostí modelu, lokality a odvětví.

Microsoft má integrované bezpečnostní systémy pro nabídky PaaS i SaaS:

• PaaS – Služba Azure OpenAI
• SaaS – Microsoft Security Copilot

Aplikace AI

Aplikace AI přistupuje k funkcím AI a poskytuje službu nebo rozhraní, které uživatel využívá. Komponenty v této vrstvě se mohou v závislosti na aplikaci lišit od relativně jednoduchého až po velmi složité. Nejjednodušší samostatné AI aplikace fungují jako rozhraní k sadě API, která přijímají textovou uživatelskou výzvu a předávají tato data modelu pro odpověď. Složitější AI aplikace zahrnují schopnost uzemnit uživatelský prompt o další kontext, včetně perzystenční vrstvy, sémantického indexu nebo pluginů umožňujících přístup k dalším datovým zdrojům. Pokročilé aplikace umělé inteligence můžou také komunikovat se stávajícími aplikacemi a systémy. Stávající aplikace a systémy mohou zpracovávat text, zvuk a obrázky k generování různých typů obsahu.

Bezpečnostní aspekty AI aplikací – Vybudujte bezpečnostní systém aplikací, který ochrání AI aplikaci před škodlivými aktivitami. Bezpečnostní systém poskytuje důkladnou kontrolu obsahu použitého v metapromptu zaslaném AI modelu. Bezpečnostní systém také kontroluje interakce s pluginy, datovými konektory a dalšími AI aplikacemi (známými jako AI orchestrace). Jedním ze způsobů, jak to můžete začlenit do své vlastní AI aplikace založené na IaaS/PaaS, je použít službu Bezpečnost obsahu Azure AI. V závislosti na vašich potřebách jsou k dispozici další možnosti.

Využití AI

Vrstva použití AI popisuje, jak se schopnosti umělé inteligence nakonec využívají. Generativní AI nabízí nový typ uživatelsko-počítačového rozhraní, které se zásadně liší od ostatních počítačových rozhraní, jako jsou API, příkazové řádky a grafická uživatelská rozhraní (GUI). Rozhraní generující umělé inteligence je interaktivní i dynamické, což umožňuje, aby se možnosti počítače přizpůsobily uživateli a jejich záměru. Generující rozhraní AI kontrastuje s předchozími rozhraními, která primárně vynucují uživatelům učit se návrh systému a funkčnost a upravovat je. Tato interaktivita umožňuje uživatelským vstupům, nikoli návrhářům aplikací, mít vysoký vliv na výstup systému, což činí bezpečnostní zábrany klíčovými pro ochranu lidí, dat a firemních aktiv.

Bezpečnostní aspekty používání AI – Ochrana používání AI je podobná ochraně jakéhokoli počítačového systému, protože spoléhá na bezpečnostní záruky pro kontrolu identity a přístupu, ochranu a monitorování zařízení, ochranu a správu dat, administrativní kontroly a další kontroly.

Chování uživatelů a odpovědnost vyžadují větší důraz, protože uživatelé mají větší vliv na výstup systémů. Je zásadní aktualizovat zásady přijatelného používání a vzdělávat uživatele o rozdílech mezi standardními IT aplikacemi a aplikacemi s podporou AI. Zásady přijatelného používání by měly zahrnovat specifické aspekty týkající se bezpečnosti, soukromí a etiky zaměřené na AI. Dále vzdělávajte uživatele o útocích založených na umělé inteligenci, které mohou útočníci použít k oklamání přesvědčivými falešnými texty, hlasy, videi a dalšími informacemi.

Následující zdroje definují typy útoků specifické pro AI:

• Klasifikace závažnosti závažnosti ohrožení zabezpečení služby Microsoft Security Response Center (MSRC) pro systémy AI
• Adversární hrozby MITRE pro systémy umělé inteligence (ATLAS)
• OWASP desítka nejdůležitějších pro aplikace na bázi velkých jazykových modelů (LLM)
• Zabezpečení OWASP Machine Learning (ML) – top 10
• Architektura pro správu rizik NIST AI

Konfigurujte před úpravou

Microsoft doporučuje, aby organizace začaly s přístupy založenými na SaaS, jako je model Copilot, pro počáteční přijetí AI a pro všechny následující AI pracovní zátěže. Tento přístup minimalizuje úroveň odpovědnosti a odbornosti, kterou musí vaše organizace poskytnout při návrhu, provozu a zabezpečení těchto vysoce složitých schopností.

Pokud současné dostupné schopnosti nesplňují specifické požadavky pro danou zátěž, můžete použít PaaS model pomocí AI služeb, jako je Azure OpenAI Service, aby tyto specifické požadavky splnil.

Pouze organizace s hlubokou odborností v datové vědě a bezpečnosti, soukromí a etických aspektech AI by měly přijmout tvorbu vlastních modelů.

Aby Microsoft pomohl přiblížit AI světu, vyvíjí řešení Copilot pro každé z hlavních produktivních řešení: od Bingu a Windows po GitHub a Microsoft 365. Microsoft vyvíjí full-stack řešení pro všechny typy produktivních scénářů. Microsoft nabízí tyto schopnosti jako SaaS řešení. Microsoft tyto schopnosti integruje do uživatelského rozhraní produktu, kde jsou naladěny tak, aby uživateli pomáhaly s konkrétními úkoly a zvýšily produktivitu.

Microsoft navrhuje každé řešení Copilot podle silných principů Microsoft pro řízení AI.

Další kroky

Přečtěte si další informace o osvědčených postupech zabezpečení Azure AI.

Přečtěte si další informace o požadavcích microsoftu na vývoj produktů pro zodpovědné AI v rámci standardu Microsoft Responsible AI Standard.

Seznamte se se sdílenými odpovědnostmi za cloud computing.

Seznamte se s modelem sdílené odpovědnosti AI agentů za autonomní AI systémy využívající nástroje.

Přečtěte si o jedinečné povaze testování hrozeb AI v Microsoft AI Red Team, který buduje budoucnost bezpečnější AI.