Poznámka:
Přístup k této stránce vyžaduje autorizaci. Můžete se zkusit přihlásit nebo změnit adresáře.
Přístup k této stránce vyžaduje autorizaci. Můžete zkusit změnit adresáře.
Zodpovědná AI je řízena sadou principů, které definují, jak mají systémy AI fungovat. Tyto zásady se zaměřují na nestrannost, spolehlivost, bezpečnost, ochranu osobních údajů, zabezpečení, inkluzivnost, transparentnost a odpovědnost. Stanoví standardy, které určují, jak Microsoft vyhodnocovat rizika, navrhuje funkce AI a zajišťuje zodpovědné chování systému.
Uplatnění těchto zásad při navrhování agenta pomáhá předcházet neúmyslným škodám, jako jsou předsudky, dezinformace nebo narušení soukromí. Podporuje také důvěru uživatelů a dlouhodobé přijetí. Podle těchto pokynů můžete vytvořit agenty umělé inteligence, které efektivně fungují a současně dodržují standardy integrity a respektují, že uživatelé a společnost očekávají od Microsoft produktů.
Tento článek poskytuje obecný úvod do odpovědné umělé inteligence ve vztahu k návrhu agentů. Podrobné pokyny najdete v tématu Microsoft zodpovědné principy a přístup k umělé inteligenci.
Zodpovědné principy AI
Zodpovědné principy AI vám pomůžou navrhovat, sestavovat a provozovat agenty v Microsoft 365 Copilot. Vytvoří sdílený standard pro chování agenta, zpracování dat a interakci uživatelů, aby zajistili, že systémy AI jsou důvěryhodné, zabezpečené a v souladu s lidskými hodnotami.
Tyto principy platí pro celý životní cyklus agenta, od návrhu a vývoje až po nasazení a průběžné použití. Informují o rozhodování o návrhu interakce, modelu a výběru znalostí, autonomii, zabezpečení a zásadách správného řízení. Dodržováním těchto principů zajistíte, aby agenti zodpovědně poskytovali hodnotu při zachování důvěry uživatelů a dlouhodobého přijetí.
| Principle | Co to znamená pro návrh agenta |
|---|---|
| Rovnost | Systémy AI by měly poskytovat konzistentní a spravedlivé výsledky pro všechny uživatele. Chování agenta se musí vyhnout vytváření nebo posilování nespravedlivého zacházení na základě citlivých atributů nebo kontextu uživatele. |
| Spolehlivost a bezpečnost | Systémy AI by měly fungovat tak, jak jsou určeny pro celou řadu podmínek. Agenti musí zpracovávat proměnlivost, hraniční případy a neočekávané vstupy způsobem, který podporuje bezpečné a předvídatelné chování. |
| Ochrana osobních údajů a zabezpečení | Systémy AI musí chránit uživatelská data a respektovat stanovené požadavky na ochranu osobních údajů a zabezpečení. Agenti by měli používat jenom informace, ke kterým mají oprávnění k přístupu, a musí tyto informace zpracovávat zodpovědně. |
| Kompletnost | Systémy AI by měly umožnit všem uživatelům a vyhovět různým potřebám. Agenti by měli zvážit přístupnost, jazykové variace a různé úrovně technické odbornosti, aby zajistili inkluzivní prostředí. |
| Průhlednost | Systémy AI by měly jasně stanovit jejich možnosti a omezení. Agenti musí komunikovat, co můžou dělat, jak se používají informace a jak se generují výstupy, aby uživatelé mohli činit informovaná rozhodnutí. |
| Zodpovědnost | Systémy umělé inteligence vyžadují jasný dohled. Týmy, které vyvíjejí agenty, zodpovídají za zajištění toho, že systém dodržuje zodpovědné principy AI, splňuje požadavky na dodržování předpisů a pracuje v rámci odpovídajících lidských zásad správného řízení. |
Použití zodpovědné umělé inteligence při vývoji agentů
Microsoft používá strukturovaný model k integraci zodpovědných principů AI v rámci vývoje agentů AI. Tento model pomáhá týmům identifikovat rizika, najít správná omezení rizik a udržovat zodpovědné chování v průběhu životního cyklu agenta.
Jako návrhář má vaše rozhodnutí přímý vliv na plnění těchto funkcí. Následující klíčové funkce popisují, jak je zodpovědná AI zavedená do praxe:
| Funkce | Description |
|---|---|
| Govern | Vytvoří zásady, role a procesy, které týmy sledují při navrhování a nasazování agentů. Zásady správného řízení zajišťují soulad s zodpovědnými principy AI a poskytují jasnou odpovědnost. |
| Map | Identifikuje a určuje prioritu potenciálních rizik spojených se scénářem umělé inteligence. Mapování umožňuje informovaná rozhodnutí o strategiích zmírnění rizik a pomáhá určit, jestli je řešení umělé inteligence vhodné pro zamýšlený kontext. |
| Opatření | Vyhodnocuje rizika a výkon systému s cílem podpořit návrh a zdokonalení opatření ke zmírnění rizik. Měření je nezbytné, protože schopnosti AI jsou stále složitější a vyžadují průběžné hodnocení. |
| Spravovat | Používá a udržuje zmírnění rizik v průběhu nasazení a průběžného provozu. Týmy monitorují chování systému a upravují zmírnění rizik podle potřeby, aby se zajistilo, že agenti zůstanou v průběhu času zodpovědní. |
Filtry transparentnosti a bezpečnosti umělé inteligence
Transparentnost je základním kamenem zodpovědné umělé inteligence. Při navrhování agentů jasně komunikujte o přítomnosti a roli umělé inteligence v rámci prostředí produktu. Informujte uživatele o účelu, možnostech, omezeních a potenciálních rizicích agenta. Tato transparentnost uživatelům umožňuje činit informovaná rozhodnutí a podporuje důvěru v systém.
Mezi praktické implementace transparentnosti patří poznámky k transparentnosti a zveřejnění v produktu, které vysvětlují, jak AI funguje a co mohou uživatelé očekávat. Například v prostředí obchodního chatu používá agent jasné indikátory, jako jsou popisky, jako je například "Obsah vygenerovaný AI může být nesprávný", a pomáhá tak nastavit odpovídající očekávání a zodpovědné použití podpory.
Bezpečnostní filtry
Bezpečnostní filtry pomáhají zajistit, aby se agenti chovali vhodně, s respektem a v souladu se zásadami společnosti Microsoft pro zodpovědnou umělou inteligenci. Tyto záruky snižují riziko škodlivých, zkreslených nebo zavádějících výstupů při ochraně soukromí uživatelů a citlivých informací během interakce.
Agenti postavení na Copilot dědí zodpovědné závazky umělé inteligence Microsoft, které se zaměřují na nestrannost, spolehlivost, ochranu osobních údajů a transparentnost. Bezpečnostní filtry hrají důležitou roli při vynucování těchto závazků tím, že řídí, jak agenti reagují na uživatelský vstup, zpracovávají citlivá témata a spravují přístup k datům.
Important
Jako návrhář nekonfigurujete bezpečnostní filtry přímo. Microsoft je vynucuje na úrovni platformy. Vaše rozhodnutí o návrhu týkající se tónu, rozsahu a transparentnosti však přímo posiluje nebo podkopává důvěru, že bezpečnostní filtry jsou navrženy tak, aby chránily.
Konzistentním použitím bezpečnostních filtrů můžou agenti podporovat důvěru a důvěru uživatelů. Uživatelé jsou lépe schopni spoléhat na reakce na agenty, protože vědí, že existují bezpečnostní opatření k podpoře zodpovědného chování a etického používání umělé inteligence.
Tip
Komplexní pokyny k zodpovědnému přístupu AI Microsoft, včetně podrobných principů, rámců zásad správného řízení a vytváření sestav transparentnosti, najdete v Microsoft zodpovědné zásady a přístup k umělé inteligenci.