Pokyny k integraci a zodpovědnému používání Personalizeru

Důležité

Od 20. září 2023 nemůžete vytvářet nové prostředky personalizace. Služba Personalizace se vyřazuje z provozu 25. srpna 2026. Doporučujeme migrovat na open-source projekt microsoft/learning-loop.

Microsoft pomáhá zákazníkům zodpovědně vyvíjet a nasazovat řešení pomocí Azure AI Personalizace. Náš principiální přístup zachovává osobní rozhodovací schopnost a důstojnost při zohlednění systému umělé inteligence:

• Nestrannost, spolehlivost a bezpečnost.
• Ochrana osobních údajů a zabezpečení.
• Kompletnost.
• Průhlednost.
• Lidská odpovědnost.

Tyto aspekty odrážejí náš závazek vyvíjet zodpovědnou AI.

Obecné pokyny pro principy integrace a zodpovědného používání

Až budete připraveni integrovat a zodpovědně používat produkty nebo funkce využívající AI, následující aktivity vám pomůžou nastavit úspěch:

• Porozumíte tomu, co to může dělat. Plně vyhodnoťte potenciál personalizace, abyste porozuměli jeho schopnostem a omezením. Porozumíte tomu, jak bude ve vašem konkrétním scénáři a kontextu fungovat, tím, že ho důkladně otestujete za reálných podmínek a s reálnými daty.

• Respektujte právo jednotlivce na ochranu osobních údajů. Shromážděte pouze údaje a informace od jednotlivců pro zákonné a oprávněné účely. K tomuto účelu používejte pouze data a informace, se kterými souhlasíte.

• Získejte právní kontrolu. Získejte odpovídající právní poradenství ke kontrole personalizace a způsobu jeho používání ve vašem řešení, zejména pokud ho budete používat v citlivých nebo vysoce rizikových aplikacích. Rozumějte omezením, v rámci kterých možná budete muset pracovat, a svou odpovědnost za řešení případných problémů, které by mohly v budoucnu nastat.

• Mít člověka jako součást procesu. Zahrňte lidský dohled jako konzistentní oblast vzorů k prozkoumání. Zajistěte konstantní lidský dohled nad produktem nebo funkcí využívajícím AI. Udržujte roli lidí při rozhodování. Ujistěte se, že v řešení můžete mít zásah člověka v reálném čase, abyste zabránili poškození a správě situací, kdy systém AI nefunguje podle očekávání.

• Vytvořte důvěru s ovlivněnými zúčastněnými stranami. Informujte očekávané výhody a potenciální rizika ovlivněným zúčastněným stranám. Pomozte lidem pochopit, proč jsou data potřebná a jak jejich využití povede k jejich výhodám. Popis zpracování dat srozumitelným způsobem

• Vytvořte smyčku zpětné vazby zákazníků. Poskytněte kanál zpětné vazby, který uživatelům a jednotlivcům umožňuje hlásit problémy se službou po nasazení. Jakmile nasadíte produkt nebo funkci využívající AI, vyžaduje průběžné monitorování a vylepšení. Připravte se na implementaci jakékoli zpětné vazby a návrhů na vylepšení. Vytvořte kanály pro shromažďování otázek a obav od ovlivněných zúčastněných stran. Mezi osoby, které mohou být přímo nebo nepřímo ovlivněny systémem, patří zaměstnanci, návštěvníci a veřejnost.

• Zpětná vazba: Vyhledejte zpětnou vazbu od různorodého vzorkování komunity během procesu vývoje a hodnocení (například historicky určených skupin, osob s postižením a pracovníků služeb). Další informace najdete v tématu Komunitní porota.

• Uživatelská studie: Veškerá doporučení k vyjádření souhlasu nebo zveřejnění by měla být v rámci studie uživatele. Vyhodnoťte první a průběžné používání pomocí reprezentativního vzorku komunity, abyste ověřili, že volby návrhu vedou k účinnému zveřejnění. Proveďte výzkum uživatelů s 10–20 členy komunity (ovlivněnými zúčastněnými stranami), aby vyhodnotili jejich porozumění informacím a zjistili, jestli jsou splněna jejich očekávání.

• Transparentnost a vysvětlení: Zvažte možnost povolit a použít možnost odvozování personalizace, abyste lépe pochopili, které funkce hrají významnou roli v rozhodování personalizace při každém volání pořadí. Tato funkce vám umožní poskytnout uživatelům transparentnost týkající se toho, jak jejich data hrála roli při vytváření doporučené nejlepší akce. Uživatelům můžete například dát tlačítko s popiskem "Proč tyto návrhy?", které hlavní funkce hrály roli při vytváření výsledků personalizace. Tyto informace lze také použít k lepšímu pochopení, které datové atributy o vašich uživatelích, kontextech a akcích podporují volbu nejlepší akce personalizátoru, které pracují proti ní, a které mohou mít malý nebo žádný vliv. Tato funkce také poskytuje přehledy o segmentech uživatelů a pomáhá identifikovat a řešit potenciální předsudky.

• Nepřátelské použití: Zvažte vytvoření procesu pro detekci a reakci na škodlivou manipulaci. Existují aktéři, kteří budou využívat možnosti strojového učení a systémů umělé inteligence učit se z jejich prostředí. Díky koordinovaným útokům mohou uměle vytvářet vzory chování, které posouvají data a modely AI směrem ke svým cílovým záměrům. Pokud by vaše použití personalizace mohlo ovlivnit důležité volby, ujistěte se, že máte vhodné prostředky k detekci a zmírnění těchto typů útoků.

• Výslovný nesouhlas: Zvažte možnost poskytnout uživatelům možnost vyjádřit výslovný nesouhlas s přijímáním přizpůsobených doporučení. Pro tyto uživatele nebude API Personalizer pořadí voláno z vaší aplikace. Místo toho může vaše aplikace použít alternativní mechanismus pro rozhodování o tom, jaká akce se provede. Například pokud se odhlásíte z personalizovaných doporučení a zvolíte výchozí nebo základní akci, uživatel zažije akci, která by byla provedena bez doporučení Personalizéru. Případně může vaše aplikace používat doporučení založená na agregovaných nebo populačně založených mírách (například aktuální trendy, 10 nejoblíbenějších atd.).

Vaše zodpovědnost

Všechny pokyny pro zodpovědnou implementaci jsou postaveny na základech, že vývojáři a společnosti využívající Personalizer nesou zodpovědnost za účinky použití těchto algoritmů ve společnosti. Pokud vyvíjíte aplikaci, kterou vaše organizace nasadí, měli byste rozpoznat svou roli a zodpovědnost za její provoz a způsob, jakým ovlivňuje lidi. Pokud navrhujete aplikaci, která se má nasadit třetí stranou, získáte sdílené znalosti o tom, kdo je v konečném důsledku zodpovědný za chování aplikace. Nezapomeňte tyto znalosti zdokumentovat.

Otázky a názory

Microsoft průběžně upgraduje nástroje a dokumenty, které vám pomůžou reagovat na tyto povinnosti. Náš tým vás vyzve, abyste poskytli zpětnou vazbu společnosti Microsoft, pokud si myslíte, že by vám jiné nástroje, funkce produktů a dokumenty pomohly implementovat tyto pokyny pro používání Personalizer.

Doporučené zdroje informací

• Podívejte se na šest principů společnosti Microsoft pro zodpovědný vývoj umělé inteligence publikovaných v lednové knize z roku 2018, The Future Computed.

Další kroky

Vysvětlení toho, jak rozhraní API pro přizpůsobení přijímá funkce: Funkce: Akce a kontext