Poznámka k transparentnosti pro analýzu mínění

2025-06-24

Důležité

Překlady mimo angličtinu jsou k dispozici pouze pro usnadnění. Prosím nahlédněte do EN-US verze tohoto dokumentu pro závaznou verzi.

Co je poznámka transparentnosti?

Důležité

Tento článek předpokládá, že znáte pokyny a osvědčené postupy pro jazyk Azure AI. Další informace najdete v poznámce k transparentnosti pro jazyk Azure AI.

Systém AI zahrnuje nejen technologii, ale také lidi, kteří ji budou používat, osoby, které ho budou ovlivněny, a prostředí, ve kterém je nasazené. Vytvoření systému, který je vhodný pro zamýšlený účel, vyžaduje pochopení, jak technologie funguje, její schopnosti a omezení a jak dosáhnout nejlepšího výkonu. Poznámky k transparentnosti od Microsoftu vám mají pomoct pochopit, jak naše technologie AI funguje, jaké volby můžou vlastníci systému provádět a které ovlivňují výkon a chování systému, a důležitost myšlení na celý systém, včetně technologie, lidí a prostředí. Poznámky transparentnosti můžete použít při vývoji nebo nasazení vlastního systému nebo je můžete sdílet s lidmi, kteří budou váš systém používat nebo budou ovlivněni.

Poznámky Microsoftu k transparentnosti jsou součástí širšího úsilí Microsoftu o to, aby naše principy AI zavedly do praxe. Další informace najdete v tématu Principy AI společnosti Microsoft.

Základy analýzy mínění

Úvod

Funkce Analýza mínění jazyka Azure AI vyhodnocuje text a vrací skóre mínění a popisky pro každou větu. To je užitečné pro detekci pozitivního, neutrálního a negativního mínění v sociálních médiích, recenzích zákazníků, diskuzních fórech a dalších scénářích produktů a služeb.

Schopnosti

Chování systému

Analýza mínění poskytuje popisky mínění (například "negativní", "neutrální" a "pozitivní") na základě nejvyššího skóre spolehlivosti zjištěného službou na větě a na úrovni dokumentu. Tato funkce také vrací skóre spolehlivosti mezi 0 a 1 pro každý dokument a větu pro pozitivní, neutrální a negativní mínění. Hodnota skóre blížící se 1 značí vyšší důvěru v klasifikaci označení, zatímco nižší hodnota skóre indikuje nižší důvěru. Ve výchozím nastavení je popisek celkového mínění největší ze tří skóre spolehlivosti, ale můžete definovat prahovou hodnotu pro jakékoli nebo všechny individuální skóre spolehlivosti mínění v závislosti na tom, co je pro váš scénář nejvhodnější. U každého dokumentu nebo každé věty se predikované skóre přidružené k štítkům (kladné, záporné a neutrální) se sčítají na 1. Přečtěte si další podrobnosti o popiscích mínění a skóre.

Kromě toho volitelná funkce dolování názorů vrací aspekty (jako jsou atributy produktů nebo služeb) a jejich přidružená slova mínění. Pro každý aspekt se vrátí nálepka celkového mínění spolu s mírou jistoty pro pozitivní a negativní mínění. Například věta "Restaurace měla skvělé jídlo a náš číšník byl přátelský" má dva aspekty, "jídlo" a "číšník", a jejich odpovídající názory slova jsou "skvělá" a "přátelská". Dva aspekty proto přijímají klasifikaci positivemínění s skóre spolehlivosti mezi 0 a 1,0. Přečtěte si další podrobnosti o dolování názorů.

Podívejte se na odpověď JSON pro tento příklad.

Případy použití

Analýzu mínění je možné použít ve více scénářích v různých odvětvích. Mezi příklady patří:

Monitorujte pozitivní a negativní trendy zpětné vazby v agregaci. Po zavedení nového produktu může prodejce použít službu analýzy sentimentu k monitorování více sociálních médií pro zmínky o produktu a souvisejícím sentimentu. Trendové mínění se dá použít na schůzkách produktů k rozhodování o novém produktu.
Spusťte analýzu mínění u nezpracovaných textových výsledků průzkumů, abyste získali přehled o analýze a následném sledování s účastníky (zákazníci, zaměstnanci, spotřebitelé atd.). Obchod s politikou následovat reakci na negativní recenze zákazníků do 24 hodin a pozitivní recenze během týdne může pomocí služby pro analýzu sentimentu kategorizovat recenze, aby mohly být snadno a rychle zpracovány.
Pomozte pracovníkům služeb zákazníkům zlepšit zapojení zákazníků prostřednictvím přehledů zachycených z analýzy interakcí v reálném čase. Extrahujte přehledy z přepisovaných volání zákaznických služeb, abyste lépe porozuměli interakcím a trendům agentů zákazníků za účelem zlepšení zapojení zákazníků.

Důležité informace o výběru případu použití

Vyhněte se automatickým akcím bez zásahu člověka ve scénářích s vysokým dopadem. Například bonusy zaměstnanců by neměly být automaticky založené na skóre mínění z textu interakce se službami zákazníka. Zdrojová data by měla být vždy zkontrolována, pokud je ovlivněna ekonomická situace, zdraví nebo bezpečnost osoby.
Pečlivě zvažte scénáře mimo doménu kontroly produktů a služeb. Vzhledem k tomu, že model je trénován na recenze produktů a služeb, systém nemusí přesně rozpoznat jazyk zaměřený na mínění v jiných doménách. Vždy se ujistěte, že systém testujete na provozních testovacích datových sadách, abyste dosáhli požadovaného výkonu. Vaše provozní testovací datová sada by měla odrážet skutečná data, která váš systém uvidí v produkčním prostředí se všemi charakteristikami a variantami, které budete mít při nasazení produktu. Syntetická data a testy, které neodráží váš kompletní scénář, pravděpodobně nebudou stačit.
Pečlivě zvažte scénáře, které pro filtrování nebo odebrání obsahu podniknou automatickou akci. Pokud chcete zajistit, aby obsah splňoval standardy komunity, můžete přidat cyklus kontroly lidí nebo obsah znovu zařadit (a ne ho úplně filtrovat).
Právní a regulační aspekty: Organizace musí vyhodnotit potenciální specifické právní a regulační povinnosti při používání jakýchkoli služeb a řešení umělé inteligence, které nemusí být vhodné pro použití v každém odvětví nebo scénáři. Kromě toho nejsou služby nebo řešení umělé inteligence určené a nesmí se používat způsobem zakázaným v příslušných podmínkách služeb a příslušných kodexech chování.

Omezení

V závislosti na vašem scénáři a vstupních datech můžete zaznamenat různé úrovně výkonu. Následující informace jsou navržené tak, aby vám pomohly pochopit omezení systému a klíčové koncepty týkající se výkonu při analýze mínění.

Klíčová omezení, která je potřeba vzít v úvahu:

Model strojového učení, který se používá k predikci mínění, byl natrénován na recenze produktů a služeb. To znamená, že služba bude fungovat nejpřesněji pro podobné scénáře a méně přesně pro scénáře, které jsou mimo rozsah hodnocení produktů a služeb. Například kontroly pracovníků můžou k popisu mínění použít jiný jazyk, a proto se vám nemusí zobrazit výsledky nebo výkon, který byste očekávali. Slovo jako "strong" ve frázi "Shafali byl silný vůdce" nemusí získat pozitivní mínění, protože slovo silné nemusí mít jasné pozitivní mínění v recenzích produktů a služeb.
Vzhledem k tomu, že je model trénován na kontrolách produktů a služeb, mohou mít dialekty a jazyk méně reprezentované v datové sadě nižší přesnost.
Model nerozumí relativní důležitosti různých vět, které se odesílají dohromady. Vzhledem k tomu, že celkové mínění je jednoduchým agregačním skóre vět, celkové skóre mínění nemusí souhlasit s interpretací člověka, která by zohlednila skutečnost, že některé věty mohou mít při určování celkového mínění větší důležitost.
Model nemusí rozpoznat sarkasmus. Kontext, jako je tón hlasu, výraz obličeje, autor textu, cílová skupina textu nebo předchozí konverzace, jsou často důležité pro pochopení mínění. Při sarkasmu je často potřeba další kontext rozpoznat, jestli je textové zadání kladné nebo záporné. Vzhledem k tomu, že služba vidí pouze textový vstup, klasifikace sarkasického mínění může být méně přesná. To bylo například úžasné, může být buď kladné, nebo záporné v závislosti na kontextu, tónu hlasu, výrazu obličeje, autorovi a cílové skupině.
Velikost skóre spolehlivosti neodráží intenzitu mínění. Vychází z spolehlivosti modelu pro konkrétní mínění (kladné, neutrální, záporné). Proto pokud váš systém závisí na intenzitě sentimentu, zvažte použití lidského recenzenta nebo logiku následného zpracování jednotlivých skóre sentimentu nebo původního textu, aby pomohla stanovit intenzitu sentimentu.
I když jsme se snažili snížit předsudky vyvolávané našimi modely, omezení, která jsou součástí jazykových modelů, včetně potenciálu k vytváření nepřesných, nespolehlivých a zkreslených výstupů, platí pro model Azure AI pro analýzu sentimentu. Očekáváme, že model bude mít momentálně nějaké falešně negativní výsledky a pozitivní výsledky, ale chceme shromáždit zpětnou vazbu uživatelů, abychom pomohli naší probíhající práci na vylepšení této služby.

Osvědčené postupy pro zlepšení výkonu systému

Vzhledem k tomu, že mínění je poněkud subjektivní, není možné poskytnout všeobecně použitelný odhad výkonu modelu. Výkon nakonec závisí na řadě faktorů, jako je doména subjektu, charakteristiky zpracovávaného textu, případ použití systému a způsob interpretace výstupu systému.

Skóre spolehlivosti pro kladné, záporné a neutrální mínění se může lišit v závislosti na vašem scénáři. Místo použití celkového mínění na úrovni věty pro celý dokument nebo větu můžete definovat prahovou hodnotu pro jakékoli nebo všechny individuální skóre spolehlivosti mínění, které nejlépe vyhovuje vašemu scénáři. Pokud je například důležitější identifikovat všechny potenciální výskyty negativního mínění, můžete místo zobrazení popisku celkového mínění použít nižší prahovou hodnotu negativního mínění. To znamená, že můžete získat více falešně pozitivních výsledků (neutrální nebo pozitivní text rozpoznaný jako negativní mínění), ale méně falešně negativních výsledků (negativní text nerozpoznaný jako negativní mínění). Můžete si například přečíst všechny názory na produkty, které mají určité negativní mínění o nápadech na vylepšení produktu. V takovém případě byste mohli použít pouze záporné skóre mínění a nastavit nižší prahovou hodnotu. To může vést k nadbytečné práci, protože byste si mohli přečíst některé recenze, které nejsou záporné, ale s větší pravděpodobností identifikujete příležitosti ke zlepšení. Pokud je pro váš systém důležitější rozpoznat pouze pravdivě negativní text, můžete použít vyšší prahovou hodnotu nebo použít popisek celkového mínění. Můžete například chtít reagovat na recenze produktů, které jsou záporné. Pokud chcete minimalizovat práci na čtení a odpovídání na negativní recenze, mohli byste použít pouze předpověď celkového mínění a ignorovat jednotlivá skóre mínění. I když může být předpovězeno určité negativní mínění, které přehlédnete, pravděpodobně obdržíte většinu skutečně negativních recenzí. Prahové hodnoty nemusí mít konzistentní chování ve scénářích. Proto je důležité otestovat systém skutečnými daty, která bude zpracovávat v produkčním prostředí.