Detekce uzemnění

Rozhraní API pro detekci základnosti zjišťuje, jestli jsou textové odpovědi velkých jazykových modelů (LLM) uzemněny ve zdrojových materiálech poskytovaných uživateli. Neuzemněnost odkazuje na případy, kdy LLM vytváří informace, které nejsou faktické nebo nepřesné z toho, co bylo přítomno ve zdrojových materiálech.

Klíčové pojmy

• Načítání rozšířené generace (RAG): RAG je technika pro rozšiřování znalostí LLM o další data. LLM mohou mít důvod k širokému rozsahu témat, ale jejich znalosti jsou omezené na veřejná data, která byla k dispozici v době jejich trénování. Pokud chcete vytvářet aplikace AI, které můžou mít důvod k soukromým datům nebo datům zavedeným po datu odříznutí modelu, musíte model poskytnout s danými informacemi. Proces přenesení příslušných informací a jeho vložení do výzvy modelu se označuje jako načtení rozšířené generace (RAG). Další informace naleznete v tématu Načítání rozšířené generace (RAG).

• Uzemnění a neuzemnění v LLM: To se týká rozsahu, v jakém jsou výstupy modelu založeny na poskytnutých informacích nebo přesně odrážejí spolehlivé zdroje. Zemněná odpověď se úzce řídí danými informacemi, zabraňuje spekulacím nebo výrobám. Při měření uzemnění jsou informace o zdroji zásadní a slouží jako zdroj uzemnění.

Funkce detekce uzemnění

• Výběr domény: Uživatelé můžou zvolit vytvořenou doménu, aby zajistili lépe přizpůsobenou detekci, která odpovídá konkrétním potřebám jejich pole. Aktuálně dostupné domény jsou MEDICAL a GENERIC.
• Specifikace úkolu: Tato funkce umožňuje vybrat úkol, který děláte, například QnA (otázky a odpovědi) a Souhrn s upravitelným nastavením podle typu úkolu.
• Rychlost vs interpretovatelnost: Existují dva režimy, které si vyměňují rychlost s interpretovatelností výsledků.
  • Režim bez odůvodnění: Nabízí možnost rychlé detekce; snadné vkládání do online aplikací.
  • Režim odůvodnění: Nabízí podrobné vysvětlení zjištěných neuzemněných segmentů; lepší porozumění a zmírnění rizik.

Případy použití

Detekce uzemnění podporuje textové shrnutí a úlohy QnA, aby se zajistilo, že vygenerované souhrny nebo odpovědi budou přesné a spolehlivé. Tady je několik příkladů jednotlivých případů použití:

Souhrnné úkoly:

• Lékařské shrnutí: V kontextu lékařských novinových článků lze použít detekci uzemnění k zajištění toho, aby souhrn neobsahoval fabricované nebo zavádějící informace, a zaručit tak, že čtenáři získají přesné a spolehlivé lékařské informace.
• Shrnutí akademického dokumentu: Když model generuje souhrny akademických dokumentů nebo výzkumných článků, může funkce pomoct zajistit, aby souhrnný obsah přesně představoval klíčové závěry a příspěvky bez zavedení falešných deklarací.

Úlohy QnA:

• Chatboti zákaznické podpory: Ve zákaznické podpoře je možné tuto funkci použít k ověření odpovědí poskytovaných chatovacími roboty AI a zajistit, aby zákazníci dostávali přesné a důvěryhodné informace, když se ptají na produkty nebo služby.
• Lékařská QnA: U lékařského QnA pomáhá funkce ověřovat přesnost lékařských odpovědí a poradenství poskytovaných systémy umělé inteligence pro zdravotnické pracovníky a pacienty, což snižuje riziko lékařských chyb.
• Vzdělávací otázky: Ve vzdělávacím nastavení je možné funkci použít u úkolů QnA, abyste potvrdili, že odpovědi na akademické otázky nebo dotazy na přípravu testů jsou fakticky přesné a podporují proces učení.

Omezení

Dostupnost jazyka

Rozhraní API pro rozpoznávání uzemnění v současné době podporuje obsah anglického jazyka. I když naše rozhraní API neomezuje odesílání neanglických obsahu, nemůžeme zaručit stejnou úroveň kvality a přesnosti při analýze obsahu jiného jazyka. Doporučujeme, aby uživatelé odesílali obsah primárně v angličtině, aby zajistili nejspolehlivější a nejpřesnější výsledky z rozhraní API.

Omezení délky textu

Viz Požadavky na vstup pro omezení maximální délky textu.

Oblasti

Pokud chcete toto rozhraní API použít, musíte vytvořit prostředek Azure AI Content Safety v podporovaných oblastech. Viz Dostupnost oblastí.

Omezení tps

Podívejte se na sazby dotazů.

Pokud potřebujete vyšší sazbu, kontaktujte nás a požádejte nás o ni.

Další kroky

Postupujte podle rychlého startu a začněte používat Azure AI Content Safety ke zjištění uzemnění.

Rychlý start pro detekci uzemnění