Sdílet prostřednictvím

Detekce uzemnění

Rozhraní API pro detekci základnosti zjišťuje, jestli jsou textové odpovědi velkých jazykových modelů (LLM) uzemněny ve zdrojových materiálech poskytovaných uživateli. Neuzemněnost odkazuje na případy, kdy LLM vytvářejí informace, které nejsou založené na faktech nebo jsou nepřesné ve srovnání s tím, co je přítomno ve zdrojových materiálech.

Klíčové pojmy

  • Rozšíření znalostí pomocí vyhledávání (RAG): RAG je technika pro rozšiřování znalostí LLM o další data. LLM dokážou uvažovat o široké škále témat, ale jejich znalosti jsou omezené na veřejná data, která byla k dispozici v době jejich tréninku. Pokud chcete vytvářet aplikace AI, které mohou uvažovat o soukromých datech nebo o datech zavedených po datu ukončení modelu, musíte modelu poskytnout tyto konkrétní informace. Proces získání příslušných informací a jejich vložení do výzvy modelu se označuje jako Retrieval Augmented Generation (RAG). Další informace naleznete v tématu Načítání rozšířené generace (RAG).
  • Zakotvenost a nezakotvenost v LLM: To se týká rozsahu, v jakém jsou výstupy modelu založeny na poskytnutých informacích nebo přesně odrážejí spolehlivé zdroje. Uvážená odpověď se úzce řídí danými informacemi, zabraňuje spekulacím nebo výmyslům. Při měřeních opodstatněnosti jsou informace o zdroji zásadní a slouží jako východisko.

Případy použití

Detekce uzemnění podporuje textové shrnutí a úlohy QnA, aby se zajistilo, že vygenerované souhrny nebo odpovědi budou přesné a spolehlivé.

Souhrnné úkoly:

  • Lékařské shrnutí: V kontextu lékařských novinových článků lze použít ověření zdrojů k zajištění toho, aby souhrn neobsahoval vymyšlené nebo zavádějící informace, a zaručit tak, že čtenáři získají přesné a spolehlivé lékařské informace.
  • Shrnutí akademického dokumentu: Když model generuje souhrny akademických dokumentů nebo výzkumných článků, může funkce pomoct zajistit, aby souhrnný obsah přesně představoval klíčové závěry a příspěvky bez zavedení falešných deklarací.

QnA úlohy:

  • Chatboti zákaznické podpory: Ve zákaznické podpoře je možné tuto funkci použít k ověření odpovědí poskytovaných chatovacími roboty AI a zajistit, aby zákazníci dostávali přesné a důvěryhodné informace, když se ptají na produkty nebo služby.
  • Lékařská QnA: U lékařského QnA pomáhá funkce ověřovat přesnost lékařských odpovědí a poradenství poskytovaných systémy umělé inteligence pro zdravotnické pracovníky a pacienty, což snižuje riziko lékařských chyb.
  • Vzdělávací otázky: Ve vzdělávacím nastavení je možné funkci použít u úkolů QnA, abyste potvrdili, že odpovědi na akademické otázky nebo dotazy na přípravu testů jsou fakticky přesné a podporují proces učení.

Níže si prohlédněte několik běžných scénářů, které ilustrují, jak a kdy tyto funkce použít k dosažení nejlepších výsledků.

Shrnutí v lékařských kontextech

Shrnujete lékařské dokumenty a je důležité, aby jména pacientů v souhrnech byla přesná a konzistentní se zadanými zdroji.

Příklad požadavku rozhraní API:

{
  "domain": "Medical",
  "task": "Summarization",
  "text": "The patient name is Kevin.",
  "groundingSources": [
    "The patient name is Jane."
  ],
}

Očekávaný výsledek:

Funkce opravy zjistí, že Kevin je nepodložená, protože je v konfliktu se zdrojem pro ukotvení Jane. Rozhraní API vrátí opravený text: "The patient name is Jane."

Úloha otázek a odpovědí (QnA) s daty zákaznické podpory

Implementujete systém QnA pro chatovacího robota zákaznické podpory. Je nezbytné, aby odpovědi poskytované AI odpovídaly nejnovějším a přesným dostupným informacím.

Příklad požadavku rozhraní API:

{
  "domain": "Generic",
  "task": "QnA",
  "qna": {
    "query": "What is the current interest rate?"
  },
  "text": "The interest rate is 5%.",
  "groundingSources": [
    "As of July 2024, the interest rate is 4.5%."
  ],
}

Očekávaný výsledek:

Rozhraní API zjistí, že 5% není uzemněno, protože neodpovídá zadanému zdroji uzemnění 4.5%. Odpověď obsahuje text opravy: "The interest rate is 4.5%."

Vytváření obsahu s historickými daty

Vytváříte obsah, který zahrnuje historická data nebo události, kde přesnost je zásadní pro zachování důvěryhodnosti a zabránění dezinformacím.

Příklad požadavku rozhraní API:

{
  "domain": "Generic",
  "task": "Summarization",
  "text": "The Battle of Hastings occurred in 1065.",
  "groundingSources": [
    "The Battle of Hastings occurred in 1066."
  ],
}

Očekávaný výsledek:

Rozhraní API zjistí neukotvené datum 1065 a opraví ho na 1066 na základě podkladového zdroje. Odpověď obsahuje opravený text: "The Battle of Hastings occurred in 1066."

Shrnutí interní dokumentace

Shrnujete interní dokumenty, ve kterých musí zůstat konzistentní názvy produktů, čísla verzí nebo jiné konkrétní datové body.

Příklad požadavku rozhraní API:

{
  "domain": "Generic",
  "task": "Summarization",
  "text": "Our latest product is SuperWidget v2.1.",
  "groundingSources": [
    "Our latest product is SuperWidget v2.2."
  ],
}

Očekávaný výsledek:

Funkce opravy identifikuje SuperWidget v2.1 jako nepodložené a aktualizuje jej na SuperWidget v2.2 v odpovědi. Odpověď vrátí opravený text: "Our latest product is SuperWidget v2.2."

Možnosti detekce uzemnění

Pro detekci ukotvení v Azure AI Content Safety jsou k dispozici následující možnosti:

  • Výběr domény: Uživatelé můžou zvolit vytvořenou doménu, aby zajistili lépe přizpůsobenou detekci, která odpovídá konkrétním potřebám jejich pole. Aktuální dostupné domény jsou MEDICAL a GENERIC.
  • Specifikace úkolu: Tato funkce umožňuje vybrat úkol, který děláte, například QnA (otázky a odpovědi) a Souhrn s upravitelným nastavením podle typu úkolu.
  • Rychlost vs interpretovatelnost: Existují dva režimy, které si vyměňují rychlost s interpretovatelností výsledků.
    • Režim bez odůvodnění: Nabízí možnost rychlé detekce; snadné vkládání do online aplikací.
    • Režim odůvodnění: Nabízí podrobné vysvětlení zjištěných neuzemněných segmentů; lepší porozumění a zmírnění těchto problémů.

Oprava uzemněnosti

Rozhraní API pro detekci zakotvenosti zahrnuje funkci opravy, která automaticky opravuje jakoukoli zjištěnou nepodloženost v textu na základě poskytnutých zdrojů. Pokud je povolená funkce opravy, odpověď obsahuje corrected Text pole, které zobrazuje opravený text srovnaný s výchozími zdroji.

Osvědčené postupy

Při nastavování systémů RAG dodržujte následující osvědčené postupy, abyste získali nejlepší výkon z rozhraní API pro detekci uzemnění:

  • Při práci s názvy produktů nebo čísly verzí použijte podkladové zdroje přímo z interních poznámek k vydání verze nebo oficiální dokumentace k produktu, abyste zajistili přesnost.
  • Pro historický obsah křížově odkazujte na podkladové zdroje s důvěryhodnými akademickými nebo historickými databázemi, abyste zajistili nejvyšší úroveň přesnosti.
  • V dynamickém prostředí, jako je finance, vždy používejte nejnovější a spolehlivé podkladové zdroje, abyste zajistili, že systém AI poskytuje přesné a včasné informace.
  • Vždy se ujistěte, že základní zdroje jsou přesné a aktuální, zejména v citlivých oblastech, jako je zdravotnictví. Tím se minimalizuje riziko chyb v procesu souhrnu.

Omezení

Dostupnost jazyka

Rozhraní API pro detekci připojení momentálně podporuje anglický obsah. I když naše rozhraní API neomezuje odesílání neanglických obsahu, nemůžeme zaručit stejnou úroveň kvality a přesnosti při analýze obsahu jiného jazyka. Doporučujeme, aby uživatelé odesílali obsah primárně v angličtině, aby zajistili nejspolehlivější a nejpřesnější výsledky z rozhraní API.

Omezení délky textu

Viz Požadavky na vstup pro omezení maximální délky textu.

Regionální dostupnost

Pokud chcete toto rozhraní API použít, musíte vytvořit prostředek Azure AI Content Safety v podporovaných oblastech. Viz Dostupnost oblastí.

Omezení rychlosti

Podívejte se na sazby dotazů.

Pokud potřebujete vyšší sazbu, kontaktujte nás a požádejte nás o ni.

Další krok

Postupujte podle úvodního průvodce a začněte používat Azure AI Content Safety k detekování relevantnosti.

Rychlý začátek pro detekci zakotvenosti