Alaposság észlelése

Az Azure AI Tartalombiztonság alapszintű észlelése segít biztosítani, hogy a nagy nyelvi modellre (LLM) adott válaszok a megadott forrásanyagon alapulnak, csökkentve a nem tényszerű vagy előállított kimenetek kockázatát.

A háttér nélküliség azokra a példányokra vonatkozik, ahol az LLM-k olyan információkat hoznak létre, amelyek nem tényszerűek vagy pontatlanok a forrásanyagokban található információkból.

A megalapozottság észleléséhez dokumentumbeágyazásra és formázásra van szükség.

A megalapozottság észlelésének megértéséhez hasznos az alábbi alapfogalmak ismerete:

Kulcskifejezések

  • Retrieval Augmented Generation (RAG): A RAG egy technika az LLM-ismeretek kiegészítésére más adatokkal. Az LLM-eknek sokféle témájuk lehet, de tudásuk a betanításakor rendelkezésre álló nyilvános adatokra korlátozódik. Ha olyan AI-alkalmazásokat szeretne létrehozni, amelyek indokolhatják a modell leépítési dátuma után bevezetett személyes adatokat vagy adatokat, meg kell adnia a modellnek ezeket az információkat. A megfelelő információk lekérésének és a modell parancssorába való beszúrásának folyamatát Retrieval Augmented Generation (RAG) néven ismerjük. További információért lásd a visszakeresés-alapú generálásról (RAG).
  • Az LLM-ek alapozottsága és alaptalansága: Ez azt jelenti, hogy a modell kimenetei milyen mértékben alapulnak a megadott információkon, vagy pontosan tükrözik a megbízható forrásokat. A megalapozott válasz szorosan megfelel a megadott információknak, elkerülve a spekulációt vagy a gyártást. A megalapozottság mérései során a forrásadatok kulcsfontosságúak, és alapozó forrásként szolgálnak.

Észlelési módok

A megalapozottság-érzékelés kétféle módban kínál lehetőséget a sebesség és az értelmezhetőség közötti egyensúly megteremtésére:

  • Nem-elemző mód: Gyors felismerés online alkalmazásokhoz. Bináris földelt/nem földelt eredményeket ad vissza részletes magyarázatok nélkül.
  • Érvelési mód: Részletes magyarázatot ad az észlelt nem földelt szegmensekre. Jobban megértjük a kiváltó okokat és a kockázatcsökkentési stratégiákat.

Olyan valós idejű alkalmazásokhoz válassza a nem érvelési módot, ahol a késés számít. A fejlesztés és a hibakeresés során használjon érvelési módot a tartalom megjelölésének okának megértéséhez.

Tartomány kiválasztása

Válasszon egy tartományt a használati eset észlelésének optimalizálásához:

  • Orvosi: Orvosi, egészségügyi és tudományos tartalmakhoz optimalizálva, ahol a pontosság kritikus
  • Általános: Általános célú tartalomhoz használható, beleértve az ügyfélszolgálatot, a dokumentációt és az üzleti kommunikációt

A tartomány kiválasztása a tartományspecifikus terminológia és minták észlelési modelljének érzékenységét és korrekciós viselkedését követi.

Feladat specifikáció

Adja meg az észlelés optimalizálásához használt feladattípust:

  • Összegzés: A létrehozott összegzések forrásdokumentumokkal való érvényesítéséhez
  • QnA: A tudásbázisokra adott kérdésekre és válaszokra adott válaszok érvényesítése

A feladat kiválasztása a feladatspecifikus minták észlelési érzékenységét és korrekciós logikáját állítja be.

Alapesség javítása (előzetes verzió)

A földelési észlelési API tartalmaz egy opcionális korrekciós funkciót, amely nemcsak a földelési tartalmat észleli, hanem az Ön földelési forrásai alapján automatikusan kijavítja azt. Ez a következő esetekben hasznos:

  • Tényszerű hibák automatikus javítása a létrehozott összegzésekben
  • Annak biztosítása, hogy az AI-válaszok igazodjanak a forrásanyaghoz
  • A nagy mennyiségű tartalom manuális felülvizsgálati idejének csökkentése

Felhasználói forgatókönyvek

Az alapszintű észlelés támogatja a szövegalapú összegzési és QnA-feladatokat, hogy a létrehozott összegzések vagy válaszok pontosak és megbízhatóak legyenek.

Összegzési feladatok:

  • Orvosi összegzés: Az orvosi hírek kontextusában a megalapozottság észlelése használható annak biztosítására, hogy az összefoglalás ne tartalmazzon koholt vagy félrevezető információkat, biztosítva, hogy az olvasók pontos és megbízható orvosi információkat kapjanak.
  • Tanulmányi dokumentumok összegzése: Ha a modell tudományos dolgozatok vagy kutatási cikkek összegzését hozza létre, a függvény segít biztosítani, hogy az összegzett tartalom pontosan képviselje a legfontosabb megállapításokat és hozzájárulásokat hamis állítások bevezetése nélkül.

QnA-feladatok:

  • Ügyfélszolgálati csevegőrobotok: Az ügyféltámogatásban a függvény használható az AI-csevegőrobotok által biztosított válaszok ellenőrzésére, biztosítva, hogy az ügyfelek pontos és megbízható információkat kapjanak, amikor termékeket vagy szolgáltatásokat kérdeznek fel.
  • Orvosi QnA: Az orvosi QnA esetében a funkció segít ellenőrizni az AI-rendszerek által az egészségügyi szakembereknek és betegeknek nyújtott orvosi válaszok és tanácsok pontosságát, csökkentve az orvosi hibák kockázatát.
  • Oktatási QnA: Az oktatási beállításokban a függvény alkalmazható a QnA-feladatokra, hogy meggyőződjön arról, hogy az akadémiai kérdésekre vagy a tesztelőkészítő lekérdezésekre adott válaszok tényszerűen pontosak, támogatva a tanulási folyamatot.

Az alábbiakban számos gyakori forgatókönyvet láthat, amelyek bemutatják, hogyan és mikor érdemes ezeket a funkciókat alkalmazni a legjobb eredmények elérése érdekében.

Összegzés orvosi kontextusban

Az orvosi dokumentumokat összegzi, és kritikus fontosságú, hogy az összefoglalókban szereplő betegek neve pontos és összhangban legyen a megadott alapforrásokkal.

Példa API-kérésre:

{
  "domain": "Medical",
  "task": "Summarization",
  "text": "The patient name is Kevin.",
  "groundingSources": [
    "The patient name is Jane."
  ],
}

Várt eredmény:

A javító funkció észleli, hogy Kevin nincs földelve, mert ütközik a földelési forrással Jane. Az API a javított szöveget adja vissza: "The patient name is Jane."

Kérdés-válasz (QnA) feladat ügyfélszolgálati adatok felhasználásával.

QnA-rendszert implementál egy ügyfélszolgálati csevegőrobothoz. Alapvető fontosságú, hogy az AI által megadott válaszok igazodjanak a legfrissebb és legpontosabb rendelkezésre álló információkhoz.

Példa API-kérésre:

{
  "domain": "Generic",
  "task": "QnA",
  "qna": {
    "query": "What is the current interest rate?"
  },
  "text": "The interest rate is 5%.",
  "groundingSources": [
    "As of July 2024, the interest rate is 4.5%."
  ],
}

Várt eredmény:

Az API észleli, hogy a 5% nincs földelve, mert nem felel meg a megadott földelési forrásnak 4.5%. A válasz tartalmazza a javítás szövegét: "The interest rate is 4.5%."

Tartalom létrehozása előzményadatokkal

Olyan tartalmakat hoz létre, amelyek előzményadatokat vagy eseményeket tartalmaznak, amelyek pontossága kritikus fontosságú a hitelesség fenntartása és a félretájékoztatás elkerülése szempontjából.

Példa API-kérésre:

{
  "domain": "Generic",
  "task": "Summarization",
  "text": "The Battle of Hastings occurred in 1065.",
  "groundingSources": [
    "The Battle of Hastings occurred in 1066."
  ],
}

Várt eredmény:

Az API észleli a földelés nélküli dátumot 1065 , és a földelés alapja alapján korrigálja azt 1066. A válasz tartalmazza a javított szöveget: "The Battle of Hastings occurred in 1066."

Belső dokumentáció összegzése

Olyan belső dokumentumokat foglal össze, amelyekben a termékneveknek, verziószámoknak vagy más konkrét adatpontoknak konzisztensnek kell maradniuk.

Példa API-kérésre:

{
  "domain": "Generic",
  "task": "Summarization",
  "text": "Our latest product is SuperWidget v2.1.",
  "groundingSources": [
    "Our latest product is SuperWidget v2.2."
  ],
}

Várt eredmény:

A korrekciós funkció a SuperWidget v2.1 elemet nem megalapozottnak azonosítja, és a válaszban SuperWidget v2.2 elemre frissíti. A válasz a javított szöveget adja vissza: "Our latest product is SuperWidget v2.2."

Limitations

Nyelvi elérhetőség

A megalapozottság észlelés jelenleg csak az angol nyelvű tartalmakat támogatja. Bár az API nem korlátozza a nem angol nyelvű beküldéseket, a pontosság és a minőség angolra van optimalizálva.

Szöveghossz korlátozásai

A szöveg maximális hossza mód szerint változik. Lásd az aktuális korlátok bemeneti követelményeit .

Régiónkénti elérhetőség

A földiesség-észlelés meghatározott Azure-régiókban érhető el. Tekintse meg a Régiók elérhetősége részt az elérhető régiók megtekintéséhez.

Sebességkorlátozások

Az alapértelmezett lekérdezési sebességkorlátok érvényesek. A nagyobb átviteli sebességre vonatkozó követelményekért forduljon a Content Safety ügyfélszolgálatához.

Alapozottság észlelési lehetőségek

Az Azure AI Tartalombiztonság rendszerében az alábbi lehetőségek érhetők el az arkorozottság érzékelésére:

  • Tartomány kiválasztása: A felhasználók választhatnak egy létrehozott tartományt, hogy a mezőjük adott igényeinek megfelelő, személyre szabottabb észlelést biztosítsanak. Az aktuálisan elérhető tartományok a következők MEDICAL : és GENERIC.
  • Feladat specifikációja: Ez a funkció lehetővé teszi a feladat kiválasztását, például a QnA -t (kérdés - válasz) és az összegzést, a tevékenységtípusnak megfelelően állítható beállításokkal.
  • Sebesség és értelmezhetőség: Két mód van, amelyek a sebességet az eredmény értelmezhetőségével cserélik le.
    • Nem érvelő mód: Gyors észlelési képességet kínál; egyszerűen beágyazható online alkalmazásokba.
    • Érvelési mód: Részletes magyarázatokat kínál az észlelt megalapozatlan szegmensekre; jobb megértést és mérséklést.

Földelési korrekció

A megalapozottság-észlelési API tartalmaz egy korrekciós funkciót, amely automatikusan korrigálja a szövegben észlelt megalapozatlanságot a megadott alapforrások alapján. Ha a javítási funkció engedélyezve van, a válasz tartalmaz egy corrected Text mezőt, amely a kijavított szöveget a földelési forrásokhoz igazítja.

Ajánlott eljárások

A RAG-rendszerek beállításakor kövesse az alábbi ajánlott eljárásokat, hogy a lehető legjobb teljesítményt érje el a földiesség-észlelési API-ból:

  • A terméknevek vagy verziószámok kezelésekor a pontosság biztosítása érdekében használja közvetlenül a belső kibocsátási megjegyzésekből vagy hivatalos termékdokumentációkból származó földelőforrásokat.
  • Az előzménytartalmak esetében a legmagasabb szintű pontosság biztosítása érdekében kereszthivatkozással hivatkozzon az alapforrásra megbízható tudományos vagy előzményadatbázisokkal.
  • A pénzügyi környezethez hasonló dinamikus környezetben mindig a legfrissebb és megbízható földelési források használatával biztosíthatja, hogy az AI-rendszer pontos és időszerű információkat biztosítson.
  • Mindig győződjön meg arról, hogy a földelési források pontosak és naprakészek, különösen az olyan érzékeny területeken, mint az egészségügy. Ez minimalizálja az összegzési folyamat hibáinak kockázatát.

Következő lépés

Kövesse a rövid útmutatót az Azure AI Tartalombiztonság használatának első lépéseihez a megalapozottság észleléséhez.

Megalapozottság felismerés gyorsindítás

  • Utolsó frissítés időpontja: