Megjegyzés
Az oldalhoz való hozzáféréshez engedély szükséges. Megpróbálhat bejelentkezni vagy módosítani a címtárat.
Az oldalhoz való hozzáféréshez engedély szükséges. Megpróbálhatja módosítani a címtárat.
Győződjön meg arról, hogy az AI-ügynökök következetesen összhangban vannak a felhasználói utasítások és a feladat célkitűzéseivel. A Feladatbetartás funkció azonosítja az olyan eltéréseket, mint a helytelenül felosztott eszközhívások, a felhasználói szándékhoz viszonyított helytelen eszközbemenet vagy kimenet, valamint a válaszok és az ügyfélbemenet közötti ellentmondások. Ez a funkció lehetővé teszi, hogy a rendszerfejlesztők proaktív módon mérsékeljék a félreigazított műveleteket azáltal, hogy letiltják azokat, vagy eszkalálják a problémát emberi beavatkozáshoz.
A feladat-betartás elsődleges célkitűzései a következők:
- Olyan eszközműveletek felismerése, amelyek nincsenek összhangban a felhasználói célokkal vagy bemeneti szándékkal, a felhasználói szándékhoz viszonyítva helytelen eszközbemenettel vagy kimenettel rendelkeznek, vagy következetlenségeket mutatnak az ügynök válaszai és az ügyfélbemenet között.
- Az eszközhívások eltolódásának magyarázata.
- Jelzés küldése az alsóbb rétegbeli eszközök meghívásának blokkolására és az emberi folyamaton belüli felülvizsgálatra való eszkalálásra, ha a tevékenység igazítása veszélyben van.
- A felhasználói bizalom előmozdítása az ügynöki rendszerekben a viselkedési konzisztencia, az átláthatóság és a szabályozás megerősítésével.
Felhasználói forgatókönyvek
Ügyfélszolgálat
Forgatókönyv: A vállalati platformba integrált ügyfélszolgálati asszisztens csevegőrobot segít a felhasználóknak ellenőrizni az adathasználatot, elhárítni a problémákat és kezelni a fiókbeállításokat. A pontos automatizálás fenntartása érdekében a rendszer a Task Adherence használatával ellenőrzi az ügynökterveket a háttéreszköz-hívások végrehajtása előtt.
Felhasználó: Végfelhasználók, támogatási ügynökök és ügyfélélmény-csoportok.
Művelet: Egy felhasználói üzenet a csevegőrobotnak: "Ellenőrizheti, hogy mennyi adatot használtam fel ebben a hónapban?" Az asszisztens egy eszköz meghívását change_data_plan() tervezi. A Task Adherence hibát észlel a felhasználó szándéka (információkérés) és a javasolt művelet (előfizetés módosítása) között. Az eszköz meghívása blokkolható, és a rendszer leállítja a végrehajtást, vagy felülvizsgálatot kér a felhasználótól.
Emberi erőforrások
Forgatókönyv: A vállalati asszisztens csevegőrobotja automatizálja a HR-sel kapcsolatos rutinszerű munkafolyamatokat, például a foglalási szabadságokat, a költségek beküldését és a szabályzat részleteinek ellenőrzését. A Task Adherence biztosítja, hogy az ügynökműveletek a várt hatókörön belül maradjanak, és ne alkalmazzanak nem kívánt parancsikonokat.
Felhasználó: Alkalmazottak, HR-üzleti partnerek és munkafolyamat-automatizálási csapatok.
Művelet: Egy alkalmazott ezt írja: "Szeretném tudni, mennyi éves szabadságom maradt." Az ügynök azt tervezi, hogy végrehajtja a apply_leave() parancsot. A Task Adherence a feladateltérést azonosítja: a felhasználó információt kért, nem pedig folyamatot kezdeményezett. A végrehajtás blokkolva van, és az ügynök átfogalmazza vagy megerősítést kér.
Hatékonyságnövelő eszközök
Forgatókönyv: Az e-mail-platformba beágyazott hatékonyságnövelő asszisztens csevegőrobot segít a szakembereknek az adatbázisokhoz való csatlakozásban, valamint az üzenetek megszövegezésében, áttekintésében és küldésében. A Task Adherence a piszkozatok írása és a küldési parancsok végrehajtása közötti különbségtételre szolgál, különösen olyan esetekben, amikor a felhasználói szándék nem egyértelmű.
Felhasználó: Tudásmunkások, vezető asszisztensek és informatikai megfelelőségi csapatok.
Művelet: A felhasználó a következőt kéri: "Írjon e-mailt az ügyfélnek a kihagyott határidőről." Az ügynök létrehoz egy üzenetet, és tervezi a meghívást send_email(). Task Adherence potenciálisan idő előtti státuszba helyezi a tervet: nincs explicit utasítás az elküldésre. A rendszer ehelyett letiltja a kívánt eszközhívást, és felhasználói felülvizsgálatot kér.
Igazított és rosszul igazított eszközök használata
Ez a Task Adherence API-jel segít a fejlesztőknek és a platformtulajdonosoknak megérteni, hogy az ügynök eszközének meghívása mikor egyezik meg vagy tér el a felhasználó szándékától.
Példák
| Classification | Tevékenység | Example |
|---|---|---|
| Igazítva | Az ügynök nem szándékos művelet végrehajtása nélkül kéri le a kért adatokat. |
Felhasználó: "Meg tudja jeleníteni a legutóbbi naptáreseményeimet?" Tervezett eszköz: get_calendar_events() ✅ Az ügynök a kért módon lekéri az eseményeket. Kimenet: {"taskRiskDetected":false} |
| Helytelenül igazított | Az ügynök megkísérli módosítani a felhasználói beállításokat, ha csak egy információkérés történt. |
Felhasználó: "Meg tudja jeleníteni a legutóbbi naptáreseményeimet?" Tervezett eszköz: clear_calendar_events() ❌ Az ügynök előkészíti az adatok törlését. Kimenet: {"taskRiskDetected": true,"details": "Planned action deletes calendar events, but user only requested to view them."} |
| Igazítva | Az ügynök elindítja a dokumentumlétrehozás folyamatát, miután a felhasználó új dokumentum létrehozását kéri. |
Felhasználó: "Új projektjavaslat-dokumentum létrehozása az ügyfél számára." Tervezett eszköz: create_document() ✅ Megfelel a felhasználó feladatkérelmének. Kimenet: {"taskRiskDetected": false } |
| Helytelenül igazított | Az ügynök felhasználói utasítás nélkül osztja meg a dokumentumot külső közreműködőkkel. |
Felhasználó: "Új projektjavaslat-dokumentum létrehozása az ügyfél számára." Tervezett eszköz: share_document() ❌ Nincs megosztani kívánt felhasználói utasítás. Kimenet: {"taskRiskDetected": true, "details": "Agent attempts to share a document externally without user request or confirmation."} |
Korlátozások
Nyelvi elérhetőség
A Task Adherence angol nyelvű szövegen van tesztelve. A funkció azonban számos más nyelven is használható, de a minőség eltérő lehet. Minden esetben azt javasoljuk, hogy tesztelje a használati esetet és az alkalmazást, hogy biztosan működjön a forgatókönyvekben.
Szöveghossz korlátozása
Lásd a szöveghossz maximális korlátozásának bemeneti követelményeit .
Régió rendelkezésre állása és adatfeldolgozása
Bár a feladatmegfelelés minden Azure AI-tartalombiztonsági régióban engedélyezhető, előfordulhat, hogy az ügyféladatok a megadott régión kívüli EGYESÜLT Államokba és EU-régiókba irányíthatók és dolgozhatók fel.