InferenceScope class
Tarjoaa OpenTelemetry-jäljitysalueen luotaville tekoälyn tunnistustoiminnoille.
- Ulottuu
Menetelmät
| record |
Kirjaa telemetrian seurannan valmistumisen syyt. |
| record |
Kirjaa telemetrian seurantaa varten lähetetyt syöteviestit.
Hyväksyy tavalliset merkkijonot (automaattiset rivitykset OTEL ChatMessage -nimellä roolilla |
| record |
Kirjaa telemetrian seurannan syötetunnusten määrän. |
| record |
Kirjaa telemetrian seurannan tulosviestit.
Hyväksyy tavalliset merkkijonot (automaattinen paketointi OTEL OutputMessage -nimellä roolilla |
| record |
Kirjaa telemetrian seurannan tulostetunnusten määrän. |
| start(Request, Inference |
Luo ja käynnistää uuden laajuuden päätelyn jäljitystä varten. |
Perityt menetelmät
| dispose() | Vanha hävitysmenetelmä yhteensopivuuden vuoksi |
| get |
Hakee alueen span-kontekstin. Tämän avulla voidaan luoda ParentSpanRef eksplisiittistä pää-alikohde-linkkiä varten asynkronisten rajojen yli. |
| record |
Tallentaa useita määriteavain-/arvo-pareja telemetrian seurantaa varten. |
| record |
Kirjaa peruuttamistapahtuma ajanjakson aikana. Määrittää tilan ERROR peruuttamisen syyksi ja merkitsee virhetyypiksi "TaskCanceledException". |
| record |
Kirjaa toiminnon aikana ilmennyt virhe |
| set |
Määrittää vaikutusalueen mukautetun päättymisajan.
Kun asetus on määritetty, hävitys siirtää tämän arvon kohteeseen |
| with |
Tekee tästä ulottumisesta aktiivisen asynkronisen takaisinkutsun suorituksen ajaksi |
Menetelmän tiedot
recordFinishReasons(string[])
Kirjaa telemetrian seurannan valmistumisen syyt.
function recordFinishReasons(finishReasons: string[])Parametrit
- finishReasons
-
string[]
Viimeistelysyiden matriisi
recordInputMessages(InputMessagesParam)
Kirjaa telemetrian seurantaa varten lähetetyt syöteviestit.
Hyväksyy tavalliset merkkijonot (automaattiset rivitykset OTEL ChatMessage -nimellä roolilla user) tai versiona annetun InputMessages-rivittimen.
function recordInputMessages(messages: InputMessagesParam)Parametrit
- messages
- InputMessagesParam
Syöteviestimerkkijonojen matriisi tai InputMessages-rivitin
recordInputTokens(number)
Kirjaa telemetrian seurannan syötetunnusten määrän.
function recordInputTokens(inputTokens: number)Parametrit
- inputTokens
-
number
Syötetunnusten määrä
recordOutputMessages(OutputMessagesParam)
Kirjaa telemetrian seurannan tulosviestit.
Hyväksyy tavalliset merkkijonot (automaattinen paketointi OTEL OutputMessage -nimellä roolilla assistant) tai versiona olevan OutputMessages-rivittimen.
function recordOutputMessages(messages: OutputMessagesParam)Parametrit
- messages
- OutputMessagesParam
Tulosteviestimerkkijonojen matriisi tai OutputMessages-rivitin
recordOutputTokens(number)
Kirjaa telemetrian seurannan tulostetunnusten määrän.
function recordOutputTokens(outputTokens: number)Parametrit
- outputTokens
-
number
Tulostetunnusten määrä
start(Request, InferenceDetails, AgentDetails, UserDetails, SpanDetails)
Luo ja käynnistää uuden laajuuden päätelyn jäljitystä varten.
static function start(request: Request, details: InferenceDetails, agentDetails: AgentDetails, userDetails?: UserDetails, spanDetails?: SpanDetails): InferenceScopeParametrit
- request
- Request
Pyynnön tiedot (kanava, keskustelun tunnus, sisältö, istunnon tunnus).
- details
- InferenceDetails
Päätekutsun tiedot (malli, palvelu, tunnukset jne.).
- agentDetails
- AgentDetails
Hedelmöitystä suorittava agentti. Vuokraajatunnus johdetaan kohteesta agentDetails.tenantId.
- userDetails
- UserDetails
Valinnainen ihmissoittajan henkilöllisyys.
- spanDetails
- SpanDetails
Valinnainen span configuration (parentContext, startTime, endTime, spanLinks). Huomautus: spanKind ohitetaan; InferenceScope käyttää aina -komentoa SpanKind.CLIENT.
Palautukset
Uusi InferenceScope-esiintymä
Perityn menetelmän tiedot
dispose()
Vanha hävitysmenetelmä yhteensopivuuden vuoksi
function dispose()
getSpanContext()
Hakee alueen span-kontekstin. Tämän avulla voidaan luoda ParentSpanRef eksplisiittistä pää-alikohde-linkkiä varten asynkronisten rajojen yli.
function getSpanContext(): SpanContextPalautukset
SpanContext
SpanContext, joka sisältää traceId-tunnuksen ja spanId-arvon
recordAttributes(undefined | null | Iterable<[string, AttributeValue]> | Record<string, AttributeValue>)
Tallentaa useita määriteavain-/arvo-pareja telemetrian seurantaa varten.
function recordAttributes(attributes: undefined | null | Iterable<[string, AttributeValue]> | Record<string, AttributeValue>)Parametrit
- attributes
-
undefined | null | Iterable<[string, AttributeValue]> | Record<string, AttributeValue>
Määriteavain-/arvoparien kokoelma (matriisi tai kohteen [avain, arvo] tai objektikartta iterable).
Peritty kohteestaOpenTelemetryScope.recordAttributes
recordCancellation(string)
Kirjaa peruuttamistapahtuma ajanjakson aikana. Määrittää tilan ERROR peruuttamisen syyksi ja merkitsee virhetyypiksi "TaskCanceledException".
function recordCancellation(reason?: string)Parametrit
- reason
-
string
Valinnainen peruutussyy. Oletusarvo on "Tehtävän peruutettu".
recordError(Error)
Kirjaa toiminnon aikana ilmennyt virhe
function recordError(error: Error)Parametrit
- error
-
Error
Tapahtunut virhe
setEndTime(TimeInput)
Määrittää vaikutusalueen mukautetun päättymisajan.
Kun asetus on määritetty, hävitys siirtää tämän arvon kohteeseen span.end() nykyisen seinäkellonajan käyttämisen sijaan.
Tästä on hyötyä, kun toiminnon todellinen päättymisaika on tiedossa, ennen kuin vaikutusalue on hävitetty.
function setEndTime(endTime: TimeInput)Parametrit
- endTime
-
TimeInput
Tämä on päättymisaika millisekunteina aikakaudesta, päivämäärästä tai hrtime-monikkosta.
withActiveSpanAsync<T>(() => Promise<T>)
Tekee tästä ulottumisesta aktiivisen asynkronisen takaisinkutsun suorituksen ajaksi
function withActiveSpanAsync<T>(callback: () => Promise<T>): Promise<T>Parametrit
- callback
-
() => Promise<T>
Palautukset
Promise<T>