InferenceScope class

Παρέχει εμβέλεια ανίχνευσης OpenTelemetry για λειτουργίες δημιουργίας συμπερασματολογικών στοιχείων AI.

Επεκτείνει

Μέθοδοι

recordFinishReasons(string[])

Καταγράφει τους λόγους ολοκλήρωσης για την παρακολούθηση τηλεμετρίας.

recordInputMessages(InputMessagesParam)

Καταγράφει τα μηνύματα εισόδου για παρακολούθηση τηλεμετρίας. Δέχεται απλές συμβολοσειρές (αυτόματα περιτυλιγμένες ως OTEL ChatMessage με ρόλο user) ή ένα περιτύλιγμα InputMessages.

recordInputTokens(number)

Καταγράφει τον αριθμό των διακριτικών εισόδου για την παρακολούθηση τηλεμετρίας.

recordOutputMessages(OutputMessagesParam)

Καταγράφει τα μηνύματα εξόδου για παρακολούθηση τηλεμετρίας. Δέχεται απλές συμβολοσειρές (αυτόματα περιτυλιγμένες ως OTEL OutputMessage με ρόλο assistant) ή ένα περιτύλιγμα OutputMessages.

recordOutputTokens(number)

Καταγράφει τον αριθμό των διακριτικών εξόδου για παρακολούθηση τηλεμετρίας.

start(Request, InferenceDetails, AgentDetails, UserDetails, SpanDetails)

Δημιουργεί και ξεκινά μια νέα εμβέλεια για ανίχνευση συμπερασμένων.

Μέθοδοι μεταβίβασης

dispose()

Μέθοδος απόρριψης παλαιού τύπου για συμβατότητα

getSpanContext()

Λαμβάνει το περιβάλλον εύρους για αυτή την εμβέλεια. Αυτό μπορεί να χρησιμοποιηθεί για τη δημιουργία ενός ParentSpanRef για ρητή σύνδεση γονικού-θυγατρικού στοιχείου μεταξύ ασύγχρονων ορίων.

recordAttributes(undefined | null | Iterable<[string, AttributeValue]> | Record<string, AttributeValue>)

Καταγράφει πολλαπλά ζεύγη κλειδιού/τιμής χαρακτηριστικού για την παρακολούθηση τηλεμετρίας.

recordCancellation(string)

Καταγράφει ένα συμβάν ακύρωσης στο εύρος. Ορίζει την κατάσταση της περιοχής σε ERROR με την αιτία ακύρωσης και επισημαίνει τον τύπο σφάλματος ως "TaskCanceledException".

recordError(Error)

Καταγράφει ένα σφάλμα που παρουσιάστηκε κατά τη διάρκεια της λειτουργίας

setEndTime(TimeInput)

Ορίζει μια προσαρμοσμένη ώρα λήξης για την εμβέλεια. Όταν οριστεί, η επιλογή απόρριψης θα μεταβιβάσει αυτήν την τιμή στη span.end() θέση της χρήσης της τρέχουσας ώρας ρολόι τοίχου. Αυτό είναι χρήσιμο όταν η πραγματική ώρα λήξης της λειτουργίας είναι γνωστή πριν από τη διάθεση της εμβέλειας.

withActiveSpanAsync<T>(() => Promise<T>)

Αυτό το εύρος είναι ενεργό κατά τη διάρκεια της ασύγχρονης εκτέλεσης επιστροφής κλήσης

Λεπτομέρειες μεθόδου

recordFinishReasons(string[])

Καταγράφει τους λόγους ολοκλήρωσης για την παρακολούθηση τηλεμετρίας.

function recordFinishReasons(finishReasons: string[])

Παράμετροι

finishReasons

string[]

Πίνακας λόγων ολοκλήρωσης

recordInputMessages(InputMessagesParam)

Καταγράφει τα μηνύματα εισόδου για παρακολούθηση τηλεμετρίας. Δέχεται απλές συμβολοσειρές (αυτόματα περιτυλιγμένες ως OTEL ChatMessage με ρόλο user) ή ένα περιτύλιγμα InputMessages.

function recordInputMessages(messages: InputMessagesParam)

Παράμετροι

messages
InputMessagesParam

Πίνακας συμβολοσειρών μηνύματος εισόδου ή ένα περιτύλιγμα InputMessages

recordInputTokens(number)

Καταγράφει τον αριθμό των διακριτικών εισόδου για την παρακολούθηση τηλεμετρίας.

function recordInputTokens(inputTokens: number)

Παράμετροι

inputTokens

number

Αριθμός διακριτικών εισόδου

recordOutputMessages(OutputMessagesParam)

Καταγράφει τα μηνύματα εξόδου για παρακολούθηση τηλεμετρίας. Δέχεται απλές συμβολοσειρές (αυτόματα περιτυλιγμένες ως OTEL OutputMessage με ρόλο assistant) ή ένα περιτύλιγμα OutputMessages.

function recordOutputMessages(messages: OutputMessagesParam)

Παράμετροι

messages
OutputMessagesParam

Πίνακας συμβολοσειρών μηνύματος εξόδου ή ένα περιτύλιγμα OutputMessages

recordOutputTokens(number)

Καταγράφει τον αριθμό των διακριτικών εξόδου για παρακολούθηση τηλεμετρίας.

function recordOutputTokens(outputTokens: number)

Παράμετροι

outputTokens

number

Αριθμός διακριτικών εξόδου

start(Request, InferenceDetails, AgentDetails, UserDetails, SpanDetails)

Δημιουργεί και ξεκινά μια νέα εμβέλεια για ανίχνευση συμπερασμένων.

static function start(request: Request, details: InferenceDetails, agentDetails: AgentDetails, userDetails?: UserDetails, spanDetails?: SpanDetails): InferenceScope

Παράμετροι

request
Request

Ωφέλιμο φορτίο αίτησης (κανάλι, αναγνωριστικό συνομιλίας, περιεχόμενο, αναγνωριστικό περιόδου λειτουργίας).

details
InferenceDetails

Λεπτομέρειες κλήσης συμπερασμάτων (μοντέλο, υπηρεσία παροχής, διακριτικά κ.λπ.).

agentDetails
AgentDetails

Ο παράγοντας που εκτελεί το συμπέρασμα. Το αναγνωριστικό μισθωτή προέρχεται από agentDetails.tenantIdτο .

userDetails
UserDetails

Προαιρετική ταυτότητα ανθρωπίνου καλούντε.

spanDetails
SpanDetails

Προαιρετική ρύθμιση παραμέτρων εύρους (parentContext, startTime, endTime, spanLinks). Σημείωση: spanKind παραβλέπεται. Η InferenceScope χρησιμοποιεί SpanKind.CLIENTπάντα .

Επιστροφές

Μια νέα παρουσία της InferenceScope

Λεπτομέρειες μεθόδων μεταβίβασης

dispose()

Μέθοδος απόρριψης παλαιού τύπου για συμβατότητα

function dispose()

Κληρονομήθηκε από τοOpenTelemetryScope.dispose

getSpanContext()

Λαμβάνει το περιβάλλον εύρους για αυτή την εμβέλεια. Αυτό μπορεί να χρησιμοποιηθεί για τη δημιουργία ενός ParentSpanRef για ρητή σύνδεση γονικού-θυγατρικού στοιχείου μεταξύ ασύγχρονων ορίων.

function getSpanContext(): SpanContext

Επιστροφές

SpanContext

Το SpanContext που περιέχει traceId και spanId

Μεταβίβαση από τοOpenTelemetryScope.getSpanContext

recordAttributes(undefined | null | Iterable<[string, AttributeValue]> | Record<string, AttributeValue>)

Καταγράφει πολλαπλά ζεύγη κλειδιού/τιμής χαρακτηριστικού για την παρακολούθηση τηλεμετρίας.

function recordAttributes(attributes: undefined | null | Iterable<[string, AttributeValue]> | Record<string, AttributeValue>)

Παράμετροι

attributes

undefined | null | Iterable<[string, AttributeValue]> | Record<string, AttributeValue>

Συλλογή ζευγών κλειδιού/τιμής χαρακτηριστικού (πίνακας ή με δυνατότητα διαδοχικών διαδοχικών τιμών [κλειδιού, τιμής] ή χάρτη αντικειμένου).

Μεταβίβαση από τοOpenTelemetryScope.recordAttributes

recordCancellation(string)

Καταγράφει ένα συμβάν ακύρωσης στο εύρος. Ορίζει την κατάσταση της περιοχής σε ERROR με την αιτία ακύρωσης και επισημαίνει τον τύπο σφάλματος ως "TaskCanceledException".

function recordCancellation(reason?: string)

Παράμετροι

reason

string

Προαιρετική αιτία ακύρωσης. Η προεπιλογή είναι "Η εργασία ακυρώθηκε".

Μεταβίβαση από τοOpenTelemetryScope.recordCancellation

recordError(Error)

Καταγράφει ένα σφάλμα που παρουσιάστηκε κατά τη διάρκεια της λειτουργίας

function recordError(error: Error)

Παράμετροι

error

Error

Το σφάλμα που παρουσιάστηκε

Μεταβίβαση από τοOpenTelemetryScope.recordError

setEndTime(TimeInput)

Ορίζει μια προσαρμοσμένη ώρα λήξης για την εμβέλεια. Όταν οριστεί, η επιλογή απόρριψης θα μεταβιβάσει αυτήν την τιμή στη span.end() θέση της χρήσης της τρέχουσας ώρας ρολόι τοίχου. Αυτό είναι χρήσιμο όταν η πραγματική ώρα λήξης της λειτουργίας είναι γνωστή πριν από τη διάθεση της εμβέλειας.

function setEndTime(endTime: TimeInput)

Παράμετροι

endTime

TimeInput

Η ώρα λήξης ως χιλιοστά του δευτερολέπτου από την χρονική σήμανση, μια ημερομηνία ή μια πλειάδα HrTime.

Μεταβίβαση από τοOpenTelemetryScope.setEndTime

withActiveSpanAsync<T>(() => Promise<T>)

Αυτό το εύρος είναι ενεργό κατά τη διάρκεια της ασύγχρονης εκτέλεσης επιστροφής κλήσης

function withActiveSpanAsync<T>(callback: () => Promise<T>): Promise<T>

Παράμετροι

callback

() => Promise<T>

Επιστροφές

Promise<T>

Μεταβίβαση από τοOpenTelemetryScope.withActiveSpanAsync