InferenceScope class
Παρέχει εμβέλεια ανίχνευσης OpenTelemetry για λειτουργίες δημιουργίας συμπερασματολογικών στοιχείων AI.
- Επεκτείνει
Μέθοδοι
| record |
Καταγράφει τους λόγους ολοκλήρωσης για την παρακολούθηση τηλεμετρίας. |
| record |
Καταγράφει τα μηνύματα εισόδου για παρακολούθηση τηλεμετρίας.
Δέχεται απλές συμβολοσειρές (αυτόματα περιτυλιγμένες ως OTEL ChatMessage με ρόλο |
| record |
Καταγράφει τον αριθμό των διακριτικών εισόδου για την παρακολούθηση τηλεμετρίας. |
| record |
Καταγράφει τα μηνύματα εξόδου για παρακολούθηση τηλεμετρίας.
Δέχεται απλές συμβολοσειρές (αυτόματα περιτυλιγμένες ως OTEL OutputMessage με ρόλο |
| record |
Καταγράφει τον αριθμό των διακριτικών εξόδου για παρακολούθηση τηλεμετρίας. |
| start(Request, Inference |
Δημιουργεί και ξεκινά μια νέα εμβέλεια για ανίχνευση συμπερασμένων. |
Μέθοδοι μεταβίβασης
| dispose() | Μέθοδος απόρριψης παλαιού τύπου για συμβατότητα |
| get |
Λαμβάνει το περιβάλλον εύρους για αυτή την εμβέλεια. Αυτό μπορεί να χρησιμοποιηθεί για τη δημιουργία ενός ParentSpanRef για ρητή σύνδεση γονικού-θυγατρικού στοιχείου μεταξύ ασύγχρονων ορίων. |
| record |
Καταγράφει πολλαπλά ζεύγη κλειδιού/τιμής χαρακτηριστικού για την παρακολούθηση τηλεμετρίας. |
| record |
Καταγράφει ένα συμβάν ακύρωσης στο εύρος. Ορίζει την κατάσταση της περιοχής σε ERROR με την αιτία ακύρωσης και επισημαίνει τον τύπο σφάλματος ως "TaskCanceledException". |
| record |
Καταγράφει ένα σφάλμα που παρουσιάστηκε κατά τη διάρκεια της λειτουργίας |
| set |
Ορίζει μια προσαρμοσμένη ώρα λήξης για την εμβέλεια.
Όταν οριστεί, η επιλογή απόρριψης θα μεταβιβάσει αυτήν την τιμή στη |
| with |
Αυτό το εύρος είναι ενεργό κατά τη διάρκεια της ασύγχρονης εκτέλεσης επιστροφής κλήσης |
Λεπτομέρειες μεθόδου
recordFinishReasons(string[])
Καταγράφει τους λόγους ολοκλήρωσης για την παρακολούθηση τηλεμετρίας.
function recordFinishReasons(finishReasons: string[])
Παράμετροι
- finishReasons
-
string[]
Πίνακας λόγων ολοκλήρωσης
recordInputMessages(InputMessagesParam)
Καταγράφει τα μηνύματα εισόδου για παρακολούθηση τηλεμετρίας.
Δέχεται απλές συμβολοσειρές (αυτόματα περιτυλιγμένες ως OTEL ChatMessage με ρόλο user) ή ένα περιτύλιγμα InputMessages.
function recordInputMessages(messages: InputMessagesParam)
Παράμετροι
- messages
- InputMessagesParam
Πίνακας συμβολοσειρών μηνύματος εισόδου ή ένα περιτύλιγμα InputMessages
recordInputTokens(number)
Καταγράφει τον αριθμό των διακριτικών εισόδου για την παρακολούθηση τηλεμετρίας.
function recordInputTokens(inputTokens: number)
Παράμετροι
- inputTokens
-
number
Αριθμός διακριτικών εισόδου
recordOutputMessages(OutputMessagesParam)
Καταγράφει τα μηνύματα εξόδου για παρακολούθηση τηλεμετρίας.
Δέχεται απλές συμβολοσειρές (αυτόματα περιτυλιγμένες ως OTEL OutputMessage με ρόλο assistant) ή ένα περιτύλιγμα OutputMessages.
function recordOutputMessages(messages: OutputMessagesParam)
Παράμετροι
- messages
- OutputMessagesParam
Πίνακας συμβολοσειρών μηνύματος εξόδου ή ένα περιτύλιγμα OutputMessages
recordOutputTokens(number)
Καταγράφει τον αριθμό των διακριτικών εξόδου για παρακολούθηση τηλεμετρίας.
function recordOutputTokens(outputTokens: number)
Παράμετροι
- outputTokens
-
number
Αριθμός διακριτικών εξόδου
start(Request, InferenceDetails, AgentDetails, UserDetails, SpanDetails)
Δημιουργεί και ξεκινά μια νέα εμβέλεια για ανίχνευση συμπερασμένων.
static function start(request: Request, details: InferenceDetails, agentDetails: AgentDetails, userDetails?: UserDetails, spanDetails?: SpanDetails): InferenceScope
Παράμετροι
- request
- Request
Ωφέλιμο φορτίο αίτησης (κανάλι, αναγνωριστικό συνομιλίας, περιεχόμενο, αναγνωριστικό περιόδου λειτουργίας).
- details
- InferenceDetails
Λεπτομέρειες κλήσης συμπερασμάτων (μοντέλο, υπηρεσία παροχής, διακριτικά κ.λπ.).
- agentDetails
- AgentDetails
Ο παράγοντας που εκτελεί το συμπέρασμα. Το αναγνωριστικό μισθωτή προέρχεται από agentDetails.tenantIdτο .
- userDetails
- UserDetails
Προαιρετική ταυτότητα ανθρωπίνου καλούντε.
- spanDetails
- SpanDetails
Προαιρετική ρύθμιση παραμέτρων εύρους (parentContext, startTime, endTime, spanLinks). Σημείωση: spanKind παραβλέπεται. Η InferenceScope χρησιμοποιεί SpanKind.CLIENTπάντα .
Επιστροφές
Μια νέα παρουσία της InferenceScope
Λεπτομέρειες μεθόδων μεταβίβασης
dispose()
Μέθοδος απόρριψης παλαιού τύπου για συμβατότητα
function dispose()
Κληρονομήθηκε από τοOpenTelemetryScope.dispose
getSpanContext()
Λαμβάνει το περιβάλλον εύρους για αυτή την εμβέλεια. Αυτό μπορεί να χρησιμοποιηθεί για τη δημιουργία ενός ParentSpanRef για ρητή σύνδεση γονικού-θυγατρικού στοιχείου μεταξύ ασύγχρονων ορίων.
function getSpanContext(): SpanContext
Επιστροφές
SpanContext
Το SpanContext που περιέχει traceId και spanId
Μεταβίβαση από τοOpenTelemetryScope.getSpanContext
recordAttributes(undefined | null | Iterable<[string, AttributeValue]> | Record<string, AttributeValue>)
Καταγράφει πολλαπλά ζεύγη κλειδιού/τιμής χαρακτηριστικού για την παρακολούθηση τηλεμετρίας.
function recordAttributes(attributes: undefined | null | Iterable<[string, AttributeValue]> | Record<string, AttributeValue>)
Παράμετροι
- attributes
-
undefined | null | Iterable<[string, AttributeValue]> | Record<string, AttributeValue>
Συλλογή ζευγών κλειδιού/τιμής χαρακτηριστικού (πίνακας ή με δυνατότητα διαδοχικών διαδοχικών τιμών [κλειδιού, τιμής] ή χάρτη αντικειμένου).
Μεταβίβαση από τοOpenTelemetryScope.recordAttributes
recordCancellation(string)
Καταγράφει ένα συμβάν ακύρωσης στο εύρος. Ορίζει την κατάσταση της περιοχής σε ERROR με την αιτία ακύρωσης και επισημαίνει τον τύπο σφάλματος ως "TaskCanceledException".
function recordCancellation(reason?: string)
Παράμετροι
- reason
-
string
Προαιρετική αιτία ακύρωσης. Η προεπιλογή είναι "Η εργασία ακυρώθηκε".
Μεταβίβαση από τοOpenTelemetryScope.recordCancellation
recordError(Error)
Καταγράφει ένα σφάλμα που παρουσιάστηκε κατά τη διάρκεια της λειτουργίας
function recordError(error: Error)
Παράμετροι
- error
-
Error
Το σφάλμα που παρουσιάστηκε
Μεταβίβαση από τοOpenTelemetryScope.recordError
setEndTime(TimeInput)
Ορίζει μια προσαρμοσμένη ώρα λήξης για την εμβέλεια.
Όταν οριστεί, η επιλογή απόρριψης θα μεταβιβάσει αυτήν την τιμή στη span.end() θέση της χρήσης της τρέχουσας ώρας ρολόι τοίχου.
Αυτό είναι χρήσιμο όταν η πραγματική ώρα λήξης της λειτουργίας είναι γνωστή πριν από τη διάθεση της εμβέλειας.
function setEndTime(endTime: TimeInput)
Παράμετροι
- endTime
-
TimeInput
Η ώρα λήξης ως χιλιοστά του δευτερολέπτου από την χρονική σήμανση, μια ημερομηνία ή μια πλειάδα HrTime.
Μεταβίβαση από τοOpenTelemetryScope.setEndTime
withActiveSpanAsync<T>(() => Promise<T>)
Αυτό το εύρος είναι ενεργό κατά τη διάρκεια της ασύγχρονης εκτέλεσης επιστροφής κλήσης
function withActiveSpanAsync<T>(callback: () => Promise<T>): Promise<T>
Παράμετροι
- callback
-
() => Promise<T>
Επιστροφές
Promise<T>
Μεταβίβαση από τοOpenTelemetryScope.withActiveSpanAsync