ModelCapacityCalculatorWorkloadRequestParam interface
Dizionario, calcolatore della capacità del modello, parametri del carico di lavoro.
Proprietà
| avg |
Token generati in media. |
| avg |
Token di richiesta medi. |
Dettagli proprietà
avgGeneratedTokens
Token generati in media.
avgGeneratedTokens?: numberValore della proprietà
number
avgPromptTokens
Token di richiesta medi.
avgPromptTokens?: numberValore della proprietà
number
