AzureOpenAITokenizerParameters interface
属性
| allowed |
(可选)仅当单元设置为 azureOpenAITokens 时才适用。 此参数定义在标记化过程中允许的特殊令牌的集合。 |
| encoder |
仅当单元设置为 azureOpenAITokens 时才适用。 选项包括“R50k_base”、“P50k_base”、“P50k_edit”和“CL100k_base”。 默认值为“CL100k_base”。 |
属性详细信息
allowedSpecialTokens
(可选)仅当单元设置为 azureOpenAITokens 时才适用。 此参数定义在标记化过程中允许的特殊令牌的集合。
allowedSpecialTokens?: string[]
属性值
string[]
encoderModelName
仅当单元设置为 azureOpenAITokens 时才适用。 选项包括“R50k_base”、“P50k_base”、“P50k_edit”和“CL100k_base”。 默认值为“CL100k_base”。
encoderModelName?: string
属性值
string