Partilhar via


PreTokenizer Classe

Definição

Classe base para todas as classes pré-tokenizers. O PreTokenizer é responsável por realizar a etapa de pré-segmentação.

public abstract class PreTokenizer
type PreTokenizer = class
Public MustInherit Class PreTokenizer
Herança
PreTokenizer
Derivado

Construtores

PreTokenizer()

Classe base para todas as classes pré-tokenizers. O PreTokenizer é responsável por realizar a etapa de pré-segmentação.

Métodos

PreTokenize(String)

Divide a cadeia de caracteres fornecida em várias subcadeias de caracteres no limite da palavra, mantendo o controle dos deslocamentos das subcadeias de caracteres ditas da cadeia de caracteres original.

Aplica-se a