Compartilhar via


Model Classe

Definição

Representa um modelo usado durante a geração de tokens (como BPE ou Word Piece ou Unigram).

public abstract class Model
type Model = class
Public MustInherit Class Model
Herança
Model
Derivado

Construtores

Model()

Representa um modelo usado durante a geração de tokens (como BPE ou Word Piece ou Unigram).

Métodos

GetTrainer()

Obtém um objeto trainer a ser usado no treinamento do modelo.

GetVocab()

Obtém os tokens de mapeamento de dicionário para Ids.

GetVocabSize()

Obtém o tamanho do dicionário que mapeia tokens para Ids.

IdToString(Int32, Boolean)

Representa um modelo usado durante a geração de tokens (como BPE ou Word Piece ou Unigram).

IdToToken(Int32, Boolean)

Mapeie a ID com token para o token.

IsValidChar(Char)

Retornará true se o char for válido no criador de tokens; caso contrário, retornará false.

Save(String, String)

Salve os dados do modelo no vocabulário e mescle arquivos.

Tokenize(String)

Tokenize uma cadeia de caracteres de sequência para uma lista de tokens.

TokenToId(String)

Mapeie o token para a ID com token.

Aplica-se a