WordTokenizingEstimator Clase

Definición

Espacio de nombres:

Microsoft.ML.Transforms.Text

Ensamblado:

Microsoft.ML.Transforms.dll

Paquete:

Microsoft.ML v3.0.1

Tokeniza el texto de entrada mediante delimitadores especificados.

public sealed class WordTokenizingEstimator : Microsoft.ML.Data.TrivialEstimator<Microsoft.ML.Transforms.Text.WordTokenizingTransformer>

type WordTokenizingEstimator = class
    inherit TrivialEstimator<WordTokenizingTransformer>

Public NotInheritable Class WordTokenizingEstimator
Inherits TrivialEstimator(Of WordTokenizingTransformer)

Herencia

Object

TrivialEstimator<WordTokenizingTransformer>

WordTokenizingEstimator

Comentarios

Características del estimador

¿Este estimador necesita examinar los datos para entrenar sus parámetros?	No
Tipo de datos de columna de entrada	Escalar o vector de texto
Tipo de datos de columna de salida	Vector de tamaño variable de texto
Exportable a ONNX	Sí

El resultado WordTokenizingTransformer crea una nueva columna, denominada como se especifica en los parámetros de nombre de columna de salida, donde cada cadena de entrada se asigna a un vector de subcadenas obtenidos dividiendo la cadena de entrada según los delimitadores definidos por el usuario. El carácter de espacio es el delimitador predeterminado.

Se quitan las cadenas vacías y las cadenas que contienen solo espacios.

Consulte la sección Consulte también los vínculos a ejemplos de uso.

Métodos

Fit(IDataView)	Tokeniza el texto de entrada mediante delimitadores especificados. (Heredado de TrivialEstimator<TTransformer>)
GetOutputSchema(SchemaShape)	Devuelve el SchemaShape del esquema que generará el transformador. Se usa para la propagación y comprobación del esquema en una canalización.

Métodos de extensión

AppendCacheCheckpoint<TTrans>(IEstimator<TTrans>, IHostEnvironment)

Anexe un "punto de control de almacenamiento en caché" a la cadena del estimador. Esto garantizará que los estimadores de bajada se entrenarán con datos almacenados en caché. Resulta útil tener un punto de control de almacenamiento en caché antes de que los instructores tomen varios pases de datos.

WithOnFitDelegate<TTransformer>(IEstimator<TTransformer>, Action<TTransformer>)

Dado un estimador, devuelva un objeto de ajuste que llamará a un delegado una vez Fit(IDataView) . A menudo, es importante que un estimador devuelva información sobre lo que cabe, por lo que el Fit(IDataView) método devuelve un objeto con tipo específico, en lugar de simplemente un general ITransformer. Sin embargo, al mismo tiempo, IEstimator<TTransformer> a menudo se forman en canalizaciones con muchos objetos, por lo que es posible que tengamos que crear una cadena de estimadores a través EstimatorChain<TLastTransformer> de donde el estimador para el que queremos obtener el transformador se enterró en algún lugar de esta cadena. En ese escenario, podemos a través de este método adjuntar un delegado al que se llamará una vez que se llame a fit.

Consulte también

• TokenizeIntoWords(TransformsCatalog+TextTransforms, String, String, Char[])