Bagikan melalui


TokenizerFunction type

Tanda tangan untuk pemecah kata alternatif yang dapat diteruskan ke recognizeChoices(), findChoices(), atau findValues().

type TokenizerFunction = (text: string, locale?: string) => Token[];
type TokenizerFunction = (text: string, locale?: string) => Token[]

Keterangan

defaultTokenizer() cukup sederhana dan hanya istirahat pada spasi dan tanda baca.