TokenizerFunction type
Tanda tangan untuk pemecah kata alternatif yang dapat diteruskan ke recognizeChoices(), findChoices(), atau findValues().
type TokenizerFunction = (text: string, locale?: string) => Token[];
type TokenizerFunction = (text: string, locale?: string) => Token[]
Keterangan
defaultTokenizer() cukup sederhana dan hanya istirahat pada spasi dan tanda baca.