`Precompiled` 正则化器与 SentencePiece 不一致: 最短前缀匹配 + 静默丢弃剩余部分会丢弃代码点
作者: imhmhm创建于 2026年8月14日更新于 2026年8月23日
pub fn transform(&self, chunk: &str) -> Option<&str> { let results = self.trie.common_prefix_search(chunk.as_bytes()); if results.is_empty() { None } else { …
内容来源: huggingface/tokenizers