——万象语法模型、万象原子词库
- 在庞大且多样的中文语料库基础上，我们构建了一个性能优异、覆盖面广的中文语法模型和高效的词库。此次发布的语法模型和词库构建，融合了来自社区问答、博文互动、公众号、百科词条、新闻报道、歌词、诗词文学、歇后语、绕口令、酒店外卖评论、法律文献、地区描述、文学作品以及诗词等多领域的内容，总体语料32G规模，更加均衡，清洗更加细致。该项目愿景：致力于提供RIME最强基础底座，做最精准的读音标注、做最精准的词频统计、最恰当的分词词库以及基于现有条件打造了一个高命中率、精确的输入模型；
- 同时项目中维护的单字拼音词典涵盖cjk基本区到扩展G区以及康熙部首区，基于汉典基础上手动维护更多读音，可能是单文本词库中比较全面的；
- 项目中的rime词库全部使用AI辅助筛选和人工校对，遴选出优质的词组。词库是全部带声调全拼，所有的词频是基于词组和拼音双键统计的，区别了如："那里 哪里" 这种类似场景下对于单字的词频，而不是全部归并到na的拼音下。单字词频是在词组语句中加上拼音最后拆解为单字及其对应拼音的组合，因此单字词频也是区分多音字的。 由于语料规模巨大，很多单字达到了10亿级别，词频经过对数归一化处理，缩短词频易于维护且文件储存更少的字节。如何迁移到你的方案？点击迁移词库
- 模型文件版本说明：v是版本号，n是模型级别，m是百兆尺寸
| 文件大小 | 2级模型 | 3级模型 |
|---|---|---|
| 100M | v1n2m1 | v1n3m1 |
| 200M | v1n2m2 | v1n3m2 |
| 300M | v1n2m3 | v1n3m3 |
- 词库文件对应说明：
示例项目：
万象拼音增强版-多维直接辅助码与任意拼音方案的组合 | 万象拼音基础版-全拼双拼间接辅助码版本
| 词库类型 | 文件名称 | 描述 |
|---|---|---|
| 字表 | chars.dict |
包含CJK字库基础区所有具有读音的字，不计多音43324字 |
| 基础词库 | base.dict |
包含2-3字词组 |
| 关联词库 | correlation.dict |
包含4字词组,不含由基础词库中同音最高频组合成的词汇 |
| 联想词库 | associational.dict |
包含5字以上词组,当输入四个字之后形成联想候选 |
| 兼容词库 | compatible.dict |
包含多音字词组,用于兼容词组的多种读音场景 |
| 错音错字 | corrections.dict |
错音错字词组 ,用于兼容经常使用但是实际上在字、音是错的场景 |
| 全字表 | full.dict |
包含CJK所有有字，汉字大全 |
使用方法： 当使用白霜、雾凇之类项目，可以使用公共版本，名称形如：amz-v2n3m1-zh-hans 的版本 只需要将这一段内容放在方案文件，下载模型到rime的用户目录，language: amz-v2n3m1-zh-hans 改成你下载的文件名（不包含后缀）,重新部署即可使用！
__include: octagram #启用语法模型
#语法模型
octagram:
__patch:
grammar:
language: amz-v2n3m1-zh-hans
collocation_max_length: 5
collocation_min_length: 2
translator/contextual_suggestions: true
translator/max_homophones: 7
translator/max_homographs: 7
当使用万象原子词库，需要配合模型使用，配置如下：
__include: octagram #启用语言模型
#语言模型
octagram:
__patch:
grammar:
language: wanxiang-lts-zh-hans
collocation_max_length: 8 #命中的最长词组
collocation_min_length: 3 #命中的最短词组，搭配词频健全的词库时候应当最小值设为3避开2字高频词
collocation_penalty: -10 #默认-12 对常见搭配词组施加的惩罚值。较高的负值会降低这些搭配被选中的概率，防止过于频繁地出现某些固定搭配。
non_collocation_penalty: -12 #默认-12 对非搭配词组施加的惩罚值。较高的负值会降低非搭配词组被选中的概率，避免不合逻辑或不常见的词组组合。
weak_collocation_penalty: -24 #默认-24 对弱搭配词组施加的惩罚值。保持默认值通常是为了有效过滤掉不太常见但仍然合理的词组组合。
rear_penalty: -30 #默认-18 对词组中后续词语的位置施加的惩罚值。较高的负值会降低某些词语在句子后部出现的概率，防止句子结构不自然。
translator/contextual_suggestions: false
translator/max_homophones: 5
translator/max_homographs: 5
万象词库的四个字词组中不包含我们常常看到且非常熟悉的高频组合，这些词汇将由2+2的基础词库来组合起来，如：人工智能 工作模式 等等，万象模型中也不包含两个字的词组，模型只负责3+的组织，因此基础的高频词汇将会由词库自己来组织，以此来达到强强联合、词库减重，因为模型已经容纳了1000万行，在不丢失多音字词组读音特征的情况下最大限度简化词库。