n
闵欣柔对这个技术并不陌生。
她立即举手道:“老师,基于词典和隐马尔可夫模型的分词吗?”
这是2008年的主流做法,比如ictclas(中科院分词)系统就是这么干的。
吴辰摇摇头。
“不是,我们要用一种叫做bpe,也就是字节对编码的算法。”
“它的原理大致是这样,不要预设字典,而是通过统计字符组合的频率,将最常见的字对合并成一个新的单位……”
听完吴辰的讲解后,闵欣柔立即意识到这种算法完全颠覆了传统。
就像word2vec让机器学会了自己翻译语言,这个bpe算法,让人类与机器的距离又靠近了一步!
她兴奋道:“吴老师,那我们要从哪一部分开始呢,是先写
请勿开启浏览器阅读模式,否则将导致章节内容缺失及无法阅读下一章。
相邻推荐:规则怪谈:我靠道术在诡异世界封神 斗罗:武魂时空门,穿越五部曲! 离婚当天,顾机长反悔红了眼 刚选修武道,老登逆袭系统来了 绝世唐门:开家饭店养只哥莫拉! 极炼帝尊 你迎青梅做平妻,我嫁皇子做帝后 超品驸马爷 老婆骗婚不圆房?仙王转世的我杀疯了! 让你修仙,你让国家替你平推修仙界? 扶苏穿越指南 晏总醒醒,夫人不是柔弱小白花 根基 从离婚到封疆 武动之震破苍穹 我在古代刷步数,激活了抽奖系统 七零福宝凶又猛,冻死雪夜成团宠 六十年代生活游戏忙 主母重生摆烂,假清高的全家急了 灵气复苏,怎么就成了小师叔了?