起点免费小说 >> 穿越:2014 >> 第152章 伊芙·卡莉的困惑(续)

第152章 伊芙·卡莉的困惑(续)

也正是因为上述原因,无论是哪个时空。

世界上很多国家都在对文本探索。

人类社会记录方式的进步,某种程度上就集中表现在文本的不同凝练形式上。

文本的探索,对于一些大型企业来说,也是一项极为重要的工作。

涉及到文本摘要的发展,决定着一项又一项的产品的问世。

对于文本的探索,不仅仅对文学的深入研究有着很高的促进性,同样对于科技的推进有着巨大的促进作用。

总而言之,对文本摘要倾注些心血不过分。

毕竟这是林灰在技术领域方面迈出的第一步。

说到伊芙·卡莉遇到的困惑。

林灰没想到伊芙·卡莉的困惑主要集中在LH文本摘要准确度衡量模型的构建上。

林灰记得当时他关于这个模型构建已经阐述的够清楚的了。

构建模型的话首先要运用语言模型来评估算法生成语言的流畅度,然后使用相似度模型评估文本和摘要之间的语义相关性,最后为了有效评估实体、专有词的复现程度,引入原文信息量模型来评估。

虽然为了避免教会徒弟饿死师傅,林灰在这几个步骤之间故意遗漏了一些琐屑的步骤。

不过这种东西对于科研工作者来说,就像堑壕之于坦克。

虽然会有一些影响,但问题应该不大。

真的把所有的技术细节全部公布出来。

那也不能叫做公布技术路线了,那叫编教科书。

对于林灰提到的“运用语言模型来评估算法生成语言的流畅度”

伊芙·卡莉比较困惑林灰是怎么搞定语言模型训练的语料库的?

这个问题往后几年的话还真不是问题。

因为现成的语料库就一大堆。

仅仅是简体中文方面的语料库就有国家语委现代汉语语料库、京大语料库、语料库语言学在线等若干资源。

不过换到现在这个时空节点林灰显然不能跟别人研究人员说他用的是现成的预料库。

毕竟一些现成的语料库基本都是16年左右才问世的。

尽管如此,如何解释语料库来源的问题难不倒林灰。

事实上即便没有现成的语料库,想要构建一个可堪一用的能调/教出早期生成式摘要算法的语料库也不是太复杂。

最简单的方式——借助互联网可以自动构建文本语料库。

当利用这种方法构建语料库的时候,用户只需要提供所需的文本类别体系。

而后从互联网中采集大量网站,提取并分析网站的内容层次结构和每个主题词对应的网页内容信息。

从每个网站中筛选出用户所需要的文本作为候选语料。

这个过程其实不复杂,有点类似于爬虫抓取网页的过程。

比较困难的是这种方法形成的语料库如何去噪。

但这对于林灰也不是问题。

只需要将从多个网站中匹配上的同一文本类别的候选语料合并成每个类别的候选语料库。

而后再对候选语料库中每个类别下的文本进行去噪处理就可以提高语料库的质量。

在完成去噪之后就可以输出语料库。

虽然这个过程实现起来仍旧不容易。

但学术领域上除了个别被孤立的杠精喜欢钻牛角尖之外。

大多数情况下只要逻辑自洽就没人死磕。

除了好奇林灰是如何构建语料库之外。

涉及到“使用相似度模型评估文本和摘要之间的语义相关性”

伊芙·卡莉比较好奇林灰究竟是使用何种相似度模型来评估文本摘要和摘要之间的语义相关的。

额,这个问题就比较涉及到林灰搞定的文本摘要准确度模型最核心的东西了。

关于这个问题的答案就不是三言两语能说得清的了。

喜欢穿越:2014请大家收藏:(www.ghcerp.com)穿越:2014起点免费小说更新速度全网最快。

穿越:2014最新章节 - 穿越:2014全文阅读 - 穿越:2014txt下载 - 猪熊的全部小说 - 穿越:2014 起点免费小说

猜你喜欢: 谁与争锋神医相师我的绝色美女房客生活系男神极品仙师上门狂婿遥望之塔抱歉,有系统真的了不起极品医圣直播在荒野手搓核聚变权路通途黎明效应傲天弃少拣宝酒店供应商我的美女总裁夫人超神建筑商纵横四海官道无疆都市圣骑录
完本推荐: 修真聊天群全文阅读极品医圣全文阅读全球高武全文阅读拣宝全文阅读还看今朝全文阅读重生之神级学霸全文阅读大医凌然全文阅读俗人回档全文阅读都市剑说全文阅读完美人生全文阅读来自未来的神探全文阅读黄金渔场全文阅读医门宗师全文阅读黄金瞳全文阅读我的1979全文阅读地产之王全文阅读天降我才必有用全文阅读史上第一混乱全文阅读朝阳警事全文阅读绝品天医全文阅读
同类新书: 放弃留学,我打造了世界第一名校断掌女人全球冒险:文明入侵生死章文娱:让你唱歌,你搁这作法?华娱之从歌手开始转型重生之韶光年华国之大医:从签到开始挽歌前行文娱之开局成过气肥仔契灵师:我有大荒系统舌尖上的故乡公寓:心理医生的日常完美人生,从自律开始重生之香江大亨时代大巨星奶爸俺有一家汉服馆学霸之寻常故事复苏:女帝转生成了我女儿!小欢喜励志当咸鱼

穿越:2014最新章节手机版 - 穿越:2014全文阅读手机版 - 穿越:2014txt下载手机版 - 猪熊的全部小说 - 穿越:2014 起点免费小说移动版 - 起点免费小说手机站

起点免费小说 | 手机小说 | 全本小说 | 点击榜 | 新书榜 | 推荐榜 | 收藏榜 | 作者排行 | 会员书架 | 阅读记录

本站所有小说为转载作品,所有章节均由网友上传,转载至本站只是为了宣传本书让更多读者欣赏。

Copyright © 2024 起点免费小说 All Rights Reserved. 全部小说