申请专栏作者
您的当前位置:主页 > 深度学习 > 正文

「回顾」百度智能写作如何通过人工智能技术为

来源: 时间:2019-02-09

可思数据-数据挖掘,智慧医疗,机器视觉,机器人

分享嘉宾:彭卫华 百度 主任研发架构师

内容来自可思数据

编辑整理:马宇峰 可思数据-www.sykv.cn,sykv.com

内容来源:百度大脑 &DataFun AI Talk《智能写作:人工智能为媒体内容创作赋能

本文来自可思数据,转载请联系本站及注明出处

出品社区:DataFun 可思数据-人工智能资讯平台

注:文末附有百度知识图谱部的职位信息,感兴趣的小伙伴可以关注下。 可思数据

可思数据-AI,人工智能,深度学习,机器学习,神经网络

百度知识图谱致力于构建最大最全最好的中文知识图谱,汇聚知识,连接万物。通过知识映射真实世界、理解世界,让复杂的世界更简单。今天我主要分享知识图谱部智能写作方向的相关研究工作和应用实践。

可思数据-AI,人工智能,深度学习,机器学习,神经网络

近几年国内外的各大科技公司与媒体公司都纷纷布局智能写作,例如国外的美联社,国内的新华社,技术公司 BAT 等等。为什么智能写作如此受到关注,它能为媒体内容创作带来什么样的价值,下面开始我们的分享。 可思数据-www.sykv.cn,sykv.com

背景:

随着科技的发展,人工智能已经进入到认知阶段,AI 不仅仅被认为是一种算法、平台、解决方案,也是一种生态和生产力,可以大大推动传统产业的进步并改造它。

可思数据-人工智能资讯平台

从最初的运算智能,到后期的感知智能(人脸识别、语音识别),再到当前探索的认知智能,有了长足的发展。然而,机器目前还无法与人类一样理解思考,也无法无中生有创造出新的知识,所以目前我们仍处在弱人工智能阶段。尽管如此,AI 已经展示出其强大的生产力,并已经涉足到我们的各个生活场景中,包括智能搜索、智能推荐、智慧医疗等,也包括我今天要介绍的智能写作。

可思数据-人工智能资讯平台

写作任务大概可以从“采集、构思、表述”三个阶段来描述,无论是侧重于权威性的机构媒体,还是拥有独特风格的自媒体,都一直饱受创作效率的困扰。受限于主题选材、写作过程中出现的敏感词、错别字等因素,创作内容的成本一直居高不下。在自媒体领域,由于消费者关注力的马太效应,部分自媒体创作者逐利而去蹭热点,导致中长尾内容不足。例如文章配图,一些创作者找图片是直接在百度图片里面搜索,再选择粘贴到文章中,这样的创作效率是极为低下的,消费者的马太效应对整个内容的中长尾生态也影响较大,长期来看损害内容与流量的生态价值。

可思数据-AI,人工智能,深度学习,机器学习,神经网络

可思数据

从内容价值的角度出发,可以简单理解为:

内容来自可思数据

1. 内容本身的价值(质量、深度等);

内容来自可思数据

2. 有价值的组织形式(专题、脉络、知识图谱等); 可思数据-www.sykv.cn,sykv.com

3. 内容的智能分发(个性化、场景化)。 本文来自可思数据,转载请联系本站及注明出处

针对这三种场景,智能写作均可以发挥它的作用。创作过程中,可以提升效率;组织过程中,可以自动化组织;智能分发中,可以应用动态内容生成的技术,让用户对分发的内容更感兴趣。

可思数据-www.sykv.cn,sykv.com

现阶段,智能写作相比于人类,还有很大差距,人类擅长进行长文本、情感类的文章写作,写出高质量的有个性的文章。智能写作在信息与数据的处理上更占优势,可以大大提升聚合、时效类文章的创作效率。 可思数据-数据挖掘,智慧医疗,机器视觉,机器人

可思数据-人工智能资讯平台

智能写作可以通过人机协作的方式,有效地将智能的效率优势与人工的创造性、深度性结合起来,降低人工繁琐、机械的劳动,不断补充优化内容生态。 可思数据-数据挖掘,智慧医疗,机器视觉,机器人

可思数据

从技术布局上来讲,主要分为两个部分,基础技术部分与智能写作部分。其中基础技术包括语言理解与生成、素材清洗与检索、知识认知与话题挖掘,并且需要有一定的质控保证。语言部分的技术是核心,延展开非文本类数据之外,是多模理解与多模生成。智能写作部分主要包括自动写作与辅助写作,前者主要用于数据写作、聚合写作,后者主要体现在创意激发、素材推荐、质量评估等场景上。 可思数据-www.sykv.cn,sykv.com

自动写作部分

内容来自可思数据

自动写作服务于内容生态,并已经在百家号、阿拉丁、地图等多个业务场景下落地。从产出的文章类型来看,主要分为快讯类、聚合类,此外还会包括科普类、视频转写的一些内容。

本文来自可思数据,转载请联系本站及注明出处

可思数据-人工智能资讯平台

从写作的流程来看,首先是写作触发,接着文章生成,然后是质量控制,最后是文章发布。其中最开始的是写作触发,具体包括热点发现、主题分析、观点分析等,以生成满足用户需求的文章。此外最重要的部分是文章生成,分为下面三个部分:

内容来自可思数据

1. 宏观规划,具体包括素材组织与篇章结构规划; 可思数据

2. 微观规划,具体包括词汇选择与句子结构规划; 本文来自可思数据,转载请联系本站及注明出处

3. 表层实现,具体包括文本生成与润色配图等。

本文来自可思数据,转载请联系本站及注明出处

素材组织依赖于知识驱动产生的主题关联,文本生成则依赖于自然语言生成,结合通识知识图谱与行业知识图谱,以及包含事件等因素的复杂知识图谱,来完成文本到文本、数据到文本,以及多模到文本的文章生成。 可思数据-www.sykv.cn,sykv.com

可思数据

在深入写作关键技术之前,首先我们探讨下知识图谱的定义。简单来说,知识图谱就是知识的汇集、整理以及再加工,图谱中的每条边,均是基于语义的链接,是一个极其复杂的知识语义网络。事件图谱与传统知识图谱完全不一样,可以持续地动态地获取客观世界的事件,并丰富事件属性、建立事件间关联关系,构成以事件为基本单位的知识网络。目前百度知识图谱数据包含亿级别实体以及千亿级别的事实,以专家权威、百科实体、垂类挖掘与全网属性挖掘为组成部分,可以做到高时效性的秒级更新,在智能写作中扮演着核心角色,贯穿智能写作的全部流程。

内容来自可思数据

可思数据-数据挖掘,智慧医疗,机器视觉,机器人

可思数据-人工智能资讯平台

下面简单介绍下话题挖掘,话题挖掘是指挖掘提取出用户有需要的、且适合机器写作的主题。首先从微博、feed 内容等资源中,通过知识图谱提取、匹配出热点事件与概念,接下来判断是否适合机器写作,过滤掉太发散、太泛的话题;生成的话题包括非个性化与个性化的话题,其中个性化话题是通过用户画像进行定向下发。 可思数据-数据挖掘,智慧医疗,机器视觉,机器人

可思数据-人工智能资讯平台

第二主要介绍素材组织。以财经类写作为例,传统做法是首先挖掘写作主题与相关关键词,通过检索关联素材,嵌入人工模板中,得到的文章往往零散而逻辑性不强,浮于浅层。在我们的做法中,主要通过知识图谱来驱动,通过事件触发,匹配财经、市场、板块等领域素材,进一步融合理论知识与权威评论,考虑一些归纳分析等方法,得到最终的素材关联与组织形式。 可思数据

可思数据-人工智能资讯平台

第三个关键技术是文本生成。文本生成的关键技术主要是自然语言生成(NLG)与知识图谱(KG)。自然语言理解(NLU)与自然语言生成(NLG)是我们常用的自然语言处理(NLP)的两个主要方向。NLG 主要包含 text2text、data2text、多模到文本三种形式,考虑知识图谱作为先验知识进行相关生成。从人工方案角度讲,主要有人工规则与模板两种。从机器学习方法上来讲,深度学习方向主要包含:seq2seq、DRL、VAE、GAN 等相关技术,非深度学习技术方向包括:排序、基于文法、规则 / 模板学习、概率图模型等。 可思数据

可思数据

下面详细介绍文本生成的相关技术,主要是 text2text 的形式。首先通过实体图谱、事件图谱、行文、评论集等数据源获取文本集,接下来通过文本生成和摘要算法获取相应的文章。当然基于 seq2seq 的方法生成高质量的长摘要比较困难,但可以生成短句与标题。也可以通过抽取式摘要的方法,生成相关短摘要内容。可以看到 seq2seq 主要依赖于 encoder 与 decoder 两个步骤,贯穿其中的是 sequence 的表征,学习这种表征的方法我们称之为表示学习。

可思数据-人工智能资讯平台

可思数据

表征学习在近几年得到非常快速的演进。比较早期的 word2vec 模型,它可以有效地计算单词之间的语义相似度,但由于是词袋模型丢失了词的依赖关联关系;CNN 模型可以局部建模词的依赖关系,但无法解决长距离依赖问题,应运而生的是 RNN 模型,以及配套的 LSTM、GRU 方法。去年一个重大的突破就是 ELMo,提出解决一词多义的问题,突破了 word2vec 只有单一 embedding 的限制。然而基于 RNN 的方法其并行化做得不够,并且各种基于 RNN 的改进方案均无法表现出类似于人类的注意力感知机制,后续就诞生了 transformer 方法,诞生了 GPT 模型,然而其只考虑了单向学习。最终的集大成者是 BERT 模型,考虑了一些巧妙的创新,融合了前面的各种改进,得到了当前最佳的表示学习模型(计算复杂度相当高)。

可思数据-数据挖掘,智慧医疗,机器视觉,机器人

可思数据-人工智能资讯平台

下面介绍目前我们在探索的摘要生成方法。其是在 seq2seq+attention 模型的基础上引入 pointer network 机制构造出了新的文本摘要模型。这个模型既能够从源文本中选择复制单词,同时还保留从固定词汇集中生成单词的能力,在 loss 上对重复出现的词进行打压,取得了不错的效果。

内容来自可思数据

接着介绍我们是如何从事件脉络生成聚合类文章。针对嫦娥四号发射时间,首先从事件图谱中检索相关的时间点与事件,生成相应的事件脉络。之后通过篇章规划、自动文摘,生成相关的聚合文章,这个流程也可以用在娱乐明星的新闻生成上。

本文来自可思数据,转载请联系本站及注明出处

之后介绍的是 data2text 方法。主要还是基于模板的方法进行生成,首先通过对现有资讯中的文本组织形式学习,通过 bootstrap 算法自动生成相关的模板,再加以人工修正与设置触发条件。当有新的数据进入,则根据模板生成相应的文章。 内容来自可思数据

然后介绍的是多模到文本生成方法。主要依赖于知识图谱与视频理解技术,通过视频分析,从标题、关键帧、字幕等数据源,获取相应的多模实体解析。再通过知识图谱进行关联,进行联合推断产出相关的文字。 可思数据

内容来自可思数据

整体说,内容生成技术主要从两个角度考虑,多模态的理解与跨语言内容的生成。多模态包含各种数据到文本的技术,包括视频、图片、数据等。跨语言的内容主要包含各种跨语言转译的生成技术。 可思数据-AI,人工智能,深度学习,机器学习,神经网络

可思数据-www.sykv.cn,sykv.com

目前自动写作秒级生成文章,中长尾内容占比提升 2 倍以上,累计发文量百万量级,累计阅读量十亿量级,日均产出千级别文章,日均阅读数百万量级,覆盖数十类领域,点展比略好于人工,阅读完成率略差于人工文章。 可思数据-www.sykv.cn,sykv.com

 

可思数据

辅助写作

辅助写作主要是指输出智能写作技术,赋能内容创作者提升写作效率与质量。已在百家号、若干媒体落地。与智能写作不同,主要面向于人配合完成写作相关步骤。

可思数据-AI,智能驾驶,人脸识别,区块链,大数据

可思数据-数据挖掘,智慧医疗,机器视觉,机器人

辅助写作主要作用在写作前、写作中、写作后,具体地说: 可思数据-www.sykv.cn,sykv.com

1. 写作前:话题挖掘(热点发现、观点提取等)、素材组织(专题分析、知识关联等);

可思数据-www.sykv.cn,sykv.com

2. 写作中:素材查询(图片关联、观点检索等)、内容联想(标题推荐、知识提示等); 可思数据-人工智能资讯平台

3. 写作后:自动封面、内容纠错、智能改写、质量检测。

可思数据-www.sykv.cn,sykv.com

可思数据

与自动写作不同,人工更愿意创作有深度的文章。因而第一个关键技术即是写作话题挖掘。通过新事件的发现、与长尾趣味话题的挖掘,提取一些话题源,并识别相关实体。接下来通过实体关注面的分析,获取该实体的用户关注点,并产出实体相关关系,与趣味话题。最终通过话题生成、稀缺性判断、领域类划分,获取到用户感兴趣的话题,最终进行相关话题投放。可以看到热点话题的一些具体页面:

可思数据-数据挖掘,智慧医疗,机器视觉,机器人

可思数据-AI,智能驾驶,人脸识别,区块链,大数据

可思数据-AI,人工智能,深度学习,机器学习,神经网络

辅助写作的第二个关键技术是智能纠错与质量检测,这里不进行技术介绍,在应用上通过各种提示提升作者的写作体验。 可思数据-www.sykv.cn,sykv.com

辅助写作应用效果,在话题推荐上,基于全网挖掘行业热点,每天发现覆盖 20+ 类领域的数千个热点事件,准实时热点发现。基于热点事件与知识图谱的理解、扩展能力,多角度挖掘话题,每天新增话题千量级。每天推荐话题被创作者采纳率 90% 以上。

可思数据

本文来自可思数据,转载请联系本站及注明出处


  本文来自可思数据,转载请联系本站及注明出处


网友评论:

发表评论
请自觉遵守互联网相关的政策法规,严禁发布色情、暴力、反动的言论。
评价:
表情:
用户名: 验证码:点击我更换图片

Copyright©2005-2018 Sykv.cn 可思数据 版权所有    网站地图   联系我们  

人工智能资讯   人工智能资讯   人工智能资讯   人工智能资讯

扫码入群
咨询反馈
扫码关注

微信公众号

返回顶部