强化学习在自然语言处理上的应用

Posted 2021-04-12 大数据创新学习中心

tags:

篇首语：本文由小常识网(cha138.com)小编为大家整理，主要介绍了强化学习在自然语言处理上的应用相关的知识，希望对你有一定的参考价值。

关注大数据创新学习中心

自然语言处理作为大数据时代重要的技术方式之一，已经成为人工智能领域的一个重要支撑。4月22日，“北京理工大学大数据创新学习中心”与“PaperWeekly”联合举办“强化学习在自然语言处理上的应用”，将结合自然语言处理在学界研究与业界应用的进展，系统地讲解自然语言处理前沿技术及智能应用。

本次研讨会免费开放，诚挚邀请感兴趣人士莅临。

2018年4月22日（周日）

14:00-17:00

北京理工大学（中关村校区）

研究生院101报告厅

主办单位

北京理工大学大数据创新学习中心

PaperWeekly

报名方式

本课程不收取任何费用，与会人员食宿自理。为更好为大家提供服务，需在线报名，报名人员方可签到参会。

报名请点击“阅读原文”进行报名。

课程内容与专家简介

自然语言处理中的深度强化学习应用

报告人简介：

黄民烈，清华大学计算机系副教授，博士生导师。研究兴趣主要集中在人工智能、深度学习、强化学习，自然语言处理如自动问答、人机对话系统、情感与情绪智能等。已超过50篇CCF A/B类论文发表在ACL、IJCAI、AAAI、EMNLP、KDD、ICDM、ACM TOIS、Bioinformatics、JAMIA等国际顶级和主流会议及期刊上。曾担任多个国际顶级会议的领域主席或高级程序委员，如IJCAI 2018、IJCAI 2017、ACL 2016、EMNLP 2014/2011，IJCNLP 2017等，担任ACM TOIS、TKDE、TPAMI、CL等顶级期刊的审稿人。

作为负责人或学术骨干，负责或参与多项国家973、863子课题、多项国家自然科学基金，并与国内外知名企业如谷歌、微软、三星、惠普、美孚石油、斯伦贝谢、阿里巴巴、腾讯、百度、搜狗、美团等建立了广泛的合作。获得专利授权近10项，其中2项专利技术授权给企业应用。

报告摘要：

以Alpha GO/Zero为代表的深度强化学习在许多应用中取得了前所未有的成功。演讲者将重点介绍深度强化学习在自然语言处理中如何处理非直接信号的弱监督学习问题，介绍如何利用有限的、弱的、非直接的监督信号实现学习目标。包括几个方面的工作：仅依赖类别标记的监督信号，从无结构文本中的探索任务相关的文本结构(structure discovery)；噪声文本数据中进行样本去噪(data denoising)以获得更好的关系抽取性能；在大型的在线系统中，如何利用用户的隐式反馈实现多场景的联合优化。这些工作具有的共性是：在无直接监督信息、弱信号场景中，利用强化学习的试错和概率探索能力，通过编码先验或领域知识，达到学习目标。演讲者也将分享强化学习应用中的一些经验和教训。

生成对话中的强化学习

报告人简介：

李纪为博士，香侬科技创始人&CEO。本科毕业于北京大学生命科学学院，博士毕业于斯坦福大学计算机学院，研究领域为自然语言处理、深度学习。他是斯坦福大学计算机系历史上第一个三年取得博士学位的研究生。博士期间曾经在顶级会议ACL、EMNLP、ICLR等发表文章20余篇。2017年创立AI+Fintech初创公司香侬科技，获得红杉资本数千万天使轮融资。

报告摘要：

在这个talk中，将讨论两个生成对话中强化学习的应用：

(1) 通过模拟两个agent的聊天获得更持久的、稳定的对话策略

(2) 将对抗学习引入到对话生成模型中：因为对抗学习判别器的反馈对于生成模型来说是不可求导的，所以只能通过强化学习的手段将判别器的反馈传递给生成模型，这里将重点讨论如何训练一个稳定的基于强化学习的对抗网络对话模型。