数据教育新鲜事 | 2017 深度学习框架发展大盘点

Posted 2021-04-29 TalkingData数据学堂

2017 深度学习框架发展大盘点

年底各大榜单陆续放出，机器学习领域也不例外，雷锋网针对 2017 年机器学习框架发展趋势进行了盘点，其中重大的事件如下：

• Facebook 开源 PyTorch，成为 TensorFlow 强敌

• Theano 完成历史使命，功成身退

• ONNX 开放平台横空出世，力图促进开放的开发生态

• CNTK，Keras，MXNet 均迎来重大更新

• 微软携手亚马逊推出 Gluon 深度学习库，英特尔推出增强学习框架 Coach

• 针对移动终端，Caffe2 和 TensorFlow Lite 先后开源

2017 基于深度学习的 NLP 研究大盘点

雷锋网消息，tryolabs 上 Javier Couto 针对 2017 年基于深度学习的自然语言处理研究进行了大盘点。

主要趋势如下：

• 从训练 word2vec 到使用预训练模型

• 调整通用嵌入（Generic embeddings）模型适配特定用例

• 不可思议的副作用——情感分析

• Twitter 上的情感分析

• 一个令人兴奋的摘要生成系统

• 迈向无监督学习机器翻译的第一步

• 专门的框架与工具

• 其它想法

更多内容，请点击下方链接阅读原文：

https://tryolabs.com/blog/2017/12/12/deep-learning-for-nlp-advancements-and-trends-in-2017/

清华大学提出 SA-VAE 框架，通过单样本/少样本学习生成任意风格的汉字

据机器之心，近日，清华大学提出了一种风格感知变分自编码器（SA-VAE），通过引入先验知识，结合少量的样本学习，可以有效地将汉字分解成内容部分和风格部分，使我们能快速而自由地生成期望风格的汉字。

该论文主要贡献如下：

• 提出了一个新型的交叉逐对优化的方法用于风格特征提取，它也是以弱监督的形式解决解耦合问题的一个通用技术。

• 将汉字的域知识以先验知识的形式引入模型中，并提出了一种信息编码方法来指导汉字生成。

• 提出的模型（SA-VAE）可以实现准确的风格推理，并以单样本/少样本的方式生成中文字体。

阿尔伯塔大学提出新型多步强化学习方法

在 AAAI 2018 接收论文列表中，来自阿尔伯塔大学强化学习和人工智能实验室 Richard S. Sutton 等研究者的一篇论文提出一种新的多步动作价值算法 Q(σ)，该算法结合已有的时序差分算法，可带来更好性能。机器之心对此论文做了简要介绍，更多详细内容请查看原文。

论文链接：https://arxiv.org/abs/1703.01327

阿里 iDST 联合华东师大提出τ-FPL: 线性时间的约束容忍分类学习算法

机器之心消息，国际知名的人工智能学术会议 AAAI 2018 即将于 2 月份在美国新奥尔良举办，阿里巴巴共有 11 篇论文被接收。

其中，阿里巴巴 iDST 与华东师大合作发布了一篇论文《τ-FPL: Tolerance-Constrained Learning in Linear Time》，该论文提出了一种出了一个新的排序-阈值方法 τ-FP。

来源：雷锋网、机器之心等，图片来自网络。