每周阅读清单-百度开源深度学习框架Geoffrey Hinton提出Capsule计划

Posted 2021-04-29 我们程序员

理论联系实际：Wireshark抓包分析TCP 3次握手、4次挥手过程

Wireshark 是最著名的网络通讯抓包分析工具。功能十分强大，可以截取各种网络封包，显示网络封包的详细信息。

你可以把网络包分析工具当成是一种用来测量有什么东西从网线上进出的测量工具，就好像使电工用来测量进入电信的电量的电度表一样（当然比那个更高级）。过去的此类工具要么是过于昂贵，要么是属于某人私有，或者是二者兼顾。 Wireshark出现以后，这种现状得以改变。 Wireshark可能算得上是今天能使用的最好的开源网络分析通讯抓包分析工具软件。

浏览器内核又可以分成两部分：渲染引擎(layout engineer 或者 Rendering Engine)和 JS 引擎。它负责取得网页的内容（html、XML、图像等等）、整理讯息（例如加入 CSS 等），以及计算网页的显示方式，然后会输出至显示器或打印机。浏览器的内核的不同对于网页的语法解释会有不同，所以渲染的效果也不相同。所有网页浏览器、电子邮件客户端以及其它需要编辑、显示网络内容的应用程序都需要内核。JS 引擎则是解析 javascript 语言，执行 javascript 语言来实现网页的动态效果。

最开始渲染引擎和 JS 引擎并没有区分的很明确，后来 JS 引擎越来越独立，内核就倾向于只指渲染引擎。有一个网页标准计划小组制作了一个 ACID 来测试引擎的兼容性和性能。内核的种类很多，如加上没什么人使用的非商业的免费内核，可能会有 10 多种，但是常见的浏览器内核可以分这四种：Trident、Gecko、Blink、Webkit。

机器学习

百度开源移动端深度学习框架mobile-deep-learning

深度学习技术已经在互联网的诸多方向产生影响，每天科技新闻中关于深度学习和神经网络的讨论越来越多。深度学习技术在近两年飞速发展，各种互联网产品都争相应用深度学习技术，产品对深度学习的引入也将进一步影响人们的生活。随着移动设备的广泛使用，在移动互联网产品应用深度学习和神经网络技术已经成为必然趋势。

与深度学习紧密联系在一起的图像技术同样在业界广泛应用。传统计算机视觉和深度学习的结合使图像技术得以快速发展。

计算机视觉在机器人的发展史中起着非常重要的作用，与之相关的“感知”也正是历年IROS大会上的重要内容，随着机器人研究的发展和“越来越接近人类”这个目标的进一步深入，越来越多的学者更深刻认识到了计算机视觉对机器人整个行业发展的重要性。随着近几年深度学习在计算机视觉领域的突破，计算机视觉在机器人领域的应用也将会迎来一个新的时期，这也是今年的IROS大会邀请李飞飞教授做大会报告的原因。

Geoffrey Hinton 以「深度学习之父」和「神经网络先驱」闻名于世，其对深度学习及神经网络的诸多核心算法和结构（包括「深度学习」这个名称本身，反向传播算法，受限玻尔兹曼机，深度置信网络，对比散度算法，ReLU 激活单元，Dropout 防止过拟合，以及深度学习早期在语音方面突破）做出了基础性的贡献。尽管已经将大半辈子的时间投入到神经网络之上，这位老人却丝毫没有想退休的意思。

Hinton 近几年以「卷积神经网络有什么问题？」为主题做了多场报道 ，提出了他的 Capsule 计划。Hinton 似乎毫不掩饰要推翻自己盼了 30 多年时间才建立起来的深度学习帝国的想法。他的这种精神也获得了同行李飞飞（ImageNet 创始者）等人肯定。

Hinton 为什么突然想要推倒重来？这肯定不是出于巧合或者突然心血来潮，毕竟作为一个领域的先驱，质疑自己亲手建立的理论，不是谁都愿意做的事情。（试想一下，如果你到处做报告，说自己的领域有各种各样的问题，就算不会影响到自己，也让做这个领域的同行和靠这个领域吃饭的人不是很舒服）。

说推倒重来有点过分，Hinton 并没有否定一切，并且他的主要攻击目标是深度学习在计算机视觉方面的理论。但是从几次演讲来看，他的 Capsule 计划确实和以前的方法出入比较大。Hinton 演讲比较风趣，但是也存在思维跳跃，难度跨度太大等问题。这些问题在他的关于 Capsule 的报告中还是比较突出的。可以说仅仅看报告很难理解完全 Hinton 的想法。我这几天结合各类资料，整理了一下 Hinton 的思路和动机，和大家分享一下。

点击下方“阅读原文”可获取带链接版本~