思维漫步(17)​：装备工程学的神经网络模型

Posted 2021-06-04 德同道异

思维漫步(17)

装备工程学的神经网络模型

装备工程学是集学科之大成的复杂体 系

《人人都该懂的工程学》中谈到亨利.帕尔默于1818年在伦敦一次会议的开幕词中提出的以下观点：

就像两个外国人之间的翻译必须理解两者的语言一样，工程师作为哲学家和技工之间的媒介，必须同时拥有实践知识和理论知识。

其实，这个认知得到了包括李约瑟在内的诸多科学技术从业者代代传承。

按百度百科的说法，“工程”一词有广义和狭义之分。广义而言，工程则定义为由一群人为达到某种目的，在一个较长时间周期内进行协作活动的过程；狭义而言，是“以某组设想的目标为依据，应用有关的科学知识和技术手段，通过有组织的一群人将某些现有实体转化为具有预期使用价值的人造产品过程”。如果是这样的定义，广义与狭义无非是规模和时长的区别，内涵要素是一致的。

在前两周的一次座谈讨论中，关于装备工程的三化融合，笔者也重申了自己的如下认知：

昨天在知乎上看到一篇“哲学与科学有什么关联”的主题讨论，看到了许来西同学的这张图，结合“工程”的定义，就引申做了一张关于装备工程的图示。

反思一下彼得.德鲁克在《知识社会》中论及的计算机技术的发展历程(见下图)，也不难理解:装备工程是追求实用、提供价值，解决与人类相关的复杂案例。

说来说去，装备工程终究是人类智慧的体现。人类智慧可分为：知识类属于白箱，直觉类属于黑箱，运筹决策类可属于灰箱。

《深度学习之美》在解释“end-to-end”（端到端）这个术语时，涉及到了黑箱过程：

“end-to-end”说的是，输入的是原始数据（始端），然后输出的直接就是最终目标（末端），中间过程不可知，也难以知。比如，基于深度学习的图像识别系统，输入端是图片的像素数据，而输出端直接就是或猫或狗的判定。这个端到端就是，像素→判定。

就此，有人批评深度学习就是一个黑箱系统，其性能很好，却不知道为何好，也就是说，缺乏解释性。其实，这是由深度学习所处的知识象限决定的，深度学习在本质上属于可统计不可推理的范畴。“可统计”是说，对于同类数据，它具有一定的统计规律。“不可推理”其实就是“剪不断、理还乱”的非线性状态。

不妨从《深度学习之美》书中摘录和梳理一下深度学习的内涵。

在不考虑输入层的情况下，典型的卷积神经网络通常由若干个卷积层、激活层、池化层及全连接层组成。 

·卷积层：它是卷积神经网络的核心所在，通过实现“局部感知”和“参数共享”这两个设计理念，可达到降维处理和提取特征的目的。

·激活层：其作用在于将前一层的线性输出，通过非线性的激活函数进行处理，这样用以模拟任意函数，从而增强网络的表征能力。 

·池化层：有些资料也将其称为子采样层或下采样层。简单来说，“采样”就意味着可以降低数据规模。巧妙的采样还具备局部线性转换不变性，从而增强卷积神经网络的泛化处理能力。 

·全连接层：这个网络层相当于多层感知机，其在整个卷积神经网络中起到分类器的作用，其在整个卷积神经网络中起到分类器的作用。通过前面多个“卷积-激活-池化”层的反复处理，待处理的数据特性已有了显著提高：一方面，输入数据的维度已下降到可用传统的前馈全连接网络来处理了；另一方面，此时的全连接层输入的数据已不再是“泥沙俱下、鱼龙混杂”，而是经过反复提纯过的结果，因此输出的分类品质要高得多。

下面这两张图示意的是传统机器学习和卷积神经网络两种深度学习的过程。

在《未来简史》书中，作者谈到，根据数据主义的观点，人工智能实际上就是找到一种高效的“电子算法”，用以代替或在某项指标上超越人类的“生物算法”。

如果把装备工程学视为“生物算法”，参照有监督和无监督深度学习的过程的相关层级，不妨想象一下相关的图层：需求层、应用层、组织层、实体层......

由此可见，装备工程是一个无比复杂、难以量化的巨系统，涉及到政治、科学、经济、社会等诸多学科及组织的联结与互动。

 每周两文——第846篇。