CNN、RNN、DNN的内部网络结构有啥区别？

Posted 2023-03-09

从广义上来说，NN(或是更美的DNN)确实可以认为包含了CNN、RNN这些具体的变种形式。在实际应用中，所谓的深度神经网络DNN，往往融合了多种已知的结构，包括卷积层或是LSTM单元。但是就题主的意思来看，这里的DNN应该特指全连接的神经元结构，并不包含卷积单元或是时间上的关联。
因此，题主一定要将DNN、CNN、RNN等进行对比，也未尝不可。其实，如果我们顺着神经网络技术发展的脉络，就很容易弄清这几种网络结构发明的初衷，和他们之间本质的区别。神经网络技术起源于上世纪五、六十年代，当时叫感知机(perceptron)，拥有输入层、输出层和一个隐含层。输入的特征向量通过隐含层变换达到输出层，在输出层得到分类结果。
早期感知机的推动者是Rosenblatt。(扯一个不相关的：由于计算技术的落后，当时感知器传输函数是用线拉动变阻器改变电阻的方法机械实现的，脑补一下科学家们扯着密密麻麻的导线的样子…)但是，Rosenblatt的单层感知机有一个严重得不能再严重的问题，即它对稍复杂一些的函数都无能为力(比如最为典型的“异或”操作)。
连异或都不能拟合，你还能指望这货有什么实际用途么。随着数学的发展，这个缺点直到上世纪八十年代才被Rumelhart、Williams、Hinton、LeCun等人(反正就是一票大牛)发明的多层感知机(multilayer perceptron)克服。多层感知机，顾名思义，就是有多个隐含层的感知机。

参考技术A

CNN国际新闻网每周七天，每天二十四小时的全球直播新闻报导。
面对突发的新闻，CNN国际新闻网都会作现场报导。全球超过二百一十个国家及地区均转播CNN的新闻。
CNN国际新闻网除了将全球新闻送到府上外，还加强了报导亚洲地区的新闻。亚洲七个新闻分社：香港、东京、北京、汉城、雅加达、新德里及曼谷，将有关整个亚洲时事的头条新闻、专题节目及报导，精确地传送到世界各地。
此外，CNN国际新闻风还通过设于香港的制作中心，制作集中探讨亚洲地区问题的节目，藉此为观众报导有关亚太区主要的社会、文化及商业发展的动态。《亚洲世界新闻》（World News Asia）报导亚洲区及世界各地的新闻。每逢周末播出的半小时《亚洲透视》（Inside Asia）集中地探讨亚洲时事及社会问题，而《亚洲新闻》（Asia This Day）则是一个由香港播出的全新半小时清晨新闻节目。
CNN国际新闻网以《亚洲商业新闻》（Business Asia）、《今日全球商情》（World Business Today）及《钱线》（Moneyline）等节目持续报导最新新闻。
cnn其他的专题节目还播报生活和时尚的新闻。《流行登陆》（Style with Elsa Klensch）披露时装设计行业的专业意见。《赖利金现场》（Larry King Live）云集世界领袖、新闻人物。《世界体坛》（World Sports）报导的体育快讯。《好莱坞万花筒》（Showbiz Today）、《电脑新世界》（Travel Guide）等节目则专门提供这些地区内最新的趋势及消息。

参考技术B

多层反馈RNN（Recurrent neural Network、循环神经网络）神经网络是一种节点定向连接成环的人工神经网络。这种网络的内部状态可以展示动态时序行为。不同于前馈神经网络的是，RNN可以利用它内部的记忆来处理任意时序的输入序列，这让它可以更容易处理如不分段的手写识别、语音识别等。
多层反馈网络（Recurrent Neural Network）.
神经网络专家如Jordan，Pineda．Williams，Elman等于上世纪80年代末提出的一种神经网络结构模型。即循环神经网络(Recurrent Neural Network，RNN)。这种网络的本质特征是在处理单元之间既有内部的反馈连接又有前馈连接。从系统观点看，它是一个反馈动力系统，在计算过程中体现过程动态特性，比前馈神经网络具有更强的动态行为和计算能力。循环神经网络现已成为国际上神经网络专家研究的重要对象之一。