回声状态网络（ESN）基础教程

Posted 2020-10-09 自助者天助！

http://jlearning.cn/2017/05/29/ESN-basic-tutorial/

最近在看回声状态网络（Echo State Network）的内容，注意到中文搜索引擎搜不到关于有关Echo State Network通俗的讲解，打算写一下关于ESN的一个基本教程。本文先用一小段简单介绍ESN是什么，然后用公式来表示这种网络，并说明他的优缺点，最后用一个可执行的简单例子来演示一下ESN的效果。

由于本人能力有限，如在阅读过程中有任何疑问或者发现错误请在评论中指出。

ESN是RNN的一种，也是由输入层，隐藏层，输出层组成，并且在隐藏层到隐藏层之间有一个连接，用来保留前面时刻留下的信息。不同于RNN，ESN的输入层到隐藏层、隐藏层到隐藏层的连接权值是随机初始化，并且固定不变。在训练的过程中，我们只需要去训练隐藏层到输出层的连接权值。这就变成了一个线性回归问题，所以ESN训练起来非常快。

ESN的神经网络如图所示，储备池就是常规神经网络中的隐藏层。输入层到储备池的连接为Win，储备池到下一个时刻储备池状态的连接为W，储备池到输出层的连接为Wout。另外还有一个前一时刻的输出层到下一个时刻的储备池的连接Wback，这个连接不是必须的（图中用虚线表示），由于这是一个入门级的基础教程，所以在后面的公式和例子代码中都不会涉及这一个连接。

图中所示，tt时刻的输入为u(t)u(t)，一共K个节点，储备池状态为x(t)x(t)，N个节点，输出为y(t)y(t)，L个节点。

每一个时刻输入u(t)u(t)，储备池都会更新状态，储备池的状态更新方式为：

 

x(t+1)=f(Winu(t+1)+Wx(t))x(t+1)=f(Winu(t+1)+Wx(t))

 

这个式子里，WinWin和WW都是在最初建立网络的时候随机初始化的，并且固定不变。u(t+1)u(t+1)是这个时刻的输入，x(t)x(t)是上一个时刻的储备池状态，在t=0时刻可以用0初始化。ff是一个激活函数，通常使用tanhtanh。

在建模的时候，和一般的神经网络一样，会在连接矩阵上加上一个偏置量，所以输入的uu是一个长度为1+K的向量，WinWin是一个[1+k,N]的矩阵，xx是一个长度为N的向量，WW是一个[N,N]的矩阵。

回声状态网络的输出方式为：

 

y(t)=Wout[1;u(t);x(t)]y(t)=Wout[1;u(t);x(t)]

 

有了储备池状态，再确定了ESN的输出方式之后，就可以根据目标输出ytargetytarget来确定WoutWout来让y(t)y(t)和ytarget(t)ytarget(t)的差距尽可能的小。这是一个简单的线性回归问题，计算的方法有很多种，不再赘述。

到这里，我们就完成了ESN的训练工作。整个网络只需要训练WoutWout，所以它的训练过程非常快，这是ESN的优点之一。另外，对于一维时序数列的处理和预测，ESN有很好的优势。但对于高维的时序数列，比如说视频帧处理，ESN就不太能胜任了。

为了让这个网络能够正常的运转，还有一些地方是需要注意的：

1. 之所以叫回声状态网络，是因为前面时刻输入的信息会通过WW回回荡在储备池中，就像回声一样。为了避免储备池状态爆炸，WW的特征值必须要小于等于1。这也就引入了ESN中谱半径的概念：WW的最大特征值。
2. 由于网络中只有WoutWout是可变的，为了尽可能多的表示不同的数据规律，WW必须要设置的非常大，才能从中找出各种不同的特征进行输出。另一方面，WW的稀疏性也很重要，Hinton在多伦多大学的公开课里解释是：

建立一个松散的连接，这样某一信息可以在网络中的一小部分回荡，而不会迅速的传播到其他部分。

我不是特别的理解。希望有人解释一下。

最后引用一个例子来彻底理解最基本的ESN。

在页面中下载python源码和数据集，在python2.7环境中运行。

数据就是一维的，代码中每次输入长度为1，预测数据中后一位的值，当然长度也是1。