第四周—深层神经网络

Posted crazybird123

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了第四周—深层神经网络相关的知识,希望对你有一定的参考价值。

一、深层神经网络

神经网络符号:

输入数据层:layer0,不包括在层数中

n[l]:第l层包含的神经元数目

 

二、前向和反向传播

z[l] = w[l] * a[l-1] + b[l]

a[l] = g[l](z[l])

向量化:

Z[l] = W[l] * A[l-1] + b[l]

A[l] = g[l](Z[l])

第l层反向传播:

输入:da[l]

输出:da[l-1]   dw[l]   db[l]

dz[l] = da[l] * g[l]‘(z[l])

dw[l] = dz[l] * a[l-1]

db[l] = dz[l]

da[l-1]  = w[l]T * dz[l]

向量化:

dZ[l] = dA[l] * g[l]‘(Z[l])

dW[l] = 1/m dZ[l] * A[l-1]T

db[l] = 1/m np.sum( dz[l] ,axis=1, keepdim=TRUE) 

dA[l-1]  = W[l]T * dZ[l]

 

以上是关于第四周—深层神经网络的主要内容,如果未能解决你的问题,请参考以下文章

第四周—深层神经网络

第四周网络攻防实践作业

deeplearning.ai课程学习

吴恩达《深度学习》第一门课深层神经网络

吴恩达《深度学习》第一门课深层神经网络

吴恩达深度学习课程第二课-改善深层神经网络