深度前馈网络

Posted 2021-01-23 bigcome

1.深度前馈网络

　　定义了一个映射 y = f(x;θ)，并且学习参数 θ 的值，使它能够得到最佳的函数近似

2.这种模型被称为前向（feedforward）

　　在模型的输出和模型本身之间没有反馈（feedback）连接

3.深度（depth）

　　模型的层数

4.隐藏层（hidden layer）

　　隐藏层的维数决定了模型的宽度（width）

5.线性模型

　　逻辑回归和线性回归

　　被局限在线性函数里

　　扩展线性模型来表示 x 的非线性函数

　　 ?(x) 上，这里 ? 是一个非线性变换

　　如何选择映射 ?

　　　　使用一个通用的 ?

　　　　手动地设计 ?

　　　　深度学习的策略是去学习 ?

　　　　　　y = f(x;θ,w) =?(x;θ) ? w

6.学习 XOR