参数更新
Posted huangxiaofu
tags:
篇首语：本文由小常识网(cha138.com)小编为大家整理，主要介绍了参数更新相关的知识，希望对你有一定的参考价值。
1、参数更新
SGD、Momentum、AdaGrad(学习率衰减）、Adam
2、权重初始值
Xavier初始值（sigmoid、tanh）、He初始值（relu)
3、Batch Normalization
4、正则化
5、权重衰减
6、Dropout
7、超参数（贝叶斯最优化）
设定超参数的范围
从设定的超参数范围中随机采样
使用步骤1中采用到的超参数的值进行学习，通过验证数据评估
识别精度（但是要将epoch设置得很小）
重复步骤1和步骤2（100次等）。根据它们的识别精度的结果，缩小超参数的范围
以上是关于参数更新的主要内容，如果未能解决你的问题，请参考以下文章
Postman的使用——设置全局参数，参数的传递，从登录接口的响应body中提取数据更新全局参数，从响应cookie中提取数据更新全局变量
Postman的使用——设置全局参数，参数的传递，从登录接口的响应body中提取数据更新全局参数，从响应cookie中提取数据更新全局变量