运用优化器提高网络测试性能
Posted 算法与编程之美
tags:
篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了运用优化器提高网络测试性能相关的知识,希望对你有一定的参考价值。
1 问题
在对mnist进行网络性能测试的时候,没有经过网络训练的模型预测正确结果两次出现结果不一样,而且预测的结果的正确率比较低,这个时候我们就在想如何提高网络的性能呢?模型需要训练,如何进行训练?
2 方法
我们在没有经过训练的时候网络测试性能比较低,128个数字正确率不到百分之十,这个时候我们就要想经过模型的训练来提高预测结果的正确性,网络训练的过程大致是给定一个真实标签y,网络训练标签y_hat,我们的训练的最终目标就是使y_hat更加接近y。损失函数就是衡量y与y_hat之间的差距。运用优化器实现梯度下降算法的传播。首先我们定于一个优化器,然后就定义一个损失函数,然后进行网络的训练,具体的代码实现结果如下:
经过训练之后我们发现预测正确率大大提高,在这其中,我们也可以修改lr的取值,它的取值不一样预测结果的正确率也会不同,lr最优的取值就是预测结果正确率最优取值。
3 结语
针对网络性能测试性能,还得经过网络的训练才能大大的提高预测的正确率,还有lr的取值也会影响预测结果的正确率,最优的lr的取值还需要自己去不断实验,才能提高正确率。
以上是关于运用优化器提高网络测试性能的主要内容,如果未能解决你的问题,请参考以下文章