运用优化器提高网络测试性能

Posted 算法与编程之美

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了运用优化器提高网络测试性能相关的知识,希望对你有一定的参考价值。

1 问题

在对mnist进行网络性能测试的时候,没有经过网络训练的模型预测正确结果两次出现结果不一样,而且预测的结果的正确率比较低,这个时候我们就在想如何提高网络的性能呢?模型需要训练,如何进行训练?

2 方法

我们在没有经过训练的时候网络测试性能比较低,128个数字正确率不到百分之十,这个时候我们就要想经过模型的训练来提高预测结果的正确性,网络训练的过程大致是给定一个真实标签y,网络训练标签y_hat,我们的训练的最终目标就是使y_hat更加接近y。损失函数就是衡量y与y_hat之间的差距。运用优化器实现梯度下降算法的传播。首先我们定于一个优化器,然后就定义一个损失函数,然后进行网络的训练,具体的代码实现结果如下:

经过训练之后我们发现预测正确率大大提高,在这其中,我们也可以修改lr的取值,它的取值不一样预测结果的正确率也会不同,lr最优的取值就是预测结果正确率最优取值。

3 结语

针对网络性能测试性能,还得经过网络的训练才能大大的提高预测的正确率,还有lr的取值也会影响预测结果的正确率,最优的lr的取值还需要自己去不断实验,才能提高正确率。

以上是关于运用优化器提高网络测试性能的主要内容,如果未能解决你的问题,请参考以下文章

如何优化JAVA代码及提高执行效率(转)

Keras深度学习实战——神经网络性能优化技术详解

java代码优化编程

java代码优化编程

SQL Server性能优化运用SQL Server的全文检索来提高模糊匹配的效率

NN:神经网络算法进阶优化法,进一步提高手写数字识别的准确率—Jason niu