pytorch深度学习框架介绍+简单回归问题

Posted 2021-03-17 pandaboy1123

深度学习框架 id="深度学习框架">深度学习框架

pytorch

---

pytorch使用C和C++的后端，是站在torch框架基础上开发
pytorch和tensorflow的基本区别是使用了动态图和静态图的区别
机器学习中的常见的静态图和动态图
静态图必须事先定义好静态的公式，在使用过程中会非常麻烦，动态图则可以随时变更，方便调试的

动态计算意味着程序将按照我们编写命令的顺序进行执行。这种机制将使得调试更加容易，并且也使得我们将大脑中的想法转化为实际代码变得更加容易。而静态计算则意味着程序在编译执行时将先生成神经网络的结构，然后再执行相应操作。而静态计算是通过先定义后运行的方式，之后再次运行的时候就不再需要重新构建计算图，所以速度会比动态图更快。从理论上讲，静态计算这样的机制允许编译器进行更大程度的优化，但是这也意味着你所期望的程序与编译器实际执行之间存在着更多的代沟。这也意味着，代码中的错误将更加难以发现（比如，如果计算图的结构出现问题，你可能只有在代码执行到相应操作的时候才能发现它）。

 

梯度下降算法（深度学习的核心）

</>
求解器加入各种各样的约束，本质上来说就是加入各种约束让求解的速度变快，比如sgd
如何求解二元一次方程

 

消元法以上可以求得w和b /
以上可以精确求解的数据并不多，实际上我们生活上观测的数据都是有一定的偏差，近似解如果可行，其实也是可用的，于是原loss函数可以加入变量来模拟误差 //
所以一般是通过拿到更多组的方程组来进行求近似解

目前使用的算法
Linear Regression
Logistic Regression （压缩至0~1的概率值）
Classification