Python最小二乘法拟合与作图

Posted

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了Python最小二乘法拟合与作图相关的知识,希望对你有一定的参考价值。

参考技术A 在函数拟合中,如果用p表示函数中需要确定的参数,那么目标就是找到一组p,使得下面函数S的值最小:

这种算法称为最小二乘法拟合。Python的Scipy数值计算库中的optimize模块提供了 leastsq() 函数,可以对数据进行最小二乘拟合计算。

此处利用该函数对一段弧线使用圆方程进行了拟合,并通过Matplotlib模块进行了作图,程序内容如下:

Python的使用中需要导入相应的模块,此处首先用 import 语句

分别导入了numpy, leastsq与pylab模块,其中numpy模块常用用与数组类型的建立,读入等过程。leastsq则为最小二乘法拟合函数。pylab是绘图模块。

接下来我们需要读入需要进行拟合的数据,这里使用了 numpy.loadtxt() 函数:

其参数有:

进行拟合时,首先我们需要定义一个目标函数。对于圆的方程,我们需要圆心坐标(a,b)以及半径r三个参数,方便起见用p来存储:

紧接着就可以进行拟合了, leastsq() 函数需要至少提供拟合的函数名与参数的初始值:

返回的结果为一数组,分别为拟合得到的参数与其误差值等,这里只取拟合参数值。

leastsq() 的参数具体有:

输出选项有:

最后我们可以将原数据与拟合结果一同做成线状图,可采用 pylab.plot() 函数:

pylab.plot() 函数需提供两列数组作为输入,其他参数可调控线条颜色,形状,粗细以及对应名称等性质。视需求而定,此处不做详解。

pylab.legend() 函数可以调控图像标签的位置,有无边框等性质。

pylab.annotate() 函数设置注释,需至少提供注释内容与放置位置坐标的参数。

pylab.show() 函数用于显示图像。

最终结果如下图所示:

用Python作科学计算

numpy.loadtxt

scipy.optimize.leastsq

python中matplotlib实现最小二乘法拟合的过程详解

这篇文章主要给大家介绍了关于python中matplotlib实现最小二乘法拟合的相关资料,文中通过示例代码详细介绍了关于最小二乘法拟合直线和最小二乘法拟合曲线的实现过程,需要的朋友可以参考借鉴,下面来一起看看吧。

前言

最小二乘法Least Square Method,做为分类回归算法的基础,有着悠久的历史(由马里·勒让德于1806年提出)。它通过最小化误差的平方和寻找数据的最佳函数匹配。利用最小二乘法可以简便地求得未知的数据,并使得这些求得的数据与实际数据之间误差的平方和为最小。最小二乘法还可用于曲线拟合。其他一些优化问题也可通过最小化能量或最大化熵用最小二乘法来表达。

下面这篇文章主要跟大家介绍了关于python中matplotlib实现最小二乘法拟合的相关内容,下面话不多说,来一起看看详细的介绍:

一、最小二乘法拟合直线

生成样本点

首先,我们在直线 y = 3 + 5x 附近生成服从正态分布的随机点,作为拟合直线的样本点。

1
2
3
4
5
6
7
8
9
10
import numpy as np 
import matplotlib.pyplot as plt
  
# 在直线 y = 3 + 5x 附近生成随机点
X = np.arange(0, 5, 0.1
Z = [3 + 5 * x for x in X] 
Y = [np.random.normal(z, 0.5) for z in Z]
  
plt.plot(X, Y, ‘ro‘
plt.show()

样本点如图所示:

技术分享图片

拟合直线

设 y = a0 + a1*x,我们利用最小二乘法的正则方程组来求解未知系数 a0 与 a1。

技术分享图片

numpy 的 linalg 模块中有一个 solve 函数,它可以根据方程组的系数矩阵和方程右端构成的向量来求解未知量。

1
2
3
4
5
6
7
8
9
10
11
12
13
def linear_regression(x, y): 
 N = len(x)
 sumx = sum(x)
 sumy = sum(y)
 sumx2 = sum(x**2)
 sumxy = sum(x*y)
  
 A = np.mat([[N, sumx], [sumx, sumx2]])
 b = np.array([sumy, sumxy])
  
 return np.linalg.solve(A, b)
  
a0, a1 = linear_regression(X, Y)

绘制直线

此时,我们已经得到了拟合后的直线方程系数 a0 和 a1。接下来,我们绘制出这条直线,并与样本点做对比。

1
2
3
4
5
6
7
# 生成拟合直线的绘制点
_X = [0, 5
_Y = [a0 + a1 * x for x in _X]
  
plt.plot(X, Y, ‘ro‘, _X, _Y, ‘b‘, linewidth=2
plt.title("y = {} + {}x".format(a0, a1)) 
plt.show()

拟合效果如下:

技术分享图片

二、最小二乘法拟合曲线

生成样本点

与生成直线样本点相同,我们在曲线 y = 2 + 3x + 4x^2 附近生成服从正态分布的随机点,作为拟合曲线的样本点。

1
2
3
4
5
6
7
8
9
10
import numpy as np 
import matplotlib.pyplot as plt
  
# y = 2 + 3x + 4x^2
X = np.arange(0, 5, 0.1
Z = [2 + 3 * x + 4 * x ** 2 for x in X] 
Y = np.array([np.random.normal(z,3) for z in Z])
  
plt.plot(X, Y, ‘ro‘
plt.show()

样本点如图所示:

技术分享图片

拟合曲线

设该曲线的方程为 y = a0 + a1*x + a2*x^2,同样,我们通过正则方程组来求解未知量 a0、a1 和 a2。

技术分享图片

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
# 生成系数矩阵A
def gen_coefficient_matrix(X, Y): 
 N = len(X)
 m = 3
 A = []
 # 计算每一个方程的系数
 for i in range(m):
  a = []
  # 计算当前方程中的每一个系数
  for j in range(m):
   a.append(sum(X ** (i+j)))
  A.append(a)
 return A
  
# 计算方程组的右端向量b
def gen_right_vector(X, Y): 
 N = len(X)
 m = 3
 b = []
 for i in range(m):
  b.append(sum(X**i * Y))
 return b
  
A = gen_coefficient_matrix(X, Y) 
b = gen_right_vector(X, Y)
  
a0, a1, a2 = np.linalg.solve(A, b)

绘制曲线

我们根据求得的曲线方程,绘制出曲线的图像。

1
2
3
4
5
6
7
# 生成拟合曲线的绘制点
_X = np.arange(0, 5, 0.1
_Y = np.array([a0 + a1*x + a2*x**2 for x in _X])
  
plt.plot(X, Y, ‘ro‘, _X, _Y, ‘b‘, linewidth=2
plt.title("y = {} + {}x + {}$x^2$ ".format(a0, a1, a2)) 
plt.show()

拟合效果如下:

技术分享图片

总结

以上就是这篇文章的全部内容了,希望本文的内容对大家的学习或者工作能带来一定的帮助,如果有疑问大家可以留言交流,谢谢大家对脚本之家的支持。

 

原文链接:http://www.codebelief.com/article/2017/04/matplotlib-demonstrate-least-square-regression-process/

以上是关于Python最小二乘法拟合与作图的主要内容,如果未能解决你的问题,请参考以下文章

python中matplotlib实现最小二乘法拟合的过程详解

矩阵参数怎么用最小二乘法拟合

基于移动最小二乘法的点云曲面拟合(python)

用加权最小二乘法拟合曲线matlab?

python_numpy最小二乘法的曲线拟合

浅谈最小二乘法