推荐收藏保存和加载机器学习模型的这两个方法不错

Posted 我爱Python数据挖掘

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了推荐收藏保存和加载机器学习模型的这两个方法不错相关的知识,希望对你有一定的参考价值。

找到好的机器学习模型只是项目的起点。在本文中,我将介绍如何使用 scikit-learn 在 Python 中保存和加载机器学习模型,这允许你将模型保存到文件并在以后加载它进行预测。喜欢记得收藏、点赞、关注。

  • 用 pickle 保存你的模型
  • 使用 joblib 保存模型
  • 保存模型的技巧

让我们开始吧。

用 pickle 保存你的模型

Pickle 是 Python 中序列化对象的标准方式。

您可以使用pickle操作序列化您的机器学习算法并将序列化格式保存到文件中。

稍后您可以加载此文件以反序列化您的模型并使用它进行新的预测。

下面的示例演示了如何在 Pima Indians onset of diabetes 数据集上训练逻辑回归模型,将模型保存到文件并加载它以测试集进行预测。测试集可以文末获取

# Save Model Using Pickle
import pandas
from sklearn import model_selection
from sklearn.linear_model import LogisticRegression
import pickle
url = "https://raw.githubusercontent.com/jbrownlee/Datasets/master/pima-indians-diabetes.data.csv"
names = ['preg', 'plas', 'pres', 'skin', 'test', 'mass', 'pedi', 'age', 'class']
dataframe = pandas.read_csv(url, names=names)
array = dataframe.values
X = array[:,0:8]
Y = array[:,8]
test_size = 0.33
seed = 7
X_train, X_test, Y_train, Y_test = model_selection.train_test_split(X, Y, test_size=test_size, random_state=seed)
# Fit the model on training set
model = LogisticRegression()
model.fit(X_train, Y_train)
# save the model to disk
filename = 'finalized_model.sav'
pickle.dump(model, open(filename, 'wb'))

# some time later...

# load the model from disk
loaded_model = pickle.load(open(filename, 'rb'))
result = loaded_model.score(X_test, Y_test)
print(result)

运行示例会将模型保存到本地工作目录中的finalized_model.sav。

加载保存的模型并对其进行评估,可以估计模型在未见数据上的准确性。

0.755905511811

使用 joblib 保存模型

Joblib是 SciPy 生态系统的一部分,并提供用于流水线化 Python 作业的实用程序。

它提供实用程序来高效地保存和加载使用 NumPy 数据结构的 Python 对象。

这对于需要大量参数或存储整个数据集(如 K 最近邻)的一些机器学习算法很有用。

下面的示例演示了如何在 Pima Indians onset of diabetes 数据集上训练逻辑回归模型,使用 joblib 将模型保存到文件并加载它以测试集进行预测。

# Save Model Using joblib
import pandas
from sklearn import model_selection
from sklearn.linear_model import LogisticRegression
import joblib
url = "https://raw.githubusercontent.com/jbrownlee/Datasets/master/pima-indians-diabetes.data.csv"
names = ['preg', 'plas', 'pres', 'skin', 'test', 'mass', 'pedi', 'age', 'class']
dataframe = pandas.read_csv(url, names=names)
array = dataframe.values
X = array[:,0:8]
Y = array[:,8]
test_size = 0.33
seed = 7
X_train, X_test, Y_train, Y_test = model_selection.train_test_split(X, Y, test_size=test_size, random_state=seed)
# Fit the model on training set
model = LogisticRegression()
model.fit(X_train, Y_train)
# save the model to disk
filename = 'finalized_model.sav'
joblib.dump(model, filename)

# some time later...

# load the model from disk
loaded_model = joblib.load(filename)
result = loaded_model.score(X_test, Y_test)
print(result)

运行该示例会将模型保存为文件finalized_model.sav并为模型中的每个 NumPy 数组创建一个文件(另外四个文件)。

加载模型后,将报告模型对未见数据的准确性的估计。

0.755905511811

保存模型的技巧

本节列出了最终确定机器学习模型时的一些重要注意事项。

  • python 版本。注意python版本。几乎可以肯定,当您稍后加载和反序列化模型时,您需要使用相同的主要(可能是次要)版本的 Python 来序列化模型。
  • 库版本。在反序列化保存的模型时,机器学习项目中使用的所有主要库的版本几乎肯定需要相同。这个不限于NumPy的版本和scikit-learn的版本。
  • 手动序列化。您可能希望手动输出学习模型的参数,以便将来可以在 scikit-learn 或其他平台中直接使用它们。机器学习算法用于进行预测的算法通常比用于学习参数的算法简单得多,可以很容易地在您可以控制的自定义代码中实现。

以上是关于推荐收藏保存和加载机器学习模型的这两个方法不错的主要内容,如果未能解决你的问题,请参考以下文章

Pytorch模型训练实用教程学习笔记:一数据加载和transforms方法总结

这些实用的人工智能书收藏一波

机器学习正则化线性模型和模型保存

个性化推荐系统--- 机器学习深度学习召回集扩量

(sklearn)机器学习模型的保存与加载

又一开源神器,值得收藏学习!