在机器学习中，怎么对超参数Hyper parameter优化？我总结了以下常见的方法

Posted 2021-06-29 刘润森！

@Author：Runsen

机器模型中一般有两类参数，一类是可以从数据中学习估计得到，我们称为参数（Parameter）。还有一类参数时无法从数据中估计，只能靠人的经验进行设计指定，我们称为超参数（Hyper parameter）。超参数是在开始学习过程之前设置值的参数。相反，其他参数的值通过训练得出。

在机器学习中，怎么对超参数Hyper parameter优化？我总结了以下常见的方法

超参数优化

超参数优化是机器/深度学习中最常见的方法之一。机器学习模型调优是一种优化问题。我们有一组超参数（例如学习率、隐藏单元的数量等），我们的目标是找出最小值（例如损失）或最大值（例如精度）的组合。

使用的数据集是信用卡欺诈检测 Kaggle 数据集，具体下载链接：https://www.kaggle.com/mlg-ulb/creditcardfraud

import pandas as pd
df = pd.read_csv("creditcard.csv")

首先，