机器学习之数据分析与特征工程

Posted hacker_nevermor

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了机器学习之数据分析与特征工程相关的知识,希望对你有一定的参考价值。

通过七月在线的限免课程,学习了数据分析与特征工程,记录一下学习的过程供日后回顾

  1. 问题与建模
    首先需要明确要解决的问题:回归?分类?根据要解决的问题进行建模。
    建模流程为:识别问题,理解数据,数据预处理,建模与评估。

    具体的任务有具体的解决方案与建模流程
  2. 数据分析与处理
    案例:根据房屋出租信息预测房屋热度。
    该案例是一个有监督问题(有训练集(有标签),有测试集),是一个三分类问题
    考虑:什么是热度?(被查询/点击的次数)。什么影响热度?

    数据集示例:
    统计分布,判断离群点与数据分布详情
    具体方法,绘制柱状图或直方图(pyplot)或pandas的describe()函数。
    注:数据左偏,可以取log,使其接近正态分布

文本类型数据:云图显示更好
绘图是为了更好的展示可视化,有很多基于matplotlib二次开发的绘图库。
总结:对数据处理分析及可视化,是为了在建模之前更好的理解数据之间的关系,并调整离群数据,从而更好的建模解决问题。

  1. 特征工程
    类别特征:可分为两种类型:有序和无序
    类别特征编码方式:


    数值类型特征:是常见的连续特征,容易出现离群点和异常值

    日期类型特征:

    交叉特征:将两个字段交叉后构建一个新特征
    同类型:加减除,笛卡尔积
    不同类型:乘除
    聚合特征(先分组再聚合):同比,环比

  2. 模型训练与验证
    数据集按照使用用途可以划分为:
    训练集:模型巡练和参数更新
    测试集:验证模型精度
    验证集:进行模型验证与参数选择
    训练过程:过拟合与欠拟合

如想学习,请关注七月在线第16期机器学习训练营,https://edu.csdn.net/learn/36190?spm=1002.2001.3001.4157

以上是关于机器学习之数据分析与特征工程的主要内容,如果未能解决你的问题,请参考以下文章

机器学习之特征工程简介

机器学习之特征工程简介

python机器学习之特征降维

系统学习机器学习之特征工程--分箱总结

机器学习之数据清洗与特征提取

机器学习之特征工程-常用算法及实现