机器学习之数据分析与特征工程

通过七月在线的限免课程,学习了数据分析与特征工程,记录一下学习的过程供日后回顾

  1. 问题与建模
    首先需要明确要解决的问题:回归?分类?根据要解决的问题进行建模。
    建模流程为:识别问题,理解数据,数据预处理,建模与评估。
    机器学习之数据分析与特征工程_第1张图片
    具体的任务有具体的解决方案与建模流程机器学习之数据分析与特征工程_第2张图片
  2. 数据分析与处理
    案例:根据房屋出租信息预测房屋热度。
    该案例是一个有监督问题(有训练集(有标签),有测试集),是一个三分类问题
    考虑:什么是热度?(被查询/点击的次数)。什么影响热度?
    机器学习之数据分析与特征工程_第3张图片
    数据集示例:机器学习之数据分析与特征工程_第4张图片
    统计分布,判断离群点与数据分布详情
    机器学习之数据分析与特征工程_第5张图片具体方法,绘制柱状图或直方图(pyplot)或pandas的describe()函数。
    注:数据左偏,可以取log,使其接近正态分布

文本类型数据:云图显示更好
机器学习之数据分析与特征工程_第6张图片绘图是为了更好的展示可视化,有很多基于matplotlib二次开发的绘图库。
总结:对数据处理分析及可视化,是为了在建模之前更好的理解数据之间的关系,并调整离群数据,从而更好的建模解决问题。

  1. 特征工程
    类别特征:可分为两种类型:有序和无序
    类别特征编码方式:机器学习之数据分析与特征工程_第7张图片机器学习之数据分析与特征工程_第8张图片机器学习之数据分析与特征工程_第9张图片机器学习之数据分析与特征工程_第10张图片
    机器学习之数据分析与特征工程_第11张图片
    机器学习之数据分析与特征工程_第12张图片
    数值类型特征:是常见的连续特征,容易出现离群点和异常值
    机器学习之数据分析与特征工程_第13张图片
    机器学习之数据分析与特征工程_第14张图片机器学习之数据分析与特征工程_第15张图片机器学习之数据分析与特征工程_第16张图片机器学习之数据分析与特征工程_第17张图片日期类型特征:
    机器学习之数据分析与特征工程_第18张图片
    交叉特征:将两个字段交叉后构建一个新特征
    同类型:加减除,笛卡尔积
    不同类型:乘除
    聚合特征(先分组再聚合):同比,环比

  2. 模型训练与验证
    数据集按照使用用途可以划分为:
    训练集:模型巡练和参数更新
    测试集:验证模型精度
    验证集:进行模型验证与参数选择
    训练过程:过拟合与欠拟合
    机器学习之数据分析与特征工程_第19张图片

如想学习,请关注七月在线第16期机器学习训练营,https://edu.csdn.net/learn/36190?spm=1002.2001.3001.4157

你可能感兴趣的