机器学习基本过程分5步!如何通过过滤法实现机器学习特征选择?

在这篇文章中，小编将为大家带来机器学习的相关报道。如果你对本文即将要讲解的内容存在一定兴趣，不妨继续往下阅读哦。

一、机器学习的基本过程

1.确定目标

机器学习的目标并不在于机器学习，而在于我们将这种方法应用到现实场景，去解决现实的问题点。所以在工作开始之前，我们需要想清楚自己是要实现何种目标，比如是要对流失用户进行风险预警，对潜在付费用户进行意愿评估，还是对信贷用户进行欺诈识别。

2.诊断问题

因为明确了所要实现的目标，所以可以根据现实基础来诊断问题。为了实现这个目标，需要机器学习给到怎样的输出，单纯的0-1标签即可，还是需要连续的风险概率;目前的数据量是否能支撑这个项目，业务样本的黑白比例是否不够均衡，这些问题都是需要诊断的。

3.方案设计

明确了要实现的目标，也了解了现实基础里存在的问题点，便可以展开方案设计。在这个细分的业务场景下，适合选用哪一类型的算法，不同算法往往是为不同领域而生的;在这个场景下，如果没有明确的黑白样本，需要基于何种方法来进行样本定义。在方案设计的环节，需要给出一个工作开展的大的方向，相当于把时间和精力限制在一个合适的框架中。

4.方案执行

在方案执行的过程中遇到问题时，如何进行解决，也是很重要的环节。机器学习算法的执行，一般称之为最优化的过程，即在一个算法框架下，如何最快地达到最优的结果。而针对整个方案的执行，又会包括数据准备，特征工程，算法调试，模型评估等具体事项，每一个事项相互独立，各有各的方法论，但又相互影响，上下游之间的执行效果环环相扣。

5.评估迭代

评估的过程，其实就是一个目标量化的过程，因为有了量化，所以有了绝对意义上的效果优劣。只是不同的业务目标，不同的模型框架，对应的评估体系是不一样的。建立一套合适的评估方式，机器学习项目也就实现了闭环，可以在迭代中去逐步逼近要实现的业务目标。

二、基于过滤法实现机器学习特征选择

基于过滤法(Filter)实现特征选择是最为简单和常用的一种方法，其最大优势是不依赖于模型，仅从特征的角度来挖掘其价值高低，从而实现特征排序及选择。实际上，基于过滤法的特征选择方案，其核心在于对特征进行排序——按照特征价值高低排序后，即可实现任意比例/数量的特征选择或剔除。显然，如何评估特征的价值高低从而实现排序是这里的关键环节。为了评估特征的价值高低，大体可分为如下3类评估标准：

基于特征所含信息量的高低：这种一般就是特征基于方差法实现的特征选择，即认为方差越大对于标签的可区分性越高;否则，即低方差的特征认为其具有较低的区分度，极端情况下当一列特征所有取值均相同时，方差为0，对于模型训练也不具有任何价值。当然，实际上这里倘若直接以方差大小来度量特征所含信息量是不严谨的，例如对于[100, 110, 120]和[1, 5, 9]两组特征来说，按照方差计算公式前者更大，但从机器学习的角度来看后者可能更具有区分度。所以，在使用方差法进行特征选择前一般需要对特征做归一化

基于相关性：一般是基于统计学理论，逐一计算各列与标签列的相关性系数，当某列特征与标签相关性较高时认为其对于模型训练价值更大。而度量两列数据相关性的指标则有很多，典型的包括欧式距离、卡方检验、T检验等等

基于信息熵理论：与源于统计学的相关性方法类似，也可从信息论的角度来度量一列特征与标签列的相关程度，典型的方法就是计算特征列与标签列的互信息。当互信息越大时，意味着提供该列特征时对标签的信息确定程度越高。这与决策树中的分裂准则思想其实是有异曲同工之妙

当然，基于过滤法的特征选择方法其弊端也极为明显：

因为不依赖于模型，所以无法有针对性的挖掘出适应模型的最佳特征体系;

特征排序以及选择是独立进行(此处的独立是指特征与特征之间的独立，不包含特征与标签间的相关性计算等)，对于某些特征单独使用价值低、组合使用价值高的特征无法有效发掘和保留。

最后，小编诚心感谢大家的阅读。你们的每一次阅读，对小编来说都是莫大的鼓励和鼓舞。希望大家对机器学习已经具备了初步的认识，最后的最后，祝大家有个精彩的一天。