1、过滤法,因为该方法变量选择是一种与模型无关的变量选择方法,我们可以先进行变量选择得到入模变量,再进行模型训练。
2、包装法,该方法是一种与模型相关的变量选择方法,即在特征空间中随机挑选特征子集,然后选择一个模型,最后采用交叉验证的方式测试不同特征子集上模型的表现。
3、嵌入法,这种方法与包装法类似,但同样也是一种模型相关的变量选择方法,除此之外,它不需要多次构建模型,只需要同步完成模型训练,所以我们不需要采用贪婪的方法去构造特征子集。
1、过滤法,因为该方法变量选择是一种与模型无关的变量选择方法,我们可以先进行变量选择得到入模变量,再进行模型训练。
2、包装法,该方法是一种与模型相关的变量选择方法,即在特征空间中随机挑选特征子集,然后选择一个模型,最后采用交叉验证的方式测试不同特征子集上模型的表现。
3、嵌入法,这种方法与包装法类似,但同样也是一种模型相关的变量选择方法,除此之外,它不需要多次构建模型,只需要同步完成模型训练,所以我们不需要采用贪婪的方法去构造特征子集。