这是一个kaggle项目的冠军代码
看起来还是比较麻烦,这里记录一下这个冠军代码的一些处理方法
这部分使用了集成学习的方法
主要使用了LR、RF、GB这三种学习方法
每一种学习方法大概使用了四五次,也就是对数据集也进行了各种处理
"LR:tuples_sf",
"LR:greedy_sfl",
"LR:greedy2_sfl",
"LR:greedy3_sf",
"RFC:basic_b",
"RFC:tuples_f",
"RFC:tuples_fd",
"RFC:greedy_f",
"RFC:greedy2_f",
"GBC:basic_f",
"GBC:tuples_f",
"LR:greedy_sbl",
"GBC:greedy_c",
"GBC:tuples_cf"
上面左边是算法名字,右边的是数据集代号
左边的分类方法比较好理解,不过右边的不好理解
这里记录一下右边是如何处理数据的
数据的情况:
共有十列:
ACTION 是否有权限
RESOURCE 资源id
MGR_ID 经理id
ROLE_ROLLUP_1
ROLE_ROLLUP_2
ROLE_DEPTNAME
ROLE_TITLE
ROLE_FAMILY_DESC
ROLE_FAMILY
ROLE_CODE
bsfeats:
去掉ROLE_CODE和ACTION这两列
X_all['ROLE_TITLE'] = X_all['ROLE_TITLE'] + (1000 * X_all['ROLE_FAMILY'])
X_all['ROLE_ROLLUPS'] = X_all['ROLE_ROLLUP_1'] + (10000 * X_all['ROLE_ROLLUP_2'])
X_all = X_all.drop(['ROLE_ROLLUP_1', 'ROLE_ROLLUP_2', 'ROLE_FAMILY'],axis=1)
到现在就剩下六列:
RESOURCE,MGR_ID,ROLE_DEPTNAME,ROLE_TITLE,ROLE_FAMILY_DESC,ROLE_ROLLUPS
对每一列添加cnt列:
此步骤是为了对前六列做处理,生成新的六列,过程如下
对每列进行分组,然后把组数的log值填充到相应的位置
再添加Duse列:
还是先按列各自进行分组,然后再按照resource分组
用每组RESOURCE的个数除以总个数
添加mdept列:
主要是添加相同经理的个数,按照经理先对数据进行分组
填充该经理组中资源的种类数
处理完后把前六列的数据删除
greedy:
这个处理过程就比较重量级了,由于数据都是类别型的,所以都使用了编码
首先把特征中的ACTION和ROLE_CODE两个特征去掉
然后让剩下的特征两两组合
这样就生成了很多新的特征,每一列的值用组合数据的hash值填充
下一步要给所有的特征做onehot编码
然后要选取比较好的feature选择过程是使用auc的得分来算
使用n-cv的方式,对选取的特征使用logisticReg的方法来判断auc计算得分
最终获取得分高的几个特征
基本思想就是这样