实战天池精准医疗大赛——观看答辩总结
实战天池精准医疗大赛——观看答辩总结
#算法实战
1. 说明
今天是天池精准医疗大赛(糖尿病预测)的最终答辩,学习了一下前六名的经验分享.把自己没想到的列出来,如下.
2. 特征
- 多特征组合:
一般是现有特征加减乘除的组合,在特征多的情况下,先取强特征相互组合
.
- 数据分析:
常用分析方法:IV 值分析(information value),方差,残差,单变量分析,PCA 等等.
特征的相关性与去冗余:特征和结果的相关性分析可能找不出一些非线性相关,但是特征之间的强相关,可以帮助去掉一些冗余.
小数据集中某些特征,可能引起过拟合.
- 缺失值填充:
Nuclear,MICE,最近邻填充.
对于不同缺失比例,可使用不同方法填充.
- 单指标特征概率相对分布图
衡量单变量在取值变化过程中,正负样本比例随取值变化的一个相对变化程度的总结(这个值与相关性差别很大).可以在去掉和不去掉缺失值的情况下,分别统计.
连续特征/离散特征使用不同的统计方法:QQPlot,四分位图.
- 将不同特征划分为不同的训练集和测试集.
这可能是一种人为的预分类.
3. 算法
因子分解机 FM
适合小数据量的 catboost 模型
用遗传算法调参
模型级联
先用 A 算法筛,筛出的疑似再用其它算法筛.
弱模型组合时需要注意模型差异性.
- 分类时可用回归模型,回归时可用分类模型
4. 最终结果处理
把重要数据和规则存下来,在没模型的情况下也能使用.
除了精确度,还要考虑实例数量,如某种情况下可能 100% 得病,但人数少.
All articles in this blog are licensed under CC BY-NC-SA 4.0 unless stating additionally.