文章目录
数据集描述准备工作实验环境和工具预测分析探索性数据分析数据描述可视化分析构建baseline数据预处理离群值处理缺失值处理特征工程数据标准化模型构建与调参优化完整代码数据集描述
本数据集内含十个属性列
Pergnancies: 怀孕次数
Glucose：血糖浓度
BloodPressure：舒张压(毫米汞柱)
SkinThickness：肱三头肌皮肤褶皱厚度(毫米)
Insulin：两个小时血清胰岛素(μU/毫升)
BMI：身体质量指数，体重除以身高的平方
Diabets Pedigree Function: 疾病血统指数
是否和遗传相关，Height：身高(厘米)
Age：年龄
Outcome：0表示不患病，1表示患病。
任务：建立机器学习模型以准确预测数据集中的患者是否患有糖尿病
准备工作
查阅资料得知各属性的数据值要求，方面后期对于数据的分析与处理过程。
属性列名称 数据值要求
Pergnancies(怀孕次数) 符合常理即可（可为0）
Glucose(血糖浓度) 正常值为：80~120
BloodPressure(舒张压(毫米汞柱)) 正常值为：60~80
SkinThickness(肱三头肌皮肤褶皱厚度(毫米)) 不为0
Insulin(两个小时血清胰岛素(/毫升)) 正常值为：35~145
BMI(身体质量指数:体重除以身高的平方) 正常值为：18.5~24.9
Diabets Pedigree Function:(疾病血统指数:是否和遗传相关) 无特殊值要求
Height(身高(厘米)) 不为0 符合常理即可
Age(年龄) 符合常理即可
Outcome(0表示不患病，1表示患病) 标签值
实验环境和工具
python3.5.6 + jupyter
数据处理 pandas、numpy
可视化 matplotlib、seaborn
模型构建 sklearn
预测分析
探索性数据分析
数据描述
首先观察基本的数据类型，以及数据是否存在缺失情况，简要统计信息
all_data.shapeall_data.info()
<class 'pandas.core.frame.DataFrame'>RangeIndex: 768 entries, 0 to 767Data columns (total 10 columns):# ColumnNon-Null Count Dtype --- -------------------- ----- 0 Pregnancies768 non-null int64 1 Glucose 768 non-null int64 2 BloodPressure 768 non-null int64 3 SkinThickness 768 non-null int64 4 Insulin 768 non-null int64 5 BMI 768 non-null float646 DiabetesPedigreeFunction 768 non-null float647 Age 768 non-null int64 8 Height766 non-null object 9 Outcome 768 non-null int64 dtypes: float64(2), int64(7), object(1)memory usage: 60.1+ KB
数据总量时比较少的只有768个例子，可以看到除Height外的属性都为数值型属性。在后续数据预处理过程需要对Height属性进行类型转换操作。目前没有缺失值的出现。
# height 数值类型 为object 需要转化为 数值型all_data = all_data.astype({'Height':'float64'})
all_data.describe()
发现两个问题：
缺失值
从其中的min值可以很直观地观察到，Glucose, BloodPressure, SkinTinckness, Insulin, BMI等特征存在0值的情况（当然Pregnancies根据常识判断是可以为0的）。而根据常规范围明显可以判定这些0值是不合理的，所以也是一种缺失值缺失值，后续数据预处理需要对这些缺失值进行填充处理。离群值/异常值
Glucose，BloodPressure，SkinTinckness，Insulin等特征的max值和75%分位点值或者min值和25%分位点值之间的差距比较大，初步判断可能存在离群值/异常值。尤其是SkinThickness和Insulin特征（具体见图4红色框部分），后续可以通过可视化进一步直观地观察判断。
为了方便后序对缺失值的统一处理，将异常值统一替换为np.nan。
import numpy as np#缺失值替换 经分析，除怀孕次数，其他特征的0值表示缺失值 替换为np.nanreplace_list = ['Glucose', 'BloodPressure', 'SkinThickness', 'Insulin', 'BMI', 'Height']all_data.loc[:,replace_list] = all_data.loc[:,replace_list].replace({0:np.nan})
#各特征缺失数量统计null_count = all_data.isnull().sum().values# 缺失值情况plt.figure()sns.barplot(x = null_count, y = all_data.columns)for x, y in enumerate(null_count):plt.text(y, x, "%s" %y, horizontalalignment='center', verticalalignment='center')plt.show()
可以观察到Glucose，Insulin，SkinThickness，BMI，Height等特征都存在缺失值。并且 Insulin，SkinThickness缺失值比较多，分别占到了48%，30%的比例。所以后期数据预处理也是很关键的。
可视化分析
接下来通过更多针对性的可视化，来进一步探索特征值的分布以及特征和预测变量之间的关系
# 患病和不患病情况下 箱线图查看数据分散情况for col in all_data.columns:plt.figure(figsize = (10,6))if all_data[col].unique().shape[0] > 2:sns.boxplot(x="Outcome", y=col, data=all_data.dropna())else:sns.countplot(col,hue = 'Outcome',data = all_data.dropna())plt.title(col)plt.show()
部分输出：
观察患病和不患病情况下 各特征值或者人数分布label接近2:1 存在一定的分布不平衡 像insulin之类的特征离群值是比较多的，由于离群值会对模型评估产生影响，所以后续可能要做处理，剔除偏离较大的离群值
# 患病和不患病情况下 各特征的分布情况for col in all_data.drop('Outcome',1).columns:plt.figure()sns.displot(data = all_data, x = col,hue = 'Outcome',kind='kde')plt.show()
部分输出：
从数据样本本身出发研究数据分布特征，可以发现在患病和不患病两种情况下，部分特征的密度分布比较相近，特别是height的分布图，发现两曲线基本相近。感觉和label之间的相关性都不是很强。同时，可以发现部分特征存在右偏的现象（skewness (偏度) 描述数据分布形态的统计量，其描述的是某总体取值分布的对称性），考虑到需要数据尽量服从正态分布，所以后续数据预处理需要对存在一定偏度的特征进行相关处理。
# 观察各特征分布和患病的关系corr = all_data.corr()plt.figure(figsize = (8,6))sns.heatmap(corr,annot = True,cmap = 'Blues')plt.show()
heatmap()函数可以直观地将数据值的大小以定义的颜色深浅表示出来。
可以发现颜色相对来说都比较浅，也就是说无论是特征和特征之间还是特征和outcome标签之间的相关性都没有很高。发现其余各特征变量中与outcome的相关度中最高的是Glucose 属性值为0.49，最低的是Height属性值为0.059。同时观察特征与特征之间的关系，发现Insulin与Glucose，BMI和SkinThickness之间的相关度分别为0.58，0.65属于比较高的相关性，由于Insulin是一个确实比较严重的特征，而相关性可以是一种协助填充缺失值的方法。
plt.figure()sns.scatterplot(x = 'Insulin', y = 'Glucose', data = all_data)plt.show()sns.scatterplot(x = 'Insulin', y = 'BMI', data = all_data)plt.show()sns.scatterplot(x = 'Insulin', y = 'Age', data = all_data)plt.show()plt.figure()sns.scatterplot(x = 'SkinThickness', y = 'BMI', data = all_data)plt.show()sns.scatterplot(x = 'SkinThickness', y = 'Glucose', data = all_data)plt.show()sns.scatterplot(x = 'SkinThickness', y = 'BloodPressure', data = all_data)plt.show()
部分输出：
构建baseline
因为决策树几乎不需要数据预处理。其他方法经常需要数据标准化，创建虚拟变量和删除缺失值。
# 读取数据all_data = pd.read_csv('data.csv')# height 数值类型 为object 需要转化为 数值型all_data = all_data.astype({'Height':'float64'})# all_data.dropna(inplace = True)# 特征feature_data = all_data.drop('Outcome',1)# 标签label = all_data['Outcome']base_model = DecisionTreeClassifier()base_scores = cross_validate(base_model, feature_data, label,cv=5,return_train_score=True)print(base_scores['test_score'].mean())
0.6954248366013072
数据预处理
综合前面分析，先做了以下处理
# 读取数据all_data = pd.read_csv('data.csv')# height 数值类型 为object 需要转化为 数值型all_data = all_data.astype({'Height':'float64'})# 理论缺失值0替换为np.nanreplace_list = ['Glucose', 'BloodPressure', 'SkinThickness', 'Insulin', 'BMI', 'Height']all_data.loc[:,replace_list] = all_data.loc[:,replace_list].replace({0:np.nan})# 删除相关性低的Heightall_data.drop('Height',1,inplace = True)
离群值处理
经过前面的分析发现数据是存在部分离群值的，虽然实验本身就是关于疾病预测，异常值的存在属于正常现象。但是对于一些可能超出人体接受范围的值，衡量对预测的影响之后，由于数据量比较小，这里选择删除极端异常点。极端异常点 ：上限的计算公式为Q3+3(Q3-Q1) 下界的计算公式为Q1-3(Q3-Q1)）。# remove the outliers# 异常点 上须的计算公式为Q3+1.5(Q3-Q1)；下须的计算公式为Q1-1.5(Q3-Q1)# 极端异常点 ：上限的计算公式为Q3+3(Q3-Q1) 下界的计算公式为Q1-3(Q3-Q1)# 由于数据量比较少 所以选择删除极端异常值def remove_outliers(feature,all_data):first_quartile = all_data[feature].describe()['25%']third_quartile = all_data[feature].describe()['75%']iqr = third_quartile - first_quartile# 异常值下标index = all_data[(all_data[feature] < (first_quartile - 3*iqr)) | (all_data[feature] > (first_quartile + 3*iqr))].indexall_data = all_data.drop(index)return all_dataoutlier_features = ['Insulin', 'Glucose', 'BloodPressure', 'SkinThickness', 'BMI', 'DiabetesPedigreeFunction']for feat in outlier_features:all_data = remove_outliers(feat,all_data)
处理之后的数据基本的统计信息
缺失值处理
为了防止数据泄露，尽量在划分训练集测试集之后，即不要在整体数据上做preprocessing 所以缺失数值填充最好分开进行处理
缺失值处理这里考虑
直接删除处理
def drop_method(all_data):median_fill = ['Glucose', 'BloodPressure','SkinThickness', 'BMI','Height']for column in median_fill:median_val = all_data[column].median()all_data[column].fillna(median_val, inplace=True)all_data.dropna(inplace = True)return all_data
中值填充
def median_method():for column in list(all_data.columns[all_data.isnull().sum() > 0]):median = all_data[column].median()all_data[column].fillna(median, inplace=True)
KNNImputer填充
def knn_method():# 先将缺失值比较少的特征用中值填充values = {'Glucose': all_data['Glucose'].median(),'BloodPressure':all_data['BloodPressure'].median(),'BMI':all_data['BMI'].median()}all_data.fillna(value=values,inplace=True)# 用KNNImputer 填充 Insulin SkinThicknesscorr_SkinThickness = ['BMI', 'Glucose','BloodPressure', 'SkinThickness']# 权重按距离的倒数表示。在这种情况下，查询点的近邻比远处的近邻具有更大的影响力SkinThickness_imputer = KNNImputer(weights = 'distance')all_data[corr_SkinThickness] = SkinThickness_imputer.fit_transform(all_data[corr_SkinThickness])corr_Insulin = ['Glucose', 'BMI','BloodPressure', 'Insulin']Insulin_imputer = KNNImputer(weights = 'distance')all_data[corr_Insulin] = Insulin_imputer.fit_transform(all_data[corr_Insulin])
随机森林填充
from sklearn.ensemble import RandomForestRegressorfrom sklearn.impute import SimpleImputer # 用来填补缺失值def predict_method(feature):# 复制一份数据 避免对原数据做出不必要的修改copy_data = all_data.copy()# 缺失了的下标predict_index = copy_data[copy_data[feature].isnull()].index# 没缺失的下标train_index = copy_data[feature].dropna().index# 用作预测 的训练集标签train_label = copy_data.loc[train_index,feature]copy_data = copy_data.drop(feature,axis=1)# 对特征先用中值填充imp_median = SimpleImputer(strategy='median')# 用作预测的训练集特征train_feature = copy_data.loc[train_index]train_feature = imp_median.fit_transform(train_feature)# 需要进行预测填充处理的缺失值pre_feature = copy_data.loc[predict_index]pre_feature = imp_median.fit_transform(pre_feature)# 选取随机森林模型fill_model = RandomForestRegressor()fill_model = fill_model.fit(train_feature,train_label)# 预测 填充pre_value = fill_model.predict(pre_feature)all_data.loc[predict_index,feature] = pre_value#用随机森林的方法填充缺失值较多的 SkinThickness 和 Insulin 缺失值predict_method("Insulin")predict_method("SkinThickness")# 其余值中值填充for column in list(all_data.columns[all_data.isnull().sum() > 0]):median = all_data[column].median()all_data[column].fillna(median, inplace=True)
特征工程
# 特征feture_data = all_data.drop('Outcome',1)# 标签label = all_data['Outcome']
# 利用BMI和身高构造weight特征# BMI = weight(kg) / height(m)**2feture_data['weight'] = (0.01*feture_data['Height'])**2 * feture_data['BMI']
数据标准化
# 标准化Std = StandardScaler()feture_data = Std.fit_transform(feture_data)
模型构建与调参优化
用到的模型
from sklearn.svm import SVC,SVR
from sklearn.tree import DecisionTreeClassifier
from sklearn.linear_model import LogisticRegression
from sklearn.ensemble import RandomForestClassifier,StackingClassifier
调参方法
from sklearn.model_selection import GridSearchCV
评估指标 Accuracy roc_auc
from sklearn.metrics import make_scorer from sklearn.metrics import
accuracy_score from sklearn.metrics import roc_auc_score
def train(model, params):grid_search = GridSearchCV(estimator = model, param_grid = params,scoring=scores,refit='Accuracy')grid_search.fit(feture_data,label)print(grid_search.best_estimator_)return grid_searchdef paint(x,y):plt.figure()sns.lineplot(x=x,y=y)plt.show()
SVC
#调参时先尝试一个大范围，确定比较小的范围，然后在小范围里搜索model = SVC()params = {'C':np.linspace(0.1, 2, 100)}SVC_grid_search = train(model,params)paint([x for x in range(100)],SVC_grid_search.cv_results_['mean_test_Accuracy'])paint([x for x in range(100)],SVC_grid_search.cv_results_['mean_test_AUC'])print("test_Accuracy : {}\ntest_AUC : {}".format(SVC_grid_search.cv_results_['mean_test_Accuracy'].mean(),SVC_grid_search.cv_results_['mean_test_AUC'].mean()))
LogisticRegression
model = LogisticRegression()params = {"C":np.linspace(0.1,2,100)}LR_grid_search = train(model,params)paint([x for x in range(100)],LR_grid_search.cv_results_['mean_test_Accuracy'])paint([x for x in range(100)],LR_grid_search.cv_results_['mean_test_AUC'])print("test_Accuracy : {}\ntest_AUC : {}".format(LR_grid_search.cv_results_['mean_test_Accuracy'].mean(),LR_grid_search.cv_results_['mean_test_AUC'].mean()))
RandomForestClassifier
model = RandomForestClassifier()params = {"n_estimators":[x for x in range(30,50,2)],'min_samples_split':[x for x in range(4,10)]}RFC_grid_search = train(model,params)print("test_Accuracy : {}\ntest_AUC : {}".format(RFC_grid_search.cv_results_['mean_test_Accuracy'].mean(),RFC_grid_search.cv_results_['mean_test_AUC'].mean()))
StackingClassifier
estimators = [('SVC',SVC_grid_search.best_estimator_),('NB', LR_grid_search.best_estimator_),('RFC', RFC_grid_search.best_estimator_)]model = StackingClassifier(estimators=estimators, final_estimator=SVC())model_score = cross_validate(model,feture_data, label,scoring=scores)print("test_Accuracy : {}\ntest_AUC : {}".format(model_score['test_Accuracy'].mean(),model_score['test_AUC'].mean()))
SVC预测结果：
直接删除缺失值以及异常值删除公式上限Q3+1.5(Q3-Q1)；下限计算公式为Q1-1.5(Q3-Q1)
SVC(C=1.097979797979798)
test_Accuracy : 0.8549075391180654
test_AUC : 0.511601411290322
直接删除缺失值以及异常值删除公式上限Q3+3(Q3-Q1)；下限计算公式为Q1-3(Q3-Q1)
SVC(C=1.405050505050505)
test_Accuracy : 0.7953321596244133
test_AUC : 0.7133755225726653
中值填充以及异常值删除公式上限Q3+3(Q3-Q1)；下限计算公式为Q1-3(Q3-Q1)
SVC(C=1.7888888888888888)
test_Accuracy : 0.7814101086443079
test_AUC : 0.7248522348166069
其余略
总结：
一些删除数据值的处理方法导致样本标签的不均衡会导致对比例大的样本造成过拟合，也就是说预测偏向样本数较多的分类。这样就会大大降低模型的泛化能力。表现在准确率很高，但roc_auc_score很低。上面SVC的预测结果就很好的说明了。可以看出由于缺失值比较多，所以反而各种填充方法的效果比直接删除的效果是要更差的（也有可能我没找到合适的填充方法）关于离群值的处理，主要方法有直接删除法，替换为缺失值处理，以及中值填充法等。由于缺失值处理那里的效果不是很理想，所以就选择了直接删除，并且在平衡了roc_auc_score和accuracy两个指标后，选择只删除极端异常点。关于样本0/1比例的问题，可以考虑上采样或者下采样的方法平衡样本。本文不涉及。
完整代码
/wang-hui-shan/Pima_Diabetes_Predict
特别鸣谢：评论区提建议的小伙伴>-<
如果觉得《sklearn预测pima糖尿病》对你有帮助，请点赞、收藏，并留下你的观点哦！
