内容简介:决策树算法的Python实现—基于金融场景实操
科学总把简单的问题转化的很复杂,在彰显其严谨的同时,也把大部分学习者挡在了门外;本次分享,jacky带你拨开云雾,深入浅出,走进决策树算法的世界!
基本概念
-
决策树(Decision Tree)
-
它通过对训练样本的学习,并建立分类规则,然后依据分类规则,对新样本数据进行分类预测,属于有监督学习。
-
优点
-
在相对短的时间内,能够对大型数据做出可行且效果良好的结果;
-
使用者不需要了解很多的背景知识,通过决策树就能够直观形象的了解分类规则;
-
1)决策树易于理解和实现
-
2)决策树能够同时处理数值型和非数值型数据
逻辑-类比
决策树分类的思想类似于找对象,例如一个女孩的母亲要给这个女孩介绍男朋友,于是母女俩有了下面的对话:
女儿问:“多大年龄了”;母亲答:“26”
女儿接着问:“长得帅不帅?”;母亲答:“挺帅的。”
女儿问:“收入高不?”;母亲答:“不算很高,中等情况”
女儿问:“是公务员吗?”;母亲答:“是,在财政局上班”
最后,女儿做出决定说:“那好,我去见见!”
这个女孩的决策过程就是典型的分类树决策:
在来看一个金融场景下的举例:客户向银行贷款的时候,银行对用户的贷款资格做一个评估的流程:
首先银行工作人员询问客户是否有房产,如何回答有,则判断客户可以偿还贷款,如果没有则进入第二层的属性判断询问,是否结婚,如何已婚,两个人可以负担的起贷款,则判断为可以偿还,否则进入第三层的属性判断询问,月薪是否超过五千,如果满足,则判断为可以偿还,否则给出不能偿还贷款的结论。
看完上面两个例子,我们可以看出,决策树是非常实用的,下面我们就进入正式案例的讲解;
案例实操
下面以金融场景举例:
(一)情景铺垫
用户购买金融产品的过程“类似于”理财,对于P2P平台来说,严格来说,这个过程称之为撮合。
用户在金融平台上充值购买相应期限和约定利率的金融产品,产品到期后,用户有两种选择一种是提现(赎回),另一种就是复投。
对于用户到期赎回的理解是比较简单的,比如你在2018年1月1日买了6个月10万元定存金融产品,那么在2018年7月1日的时候,你可以选择连本带息全部赎回,当然你也可以在到期日选择在平台还款时,继续投资,这个过程就是复投。
(二)需解决的问题
作为金融平台来说,为了把控风险,保证资金的流动性,都一定要提前预测(预判)未来一段时间内的用户充值和提现金额。
那么,准确预测用户到期是否复投,对于我们金融从业者和管理人员来说,就是特别重要了。
-
那么,我们可以提出我们亟需解决的问题:
-
用户到期是否复投,我们该怎样预判?
(三)一个初步模型的建立
场景:预测用户是否复投
注:以下数据源模拟真实数据编撰
1.选择特征变量-featureDate
(1)数据源抓取
import pandasdata = pandas.read_csv('file:///Users/apple/Desktop/jacky_reinvest.csv',encoding='GBK')print(data)
-
jacky注解(1):上面这份数据源已经经过了预处理(数据清理),在实际工作种,我们拿到数据源的第一步一定是做数据清理的。在实操种,是否有预处理这个过程,也是数据科学与传统的统计科学的重要区别之一;本文数据示例,为了分享方便,示例数据还是比较规整的,但在实际工作中,一定不要忘了数据清洗这一步。
-
jacky注解(2): 初始心里预期是一个产品概念,就是用户在购买定存金融产品的时候,可以预先设定是否需要复投,当然这只是一个预设定,在用户购买到赎回这个过程中,我们都可以随时变更。复投模式是一个过去式,也是最终的复投结果,所以下面我们会把这列当作目标变量来处理。
(2)哑变量处理(虚拟变量转化)
需处理的特征变量有:
-
金融产品
-
初始心里预期
-
客户类别
#调用Map方法进行可比较大小虚拟变量的转换productDict={'12个月定存':4,'6个月定存':3,'3个月定存':2,'1个月定存':1}data['产品Map']=data['金融产品'].map(productDict)#调用get_dummyColumns方法进行不可比较大小虚拟变量的转换dummyColumns = ['初始心里预期','客户类别',]for column in dummyColumns:
data[column]= data[column].astype('category')dummiesData=pandas.get_dummies(
data,
columns=dummyColumns,prefix=dummyColumns
,prefix_sep='_',dummy_na=False,drop_first=False)#挑选可以建模的变量 featureDatafData = dummiesData[[
'购买金额','产品Map','初始心里预期_复投','客户类别_VIP用户']]
-
jacky注解(3):关于哑变量更详细的说明,可以参照我《特征工程三部曲》这篇文章,哑变量处理要处理的就是离散变量,购买金额的列,因为都是连续型数据,所以就谈不上虚拟变量处理的。
-
jacky注解(4):离散变量分为有比较关系的离散变量和无比较关系的离散变量,所以需要用map方法和get_dummyColumns方法分别处理;
2.选择目标变量-targerDate
#设定目标变量 targetDatatData = dummiesData['复投模式']
-
jacky注解(5):目标变量是我们分析问题的目标和结果,从目标变量既定的历史数据中,我们可以”喂养”数据,继而训练数据,最终达到洞察预测数据的目的。
3.决策树问题的求解与建模
#生成决策树from sklearn.tree import DecisionTreeClassifier#设置最大叶子数为8dtModel = DecisionTreeClassifier(max_leaf_nodes=8)
-
jacky注解(6):生成决策树并设置最大叶子树为8,使⽤sklearn的DecisionTreeClassifer类进⾏行决策树问题的求解与建模,关于最大叶子树,可以在看过图形化之后,在反过来理解这部分,就简单的多了,在这里我们可以先理解为这是一个很常用的参数即可。
4.10折交叉验证
#模型检验-交叉验证法from sklearn.model_selection import cross_val_scorecross_val_score(
dtModel,
fData,tData,cv=10)
-
jacky注解(7):从控制台的输出可以看出,每次验证的评分都超过0.9,是一个非常不错的模型,可以用于实践;
5.模型训练
#训练模型dtModel=dtModel.fit(fData,tData)
控制台结果输出:
6.模型可视化
决策树的绘图方法:
-
sklearn.tree.export_graphviz(… …)
-
dtModel:决策树模型
-
out_file:图形数据的输出路径
-
class_names:目标属性的名称,一般用于中文化
-
feature_names:特征属性的名称,一般用于种文化
-
filled= True :是否使用颜色填充
-
rounded=True:边框是否采用圆角边框
-
special_characters: 是否有特殊字符
#模型可视化import pydotplusfrom sklearn.externals.six import StringIO #生成StringIO对象from sklearn.tree import export_graphvizdot_data = StringIO() #把文件暂时写在内存的对象中export_graphviz(
dtModel,
out_file=dot_data,
class_names=['复投','不复投'],
feature_names=['购买金额','产品Map',
'初始心里预期_不复投','客户类别_VIP用户'],
filled=True,rounded=True,special_characters=True)graph = pydotplus.graph_from_dot_data(dot_data.getvalue())graph.write_png('shujudata.png')
-
jacky注解(8):需要提前安装graphviz软件
-
jacky注解(9):最大叶子树,一般设置为8个,因为叶子数太多,决策树的结构越复杂,太复杂的结构就会导致训练过度的问题,因此,在决策树算法中,设置合适叶子数是非常重要的。
-
jacky注解(10):gini值越接近于0,那么结果就越显而易见,如果越接近于1,那么结果就越难判定;
完整代码展示
#---author:朱元禄---import pandasdata = pandas.read_csv('file:///Users/apple/Desktop/jacky_reinvest.csv',encoding='GBK')#调用Map方法进行可比较大小虚拟变量的转换productDict={'12个月定存':4,'6个月定存':3,'3个月定存':2,'1个月定存':1}data['产品Map']=data['金融产品'].map(productDict)#调用get_dummyColumns方法进行可比较大小虚拟变量的转换dummyColumns = ['初始心里预期','客户类别',]for column in dummyColumns:
data[column]= data[column].astype('category')dummiesData=pandas.get_dummies(
data,
columns=dummyColumns,prefix=dummyColumns
,prefix_sep='_',dummy_na=False,drop_first=False)#挑选可以建模的变量 featureDatafData = dummiesData[[
'购买金额','产品Map','初始心里预期_复投','客户类别_VIP用户']]#设定目标变量 targetDatatData = dummiesData['复投模式']#生成决策树from sklearn.tree import DecisionTreeClassifier#设置最大叶子数为8dtModel = DecisionTreeClassifier(max_leaf_nodes=8)'''#模型检验-交叉验证法from sklearn.model_selection import cross_val_scorecross_val_score( dtModel, fData,tData,cv=10)'''#训练模型dtModel=dtModel.fit(fData,tData)#模型可视化import pydotplusfrom sklearn.externals.six import StringIO #生成StringIO对象from sklearn.tree import export_graphvizdot_data = StringIO() #把文件暂时写在内存的对象中export_graphviz(
dtModel,
out_file=dot_data,
class_names=['复投','不复投'],
feature_names=['购买金额','产品Map',
'初始心里预期_不复投','客户类别_VIP用户'],
filled=True,rounded=True,special_characters=True)graph = pydotplus.graph_from_dot_data(dot_data.getvalue())graph.write_png('shujudata.png')
End.
作者:润禄数据jacky (中国统计网特邀认证作者)
本文为中国统计网原创文章,需要转载请联系中国统计网 (小编微信:itongjilove) ,转载时请注明作者及出处,并保留本文链接。
以上所述就是小编给大家介绍的《决策树算法的Python实现—基于金融场景实操》,希望对大家有所帮助,如果大家有任何疑问请给我留言,小编会及时回复大家的。在此也非常感谢大家对 码农网 的支持!
猜你喜欢:- 决策树学习笔记(三):CART算法,决策树总结
- 通俗易懂--决策树算法、随机森林算法讲解(算法+案例)
- 决策树算法及实现
- 机器学习算法之决策树
- 神经支持决策树 (NBDT) 算法研究
- AI产品经理必懂算法:决策树
本站部分资源来源于网络,本站转载出于传递更多信息之目的,版权归原作者或者来源机构所有,如转载稿涉及版权问题,请联系我们。