【课程目标】
本课程为高级课程,培训的内容是继中级课程之后学习的,同时提供了更复杂的数据模型来解决实际工作中的商业决策问题。
本课程面向高级数据分析人员,以及系统开发人员。
本课程核心内容为数据挖掘,分类预测模型,以及专题模型分析,帮助学员构建系统全面的业务分析思维,提升学员的数据分析综合能力。
本课程覆盖了如下内容:
1、 数据建模过程
2、 分类预测模型
3、 分类模型优化思路
4、 市场专题分析模型
本系列课程从实际的业务需求出发,结合行业的典型应用特点,围绕实际的商业问题,对数据分析及数据挖掘技术进行了全面的介绍(从数据收集与处理,到数据分析与挖掘,再到数据可视化和报告撰写),通过大量的操作演练,帮助学员掌握数据分析和数据挖掘的思路、方法、表达、工具,从大量的企业经营数据中进行分析,挖掘客户行为特点,帮助运营团队深入理解业务运作,以达到提升学员的数据综合分析能力,支撑运营决策的目的。
通过本课程的学习,达到如下目的:
1、 熟悉建模的一般过程,能够独立完成整个预测建模项目的实现。
2、 熟练使用各种分类预测模型,以及其应用场景。
3、 熟悉模型质量评估的关键指标,掌握模型优化的整体思路。
4、 熟练掌握常用市场专题分析模型:
a) 学会做市场客户细分,划分客户群
b) 学会实现客户价值评估
c) 学会产品功能设计与优化
d) 掌握产品精准推荐模型,学会推荐产品
e) 熟悉产品定价策略,寻找产品最优定价
【授课时间】
2-4天时间(每天6个小时)
【授课对象】
业务支撑部、运营分析部、数据分析部、大数据系统开发部等对业务数据分析有较高要求的相关人员。
【学员要求】
1、 每个学员自备一台便携机(必须)。
2、 便携机中事先安装好Microsoft Office Excel 2013版本及以上。
3、 便携机中事先安装好IBM SPSS Statistics v24版本及以上。
注:讲师可以提供试用版本软件及分析数据源。
【授课方式】
数据分析基础 + 方法讲解 + 实际业务问题分析 + 工具实践操作
采用互动式教学,围绕业务问题,展开数据分析过程,全过程演练操作,让学员在分析、分享、讲授、总结、自我实践过程中获得能力提升。
【课程大纲】
第一部分: 数据建模过程
1、 预测建模六步法
Ø 选择模型:基于业务选择恰当的数据模型
Ø 属性筛选:选择对目标变量有显著影响的属性来建模
Ø 训练模型:采用合适的算法对模型进行训练,寻找到最合适的模型参数
Ø 评估模型:进行评估模型的质量,判断模型是否可用
Ø 优化模型:如果评估结果不理想,则需要对模型进行优化
Ø 应用模型:如果评估结果满足要求,则可应用模型于业务场景
2、 数据挖掘常用的模型
Ø 数值预测模型:回归预测、时序预测等
Ø 分类预测模型:逻辑回归、决策树、神经网络、支持向量机等
Ø 市场细分:聚类、RFM、PCA等
Ø 产品推荐:关联分析、协同过滤等
Ø 产品优化:回归、随机效用等
Ø 产品定价:定价策略/最优定价等
3、 属性筛选/特征选择/变量降维
Ø 基于变量本身特征
Ø 基于相关性判断
Ø 因子合并(PCA等)
Ø IV值筛选(评分卡使用)
Ø 基于信息增益判断(决策树使用)
4、 模型评估
Ø 模型质量评估指标:R^2、正确率/查全率/查准率/特异性等
Ø 预测值评估指标:MAD、MSE/RMSE、MAPE、概率等
Ø 模型评估方法:留出法、K拆交叉验证、自助法等
Ø 其它评估:过拟合评估
5、 模型优化
Ø 优化模型:选择新模型/修改模型
Ø 优化数据:新增显著自变量
Ø 优化公式:采用新的计算公式
6、 模型实现算法(暂略)
7、 好模型是优化出来的
案例:通信客户流失分析及预警模型
第二部分: 分类预测模型
问题:如何评估客户购买产品的可能性?如何预测客户的购买行为?如何提取某类客户的典型特征?如何向客户精准推荐产品或业务?
1、 分类模型概述
2、 常见分类预测模型
3、 逻辑回归(LR)
Ø 逻辑回归模型原理及适用场景
Ø 逻辑回归的种类
² 二项逻辑回归
² 多项逻辑回归
Ø 如何解读逻辑回归方程
Ø 带分类自变量的逻辑回归分析
Ø 多元逻辑回归
案例:如何评估用户是否会购买某产品(二元逻辑回归)
案例:多品牌选择模型分析(多元逻辑回归)
4、 分类决策树(DT)
问题:如何预测客户行为?如何识别潜在客户?
风控:如何识别欠贷者的特征,以及预测欠贷概率?
客户保有:如何识别流失客户特征,以及预测客户流失概率?
Ø 决策树分类简介
案例:美国零售商(Target)如何预测少女怀孕
演练:识别银行欠货风险,提取欠贷者的特征
Ø 构建决策树的三个关键问题
² 如何选择最佳属性来构建节点
² 如何分裂变量
² 修剪决策树
Ø 选择最优属性
² 熵、基尼索引、分类错误
² 属性划分增益
Ø 如何分裂变量
² 多元划分与二元划分
² 连续变量离散化(最优划分点)
Ø 修剪决策树
² 剪枝原则
² 预剪枝与后剪枝
Ø 构建决策树的四个算法
² C5.0、CHAID、CART、QUEST
² 各种算法的比较
Ø 如何选择最优分类模型?
案例:商场酸奶购买用户特征提取
案例:客户流失预警与客户挽留
案例:识别拖欠银行货款者的特征,避免不良货款
案例:识别电信诈骗者嘴脸,让通信更安全
5、 人工神经网络(ANN)
Ø 神经网络概述
Ø 神经网络基本原理
Ø 神经网络的结构
Ø 神经网络的建立步骤
Ø 神经网络的关键问题
Ø BP反向传播网络(MLP)
Ø 径向基网络(RBF)
案例:评估银行用户拖欠货款的概率
6、 判别分析(DA)
Ø 判别分析原理
Ø 距离判别法
Ø 典型判别法
Ø 贝叶斯判别法
案例:MBA学生录取判别分析
案例:上市公司类别评估
7、 最近邻分类(KNN)
Ø 基本原理
Ø 关键问题
8、 贝叶斯分类(NBN)
Ø 贝叶斯分类原理
Ø 计算类别属性的条件概率
Ø 估计连续属性的条件概率
Ø 贝叶斯网络种类:TAN/马尔科夫毯
Ø 预测分类概率(计算概率)
案例:评估银行用户拖欠货款的概率
9、 支持向量机(SVM)
Ø SVM基本原理
Ø 线性可分问题:最大边界超平面
Ø 线性不可分问题:特征空间的转换
Ø 维空难与核函数
第三部分: 分类模型优化
1、 集成方法的基本原理:利用弱分类器构建强分类模型
Ø 选取多个数据集,构建多个弱分类器
Ø 多个弱分类器投票决定
2、 集成方法/元算法的种类
Ø Bagging算法
Ø Boosting算法
3、 Bagging原理
Ø 如何选择数据集
Ø 如何进行投票
Ø 随机森林
4、 Boosting的原理
Ø AdaBoost算法流程
Ø 样本选择权重计算公式
Ø 分类器投票权重计算公式
第四部分: 市场细分模型
问题:我们的客户有几类?各类特征是什么?如何实现客户细分,开发符合细分市场的新产品?如何提取客户特征,从而对产品进行市场定位?
1、 市场细分的常用方法
Ø 有指导细分
Ø 无指导细分
2、 聚类分析
Ø 如何更好的了解客户群体和市场细分?
Ø 如何识别客户群体特征?
Ø 如何确定客户要分成多少适当的类别?
Ø 聚类方法原理介绍
Ø 聚类方法作用及其适用场景
Ø 聚类分析的种类
Ø K均值聚类(快速聚类)
案例:移动三大品牌细分市场合适吗?
演练:宝洁公司如何选择新产品试销区域?
演练:如何评选优秀员工?
演练:中国各省份发达程度分析,让数据自动聚类
Ø 层次聚类(系统聚类):发现多个类别
Ø R型聚类与Q型聚类的区别
案例:中移动如何实现客户细分及营销策略
演练:中国省市经济发展情况分析(Q型聚类)
演练:裁判评分的标准衡量,避免“黑哨”(R型聚类)
Ø 两步聚类
3、 主成分分析
Ø 主成分分析方法介绍
Ø 主成分分析基本思想
Ø 主成分分析步骤
案例:如何评估汽车购买者的客户细分市场
第五部分: 客户价值分析
营销问题:如何评估客户的价值?不同的价值客户有何区别对待?
1、 如何评价客户生命周期的价值
Ø 贴现率与留存率
Ø 评估客户的真实价值
Ø 使用双向表衡量属性敏感度
Ø 变化的边际利润
案例:评估营销行为的合理性
2、 RFM模型(客户价值评估)
Ø RFM模型,更深入了解你的客户价值
Ø RFM模型与市场策略
Ø RFM模型与活跃度分析
案例:淘宝客户价值评估与促销名单
案例:重购用户特征分析
第六部分: 产品推荐模型
问题:购买A产品的顾客还常常要购买其他什么产品?应该给客户推荐什么产品最有可能被接受?
1、 从搜索引擎到推荐引擎
2、 常用产品援藏模型及算法
3、 基于流行度的推荐
Ø 基于排行榜的推荐,适用于刚注册的用户
Ø 优化思路:分群推荐
4、 基于内容的推荐CBR
Ø 关键问题:如何计算物品的相似度
Ø 优缺点
Ø 优化:Rocchio算法、基于标签的推荐、基于兴趣度的推荐
5、 基于用户的推荐
Ø 关键问题:如何对用户分类/计算用户的相似度
Ø 算法:按属性分类、RFM模型、PCA、聚类、按偏好分类、按地理位置
6、 协同过滤的推荐
Ø 基于用户的协同过滤
Ø 基于物品的协同过滤
Ø 冷启动的问题
案例:计算用户相似度、计算物品相似度
7、 基于关联分析的推荐
Ø 如何制定套餐,实现交叉/捆绑销售
案例:啤酒与尿布、飓风与蛋挞
Ø 关联分析模型原理(Association)
Ø 关联规则的两个关键参数
² 支持度
² 置信度
Ø 关联分析的适用场景
案例:购物篮分析与产品捆绑销售/布局优化
案例:通信产品的交叉销售与产品推荐
8、 基于分类模型的推荐
9、 其它推荐算法
Ø LFM基于隐语义模型
Ø 按社交关系
Ø 基于时间上下文
10、 多推荐引擎的协同工作
第七部分: 产品设计优化
1、 联合分析法
2、 离散选择模型
Ø 如何评估客户购买产品的概率
Ø 如何指导产品开发?如何确定产品的重要特性
Ø 竞争下的产品动态调价
Ø 如何评估产品的价格弹性
案例:产品开发与设计分析
案例:品牌价值与价格敏感度分析
案例:纳什均衡价格
3、 品牌价值评估
4、 新产品市场占有率评估
第八部分: 产品定价策略及产品最优定价
营销问题:产品如何实现最优定价?套餐价格如何确定?采用哪些定价策略可达到利润最大化?
1、 常见的定价方法
2、 产品定价的理论依据
Ø 需求曲线与利润最大化
Ø 如何求解最优定价
案例:产品最优定价求解
3、 如何评估需求曲线
Ø 价格弹性
Ø 曲线方程(线性、乘幂)
4、 如何做产品组合定价
5、 如何做产品捆绑/套餐定价
Ø 最大收益定价(演进规划求解)
Ø 避免价格反转的套餐定价
案例:电信公司的宽带、IPTV、移动电话套餐定价
6、 非线性定价原理
Ø 要理解支付意愿曲线
Ø 支付意愿曲线与需求曲线的异同
案例:双重收费如何定价(如会费+按次计费)
7、 阶梯定价策略
案例:电力公司如何做阶梯定价
8、 数量折扣定价策略
案例:如何通过折扣来实现薄利多销
9、 定价策略的评估与选择
案例:零售公司如何选择最优定价策略
10、 航空公司的收益管理
Ø 收益管理介绍
Ø 如何确定机票预订限制
Ø 如何确定机票超售数量
Ø 如何评估模型的收益
案例:FBN航空公司如何实现收益管理(预订/超售)
第九部分: 信用评分卡模型
信用评分卡模型简介
评分卡的关键问题
信用评分卡建立过程
Ø 筛选重要属性
Ø 数据集转化
Ø 建立分类模型
Ø 计算属性分值
Ø 确定审批阈值
筛选重要属性
Ø 属性分段
Ø 基本概念:WOE、IV
Ø 属性重要性评估
数据集转化
Ø 连续属性最优分段
Ø 计算属性取值的WOE
建立分类模型
Ø 训练逻辑回归模型
Ø 评估模型
Ø 得到字段系数
计算属性分值
Ø 计算补偿与刻度值
Ø 计算各字段得分
Ø 生成评分卡
确定审批阈值
Ø 画K-S曲线
Ø 计算K-S值
Ø 获取最优阈值
第十部分: 实战篇
1、 电信业客户流失预警和客户挽留模型实战
2、 银行欠贷风险预测模型实战
3、 银行信用卡评分模型实战
结束:课程总结与问题答疑。
傅一航,华为系大数据专家。
计算机软件与理论硕士研究生(研究方向:数据挖掘、搜索引擎)。在华为工作十年,五项国家专利,在华为工作期间获得华为数项奖项,曾在英国、日本、荷兰和比利时等海外市场做项目,对大数据有深入的研究。
傅老师专注于大数据分析与挖掘、机器学习等应用技术,以及大数据系统部署解决方案。旨在将大数据的数据分析、数据挖掘、数据建模应用于行业及商业领域,解决行业实际的问题。
1、让决策更科学:将大数据应用于运营决策,用大数据探索领域发展规律和行业发展趋势,有效分析用户需求,并预测用户行为,最终实现市场变化预测,提升企业科学决策能力。
2、让管理更高效:将大数据应用于企业管理,用大数据呈现企业整体运营情况,诊断企业管理问题和风险,全面理解组织、产品、人员、营销、财务等要素间的相关性,实现企业资源的最优化配置,提升企业管理效率。
3、让营销更精准:将大数据应用于市场营销,解决营销中的用户群细分和品牌定位,客户价值评估,产品设计优化,产品最优定价等实际问题,实现精准营销和精准推荐,以最小的营销成本实现最大化的营销效果。
傅老师目前致力于将大数据技术应用于通信、金融、航空、电商、互联网、政府等领域。傅老师的课程最大特色:实战性强!“围绕业务问题+搭建分析框架+运用分析方法+建立分析模型+熟悉分析工具+形成业务策略”。以商业问题为起点,基于实际的业务应用场景(明确目的),搭建全面系统的业务框架和分析维度(分析思路),选择最合适的方法(分析方法),深入浅出的理论讲解(分析模型),使用简单实用的工具操作(分析工具),对分析结果进行有效的解读(数据可视化),最终形成具体的业务建议,实现业务分析/数据分析的闭环。
ž 重思路:核心理念+分析思路;
ž 重体系:分析过程+分析步骤;
ž 重实战:分析方法+分析模型+分析工具;
ž 重落地:数据可视化+数据解读+业务策略。
培训课题设计
大数据的培训主题有:
董事长总经理高管的课程:
《大数据战略与商业变革》
《大数据产业现状及应用创新》
《大数据思维与应用创新》
《领导干部的大数据思维与决策》
大数据市场营销的课程:
《大数据时代的精准营销》
《大数据分析与数据挖掘能力提升实战》
《”数“说营销----大数据营销实战与沙盘》
《市场营销大数据分析实战培训》
《大数据助力市场营销与服务》
大数据应用类的课程:
《大数据分析与数据挖掘能力提升实战》
《大数据建模与模型优化实战培训》
《大数据分析与挖掘之SPSS工具入门与提高》
《大数据分析与挖掘之Modeler工具入门与提高培训》
《金融行业风险预测模式实战培训》
Python课程:
《Python开发基础实战培训》
《Python数据分析与可视化实战》
《Python数据建模与模型优化实战》
《Python机器学习算法实战》
服务客户
傅老师曾提供过培训咨询服务的客户遍及通信、金融、交通、制造、政府等行业,包括华为、富士康、平安集团、中国银行、招商银行、光大银行、中信银行、交通银行、广电银通、西部航空、海南航空、中国移动、中国联通、中国电信、西部航空、安能物流、广州地铁、富维江森、东风日产、神南矿业、公交集团、广州税务、良品铺子、中冶赛迪、埃森哲、海天集团、正泰电器等单位和公司。
金融行业培训客户
中国银行:《大数据变革与商业模式创新》《大数据时代的精准营销》
广发银行:《大数据下的精准营销实战》四期
中信银行:《大数据分析与挖掘综合能力提升实战》叁期
交通银行:《大数据时代的精准营销》
安信证券:《大数据时代下的金融发展》
平安集团:《大数据思维与应用创新》
平安产险:《大数据分析综合能力提升》
平安寿险:《大数据分析与应用实战》
平安人寿:《大数据分析与应用实战》
平安银行:《大数据思维与应用创新》
农业银行:《Python大数据分析与挖掘》叁期
建设银行:《大数据思维与应用创新》两期
光大银行:《大数据分析与数据挖掘应用实战》四期
招商银行:《“数”说营销----大数据营销实战与沙盘》四期
杭州银货通科技:《大数据产业发展及应用创新》
广电银通:《大数据综合能力提升》
平安普惠金融:《Hadoop解决方案技术培训》
浦发银行:《大数据精准营销》
金融壹帐通:《大数据分析与挖掘综合能力提升实战》
中金所:《大数据思维与应用创新》
……
通信行业培训客户
联通研究院:《大数据预测建模优化》
广州电信:《大数据时代的精准营销》两期
北京电信:《大数据分析综合能力提升》
香港电信:《大数据精准营销实战》
上海电信:《渠道大数据分析与挖掘思路及方法》两期
河北电信:《数据化运营下的大数据分析综合能力提升实战》
南京电信:《大数据视图支撑精准化营销》
佛山电信:《数据挖掘技术及其应用培训》
泉州电信:《大数据挖掘、信息分析及应用培训》
湖北联通:《大数据分析与商业智能》
广东联通:《数据分析与数据挖掘实战培训》两期
江苏联通:《大数据分析综合能力提升》
吉林联通:《大数据分析综合能力提升-中级》
乌鲁木齐联通:《大数据分析综合能力提升》
上海移动:《大数据分析与挖掘、建模及优化》叁期
浙江移动:《大数据分析与数据挖掘应用实战》
江苏移动:《大数据精准营销技能提升实战》
深圳移动:《大数据分析综合能力提升》
广西移动:《大数据发展趋势及在公司营销领域的应用》
辽宁移动2期:《数据分析方法与经营分析技巧》
泉州移动3期:《数说营销—市场营销数据分析与挖掘应用》
德阳移动2期:《大数据挖掘与建模优化实战培训》
浙江移动:《大数据产品营销能力提升》
四川移动:《大数据分析与挖掘综合能力提升》
吉林移动:《数据分析与数据挖掘培训》;
贵州移动:《“数”说营销----大数据营销实战与沙盘》
海南移动:《基于大数据运营的用户行为分析与精准定位》
山东移动:《大数据分析综合能力提升》
深圳移动:《大数据在行业内外的应用》
中国移动终端公司:《大数据分析综合能力提升培训》
中山移动:《“数”说营销----大数据营销实战与沙盘》
东莞移动:《“数”说营销----大数据营销实战与沙盘》
成都移动:《数字化运营下的数据分析与数据挖掘》
眉山移动2期:《大数据分析综合能力提升》
云浮移动:《大数据挖掘和信息提炼专项培训》
阳江移动:《小数据·大运营--运营数据的分析与挖掘》
德阳移动:《电信运营商市场营销数据挖掘应用典型案例》
陕西在线:《“数”说营销----大数据营销实战与沙盘》
四川在线:《“数”说营销----大数据营销实战与沙盘》
大连移动:《“数”说营销----大数据营销实战与沙盘》
内蒙古移动:《大数据分析与Hadoop大数据解决方案》
贵州中移通信:《SPSS数据分析与数据挖掘应用实战》
华为技术:《话务量预测与排班管理》
……
能源汽车交通行业培训客户
一汽解放锡柴:《大数据思维与应用创新》
广东邮政:《大数据分析综合能力提升实战》
深圳水务:《大数据思维与应用创新》
宁夏国电:《大数据思维与应用》两期
柳州上汽五菱:《大数据下的精准营销实战》
东风商用:《数说营销实战》
东风日产:《大数据分析与数据挖掘应用实战》两期
富维江森(汽车):《数字化运营下的数据分析与数据挖掘应用培训》
广州地铁:《大数据分析与数据挖掘培训》两期
广州地铁:《数据分析与数据建模实战》两期
西部航空:《数字化运营下的数据分析与数据挖掘应用培训》
海南航空:《利用大数据营销提升航线收益》
南方航空:《大数据精准营销实战》两期
北京机场贵宾公司:《市场营销数据的分析》
深圳公交集团:《大数据与智慧交通》
延长壳牌:《大数据分析与挖掘综合能力提升》
神南矿业:《大数据产业发展与应用创新》
宝鸡国电:《大数据分析与挖掘》两期
顺丰快递:《大数据分析综合能力提升实战》
……
其它行业培训客户
中冶赛迪:《Python数据分析与挖掘》
《Python数据建模与优化回归篇》
《Python数据建模与优化时序篇》
埃森哲:《Python数据分析与可视化》
《Python RPA机器人流程自动化开发实战》
海天集团:《大数据分析综合能力提升》
正泰电器:《大数据分析综合能力提升》《大数据建模与模型优化》
岭南集团:《大数据时代下的精准营销》
ABB:《大数据分析实战培训》
施耐德:《大数据分析综合能力提升》叁期
周大福:《大数据分析与挖掘实战培训》
顶新国际:《大数据思维与应用创新》
索菲亚:《大数据分析实战培训》
玫琳凯:《大数据思维与应用》叁期
西部数据:《大数据分析综合能力提升》
无限极:《大数据分析综合能力提升》两期
雅图仕:《大数据分析综合能力提升》
广州税务:《大数据分析与挖掘实战》叁期
YKK吉田拉链:《大数据分析综合能力提升培训》
富士康:《数据分析综合能力提升培训》
贵州中烟:《互联网+时代的大数据思维》
深圳欣盛商:《电商大数据分析》
安能物流:《大数据挖掘分析及应用实战》
良品铺子:《大数据分析综合能力提升》两期
新时代集团:《问题的挖掘、分析—数据分析技巧》两期培训
挑战牧业:《大数据分析综合能力提升》
易鑫集团:《大数据分析综合能力提升》
赣州监狱:《大数据时代的营销》共三期培训
东风出行:《大数据思维与精准营销》