ML之FE：金融风控—基于预处理(PSI+标签编码+文本型抽数字+缺失值RF模型拟合填充)+多种筛选指标(PCA/IV值/Gini/熵/丰富度)利用CatBoost实现贷款违约二分类预测案例之详细攻略

已于 2023-02-11 00:09:24 修改
阅读量2.2k 收藏 6
点赞数 3
CC 4.0 BY-SA版权
分类专栏： Python编程(初级+进阶) DataScience 金融风控 文章标签： CatBoost 金融风控
于 2020-11-08 14:36:35 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/qq_41185868/article/details/109559217
这篇博客介绍了如何利用预处理（PSI、标签编码、文本数字抽取、缺失值填充）和特征筛选（PCA、IV值、Gini、熵、丰富度）结合CatBoost模型，进行贷款违约的二分类预测。博主详细阐述了数据集的处理过程，包括数据预处理、特征工程、模型训练与评估。

摘要生成于 C知道 ，由 DeepSeek-R1 满血版支持， 前往体验 >

ML之FE：金融风控—基于预处理(PSI+标签编码+文本型抽数字+缺失值RF模型拟合填充)+多种筛选指标(PCA/IV值/Gini/熵/丰富度)利用CatBoost实现贷款违约二分类预测案例之详细攻略

目录

基于预处理(PSI+标签编码+文本型抽数字+缺失值RF模型拟合填充)+多种筛选指标(PCA/IV值/Gini/熵/丰富度)利用CatBoost实现贷款违约二分类预测案例

一、数据集简介

赛题背景

字段解释

二、预处理数据集

# 1、定义数据集

# 1.1、根据统计量查看数据特点(包括缺失值)并直接删除不必要字段(类似ID的唯一型字段)

# 1.2、分离特征与标签

# 1.3、合并train和test以便执行相同的特征工程

# 1.4、直接删除不必要入模字段

# 1.5、划分数据类型【数字型】、【类别型】

# 2、特征工程：数据分析与处理

# 2.1、统计训练集的各字段丰富度，及目标变量类别比

# 2.2、分析训练集和测试集的特征分布差异——是否为同分布

# T1、PSI方法量化比较

# T2、折线分布图可视化对比：仅针对【数字型】

# 2.3、分析特征间相关性分析可视化

# 2.4、【类别型】特征处理：全部数据集

# 2.4.1、枚举值型字段执行标签编码：grade、subGrade字段

# 2.4.2、文本型日期字段拆解提取年份、月份：issueDate、earliesCreditLine字段

# 2.4.3、文本型仅抽取数字+缺失值RF模型拟合填充：employmentLength字段

# 2.5、【数字型】缺失值填充：鉴于平均值易受极值影响，数值变量用中位数填充

# 2.6、导出处理后的数据

三、基于预处理/特征工程后的数据利用各种筛选指标(PCA、IV值、Gini基尼指数、熵、丰富度等)特征筛选进而实现分类预测

B1、载入处理好的数据集

# B2、数据预处理

# B2.1、切分数据集

# B2.2、特征分析

# B2.2.1、PCA主成分分析各个特征的重要性

# B2.2.2、基于IV值等指标分析各个特征的重要性：IV值、Gini基尼指数、熵、丰富度

# B2.3、划分特征变量与目标变量

# B3、模型训练与预测

# B3.1、划分训练/测试集

# # T1、一次性划分训练/测试集

# T2、执行K折交叉验证划分训练/测试集：适合大量数据的场景，但比较耗时

# B3.2、建立CatBoost模型并训练

# B3.2.1、指定分类特征并确保均为string类型

# B3.2.2、建立CatBoost模型

# B3.2.3、模型交叉训练

# B3.3、模型评估

# B3.4、导出模型对test数据集输出概率值

相关文章
ML之FE：金融风控—基于预处理(PSI+标签编码+文本型抽数字+缺失值RF模型拟合填充)+多种筛选指标(PCA/IV值/Gini/熵/丰富度)利用CatBoost实现贷款违约二分类预测案例之详细攻略
ML之FE：金融风

了解本专栏 订阅专栏 解锁全文
极值目标值对应核心特征的分布差异分析与CatBoost特征重要性的结合
TechRoarX的博客
09-06 76
通过对核心特征的分布差异进行可视化和对特征重要性进行分析，我们可以获得有关核心特征在目标值预测中的重要性的更深入的洞察。本文将介绍如何使用Python和CatBoost库，结合极值目标值对应的核心特征的分布差异分析和CatBoost特征重要性，来深入理解数据集中的关键特征。通过比较核心特征与其他特征的重要性，我们可以得出结论，核心特征对目标值的预测具有重要性，并且与我们在分布差异分析中观察到的特殊模式或趋势相一致。最后，我们可以将核心特征的重要性与其他特征进行比较，以验证核心特征在目标值预测中的重要性。
ML之PSI：人群偏移度指标(Population Stability Index)的简介(特征筛选/特征监控/模型监控/AB测试)、使用方法、案例应用(风控业务/风险评估/市场分析等)之详细攻略
头部AI社区如有邀博主AI主题演讲请私信—心比天高，仗剑走天涯，保持热爱，奔赴向梦想！低调，专注，谦虚，自律，反思，成长，还算比较正能量的博主，公益免费传播…内心特别想在AI界做出一些可以推进历史进程影响力的技术(兴趣使然，有点小情怀，也有点使命感呀
03-25 1万+
​ ML之PSI：人群偏移度指标(Population Stability Index)的简介(特征筛选/特征监控/模型监控/AB测试)、使用方法、案例应用(风控业务/风险评估/市场分析等)之详细攻略 目录 PSI的简介 PSI的使用方法 PSI的案例应用 PSI的简介 1、PSI人群偏移度指标(Population Stability Index)的概述(特征筛选/特征监控/模型监控/AB测试 简介 人群偏移度指标（Population Stabili
从准确率到预测误差：CatBoost在目标检测中的应用
AI天才研究院
07-02 3904
作者：禅与计算机程序设计艺术 从准确率到预测误差： CatBoost在目标检测中的应用 引言 随着计算机视觉和深度学习技术的快速发展，目标检测算法在图像识别领域取得了重要的进展。准确率作为评价目标检测算法的重要指标，已经
【catboost】官方调参教程
xiangxiang613的专栏
05-20 2万+
CatBoost官方教程：调参 本文翻译至官方原文：https://catboost.ai/docs/concepts/parameter-tuning.html CatBoost为参数调整提供了灵活的界面，可以对其进行配置以适合不同的任务。 本节包含有关可能的参数设置的一些提示。 catBoost提供了为Python、R语言和命令行都提供了可使用的参数，其中Python和R的完全相同，命令行参数格式则有点不同。 如L2正则化参数，python和R中为：l2_leaf_reg ，命令行中为–l2-lea
详解 CatBoost 原理
weixin_49708196的博客
04-07 1万+
详解 CatBoost 原理 集成学习的两大准则：基学习器的准确性和多样性。 算法：串行的Boosting和并行的Bagging,前者通过错判训练样本重新赋权来重复训练，来提高基学习器的准确性，降低偏差！后者通过采样方法，训练出多样性的基学习器，降低方差。 1.catboost 的优缺点 性能卓越：在性能方面可以匹敌任何先进的机器学习算法 鲁棒性/强健性：它减少了对很多超参数调优的需求，并降低了过度拟合的机会，这也使得模型变得更加具有通用性 易于使用：提供与 scikit 集成的 Python 接口，以及
ML之CSI：特征稳定性指标(Characteristic Stability Index)的简介(特征筛选/特征监控、对比CSI和PSI指标)、使用方法、案例应用之详细攻略
头部AI社区如有邀博主AI主题演讲请私信—心比天高，仗剑走天涯，保持热爱，奔赴向梦想！低调，专注，谦虚，自律，反思，成长，还算比较正能量的博主，公益免费传播…内心特别想在AI界做出一些可以推进历史进程影响力的技术(兴趣使然，有点小情怀，也有点使命感呀
06-20 2968
ML之CSI：特征稳定性指标(Characteristic Stability Index)的简介(特征筛选/特征监控、CSI和PSI指标对比)、使用方法、案例应用之详细攻略 目录 CSI(特征稳定性指标)的简介 1、CSI特征稳定性指标的概述(特征筛选/特征监控) 2、CSI和PSI指标对比 CSI(特征稳定性指标)的使用方法 CSI(特征稳定性指标)的案例应用 CSI(特征稳定性指标)的简介 1、CSI特征稳定性指标的概述(特征筛选/特征监控) 简介 特征
DS/ML：数据科学技术之机器学习领域六大阶段最强学习路线(初步探索性数据分析EDA→数据预处理/广义的特征工程→模型训练/评估/推理→模型分析/反思/再优化→模型部署与监控→模型全流程优化)详解
热门推荐
头部AI社区如有邀博主AI主题演讲请私信—心比天高，仗剑走天涯，保持热爱，奔赴向梦想！低调，专注，谦虚，自律，反思，成长，还算比较正能量的博主，公益免费传播…内心特别想在AI界做出一些可以推进历史进程影响力的技术(兴趣使然，有点小情怀，也有点使命感呀
12-31 6万+
DS/ML：数据科学技术之机器学习领域六大阶段最强学习路线(初步探索性数据分析EDA→数据预处理/广义的特征工程→模型训练/评估/推理→模型分析/反思/再优化→模型部署与监控→模型全流程优化)详解 导读：数据科学和机器学习实战最强学习路线，博主这次花了真的是好久好久的时间(大概数不清的凌晨吧)，以数据科学生命周期和机器学习工程化的视角进行了精心整理，今天终于结束了，真心不容易……希望能够对家学习数据科学和机器学习技术有所帮助。本文章是博主在数据科学和机器学习领域，先后实战过几百个应用案例之后的精心总结
IRC/ML：金融智能风控—信贷风控场景简介、两大场景(贷款场景+信用卡场景)、信用卡评分模型设计、反欺诈检测技术的简介、案例应用之详细攻略
头部AI社区如有邀博主AI主题演讲请私信—心比天高，仗剑走天涯，保持热爱，奔赴向梦想！低调，专注，谦虚，自律，反思，成长，还算比较正能量的博主，公益免费传播…内心特别想在AI界做出一些可以推进历史进程影响力的技术(兴趣使然，有点小情怀，也有点使命感呀
10-15 2256
​ IRC/ML：金融智能风控—信贷风控场景简介、两大场景(贷款场景+信用卡场景)、信用卡评分模型设计、反欺诈检测技术的简介、案例应用之详细攻略 目录 信贷风控简介 信贷风控两大场景 信用卡反欺诈检测的简介 信贷风控简介 简介 银行的主要收入或者利润来源来自贷款和信用卡，简称信贷。贷款和信用卡，我们统称为信贷。他们都有着相似的风控逻辑。 风控思路 使用传统的评分卡模型、决策树、神经网络等算法，根据借款人的个人信息、信用记录、还款历史等因素，评估其信用风险和偿还能力。
02.《大数据》配套之二：-数据采集与预处理PPT.ppt
08-04
02.《大数据》配套之二：-数据采集与预处理PPT.ppt
PLC的编程实例电机正反转控制演示幻灯片.ppt
08-04
PLC的编程实例电机正反转控制演示幻灯片.ppt
计算机组成原理所有概念.ppt
08-04
计算机组成原理所有概念.ppt
计算机配许课上C语言数据类型和学习框架思维导图
08-04
课上总结
推荐-办公软件学习.ppt
08-04
推荐-办公软件学习.ppt
yaochao_edu_source_crawler_2920_1754319247437.zip
最新发布
08-04
yaochao_edu_source_crawler_2920_1754319247437.zip
计算机基础知识点总结PPT.ppt
08-04
计算机基础知识点总结PPT.ppt
单片机C语言(C51)的常用库函数.doc
08-04
单片机C语言(C51)的常用库函数.doc
photoshop皮肤调色滤镜-PhotoTune-使用教程.doc
08-04
photoshop皮肤调色滤镜-PhotoTune-使用教程.doc
X3DAudio1-7.dll 文件修复与替换教程
08-04
资源下载链接为： https://pan.quark.cn/s/1bfadf00ae14 在计算机系统中，.dll（动态链接库）文件是操作系统和其他程序共享功能的重要集合。X3DAudio1_7.dll是微软DirectX的一部分，主要用于游戏和多媒体应用程序的高级3D音频处理。当系统提示“缺少X3DAudio1_7.dll”时，说明该关键组件缺失，导致依赖它的程序或游戏无法正常运行。 X3DAudio1_7.dll的核心功能是计算3D空间中的声音定位和传播效果，帮助游戏实现立体声环绕声效。它能让玩家清晰感受到声音的方向和距离，增强游戏的沉浸感。例如，游戏中角色的脚步声、枪声或敌人的位置都可以通过该库进行精准定位。 “x86”和“x64”版本的X3DAudio1_7.dll分别对应32位和64位操作系统。x86版本适用于32位处理器，而x64版本适用于64位处理器。在安装时，必须选择与系统匹配的版本，否则可能导致安装失败或运行异常。 遇到该问题时，首先确认系统是32位还是64位。然后，从安全可靠的来源下载对应的X3DAudio1_7.dll文件，并将其复制到系统目录的相应位置（通常是C:\Windows\System32，64位系统中32位DLL应放在C:\Windows\SysWOW64）。完成后重启计算机，使更改生效。 在下载和替换DLL文件时，务必从官方或信誉良好的网站获取，避免下载到错误或含有恶意软件的文件，导致系统不稳定或遭受攻击。安装前建议备份原有文件，以便在出现问题时能够恢复。 如果替换DLL文件后仍未解决问题，可能是其他相关组件缺失或系统存在更深层次的问题。此时可以尝试更新或重新安装DirectX，或者运行系统修复工具（如System File Checker，SFC）来检查和修复系统文件。 X3DAudio1_7.dll是DirectX的重要组成部分，对提
计算机编程语言的发展趋势PPT学习课件.ppt
08-04
计算机编程语言的发展趋势PPT学习课件.ppt
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

一个处女座的程序猿

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值