lightGBM自定义损失函数loss和metric

转载已于 2022-03-14 23:17:25 修改 · 5.5k 阅读

8 ·

CC 4.0 BY-SA版权

原文链接：https://www.cnblogs.com/kayy/p/10824392.html

文章标签：

#python #深度学习 #开发语言

于 2021-01-09 23:21:01 首次发布

算法同时被 3 个专栏收录

38 篇文章

订阅专栏

机器学习

30 篇文章

订阅专栏

特征工程

6 篇文章

订阅专栏

博客主要介绍了LightGBM自定义损失函数loss和metric的方法，给出了自定义损失函数self_loss和评估指标self_metric的Python代码实现，还涉及多分类metric的相关内容，通过代码展示了如何在LightGBM训练中使用自定义的损失和评估指标。

摘要生成于 C知道，由 DeepSeek-R1 满血版支持，前往体验 >

lightGBM自定义损失函数loss和metric
转载于：https://www.cnblogs.com/kayy/p/10824392.html

def self_loss(preds, train_data):

labels = train_data.get_label()

k = labels - preds

#对labels求导

grad = np.where(k>0, 2np.abs(preds)/(np.power(np.abs(labels)+np.abs(preds), 2)+0.1), -2np.abs(preds)/(np.power(np.abs(labels)+np.abs(preds), 2)+0.1))

hess = np.where(k>0, -4np.abs(preds)/(np.power(np.abs(labels)+np.abs(preds), 3)+0.1), 4np.abs(preds)/(np.power(np.abs(labels)+np.abs(preds), 3)+0.1))
#返回一阶导、二阶导
return grad, hess

def self_metric(preds, train_data):

labels= train_data.get_label()

score = 1-np.mean(np.abs(labels-preds)/(np.abs(labels)+np.abs(preds)+0.1))

return ‘self_metric’, score, True

gbm = lgb.train(params,

gb_train,

num_boost_round=3000,

valid_sets=lgb_eval,

fobj = self_loss,

feval = self_metric,

early_stopping_rounds=30)

多分类metric

def self_metric(preds, train_data):
y_label = train_data.get_label()
preds = preds.reshape(4, -1).T # 4 分类
y_pred = np.argmax(preds, axis=-1)
。。。
return ‘self_metric’, macro_F1, True