基于多目标特征提取的双层优化决策树分类算法
CSTR:
作者:
作者单位:

作者简介:

通讯作者:

中图分类号:

TP391

基金项目:

国家自然科学基金项目(62272367).


Bilevel optimization decision tree based on multi-objective feature extraction
Author:
Affiliation:

Fund Project:

  • 摘要
  • |
  • 图/表
  • |
  • 访问统计
  • |
  • 参考文献
  • |
  • 相似文献
  • |
  • 引证文献
  • |
  • 资源附件
  • |
  • 文章评论
    摘要:

    高维不平衡数据广泛存在于社会生产的各个领域, 其特点是数据维度高以及数据类别的不平衡, 这种特性对传统分类算法的性能提出了极大的挑战. 不平衡的数据使得分类器偏向于多数类, 冗余特征导致分类性能的进一步下降. 对此, 首先针对冗余的高维特征提出基于多目标优化的特征提取算法, 考虑数据可分性和特征的泛化性能两个目标, 同时在目标内考虑数据的不平衡性; 其次, 提出基于双层优化的决策树分类算法, 将非叶子节点构建为双层优化的分类器, 上层搜索不同的特征组合, 下层求解该组合下的类别分界面; 最后, 在多个公开数据集上将所提出算法与其他算法进行对比实验验, 结果表明所提出算法在F-score和G-mean指标上明显优于其他对比算法, 验证了所提出算法的有效性.

    Abstract:

    High-dimensional imbalanced datasets, characterized by elevated dimensionality and significant class imbalance, which presents substantial challenges to conventional classification algorithms. This imbalance induces classifier bias towards majority classes, while redundant features exacerbate performance degradation. To mitigate these issues, first, we propose a multi-objective feature extraction framework incorporating class separability and feature generalization performance as optimization objectives, explicitly accounting for class imbalance within the objective formulation. Then, we propose a bilevel optimization-based decision tree algorithm in which non-leaf nodes implement bilevel optimized classifiers. The upper level performs feature subspace exploration, while the lower level derives the optimal class-separating hyperplane for the identified subspace. Comparative evaluation on benchmark datasets demonstrates that the proposed methodology achieves statistically significant superiority over state-of-the-art approaches in both F-score and G-mean metrics, thereby validating its efficacy.

    参考文献
    相似文献
    引证文献
引用本文

梁沨琴,魏静萱,梁斌豪.基于多目标特征提取的双层优化决策树分类算法[J].控制与决策,2026,41(3):718-727

复制
相关视频

分享
文章指标
  • 点击次数:
  • 下载次数:
  • HTML阅读次数:
  • 引用次数:
历史
  • 收稿日期:2025-04-02
  • 最后修改日期:
  • 录用日期:
  • 在线发布日期: 2026-03-04
  • 出版日期: 2026-03-10
文章二维码