分享好友 文档首页 文档分类 切换分类

基于CMCP和余弦间隔交叉熵的深度神经网络及其应用

2024-05-11 13:50800下载
文件类型:PDF文档
文件大小:1.74M

  摘要:二分类问题在经济领域十分常见,深度神经网络(DNN)是现有最为常用的分类方法之一。然而在处理高维特征数据时,DNN仍然面临着巨大的挑战。为此,本文基于CMCP和余弦间隔交叉熵损失建立了一个新的深度神经网络(CMCP-CMDNN),它既实现高维输入特征的筛选,又改进分类预测能力。其中,CMCP方法用于压缩输入特征到第1隐藏层的权重,通过融合权重的组结构,能够剔除无关特征以及不重要的连接。余弦间隔交叉熵损失函数可以增大判别边界的间隔,提高分类准确率和稳健性。为了求解模型,本文基于局部线性近似(LLA)和近端梯度下降算法估计参数。模拟分析表明,对比已有DNN和分类方法,所提出的方法具有良好的特征选择性能和预测表现。信用贷款违约风险实证研究表明,该方法能够有效选择风险指标并进行违约风险预警。本文拓展了深度神经网络的理论研究,为高维复杂交互作用的大数据建模提供新思路,为解决金融、管理、生物等领域的分类问题提供有力的分析工具。

  文章目录

  引 言

  一、模型结构和算法设计

  (一)深度神经网络的基本结构

  (二)损失函数

  1.交叉熵损失函数

  (1)基本形式。

  (2)余弦形式。

  2.余弦间隔交叉熵损失函数

  (1)基本形式和判别边界。

  (2)与传统交叉熵损失的性能对比。

  (三)基于CMCP和余弦间隔交叉熵的深度神经网络

  (四)算法

  1.LLA对CMCP惩罚函数近似

  2.Lasso惩罚下的近端梯度下降算法

  二、数值模拟

  (一)数据设置

  (二)评价指标及对比方法

  (三)结果分析

  三、信用贷款违约风险预警应用

  四、结 论



登录 后下载文档


举报
收藏 0
打赏 0
评论 0