发明

提高深度神经网络系统鲁棒性的引导对抗训练方法及系统2024

2024-06-01 08:02:28 发布于四川 0
  • 申请专利号:CN202410281203.6
  • 公开(公告)日:2024-11-19
  • 公开(公告)号:CN118095405A
  • 申请人:浙江科技大学
摘要:本发明属于神经网络技术领域,公开了一种提高深度神经网络系统鲁棒性的引导对抗训练方法及系统,包括:S1,通过干净训练得到一个专家模型,通过最小化成员模型和专家模型的输出来增强决策边界和干净样本的相似性;S2,通过扩大正确标签的logit值和非正确标签的logit值差异来提高干净精度,通过控制干净样本的margin来调整决策边界;S3,将两个损失以正则项的形式加入到初始损失中;S4,采用GAT通过集成优化该损失的成员模型来提升模型的鲁棒性和干净精度。本发明提出了一种名为GAT的新型权重集成方法。该方法通过两种引导方法——自我指导和专家指导,减轻了成员模型之间的相互作用对提高精度的负面影响。

专利内容

(19)国家知识产权局 (12)发明专利申请 (10)申请公布号 CN 118095405 A (43)申请公布日 2024.05.28 (21)申请号 202410281203.6 (22)申请日 2024.03.12 (71)申请人 浙江科技大学 地址 310023 浙江省杭州市留和路318号 (72)发明人 钱亚冠 陶祥兴 赵陈雨 康明  王海江 张宇来  (74)专利代理机构 武汉同誉知识产权代理有限 公司 42320 专利代理师 于福 (51)Int.Cl. G06N 3/094 (2023.01) G06N 3/0475 (2023.01) G06F 18/2415 (2023.01) G06F 18/22 (2023.01) G06F 21/62 (2013.01) 权利要求书2页 说明书17页 附图2页 (54)发明名称 提高深度神经网络系统鲁棒性的引导对抗 训练方法及系统 (57)摘要 本发明属于神经网络技术领域,公开了一种 提高深度神经网络系统鲁棒性的引导对抗训练 方法及系统,包括:S1,通过干净训练得到一个专 家模型,通过最小化成员模型和专家模型的输出 来增强决策边界和干净样本的相似性;S2,通过 扩大正确标签的logit值和非正确标签的logit 值差异来提高干净精度,通过控制干净样本的 margin来调整决策边界;S3,将两个损失以正则 项的形式加入到初始损失中;S4,采用GAT通过集 成优化该损失

最新专利