基于合作博弈论的卷积神经网络神经元可解释性评估方法2025

专利内容

(19)国家知识产权局 (12)发明专利申请 (10)申请公布号 CN 117236393 A (43)申请公布日 2023.12.15 (21)申请号 202311076052.2 G06V 10/74 (2022.01) G06V 10/82 (2022.01) (22)申请日 2023.08.24 (71)申请人 中南大学 地址 410083 湖南省长沙市岳麓区麓山南 路932号 (72)发明人 周芳芳　沈海誉　刘志鹏　杨雷　 张睿晨　谭依静　张健　郭克华　 赵颖　 (74)专利代理机构 成都初阳知识产权代理事务 所(特殊普通合伙) 51305 专利代理师 杨继栋 (51)Int.Cl. G06N 3/06 (2006.01) G06N 3/0464 (2023.01) G06N 3/084 (2023.01) 权利要求书2页 说明书7页 附图3页 (54)发明名称 基于合作博弈论的卷积神经网络神经元可 解释性评估方法 (57)摘要 本发明提供了一种基于合作博弈论的卷积 神经网络神经元可解释性评估方法，通过量化单 个神经元的可解释性度和单层神经元的可解释 性度量实现对卷积神经网络神经元可解释性评 估。首先使用反向导向传播算法实现单个神经元 的特征可视化，得到单个神经元的GBP图