基于边缘计算架构的模型结构化剪枝方法、装置2025

专利内容

(19)国家知识产权局 (12)发明专利申请 (10)申请公布号 CN 118070868 A (43)申请公布日 2024.05.24 (21)申请号 202410293163.7 (22)申请日 2024.03.14 (71)申请人 中国科学院计算技术研究所 地址 100080 北京市海淀区中关村科学院 南路6号 (72)发明人 郭嘉丰　程学旗　李晨昊　李琳　 张志斌　廖华明　邱强　 (74)专利代理机构 北京市立康律师事务所 11805 专利代理师 马砚花　梁挥 (51)Int.Cl. G06N 3/082 (2023.01) G06N 3/063 (2023.01) 权利要求书3页 说明书9页 附图3页 (54)发明名称 基于边缘计算架构的模型结构化剪枝方法、 装置 (57)摘要 本发明提出一种基于边缘计算架构的模型 结构化剪枝方法及装置，该方法包括：根据集群 中每一边缘设备的硬件资源信息，对边缘设备进 行分组；对于同一组的边缘设备，将神经网络加 速器在该边缘设备硬件的实际运行时间与内存 资源消耗作为资源约束条件，对该边缘设备上部 署的神经网络模型进行剪枝；校准修剪后的神经 网络模型。该方法提高了计算设备的硬件处理速 度，降低了内存消耗，进而提升了计算机系统的 内部性能。 A 8 6 8 0 7 0 8 1 1 N C CN 118070868 A 权　利　要　求　书