发明

模型量化方法、装置、介质以及电子设备2026

2024-04-16 07:27:18 发布于四川 5
  • 申请专利号:CN202410146566.9
  • 公开(公告)日:2026-03-20
  • 公开(公告)号:CN117875379A
  • 申请人:北京有竹居网络技术有限公司
摘要:本公开涉及一种模型量化方法、装置、介质以及电子设备,涉及计算机技术领域,该方法通过确定待量化模型中的各个网络节点对应的量化敏感度,根据量化敏感度,对各网络节点进行排序,获得节点序列,然后根据各网络节点的参数量,将节点序列划分为多个子序列,并确定各子序列中包括的网络节点对应的目标量化位宽,接着,根据各网络节点对应的目标量化位宽,对待量化模型进行量化,获得量化模型,可以使用精度损失更低的高比特对较难量化的网络节点进行量化,使用低比特来对较容易量化的网络节点进行量化,从而在提高量化模型的推理速度的同时,保证量化模型的精度损失尽可能地低。

专利内容

(19)国家知识产权局 (12)发明专利申请 (10)申请公布号 CN 117875380 A (43)申请公布日 2024.04.12 (21)申请号 202211216171.9 G06F 18/27 (2023.01) G06N 3/048 (2023.01) (22)申请日 2022.09.30 (71)申请人 维沃移动通信有限公司 地址 523863 广东省东莞市长安镇维沃路1 号 (72)发明人 李建军 孙布勒 孙鹏 杨昂  李佳林  (74)专利代理机构 北京银龙知识产权代理有限 公司 11243 专利代理师 廖叶子 (51)Int.Cl. G06N 3/0499 (2023.01) G06F 18/15 (2023.01) G06F 18/23 (2023.01) G06F 18/2415 (2023.01) 权利要求书3页 说明书15页 附图3页 (54)发明名称 数据处理方法、装置及电子设备 (57)摘要 本申请公开了一种数据处理方法、装置及电 子设备,属于数据处理技术领域,本申请实施例 的数据处理方法包括:电子设备获取第一数据矩 阵,其中,所述第一数据矩阵包括信道数据矩阵、 图像数据矩阵或控制数据矩阵;所述电子设备通 过预先训练得到的全连接网络对所述第一数据 矩阵执行第一处理,得到处

最新专利