模型压缩方法、装置、设备和存储介质2026

专利内容

(19)国家知识产权局 (12)发明专利申请 (10)申请公布号 CN 118095352 A (43)申请公布日 2024.05.28 (21)申请号 202410225163.3 (22)申请日 2024.02.28 (71)申请人 蚂蚁区块链科技（上海）有限公司 地址 200010 上海市黄浦区外马路618号8 层803室 (72)发明人 李唯贤　李漓春　王子豪　刘文炎　 (74)专利代理机构 北京博思佳知识产权代理有 限公司 11415 专利代理师 周嗣勇 (51)Int.Cl. G06N 3/045 (2023.01) G06N 3/082 (2023.01) G06F 40/20 (2020.01) G06F 21/62 (2013.01) 权利要求书3页 说明书19页 附图3页 (54)发明名称 模型压缩方法、装置、设备和存储介质 (57)摘要 本申请一个或多个实施例提供一种模型压 缩方法、装置、设备和存储介质，所述方法包括： 将与至少一个私有数据样本对应的描述信息输 入第一大语言模型，由所述第一大语言模型将所 述描述信息作为生成条件，生成与所述描述信息 对应的至少一个生成数据样本；从所述至少一个 生成数据样本中筛选出与所述至少一个私有数 据样本相似的生成数据样本；基于筛选出的生成 数据样本针对预训练完成的第二大语言模型进 行模型压缩，得到与所述第二大语言模型对应的 压缩模型；其中，所述第二大语言模型基于公开 数据样本进行模型预训练；基于所述私有