发明公开
- 专利标题: 基于模型剪枝和量化的联邦学习模型轻量化方法及系统
-
申请号: CN202311412350.4申请日: 2023-10-30
-
公开(公告)号: CN117151174A公开(公告)日: 2023-12-01
- 发明人: 孙智卿 , 陈益芳 , 樊立波 , 韩荣杰 , 宣羿 , 漏亦楠 , 屠永伟 , 来益博 , 王亿 , 黄佳斌 , 王奇锋 , 方响 , 蒋建 , 陈元中 , 张逸琦
- 申请人: 国网浙江省电力有限公司杭州供电公司
- 申请人地址: 浙江省杭州市上城区解放东路59号
- 专利权人: 国网浙江省电力有限公司杭州供电公司
- 当前专利权人: 国网浙江省电力有限公司杭州供电公司
- 当前专利权人地址: 浙江省杭州市上城区解放东路59号
- 代理机构: 广州三环专利商标代理有限公司
- 代理商 颜希文
- 主分类号: G06N3/0495
- IPC分类号: G06N3/0495 ; G06N3/082 ; G06N3/098 ; G06N3/084
摘要:
本发明公开了基于模型剪枝和量化的联邦学习模型轻量化方法及系统,包括各个客户端初始化并训练本地模型;采用全局非结构化剪枝,不考虑权重之间的关系,基于权重的L1范数进行所述本地模型的参数剪枝;在所述本地模型参数剪枝结束后,对所述本地模型的参数进行矢量量化处理;各个客户端将量化后的模型参数上传至服务器;服务器接收得到的模型参数并进行更新。本发明实施例提供的基于模型剪枝和量化的联邦学习模型轻量化方法及系统,旨在解决联邦学习中模型轻量化的问题,为保护隐私和数据安全的同时,提高了联邦学习的效率和可行性。