公开(公告)号：CN116994309A

公开(公告)日：2023-11-03

申请号：CN202310504150.5

申请日：2023-05-06

Applicant: 浙江大学 ,  浙江大学杭州国际科创中心

Inventor： 王志波 ,  张磊 ,  任奎

IPC: G06V40/16 ,  G06V10/774 ,  G06V10/82 ,  G06N3/0464 ,  G06N3/082

Abstract: 本发明公开了一种公平性感知的人脸识别模型剪枝方法，包括获取数据集，数据集包括训练图像数据，训练图像数据的目标标签，训练图像数据的敏感属性，在获取的数据集上训练一个在目标标签上分类准确率高的神经网络模型，构建网络公平性的判别器，用于公平性感知的网络剪枝训练等步骤，本方法旨在提升网络剪枝算法的公平性，在保持网络效率的前提下，不损伤剪枝后网络的准确率，提升剪枝后网络的公平性。本发明设计判别器消除剪枝后模型的预测与敏感属性之间的关联，搜索存在公平性偏见与参数多余的联结进行剪枝，从而实现公平性感知的网络剪枝算法，本发明可以剪枝模型80％，90％，最多可达95％的参数，同时提升模型在敏感属性。

公开(公告)号：CN115019378A

公开(公告)日：2022-09-06

申请号：CN202210946599.2

申请日：2022-08-09

Applicant: 浙江大学 ,  浙江大学嘉兴研究院

Inventor： 王志波 ,  刘凯鑫 ,  任奎

IPC: G06V40/16 ,  G06V10/82 ,  G06N5/04 ,  G06N3/08 ,  G06N3/04 ,  G06F21/62

Abstract: 本发明公开了一种面向协同推理的抗数据审查属性推断攻击方法与装置，装置包括影子模型训练模块、图像特征解码器和恶意属性分类器，影子模型训练模块包括影子模型和辅助分类器；影子模型的输入端连接辅助公开数据集，输出端连有特征重建模块，重建模块的输出端连接属性推断模块；影子模型训练模块由卷积神经网络及全连接神经网络组成；图像特征解码器由反卷积神经网络组成，恶意属性分类器由卷积神经网络和全连接神经网络组成。本方案提出影子模型训练模拟目标脱敏模型的行为和输出，以获得有效的脆弱性辅助特征，提出特征重建，用于重建脱敏特征的脆弱性，使其包含更加丰富的敏感信息，使用属性推断模块对重建特征进行属性推断攻击。

公开(公告)号：CN116994309B

公开(公告)日：2024-04-09

申请号：CN202310504150.5

申请日：2023-05-06

Applicant: 浙江大学 ,  浙江大学杭州国际科创中心

Inventor： 王志波 ,  张磊 ,  任奎

IPC: G06V40/16 ,  G06V10/774 ,  G06V10/82 ,  G06N3/0464 ,  G06N3/082

Abstract: 本发明公开了一种公平性感知的人脸识别模型剪枝方法，包括获取数据集，数据集包括训练图像数据，训练图像数据的目标标签，训练图像数据的敏感属性，在获取的数据集上训练一个在目标标签上分类准确率高的神经网络模型，构建网络公平性的判别器，用于公平性感知的网络剪枝训练等步骤，本方法旨在提升网络剪枝算法的公平性，在保持网络效率的前提下，不损伤剪枝后网络的准确率，提升剪枝后网络的公平性。本发明设计判别器消除剪枝后模型的预测与敏感属性之间的关联，搜索存在公平性偏见与参数多余的联结进行剪枝，从而实现公平性感知的网络剪枝算法，本发明可以剪枝模型80％，90％，最多可达95％的参数，同时提升模型在敏感属性。

公开(公告)号：CN119696920A

公开(公告)日：2025-03-25

申请号：CN202411975231.4

申请日：2024-12-31

Applicant: 浙江大学 ,  杭州高新区(滨江)区块链与数据安全研究院

Inventor： 卓书果 ,  李诺 ,  王志波 ,  任奎

IPC: H04L9/40 ,  H04L12/40 ,  G06N3/0475

Abstract: 本发明公开了一种基于历史特征模块的实时CAN总线入侵检测方法，将CAN总线报文数据流中的CAN ID按照二进制展开为01序列，并按照时间窗口W对CAN ID的01序列进行堆叠，能够有效地将时间序列数据转换为空间数据，不仅有助于揭示数据中的隐藏模式和异常行为，而且为后续的特征提取和异常检测提供了一个更为直观和结构化的数据处理框架，能够捕捉到更全面的通信行为特征，从而提高对异常行为的识别能力，能够学习到随时间变化的通信模式，从而提高对新出现的攻击模式的检测能力，提高模型的鲁棒性，对抗训练通过引入对抗样本来模拟攻击者可能采用的策略，使模型在训练过程中就学会如何应对这些攻击，从而在实际部署时能够更好地识别和防御未知的攻击。

公开(公告)号：CN117077761B

公开(公告)日：2024-03-26

申请号：CN202310951789.8

申请日：2023-07-31

Applicant: 浙江大学

Inventor： 王志波 ,  王雪 ,  任奎

IPC: G06N3/0895 ,  G06N3/094 ,  G06N3/10

Abstract: 本发明公开了一种基于反事实对比的深度神经网络模型可视化解释方法及系统，提出的基于反事实的深度神经网络模型可视化解释方法可以实现对无目标因果问题和有目标因果问题的解释，对有目标因果问题的解释实现了对对抗样本现象的可视化解释，提出了针对不同因果问题的反事实样本生成算法以生成特定的反事实图像，拓展了深度神经网络模型的可视化解释范围，对待解释图像添加强度一致的高斯噪声消除反事实扰动的影响，通过比较扰动噪声图像和反事实图像在深度神经网络模型的内部加权特征图的差异，解耦出对模型决策类别影响强烈的区域，实现了对深度神经网络模型的可视化解释。

公开(公告)号：CN117749484A

公开(公告)日：2024-03-22

申请号：CN202311761433.4

申请日：2023-12-20

Applicant: 浙江工商大学 ,  浙大城市学院 ,  浙江大学

Inventor： 韩嵩 ,  周树浩 ,  王志波 ,  任思琪 ,  赵帅 ,  贺诗波 ,  任奎 ,  秦湛

IPC: H04L9/40 ,  H04L9/08 ,  G06N3/098

Abstract: 本发明公开了一种面向资源受限设备且具有隐私保护的联邦组模型训练方法及系统，包括：基于设备的资源对参与联邦学习的所有设备进行分组，并根据任务模型对这些分组定制组模型，所述模型为深度学习模型；构建ReDe层，用于重映射用户上传的特征映射，确保服务器端组子模型的训练；利用知识蒸馏，从任务模型的预测中提取额外的训练信息加入到训练损失中来提升组模型的精度；设计补偿损失和漂移校正，减少非独立同分布的数据分布所带来的客户漂移影响；结合内积函数加密，保证参与者训练过程中的隐私安全。本发明让更多资源受限的设备能够参与联邦学习，同时保证了参与者的隐私安全，并且在非独立同分布的数据分布下仍有较高的预测准确性。

公开(公告)号：CN117688604A

公开(公告)日：2024-03-12

申请号：CN202311702233.1

申请日：2023-12-12

Applicant: 浙大城市学院 ,  浙江大学 ,  浙江鹏信信息科技股份有限公司 ,  杭州趣链科技有限公司

Inventor： 韩嵩 ,  王志波 ,  陈晓莉 ,  陈晓丰 ,  林建洪

IPC: G06F21/62 ,  H04L9/06 ,  H04L9/08

Abstract: 本发明公开了一种智慧城市系统中隐私集合求交方法、设备及储存介质，本发明采用门限秘密共享技术将隐私集合在三方之间进行共享，从而隐藏交集基数，提高隐私集合求交的安全性。在双方进行隐私集合求交前，利用区块链对二者身份进行验证，一定程度上保护了双方数据的安全性。另外，本发明通过将隐私集合划分成多个带有标签的子集，实现了更细粒度的求交方式。因此，相比于之前智慧城市系统中的隐私集合求交方案，本发明在实用性、安全性等方面得到了极大的提高。

公开(公告)号：CN117622221A

公开(公告)日：2024-03-01

申请号：CN202311770170.3

申请日：2023-12-20

Applicant: 浙江大学杭州国际科创中心

Inventor： 卓书果 ,  王志波 ,  秦湛 ,  任奎

IPC: B60W60/00 ,  B60W50/00 ,  G08G1/01 ,  G08G1/042 ,  G08G1/0967

Abstract: 本发明公开一种基于路侧单元的车载自动驾驶算法优化方法、系统及装置，方法包括：车辆终端通过车载传感器获取车辆感知信息，得到车辆决策信息，将所述车辆感知信息和车辆决策信息按照预设封装格式发送至路侧终端；基于路侧感知信息得到路侧决策信息，并基于路侧决策信息对所述车辆决策信息进行修正，得到修正决策信息；基于路侧感知信息对所述车辆感知信息进行修正，得到修正感知信息；将修正感知信息及修正决策信息发送至车辆终端；对初始自动驾驶模型进行优化，得到优化自动驾驶模型。通过本发明的方法解决了车载自动驾驶模型不能在线、实时进行算法更新的问题，提高算法迭代速度，保障训练所得模型与真实路况的匹配度。

公开(公告)号：CN115859102A

公开(公告)日：2023-03-28

申请号：CN202211524887.5

申请日：2022-11-30

Applicant: 浙江大学嘉兴研究院

Inventor： 姚宏伟 ,  任奎 ,  秦湛 ,  王志波 ,  屠春来 ,  牛文杰

IPC: G06F18/214 ,  G06N3/08 ,  G06N3/0464

Abstract: 本发明公开了一种基于特征失真指数的模型窃取防御方法及装置，该方法包括：从目标DNN模型中选择每个类别预测置信度最高的K个数据作为锚定样本；计算每个待检测样本和锚定样本之间的特征空间距离以得到特征失真指数；利用所述特征失真指数训练模型窃取攻击检测器；将训练后的模型窃取攻击检测器布置到MLaaS中，以进行模型窃取防御。本申请针对攻击者为了从MLaaS平台的目标DNN模型中获取更多模型信息，通常需要探索大量的输入空间以增加窃取查询的多样性，来训练准确率更高的替代模型，因此攻击者的查询在特征层输出上的分布偏离良性的训练样本特征的这一现象，提出一种衡量被检测样本特征偏差的指标，即特征失真指数FDI，有效检测模型窃取攻击。

公开(公告)号：CN114418039A

公开(公告)日：2022-04-29

申请号：CN202210320909.X

申请日：2022-03-30

Applicant: 浙江大学

Inventor： 王志波 ,  庞晓艺 ,  孙鹏 ,  任奎

IPC: G06K9/62

Abstract: 本发明提供了一种提升分类公平性的异构分类器聚合方法，针对多源异构分类器聚合中不公平监督导致的类别偏见问题，首先定量分析聚合过程中各个类别的不公平监督水平、衡量类别相关度，然后据此为每个类别定制误分类代价，并以误分类代价作为惩罚参数调整分类器聚合过程中各个类别的重要性，缓解聚合分类器对监督较弱的类别的歧视和对监督较强的类别的偏好，提升其分类公平性，使得其达到更好的性能。