公开(公告)号：CN117150552A

公开(公告)日：2023-12-01

申请号：CN202311132763.7

申请日：2023-09-05

Applicant: 华中科技大学

Inventor： 胡胜山 ,  李明慧 ,  王乙臣 ,  薛潞潞 ,  万伟 ,  张业超

IPC: G06F21/62 ,  G06N3/04 ,  G06N3/08 ,  G06F17/16

Abstract: 本发明公开了一种协作学习场景下基于符号翻转的隐私保护方法，包括：服务端与M个参与训练的客户端协商确定作为全局模型进行训练的神经网络，并确定全局模型的学习率λ、以及训练过程中使用的损失函数L，服务端设置计数器c＝1，并初始化全局模型，以得到第c次迭代时的全局模型Gc。该全局模型Gc包含一个参数矩阵Ac和一个偏置矩阵bc，服务端判断c是否大于预先确定的训练过程的迭代总次数，如果是则过程结束，否则服务端将全局模型Gc的参数矩阵Ac、偏置矩阵bc和计数器c发送到客户端，第i个客户端判断来自服务端的计数器c是否等于1。本发明能够解决现有基于扰动的隐私保护技术对于最新的生成式梯度反演攻击防御效果不佳的技术问题。

公开(公告)号：CN119599089A

公开(公告)日：2025-03-11

申请号：CN202411745293.6

申请日：2024-12-02

Applicant: 华中科技大学

Inventor： 胡胜山 ,  王乙臣 ,  李明慧 ,  周子淇 ,  万伟

IPC: G06N3/094 ,  G06N3/0455 ,  G06V10/764 ,  G06N3/0464 ,  G06V10/82

Abstract: 本发明公开了一种基于鲁棒特征的物理世界对抗样本生成方法，包括：获取预训练后的自编码器、三个经过预训练后的图像分类任务模型、以及一个用于图像分类任务的数据集，设置攻击参数，并使用自编码器以及三个图像分类任务模型对用于图像分类任务的数据集中每个类别标签编号为t的图像进行迭代优化处理，以获取类别标签编号为t的图像的鲁棒特征编码Ftar，从用于图像分类任务的数据集中随机选取一张类别标签编号为c的图像xc，初始化权重矩阵m和α，并利用所选取的类别标签编号为v的图像和类别标签编号为t的图像的鲁棒特征编码Ftar分别对权重矩阵m和α进行优化，以分别得到优化后的权重矩阵m′和α′，根据优化后的权重矩阵m′和α′获取最终的对抗样本。

公开(公告)号：CN116186780A

公开(公告)日：2023-05-30

申请号：CN202310302147.5

申请日：2023-03-27

Applicant: 华中科技大学

Inventor： 胡胜山 ,  陆建荣 ,  李明慧 ,  王乙臣 ,  薛潞潞

IPC: G06F21/62 ,  G06N3/04 ,  G06N3/08

Abstract: 本发明公开了一种协作学习场景下基于噪声扰动的隐私保护方法，其采用两个主要措施来实现隐私保护语模型性能之间的有效权衡。一方面设计一种新的梯度裁剪方式，将每一个梯度参数都视为隐私保护对象进行处理，然后再对裁剪后的梯度参数进行噪声扰动。另一方面使用偏差纠正机制来在本轮更新的参数中纠正前面累积的偏差，从而在不影响通信效率与隐私的前提下保障了模型的性能。本发明的优点在于，它不仅可以保护参与方的隐私，还可以在不牺牲模型性能的情况下提高训练效率和准确性，从而实现协作学习的安全性和可用性的双赢。