公开(公告)号：CN118965443B

公开(公告)日：2025-02-07

申请号：CN202411419929.8

申请日：2024-10-12

Applicant: 南京大学

Inventor： 许封元 ,  吴昊 ,  徐世贸

IPC: G06F21/62 ,  G06N3/0985 ,  G06N5/04 ,  G06N3/0464 ,  G06N3/0455

Abstract: 本发明公开了一种针对深度学习推理服务的可控数据隐私增强方法，通过设计一种动态路由神经网络模型拉实现舵机数据增强，并设计并设计多层训练框架进行逐级训练，以实现不同级别的数据保护功能。动态路由神经网络具有多个不同大小的信息瓶颈和基于门的瓶颈选择。多级训练框架中，根据优化目标表达式，通过计算得出的信息约简损失，逐级训练。该方法可以满足用户在实际深度学习推理服务使用中的不同保护需求，它以用户数据和增强级别作为输入，以可控的数据信息缩减方式对数据进行增强，可以做到有效防止二次推理攻击和重构攻击。

公开(公告)号：CN118940821A

公开(公告)日：2024-11-12

申请号：CN202411413157.7

申请日：2024-10-11

Applicant: 南京大学

Inventor： 许封元 ,  吴昊 ,  徐世贸

IPC: G06N3/098 ,  G06N3/096 ,  G06N3/0464 ,  G06F21/62

Abstract: 本发明公开了一种基于最小特权原则的隐私保护联邦学习方法，采用联邦学习系统，所述联邦学习系统包括全局服务器和多个客户端，包括以下步骤：全局服务器为所有客户端分发相同的随机初始化模型；局部过程：每个客户端随机初始化蒸馏数据集，并在本地进行数据蒸馏得到蒸馏样本，然后将蒸馏样本上传到全局服务器；全局过程：全局服务器将所有客户端上传的蒸馏样本进行数据聚合，得到全局数据；重复直到完成全部联邦学习的训练轮次，得到最终联邦学习模型。本发明进行训练的过程不需要在全局服务器上进行，并且以蒸馏数据的信息形式作为数据聚合的载体，训练期间的共享信息量可控，实现联邦学习训练中的最小特权原则，有效保护保护隐私。

公开(公告)号：CN118965443A

公开(公告)日：2024-11-15

申请号：CN202411419929.8

申请日：2024-10-12

Applicant: 南京大学

Inventor： 许封元 ,  吴昊 ,  徐世贸

IPC: G06F21/62 ,  G06N3/0985 ,  G06N5/04 ,  G06N3/0464 ,  G06N3/0455

Abstract: 本发明公开了一种针对深度学习推理服务的可控数据隐私增强方法，通过设计一种动态路由神经网络模型拉实现舵机数据增强，并设计并设计多层训练框架进行逐级训练，以实现不同级别的数据保护功能。动态路由神经网络具有多个不同大小的信息瓶颈和基于门的瓶颈选择。多级训练框架中，根据优化目标表达式，通过计算得出的信息约简损失，逐级训练。该方法可以满足用户在实际深度学习推理服务使用中的不同保护需求，它以用户数据和增强级别作为输入，以可控的数据信息缩减方式对数据进行增强，可以做到有效防止二次推理攻击和重构攻击。