-
公开(公告)号：CN118521455A
公开(公告)日：2024-08-20
申请号：CN202410991359.3
申请日：2024-07-23
Applicant: 南京信息工程大学
IPC: G06T1/00 , G06T9/00 , G06F21/16 , G06N3/0455 , G06N3/098
Abstract: 本发明公开了多触发模式的可溯源联邦学习模型保护方法、系统及设备，涉及隐私保护技术领域。本发明包括：构建编码器及解码器，利用图像重构损失和信息重构损失对编码器及解码器进行预训练；服务端根据客户端数量，使用预训练的编码器为每个客户端生成唯一对应的触发器集合，在每一轮训练轮次过程中，服务器在分发模型之前使用客户端对应的触发集集合对聚合的全局模型进行水印嵌入。本发明能够对联邦学习模型的知识产权进行保护，能精确追踪到泄露全局模型的客户端，并合理利用注入的水印对破坏模型收敛的恶意客户端进行检测，通过结合独特的客户端信息生成对应的不同触发模式的触发集，有效避免水印进行注入时出现的水印冲突情况。
-
公开(公告)号：CN116881872A
公开(公告)日：2023-10-13
申请号：CN202311144210.3
申请日：2023-09-06
Applicant: 南京信息工程大学
IPC: G06F21/16 , G06F21/60 , G06N20/20 , G06N3/0464 , G06N3/098
Abstract: 本发明公开了一种面向联邦学习的鲁棒可溯源版权保护方法及系统，属于人工智能安全领域。通过中心服务器对神经网络模型进行修改，并为各个客户端生成不同的二进制水印；中心服务器将不同的水印分别嵌入到经过修改的模型中，得到若干嵌入水印的模型；中心服务器将各个嵌入水印的模型分发给对应客户端进行训练。本发明通过中心服务器向待分发的模型中嵌入独特的结构水印信息，使得水印在训练中与模型紧密关联，从而提高了水印的鲁棒性。
-
Patent Agency Ranking
公开(公告)号：CN118468250B
公开(公告)日：2024-11-08
申请号：CN202410942884.6
申请日：2024-07-15
Applicant: 南京信息工程大学
IPC: G06F21/16 , G06F21/10 , G06N3/0464 , G06N3/098
Abstract: 本发明公开了一种基于激活图的联邦学习版权保护方法、系统及设备，涉及人工智能隐私保护技术领域。本发明包括：构建检测器，并对检测器进行预训练；分别为每个客户端定义一个正态分布#imgabs0#的潜在空间和一个约束#imgabs1#，以便生成不同强度的高斯噪声触发集，触发集输入到模型得到某一层的激活图，同时构建投影模型#imgabs2#，将水印信息无缝嵌入到客户端模型对应层的激活图中。本发明通过服务器端水印技术，可以在每一轮或数轮联邦学习模型更新过程中有效地插入水印，每个客户端模型都被嵌入了一个唯一的水印，这使得通过比较不同模型中的水印，可以有效地识别并追踪到窃取模型的恶意客户端。
-
公开(公告)号：CN114647824B
公开(公告)日：2022-09-23
申请号：CN202210559415.7
申请日：2022-05-23
Applicant: 南京信息工程大学 , 南京启圣羽图信息科技有限公司
Abstract: 本发明公开了一种神经网络主动保护方法、系统、存储介质及计算设备，本发明在网络模型层运算之前，从分配给网络模型和用户的水印从提取与层数匹配的第一比对水印和第二比对水印，并进行第一比对水印和第二比对水印的比对，根据比对结果输入正确或错误的运算数据，从而实现了神经网络主动保护。
-
公开(公告)号：CN114647824A
公开(公告)日：2022-06-21
申请号：CN202210559415.7
申请日：2022-05-23
Applicant: 南京信息工程大学 , 南京启圣羽图信息科技有限公司
Abstract: 本发明公开了一种神经网络主动保护方法、系统、存储介质及计算设备，本发明在网络模型层运算之前，从分配给网络模型和用户的水印从提取与层数匹配的第一比对水印和第二比对水印，并进行第一比对水印和第二比对水印的比对，根据比对结果输入正确或错误的运算数据，从而实现了神经网络主动保护。
-
公开(公告)号：CN118521455B
公开(公告)日：2024-10-01
申请号：CN202410991359.3
申请日：2024-07-23
Applicant: 南京信息工程大学
IPC: G06T1/00 , G06T9/00 , G06F21/16 , G06N3/0455 , G06N3/098
Abstract: 本发明公开了多触发模式的可溯源联邦学习模型保护方法、系统及设备，涉及隐私保护技术领域。本发明包括：构建编码器及解码器，利用图像重构损失和信息重构损失对编码器及解码器进行预训练；服务端根据客户端数量，使用预训练的编码器为每个客户端生成唯一对应的触发器集合，在每一轮训练轮次过程中，服务器在分发模型之前使用客户端对应的触发集集合对聚合的全局模型进行水印嵌入。本发明能够对联邦学习模型的知识产权进行保护，能精确追踪到泄露全局模型的客户端，并合理利用注入的水印对破坏模型收敛的恶意客户端进行检测，通过结合独特的客户端信息生成对应的不同触发模式的触发集，有效避免水印进行注入时出现的水印冲突情况。
-
公开(公告)号：CN118468250A
公开(公告)日：2024-08-09
申请号：CN202410942884.6
申请日：2024-07-15
Applicant: 南京信息工程大学
IPC: G06F21/16 , G06F21/10 , G06N3/0464 , G06N3/098
Abstract: 本发明公开了一种基于激活图的联邦学习版权保护方法、系统及设备，涉及人工智能隐私保护技术领域。本发明包括：构建检测器，并对检测器进行预训练；分别为每个客户端定义一个正态分布#imgabs0#的潜在空间和一个约束#imgabs1#，以便生成不同强度的高斯噪声触发集，触发集输入到模型得到某一层的激活图，同时构建投影模型#imgabs2#，将水印信息无缝嵌入到客户端模型对应层的激活图中。本发明通过服务器端水印技术，可以在每一轮或数轮联邦学习模型更新过程中有效地插入水印，每个客户端模型都被嵌入了一个唯一的水印，这使得通过比较不同模型中的水印，可以有效地识别并追踪到窃取模型的恶意客户端。
-
-
-
-
-
-
Search Results
7
records
(took 0.032 seconds)
