公开(公告)号：CN119090028A

公开(公告)日：2024-12-06

申请号：CN202411200300.4

申请日：2024-08-29

Applicant: 上海交通大学 ,  国家工业信息安全发展研究中心

Inventor： 骆源 ,  应臣浩 ,  夏福源 ,  陈炜 ,  潘妍 ,  许智鑫 ,  张畅 ,  赵哲

IPC: G06N20/00 ,  G06F21/62 ,  H04L9/32 ,  H04L9/00

Abstract: 本发明提供了一种基于区块链和零知识证明的可信联邦学习系统及方法，包括：扰动模块。所述扰动模块中，应用非交互式零知识协议，使得对局部模型添加的噪声可验证。训练者和验证者独立且分别使用线性逼近构建包含特定高斯噪声的相同电路，训练者使用电路和公共生成器以及模型参数构建证明。验证者使用他们的电路验证接收到的证明；验证模块。所述验证模块构建了一种分片区块链共识过程。每个验证者首先利用公共数据集，验证局部模型梯度更新的精度。将自己的验证结果作为投票摘要，在网络中形成共识。对于包含局部模型选择信息的区块数据，引入拜占庭容错协议来确保数据可信。本发明可被证明实现差分隐私，并能够分析出噪声对模型性能影响的上界。

公开(公告)号：CN117216556A

公开(公告)日：2023-12-12

申请号：CN202311079388.4

申请日：2023-08-24

Applicant: 上海交通大学

Inventor： 骆源 ,  夏福源 ,  应臣浩 ,  陈炜

IPC: G06F18/214 ,  G06N3/042 ,  G06N3/08

Abstract: 本发明提供了一种基于区块链的抗拜占庭攻击的隐私联邦学习方法及系统，包括激励步骤：由工作节点向竞价节点出价，竞价节点根据工作节点的信誉值选取获胜工作节点，并将获胜工作节点随机划分为训练节点和验证节点。训练步骤：训练节点向区块链请求全局模型并使用本地隐私数据集进行模型训练，并为损失函数的梯度添加高斯噪声得到局部模型发送给验证节点，验证节点计算局部模型在本地数据集上的准确率作为模型评分，然后根据评分结果进行模型聚合，最后将评分结果和聚合得到的全局模型通过拜占庭共识机制添加到区块链上。本发明克服了中心化联邦学习系统的弊端，设计训练过程透明、可追溯的去中心化联邦学习系统框架，兼顾模型安全、效率和性能。