公开(公告)号：CN116432774A

公开(公告)日：2023-07-14

申请号：CN202310368919.5

申请日：2023-04-06

Applicant: 上海交通大学

Inventor： 马汝辉 ,  褚学森 ,  阮馨雨 ,  王辰霈 ,  施宏建 ,  汪小川 ,  董俊伟 ,  刘渊

IPC: G06N20/00 ,  G06F17/11 ,  G06F17/10 ,  G06F21/55

Abstract: 本发明公开了一种基于层次化指标筛选的区块链联邦学习安全聚合框架，涉及联邦学习技术领域，包括预训练阶段、正式训练阶段和聚合阶段，其中：预训练阶段，训练客户端参与预训练并将计算的loss值上传区块链；正式训练阶段，可信客户端训练模型并提供评分标准，训练客户端训练并上传本地模型参数，可信客户端对本地模型打分并计算其权重，上传模型信任分数和权重；聚合阶段，根据模型信任分数和权重进行模型聚合，获得本轮全局模型并上链。本发明通过将FLTrust算法对上传的本地模型进行信任评分聚合，排除恶意客户端，一定程度上应对拜占庭攻击，保证最终获得全局模型的准确性，通过loss预测与聚合权重加快聚合速度，用更少的收敛轮次获得较好的全局模型。

公开(公告)号：CN116484978A

公开(公告)日：2023-07-25

申请号：CN202310507957.4

申请日：2023-05-06

Applicant: 上海交通大学

Inventor： 马汝辉 ,  褚学森 ,  王辰霈 ,  阮馨雨 ,  施宏建 ,  汪小川 ,  董俊伟 ,  刘渊

IPC: G06N20/00

Abstract: 本发明公开了一种基于回合制更新及客户端权重优化的区块链联邦学习方法，涉及深度学习领域，该方法包括如下步骤：从区块链中获取第一全局模型集，客户端对第一全局模型集执行本地训练，生成训练后的本地模型；客户端在本地依据训练后的本地模型执行聚合，并计算测试损失值；依据测试损失值获取未参与本轮训练时的损失值差值；以损失值差值获取第一参数，以筛选客户端，按一定时隙收集筛选客户端训练后的本地模型，生成聚合模型，上传区块链；重复上述训练步骤直到全局模型收敛或达到预设的训练轮数。本发明减少了同步训练带来的等待时间，同样提高了框架的效率。