公开(公告)号：CN117786495A

公开(公告)日：2024-03-29

申请号：CN202311829082.6

申请日：2023-12-27

Applicant: 支付宝(杭州)信息技术有限公司 ,  上海交通大学

Inventor： 李高磊 ,  程锦科 ,  易啸宇 ,  郑龙飞 ,  王莹桂

IPC: G06F18/241 ,  G06N20/00

Abstract: 本说明书实施例提供了一种针对联邦学习的鲁棒性测试方法和系统，联邦学习通过多方进行，该方法包括：多方中的第一方通过生成式人工智能模型，生成目标样本的预设风格的模拟样本，将其分类标签设置为与其原始标签不同的目标标签；根据模拟样本和目标标签获取本方本地模型的更新参数并发送到服务器；服务器根据多方分别发送的本地模型的更新参数确定全局更新参数，其中，第一方之外的其他方根据各自的本地样本及其原始标签获取各自本地模型的更新参数并发送到服务器，其他方中的第二方的本地样本包括目标样本；服务器将全局更新参数发送到多方，用于多方分别更新各自的本地模型；通过目标样本和模拟样本，测试第二方更新后的本地模型的鲁棒性指标。

公开(公告)号：CN116933261A

公开(公告)日：2023-10-24

申请号：CN202310912178.2

申请日：2023-07-24

Applicant: 上海交通大学

Inventor： 李高磊 ,  李生红 ,  严志聪 ,  黄文凯 ,  易啸宇

IPC: G06F21/56 ,  G06F21/57 ,  G06F18/214 ,  G06N3/0895

Abstract: 本发明涉及一种用于深度半监督学习的后门攻击防御方法，该方法包括：生成用于对受害深度半监督学习系统进行训练的无标记中毒数据；采用注入有无标记中毒数据的无标记训练数据对受害深度半监督学习系统进行训练，获取被植入后门的受害深度半监督学习系统；采用对比注毒策略，获取受害深度半监督学习系统的后门脆弱性分析结果；根据后门脆弱性分析结果，确定后门攻击防御策略。与现有技术相比，本发明具有防御效果好、验证了深度半监督学习系统的后门脆弱性、能够直观观测不同扰动幅度对后门脆弱性的影响等优点。

公开(公告)号：CN118264569A

公开(公告)日：2024-06-28

申请号：CN202410130594.1

申请日：2024-01-30

Applicant: 上海交通大学

Inventor： 李高磊 ,  童颖睿 ,  易啸宇 ,  兰昆 ,  李建华

IPC: H04L41/14 ,  H04L41/16 ,  G06N3/098 ,  G06N3/0895 ,  H04L9/40

Abstract: 本发明涉及一种基于语义扰动的联邦半监督学习模型的后门脆弱性分析方法、电子设备及存储介质，该方法包括：所有客户端在干净的标签数据和无标签数据上进行联邦半监督训练，得到接近收敛的全局模型；评估者投毒特定客户端的本地无标签数据，向带特定自然特征的样本上加对抗扰动，使得中毒样本的特征和预测结果都接近目标类别的标签样本；每一轮更新训练中，中毒客户端在干净的标签数据和中毒的无标签数据上进行训练，然后放大得到的恶意模型的权重；各个客户端分别将本地的模型更新上传至服务器，服务器将收到的所有更新进行聚合，得到新一轮的带后门的全局模型。与现有技术相比，本发明能够向FSSL成功植入隐蔽的语义后门。

公开(公告)号：CN115730314A

公开(公告)日：2023-03-03

申请号：CN202211430673.1

申请日：2022-11-15

Applicant: 上海交通大学

Inventor： 李高磊 ,  伍军 ,  易啸宇 ,  陈黎兴 ,  杨武 ,  玄世昌

IPC: G06F21/57 ,  G06F18/214 ,  G06F18/241 ,  G06N3/0442 ,  G06N3/045 ,  G06N3/08

Abstract: 本发明涉及一种基于循环语义学习的HCPS软件漏洞检测方法，包括步骤：通过动态和静态分析策略对HCPS软件的无源码二进制程序进行预处理；通过AFL算法，根据预处理后的HCPS软件程序，构建程序帧，该程序帧用以集成HCPS软件程序运行时的逻辑关系和执行环境；根据程序帧，构建指令嵌入矩阵，将程序帧中的指令序列转化为向量特征值，并分为训练集和测试集，并将训练集输入构建好的C‑LSTM网络中进行训练，训练得到能够对HCPS软件漏洞类型进行分类的C‑LSTM网络；将HCPS软件的无源码二进制程序经过上述处理后，输入训练好的C‑LSTM网络中，对软件漏洞类型进行检测。与现有技术相比，本发明能够实现HCPS软件漏洞的自动化检测，完整扫描目标软件，有效减少HCPS软件的攻击面。