公开(公告)号：CN115018069B

公开(公告)日：2024-09-13

申请号：CN202210598454.8

申请日：2022-05-30

Applicant: 武汉大学日照信息技术研究院

Inventor： 何琨 ,  陈晶 ,  吴聪 ,  加梦 ,  陈竹军 ,  杜瑞颖

IPC: G06N3/09 ,  H04L9/40

Abstract: 本发明公开了一种多类型映射的神经网络后门风险评估方法、系统及设备，首先在干净的样本集上训练目标模型和统计准确率。然后，根据4种映射策略构建不同的投毒训练集，训练多个植入后门的目标模型并统计准确率。最后构建攻击测试集并测试不同后门模型的攻击表现，综合各指标计算风险得分，实现目标深度学习模型的后门安全风险评估。本发明解决了深度学习模型面对后门攻击的安全风险评估问题。

公开(公告)号：CN115018069A

公开(公告)日：2022-09-06

申请号：CN202210598454.8

申请日：2022-05-30

Applicant: 武汉大学日照信息技术研究院

Inventor： 何琨 ,  陈晶 ,  吴聪 ,  加梦 ,  陈竹军 ,  杜瑞颖

IPC: G06N3/08 ,  G06K9/62 ,  H04L9/40

Abstract: 本发明公开了一种多类型映射的神经网络后门风险评估方法、系统及设备，首先在干净的样本集上训练目标模型和统计准确率。然后，根据4种映射策略构建不同的投毒训练集，训练多个植入后门的目标模型并统计准确率。最后构建攻击测试集并测试不同后门模型的攻击表现，综合各指标计算风险得分，实现目标深度学习模型的后门安全风险评估。本发明解决了深度学习模型面对后门攻击的安全风险评估问题。