-
公开(公告)号：CN117951506A
公开(公告)日：2024-04-30
申请号：CN202410315970.4
申请日：2024-03-20
Applicant: 南京信息工程大学
IPC: G06F18/2134 , G06F18/214 , G06F18/24
Abstract: 本发明公开一种基于特征空间频域分布的模型后门攻击方法，属于人工智能安全技术领域；一种基于特征空间频域分布的模型后门攻击方法为：首先逆向生成触发输入，接着利用代码注入的方式将包含分布检测器和木马寄存器的木马结构注入预训练模型中；然后将触发输入输入预训练模型中，来激活所述木马结构；通过将触发分布嵌入模型的特征空间，并利用特征图频域分布的鲁棒性，使模型后门能够抵御模型权重修改攻击，从根本上提高了模型后门的鲁棒性；此外，通过引入木马寄存器结构，可以将木马特征图隐蔽地注入模型中，替换正常特征图而不被察觉；这种隐蔽性使得后门攻击更难被检测到，并增加了攻击的成功率和持久性，且不会影响模型的原始性能。
Search Results
1
records
(took 0.022 seconds)
筛选
AND
AND
过滤
NOT
NOT
Scan to Join
