公开(公告)号：CN118116056A

公开(公告)日：2024-05-31

申请号：CN202410304549.3

申请日：2024-03-18

Applicant: 北京计算机技术及应用研究所

Inventor： 郭敏 ,  田少山 ,  方永强 ,  桓琦 ,  张箐蓓 ,  曾颖明 ,  李宁 ,  弓驰

IPC: G06V40/16 ,  G06V10/774 ,  G06V10/82 ,  G06V10/764 ,  G06N3/084

Abstract: 本发明公开了一种高鲁棒性人脸识别对抗样本生成方法，属于人工智能安全领域。主要技术方案包括：1.初始化算法参数与图像预处理得到当前对抗样本；2.计算输出多样性初始化梯度；3.输出多样性初始化对抗样本；4.针对真实物理世界数据增强；5.计算物理世界下数据增强累积梯度平均；6.当前对抗样本更新，并判断是否满足迭代终止条件；7.对最终对抗样本进行测试，观察不同类别对抗样本实际效果。本发明生成的对抗样本通过同时使用输出多样性初始化及模拟真实物理环境对图像增加对抗扰动，应用梯度高斯平滑、动量梯度及噪声抑制对生成的对抗样本图像进行更新，能够保证生成的对抗扰动隐藏在真实物理环境噪声之中，对抗样本在物理世界下较高鲁棒性。

公开(公告)号：CN118095406A

公开(公告)日：2024-05-28

申请号：CN202410297400.7

申请日：2024-03-15

Applicant: 北京计算机技术及应用研究所

Inventor： 方永强 ,  靳咏雷 ,  郭敏 ,  桓琦 ,  张箐蓓 ,  田少山 ,  曾颖明 ,  李宁 ,  薛晓萱

IPC: G06N3/094 ,  G06N3/084 ,  G06V40/16 ,  G06V10/82

Abstract: 本发明涉及一种针对智能人脸识别模型的随机对抗训练方法，属于人工智能安全领域。包括：1.搭建人脸识别模型并初始化算法参数、构造人脸图片训练集；2.将人脸图片训练集随机划分为多个互不相交的训练子集；3.利用划分后的训练子集生成对抗训练子集；4.利用对抗训练子集和加权损失函数对人脸识别模型进行反向传播训练；5.判断是否满足所有训练子集全部完成对抗训练，是则执行步骤6，否则返回步骤3；6.判断人脸识别模型迭代次数是否达到终止条件，是则输出最终鲁棒人脸识别模型，否则返回步骤2继续执行。本发明能同时抵御人脸伪装攻击和人脸逃逸攻击，增强人脸识别模型抵御攻击且能保证干净人脸样本的识别准确率，增强模型的鲁棒性和泛化能力。