公开(公告)号：CN119169120A

公开(公告)日：2024-12-20

申请号：CN202410417957.X

申请日：2024-04-08

Applicant: 中国科学院计算技术研究所

Inventor： 曹娟 ,  弭晓月 ,  唐帆 ,  唐胜

IPC: G06T11/00 ,  G06T7/10 ,  G06N3/094 ,  G06N3/045 ,  G06N3/0475 ,  G06V10/764 ,  G06N3/084

Abstract: 本发明提出一种基于对抗攻击的图像反生成方法，包括：对目标图像进行分割，获取该目标图像的关键掩码；在该关键掩码上添加对抗性扰动，得到该目标图像的反生成保护图像。本发明的方法使用较少难以察觉的对抗噪声来反生成保护用户重要的概念，如人类图像中的面部区域，能有效地防止了恶意的个性化，与MIST等针对整个图像的反生成保护方法相比，它在安全性和噪声的视觉质量之间提供了更好的平衡。本发明还提出一种基于对抗攻击的图像反生成装置，以及一种计算机可读存储介质和一种电子设备。

公开(公告)号：CN118377928A

公开(公告)日：2024-07-23

申请号：CN202410501754.9

申请日：2024-04-25

Applicant: 中国科学院计算技术研究所

Inventor： 曹娟 ,  弭晓月 ,  唐帆 ,  唐胜

IPC: G06F16/583 ,  G06F16/54 ,  G06N5/04

Abstract: 本发明提出一种基于大型语言模型的文生图模型动态评估方法，包括：LLM根据所选的主题生成测试输入文本，待评估的文生图模型根据测试输入文本生成测试图片，记录测试图片生成的准确率，并判断准确率是否低于阈值，若是则执行文本调整步骤；调整测试输入文本，得到多个调整输入文本，文生图模型根据测试输入文本生成调整图片，将准确率低于阈值的调整图片对应的调整输入文本作为失败文本；LLM根据当前主题下所有测试输入文本和调整输入文本的图片生成的准确率，分析文生图模型的对错原因，LLM分析对错原因和当前主题，生成新的主题，再次执行文本生成步骤，直到达到用户需求，保存当前所有失败文本作为文生图模型的评估结果。

公开(公告)号：CN117592547A

公开(公告)日：2024-02-23

申请号：CN202311575231.0

申请日：2023-11-23

Applicant: 中国科学院计算技术研究所

Inventor： 曹娟 ,  弭晓月 ,  唐帆 ,  汪旦丁 ,  唐胜

IPC: G06N3/094 ,  G06N3/0475 ,  G06F18/214 ,  G06F18/241

Abstract: 本发明提出一种基于记忆存储的持续对抗防御方法，包括：获取持续学习模型的分类器的类别；对该持续学习模型的记忆训练数据和当前任务的当前训练数据生成对抗样本，将该对抗样本输入该持续学习模型，进行持续对抗训练；并在该持续对抗训练中，对该对抗样本的类别logit值以校正值进行校正；以完成训练后的持续学习模型执行该当前任务。本发明还提出一种基于记忆存储的持续对抗防御系统，以及一种用于实现基于记忆存储的持续对抗防御的数据处理装置。