公开(公告)号：CN118247540A

公开(公告)日：2024-06-25

申请号：CN202211666419.1

申请日：2022-12-23

Applicant: 香港中文大学(深圳) ,  杭州海康威视数字技术股份有限公司

Inventor： 袁丹妮 ,  张明达 ,  吴保元 ,  杨世才

IPC: G06V10/764 ,  G06V10/42

Abstract: 本申请实施例提供了一种图像数据处理方法、装置及电子设备，所述方法包括：将待处理图像输入至图像分类模型中，得到所述图像分类模型输出的对所述待处理图像的分类结果；确定所述分类结果对各频率的频域梯度值；根据各所述频域梯度值，展示所述图像分类模型对各频率的关注程度，所述频率的频域梯度值与所述图像分类模型对各频率的关注程度正相关。从而，全面地解释图像分类模型在分类待处理图像时，对频域中各频率的关注程度。

公开(公告)号：CN117390622A

公开(公告)日：2024-01-12

申请号：CN202310853692.3

申请日：2023-07-12

Applicant: 香港中文大学(深圳) ,  深圳市大数据研究院

Inventor： 魏少魁 ,  吴保元 ,  张明达 ,  查宏远

IPC: G06F21/56 ,  G06F18/214 ,  G06F18/24

Abstract: 本发明公开了一种后门防御中消除共享对抗样本的方法，步骤1、确定中毒模型和纯化模型中的共享对抗样本；步骤2、利用标准样本和共享对抗样本训练纯化模型；步骤3、重复步骤1，判断中毒模型和训练后的纯化模型是否存在共享对抗样本；如是，重复步骤2至3，如否，则纯化模型达到预设条件，终止循环。本发明通过找到中毒模型和纯化模型的共享对抗样本，优化纯化模型以消除共享对抗样本，从而帮助纯化模型中后门的移除；本发明提出了减轻中毒模型中后门攻击的双层公式。适用于后门有毒模型的纯化，可以作为底层技术辅助基于对抗扰动的现有后门防御方法，达到最大程度的移除后门的同时保护了模型的效能，提高了模型的鲁棒性，保持了模型的高精度。

公开(公告)号：CN119477322A

公开(公告)日：2025-02-18

申请号：CN202411592409.7

申请日：2024-11-08

Applicant: 香港中文大学(深圳)

Inventor： 吴保元 ,  郑美曦 ,  汤佳澄 ,  宋政瑶 ,  吴冠宗 ,  张明达

IPC: G06Q20/40 ,  G06F21/64 ,  G06F21/62 ,  G06F21/45 ,  G06F18/24 ,  G06N3/042 ,  G06N3/0475 ,  G06N3/047 ,  G06N3/094

Abstract: 本发明属于可信人工智能技术领域，具体公开了一种基于图神经网络的支付监管模型可信评估方法，包括训练用于对图神经网络中节点进行分类的支付监管模型；将图神经网络的边界节点和对应标签作为干净指纹序列；将通过可疑篡改模型得到的图神经网络的边界节点和对应标签作为可疑指纹序列；根据干净指纹序列和可疑指纹序列，确定支付监管模型的安全性。本发明首次提出了在支付监管模型场景下的五大维度评估定义，包括隐私性、可解释性、安全性、鲁棒性和公平性。五大维度全面覆盖了支付监管模型的核心评估领域，填补了业界在此领域的空白。本发明提供的支付监管模型可信评估方法，对于推动支付监管模型的发展和完善具有重要意义。