公开(公告)号：CN119477322A

公开(公告)日：2025-02-18

申请号：CN202411592409.7

申请日：2024-11-08

Applicant: 香港中文大学(深圳)

Inventor： 吴保元 ,  郑美曦 ,  汤佳澄 ,  宋政瑶 ,  吴冠宗 ,  张明达

IPC: G06Q20/40 ,  G06F21/64 ,  G06F21/62 ,  G06F21/45 ,  G06F18/24 ,  G06N3/042 ,  G06N3/0475 ,  G06N3/047 ,  G06N3/094

Abstract: 本发明属于可信人工智能技术领域，具体公开了一种基于图神经网络的支付监管模型可信评估方法，包括训练用于对图神经网络中节点进行分类的支付监管模型；将图神经网络的边界节点和对应标签作为干净指纹序列；将通过可疑篡改模型得到的图神经网络的边界节点和对应标签作为可疑指纹序列；根据干净指纹序列和可疑指纹序列，确定支付监管模型的安全性。本发明首次提出了在支付监管模型场景下的五大维度评估定义，包括隐私性、可解释性、安全性、鲁棒性和公平性。五大维度全面覆盖了支付监管模型的核心评估领域，填补了业界在此领域的空白。本发明提供的支付监管模型可信评估方法，对于推动支付监管模型的发展和完善具有重要意义。

公开(公告)号：CN115730317A

公开(公告)日：2023-03-03

申请号：CN202211595221.9

申请日：2022-12-13

Applicant: 深圳市大数据研究院 ,  香港中文大学(深圳)

Inventor： 宋政瑶 ,  吴保元 ,  李永强

IPC: G06F21/57 ,  G06F21/56 ,  G06V10/56 ,  G06V10/764 ,  G06V10/82 ,  G06N3/045 ,  G06N3/08

Abstract: 本发明公开了一种后门攻击中注毒频段确定方法、后门攻击方法及系统。注毒频段确定方法包括以下步骤：获取样本图像的多个频段；在每一个频段中依次添加扰动，得到多个扰动样本；将每一个扰动样本依次输入至深度学习模型进行训练，确定每一个扰动样本的迭代次数；根据迭代次数，从多个扰动样本对应的频段中确定注毒频段。注毒频段确定系统包括：频段获取模块、扰动样本生成模块、迭代次数确定模块和注毒频段确定模块。本发明通过确定注毒频段，仅在注毒频段进行注毒，能够减少投毒数据比率，增加后门攻击的隐蔽性和成功率。