公开(公告)号：CN116664226A

公开(公告)日：2023-08-29

申请号：CN202310504694.1

申请日：2023-05-06

Applicant: 中国科学院计算技术研究所

Inventor： 曹婍 ,  刘元浩 ,  沈华伟 ,  伍云帆 ,  陶舒畅 ,  程学旗

IPC: G06Q30/0601 ,  G06F16/9536 ,  G06F16/9535 ,  G06F18/214 ,  G06N7/01 ,  G06N3/094

Abstract: 本发明提供一种推荐系统流行度去偏方法和系统、存储介质，包括：数据集处理步骤，对商品i的交互记录进行随机采样划分，得到所述的训练集验证集和测试集推荐模型预训练步骤，使用该训练集预训练基于协同过滤模型的推荐模型，预训练选用协同过滤推荐系统常用的训练损失函数；推荐模型去偏训练步骤，对预训练完成的推荐模型，使用去偏损失函数完成去偏训练；推荐步骤，对于系统中的任意用户，模型预测该用户对系统中全部商品的偏好分数，并在该用户未交互过的商品中选择预测的偏好分数最高的若干个商品，作为给该用户的推荐结果。

公开(公告)号：CN117668857A

公开(公告)日：2024-03-08

申请号：CN202311675503.4

申请日：2023-12-07

Applicant: 中国科学院计算技术研究所

Inventor： 曹婍 ,  伍云帆 ,  沈华伟 ,  陶舒畅 ,  孙飞 ,  程学旗

IPC: G06F21/57 ,  G06F18/22 ,  G06F18/214

Abstract: 本发明提出一种基于模拟数据投毒攻击的推荐系统安全性测试方法和系统。通过梯度传递技术可以加速替代推荐系统的训练过程，以在有限时间内得到更准确的替代模型。梯度传递技术可以增强现有模拟攻击样本的准确性。通过加速替代模型训练得到更准确的替代模型，可以从替代模型中获得更好的优化指导，从而增强现有模拟攻击样本的准确性。梯度传递可以广泛增强基于替代系统的攻击方法，包括大部分现有的推荐系统模拟投毒攻击，这为后续的研发提供了基础。同时，也可以帮助发现了推荐系统的弱点，为设计更可靠的防御方法提供启示。

公开(公告)号：CN113762465A

公开(公告)日：2021-12-07

申请号：CN202110879783.5

申请日：2021-08-02

Applicant: 中国科学院计算技术研究所

Inventor： 沈华伟 ,  陶舒畅 ,  曹婍 ,  侯良 ,  程学旗

IPC: G06N3/04 ,  G06N3/08 ,  G06K9/62

Abstract: 本发明提供一种保护图数据的方法，所述图数据包括节点和节点之间的边，所述节点具有分类标签与属性，所述方法包括：步骤100：从图数据中选择关键节点对；步骤200：对所选择的关键节点对进行免疫保护，所述免疫保护包括：保护同一类别下属性高度相似的节点对之间的连边，以及保持不同类下属性相似度低的节点对间没有连边。本发明首次提出面向数据的对抗免疫方法，不需要影响GNN模型的训练过程，也不需要任何优化过程，节省了优化所需的大量算力和时间。对抗免疫直接为关键节点对“接种疫苗”，保护它们免受攻击损害，从而提高整个图的鲁棒性，同时保证了GNN在干净图上的性能。