-
公开(公告)号:CN116881550A
公开(公告)日:2023-10-13
申请号:CN202310764113.8
申请日:2023-06-26
Applicant: 国家计算机网络与信息安全管理中心
IPC: G06F16/9535 , G06F18/23213 , G06F9/445 , G06F21/56 , G06N3/04 , G06N3/08
Abstract: 本申请公开了一种内容推荐系统冷启动安全风险检测方法及装置,包括:对被测推荐系统,根据所述被测推荐系统的注册规则,生成用户画像,并根据生成的用户画像、在本地系统构建相应的用户;为任一用户,基于配置的交互策略,在所述本地系统执行交互;根据交互结果构建训练数据;将训练数据输入潜在特征学习模型,执行训练;对所述待检测的内容数据,输入训练好的潜在特征学习模型;统计并逆向排序所述潜在特征学习模型的输出结果的重构误差;取排序后前指定数量的输出数据作为异常数据、进行聚类;根据聚类结果,判断内容推荐系统冷启动是否存在安全风险。本申请的方法能够用于判别被测推荐系统在冷启动阶段是否被恶意操纵。
-
公开(公告)号:CN116595316A
公开(公告)日:2023-08-15
申请号:CN202310430301.7
申请日:2023-04-20
Applicant: 国家计算机网络与信息安全管理中心
IPC: G06F18/10 , G06F18/22 , G06F18/214 , G06F16/9035 , G06F16/951 , G06F16/9537 , G06F16/9538 , G06F16/9535 , G06F16/9038
Abstract: 本发明提出了一种基于评分卡模型的多平台虚假信息识别方法及装置,方法包括:获取各自表征一主题的多组数据信息;基于数据信息与预先标记的数据信息的比对情况进行筛选;对当前数据信息进行排序以及填充处理;利用当前数据信息,构建评分卡模型,并确认每一主题对应的数据信息中,各个维度信息对数据信息危险程度的影响情况;利用当前构建的评分卡模型,对再次获取的表征一主题的数据信息进行识别处理。本发明应用评分卡模型,可基于同一主题的虚假信息识别,并且可以根据影响主题信息的多种因素,在不同的周期内,识别不同维度数据的影响因素权重。
-
公开(公告)号:CN115718835A
公开(公告)日:2023-02-28
申请号:CN202211370652.5
申请日:2022-11-03
Applicant: 国家计算机网络与信息安全管理中心 , 北京中科闻歌科技股份有限公司
IPC: G06F16/9535 , G06F17/16
Abstract: 本申请涉及一种破除信息茧房问题的冷启动个性化推荐方法及装置,其中,方法包括:在目标账号的使用阶段处于冷启动阶段的情况下,确定与目标账号的用户行为相似度达到第一阈值的对照账号;利用对照账号的对照兴趣矩阵确定目标账号的目标兴趣矩阵;利用目标兴趣矩阵在预设内容池中确定候选推荐集;利用量化因子对候选推荐集中的特征相关度进行权重调整,得到各个候选推荐数据的推荐指数;将推荐指数达到第二阈值的候选推荐数据确定为目标推荐数据,并将目标推荐数据推送给目标账号。通过对照账号来预测用户账号的兴趣矩阵,然后用兴趣矩阵选出候选推荐集,最后结合目标账号的浏览记录确定推荐数据,解决了为冷启动阶段用户推荐的内容趋于同质化的问题。
-
公开(公告)号:CN115034286A
公开(公告)日:2022-09-09
申请号:CN202210435266.3
申请日:2022-04-24
Applicant: 国家计算机网络与信息安全管理中心
Abstract: 本发明公开了一种基于自适应损失函数的异常用户识别方法和装置,其中,该方法包括:获取web系统的用户行为日志数据样本,并将用户行为日志数据样本向量化,得到无标签数据样本和有标签数据样本;进行数据预处理得到训练数据集;基于训练数据集的输入特征训练第一自编码器模型,并基于第一自编码器模型构造无标签数据样本损失函数和有标签数据样本损失函数;迭代优化第一自编码器模型并构造异常用户检测优化问题函数,得到第二自编码器模型;基于第二自编码器模型,对无标签数据样本进行异常点检测,以识别异常用户。本发明解决实际业务场景中,无标签数据中存在异常点,采用固定损失函数难以提高准确率,误报率高的技术问题。
-
公开(公告)号:CN114840854A
公开(公告)日:2022-08-02
申请号:CN202210380431.X
申请日:2022-04-12
Applicant: 国家计算机网络与信息安全管理中心
IPC: G06F21/57
Abstract: 本发明公开了一种APP典型业务流程信息服务安全风险点的识别方法及装置,包括:对APP功能点进行逻辑拆分,以在逻辑拆分后获取该APP的功能逻辑、内容逻辑、构造逻辑和运行逻辑;确定该APP的功能逻辑、内容逻辑、运行逻辑以及构造逻辑相互之间的关系,以生成该APP的典型业务流程;基于该APP的典型业务流程,根据预设的风险点匹配规则判定信息服务安全风险点。本申请的方法对APP功能点进行逻辑拆分,并确定出拆分后的逻辑之间的关系,从而确定APP的典型业务流程,以实现识别信息服务安全风险点,本申请的方法的结果客观,且适用性强。
-
公开(公告)号:CN113704102A
公开(公告)日:2021-11-26
申请号:CN202110972799.0
申请日:2021-08-24
Applicant: 国家计算机网络与信息安全管理中心 , 恒安嘉新(北京)科技股份公司
Inventor: 郭立岩 , 孙旷怡 , 赵媛 , 段荣昌 , 王媛媛 , 王子涵 , 吕东 , 项菲 , 李鹏霄 , 翟羽佳 , 马宏远 , 鲁睿 , 王红兵 , 时磊 , 阿曼太 , 雷小创 , 庄越淋 , 周忠义 , 傅强 , 梁彧 , 田野 , 王杰 , 杨满智 , 蔡琳 , 金红
IPC: G06F11/36
Abstract: 本发明实施例公开了一种应用程序合规检测方法、装置、设备和介质。其中方法包括:获取待检测应用程序的隐私政策文本;依据隐私政策文本,对待检测应用程序进行合规检测。本发明实施例实现了对应用程序违法违规的自动化检测,从而提高对应用程序的合规检测效率。
-
公开(公告)号:CN118013105B
公开(公告)日:2024-11-22
申请号:CN202310961857.9
申请日:2023-08-01
Applicant: 国家计算机网络与信息安全管理中心
IPC: G06F16/9535 , G06F16/9538
Abstract: 本申请涉及一种推送信息的生成方法、装置、电子设备及存储介质,所述推送信息的生成方法通过获取第一推送信息集合,判断第一推送信息集合中,推送信息的第一比例是否小于预设阈值,推送信息表示包含预设内容的推送信息,并在第一比例小于预设阈值的情况下,根据第一比例确定调整策略,调整策略用于调整第一推送信息集合中的推送信息,基于调整策略调整第一推送信息集合中的推送信息,以生成目标推送信息集合。由此,在推送信息的第一比例较低时,可以通过调整策略起到调整推送信息的第一比例的作用,以此解决个性化推送方式中特定推送内容比例低的问题,实现了检测以及调整推送信息的比例的效果。
-
公开(公告)号:CN113704102B
公开(公告)日:2024-06-21
申请号:CN202110972799.0
申请日:2021-08-24
Applicant: 国家计算机网络与信息安全管理中心 , 恒安嘉新(北京)科技股份公司
Inventor: 郭立岩 , 孙旷怡 , 赵媛 , 段荣昌 , 王媛媛 , 王子涵 , 吕东 , 项菲 , 李鹏霄 , 翟羽佳 , 马宏远 , 鲁睿 , 王红兵 , 时磊 , 阿曼太 , 雷小创 , 庄越淋 , 周忠义 , 傅强 , 梁彧 , 田野 , 王杰 , 杨满智 , 蔡琳 , 金红
IPC: G06F11/36
Abstract: 本发明实施例公开了一种应用程序合规检测方法、装置、设备和介质。其中方法包括:获取待检测应用程序的隐私政策文本;依据隐私政策文本,对待检测应用程序进行合规检测。本发明实施例实现了对应用程序违法违规的自动化检测,从而提高对应用程序的合规检测效率。
-
公开(公告)号:CN118035711B
公开(公告)日:2024-06-14
申请号:CN202410431137.6
申请日:2024-04-11
Applicant: 国家计算机网络与信息安全管理中心江苏分中心
IPC: G06F18/21 , G06F18/2431 , G06N3/09
Abstract: 本发明公开了一种针对大模型内容安全能力的评测方法及系统,属于网络空间安全技术领域。所述评测方法包括步骤1,构建多模态、多领域和多题型的评测集;步骤2,构建内容安全评测模型;步骤3,将评测集的问题输入至被测大模型,输出对应的大模型回答;将问题和对应大模型回答整理成问答集,将所述问答集输入至所述内容安全评测模型,根据内容安全评测模型的输出对所述大模型进行综合打分,获得针对大模型内容安全能力的评测结果。该方法可以量化评价大模型跨模态内容安全防护性能,为监管部门、第三方评测机构、大模型研发机构提供参考数据。
-
公开(公告)号:CN118013105A
公开(公告)日:2024-05-10
申请号:CN202310961857.9
申请日:2023-08-01
Applicant: 国家计算机网络与信息安全管理中心
IPC: G06F16/9535 , G06F16/9538
Abstract: 本申请涉及一种推送信息的生成方法、装置、电子设备及存储介质,所述推送信息的生成方法通过获取第一推送信息集合,判断第一推送信息集合中,推送信息的第一比例是否小于预设阈值,推送信息表示包含预设内容的推送信息,并在第一比例小于预设阈值的情况下,根据第一比例确定调整策略,调整策略用于调整第一推送信息集合中的推送信息,基于调整策略调整第一推送信息集合中的推送信息,以生成目标推送信息集合。由此,在推送信息的第一比例较低时,可以通过调整策略起到调整推送信息的第一比例的作用,以此解决个性化推送方式中特定推送内容比例低的问题,实现了检测以及调整推送信息的比例的效果。
-
-
-
-
-
-
-
-
-