多模态智能模型系统化安全防护方法、装置及设备

    公开(公告)号:CN118094176B

    公开(公告)日:2024-06-18

    申请号:CN202410487472.8

    申请日:2024-04-22

    Abstract: 本申请提供一种多模态智能模型系统化安全防护方法、装置及设备,该方法包括:在目标多模态智能模型的安全检测阶段,依据训练好的距离感知判断模型所确定的检测数据与原始数据之间的感知距离,得到与原始数据之间的感知距离满足要求的检测数据,并利用该检测数据对所述目标多模态智能模型进行检测;在检测阶段的检测结果为所述目标多模态智能模型存在安全问题的情况下,一方面,对模型输入进行安全编码防护及分词过滤,另一方面,对多模态智能模型进行多维度全方位评估。该方法可以系统性提升多模态智能模型的安全性。

    面向联邦推荐系统的隐私泄露检测方法及装置

    公开(公告)号:CN117592042A

    公开(公告)日:2024-02-23

    申请号:CN202410071311.0

    申请日:2024-01-17

    Abstract: 本申请实施例提供了一种面向联邦推荐系统的隐私泄露检测方法及装置,涉及数据处理技术领域,其中,一种面向联邦推荐系统的隐私泄露检测方法,包括:获取各个预定项目对应的嵌入梯度,基于所获取的各个预定项目对应的嵌入梯度之间的相似关系,预估针对各个预定项目的两类评级分布,分别以两类评级分布中的项目评级作为候选评级真值,构建两类影子数据,基于两类影子数据,对服务端的本地推荐模型进行训练,得到两类预测结果,基于两类预测结果,确定各个预定项目的目标评级真值以及目标预测结果,基于目标评级真值与目标预测结果的匹配关系,确定联邦推荐系统的隐私数据泄露的检测结果。可见,本方案可以对联邦推荐系统进行有效地数据泄露检测。

    多模态智能模型系统化安全防护方法、装置及设备

    公开(公告)号:CN118094176A

    公开(公告)日:2024-05-28

    申请号:CN202410487472.8

    申请日:2024-04-22

    Abstract: 本申请提供一种多模态智能模型系统化安全防护方法、装置及设备,该方法包括:在目标多模态智能模型的安全检测阶段,依据训练好的距离感知判断模型所确定的检测数据与原始数据之间的感知距离,得到与原始数据之间的感知距离满足要求的检测数据,并利用该检测数据对所述目标多模态智能模型进行检测;在检测阶段的检测结果为所述目标多模态智能模型存在安全问题的情况下,一方面,对模型输入进行安全编码防护及分词过滤,另一方面,对多模态智能模型进行多维度全方位评估。该方法可以系统性提升多模态智能模型的安全性。

    面向联邦推荐系统的隐私泄露检测方法及装置

    公开(公告)号:CN117592042B

    公开(公告)日:2024-04-05

    申请号:CN202410071311.0

    申请日:2024-01-17

    Abstract: 本申请实施例提供了一种面向联邦推荐系统的隐私泄露检测方法及装置,涉及数据处理技术领域,其中,一种面向联邦推荐系统的隐私泄露检测方法,包括:获取各个预定项目对应的嵌入梯度,基于所获取的各个预定项目对应的嵌入梯度之间的相似关系,预估针对各个预定项目的两类评级分布,分别以两类评级分布中的项目评级作为候选评级真值,构建两类影子数据,基于两类影子数据,对服务端的本地推荐模型进行训练,得到两类预测结果,基于两类预测结果,确定各个预定项目的目标评级真值以及目标预测结果,基于目标评级真值与目标预测结果的匹配关系,确定联邦推荐系统的隐私数据泄露的检测结果。可见,本方案可以对联邦推荐系统进行有效地数据泄露检测。

Patent Agency Ranking