公开(公告)号：CN118887686A

公开(公告)日：2024-11-01

申请号：CN202411085718.5

申请日：2024-08-08

Applicant: 中国科学院信息工程研究所

Inventor： 陈小军 ,  赵鑫 ,  王哲 ,  赵振东 ,  陈旭东 ,  玄悦欣

IPC: G06V30/19 ,  G06F40/126 ,  G06F40/30

Abstract: 本发明公开了一种文生图模型训练及通过该模型生成目标图像的方法，属于网络安全技术领域。以第一文本编码器和第二文本编码器建立文本模型，以潜空间扩散模型和图像解码器建立图像模型；获取良性提示词数据集、对抗提示词数据集和目标提示词；利用数据投毒技术和后门攻击技术微调文本嵌入之间的损失函数，以完成文生图模型的训练。本发明有效消除了文生图模型生成的图像中的敏感内容，保证文生图模型生成目标图像过程的内容安全性和鲁棒性，保障涉及敏感信息的图像不被生成和传播。

公开(公告)号：CN115796262A

公开(公告)日：2023-03-14

申请号：CN202211440959.8

申请日：2022-11-17

Applicant: 中国科学院信息工程研究所

Inventor： 陈小军 ,  王少璞 ,  熊刚 ,  赵振东 ,  丁阳阳 ,  李晓颖

IPC: G06N3/082 ,  G06F18/22

Abstract: 本发明公开了一种基于相似度正则的神经网络剪枝方法。本方法为：1)对待处理的神经网络进行预训练；2)对预训练后的神经网络进行剪枝：首先设定神经网络的稀疏度为s％；然后计算神经网络参数的第s分位数，将参数绝对值小于该第s分位数的参数全局置零，得掩码m；根据所得掩码m更新所述神经网络的权重矩阵w；3)对剪枝后的神经网络进行微调。本发明通过提高网络权重矩阵与0矩阵的余弦相似度来降低输出对输入的依赖，从而提高预测的鲁棒性，这样只有少部分输入参与最终的计算，而大部分输入都被抛弃；因此，不仅稀疏网络的预测性能获得了提升，神经网络也可以实现更高的稀疏度。

公开(公告)号：CN118886506A

公开(公告)日：2024-11-01

申请号：CN202410921515.9

申请日：2024-07-10

Applicant: 中国科学院信息工程研究所

Inventor： 陈小军 ,  赵鑫 ,  赵振东 ,  王哲 ,  陈旭东 ,  李贺 ,  范廷钰

IPC: G06N5/04 ,  G06F21/62 ,  G06F16/176

Abstract: 本发明公开一种用于扩散模型采样的隐私保护推理方法及系统，属于网络安全技术领域。所述方法包括：接收模型拥有方的隐私模型参数数据和用户方预处理后的隐私数据；将隐私模型和隐私数据分别分割为隐私模型秘密分享和隐私数据秘密；三方服务器对模型隐私秘密分享和隐私数据秘密分享进行扩散模型采样并重构秘密分享，所述进行扩散模型采样的过程包括：通过切比雪夫多项式拟合的指数函数ex来替代扩散模型非线性激活函数中的指数运算；将重构的秘密分享返还给用户方，以使用户方获取采样生成图像。本发明通过线性多项式和切比雪夫多项式拟合多种非线性数，提高了隐私扩散模型的计算和通信性能。

公开(公告)号：CN119293233A

公开(公告)日：2025-01-10

申请号：CN202411210233.4

申请日：2024-08-30

Applicant: 中国科学院信息工程研究所

Inventor： 陈小军 ,  姬小双 ,  赵振东 ,  王哲 ,  陈旭东 ,  刘泽瑶 ,  赵鑫

IPC: G06F16/35 ,  G06F16/31 ,  G06N3/0455 ,  G06N3/0985

Abstract: 本发明属于语言模型处理领域，涉及一种基于渐进式学习的模型微调方法和系统。该方法在预训练模型的微调过程中，根据Transformer块对模型性能的不同贡献，将对预训练模型的性能贡献大的Transformer块进行着重训练，将对预训练模型的性能贡献小的Transformer块进行少量训练。本发明将渐进式学习的思想引入到模型微调中，在微调过程中逐渐减少参与更新的Transformer块，实现了对计算资源消耗的节约，同时减少了参数的过度训练，在减少更新参数量、训练时间的同时，能够减少计算资源的浪费及对训练数据的过拟合现象。

公开(公告)号：CN119067199A

公开(公告)日：2024-12-03

申请号：CN202411005467.5

申请日：2024-07-25

Applicant: 中国科学院信息工程研究所

Inventor： 陈小军 ,  刘泽瑶 ,  赵振东 ,  王哲 ,  陈旭东 ,  赵鑫 ,  玄悦欣 ,  唐必胜 ,  姬小双

IPC: G06N3/098 ,  G06N3/0464 ,  G06N3/042 ,  G06N3/045 ,  G06V10/82 ,  G06V10/44 ,  G06V10/764 ,  G06V10/94

Abstract: 本发明公开了一种基于构建客户端间协作图的个性化联邦学习训练方法，属于联邦学习技术领域。本发明的核心步骤包括：1)基于KL散度计算客户端之间的特征分布距离，2)基于计算的邻接矩阵归一化后构建有向协作图，3)基于有向图的聚合带有结构信息的模型，4)本地优化。本发明主要涉及数据分布异质面临的挑战，特别涉及客户端数据分布之间的潜在关系建模，实现了通过构建客户端协作图和提出协作图辅助的个性化聚合与训练方法，缓解了数据异质等挑战，促进了个性化联邦学习中的知识共享。