公开(公告)号：CN114842257B

公开(公告)日：2025-05-13

申请号：CN202210488306.0

申请日：2022-05-06

Applicant: 浙江工业大学

Inventor： 宣琦 ,  王张伟 ,  陈壮志 ,  徐东伟 ,  凌书扬

IPC: G06V10/764 ,  G06V10/774 ,  G06V10/82 ,  G06N3/04 ,  G06N3/096

Abstract: 本发明提供一种基于多模型对抗蒸馏的鲁棒性图像分类方法，包括以下步骤：S1：获取数据集，对复杂模型预训练得到模型T2；S2：根据训练数据集，通过对抗样本生成方法生成对应对抗样本数据；S3：将对抗样本输入复杂模型进行对抗训练，得到模型T2；S4：选择与复杂模型任务相同的轻量化模型作为学生模型S，通过多模型的知识蒸馏框架对学生模型进行蒸馏训练。本发明通过对抗训练和知识蒸馏的方法，实现了一种基于多模型对抗蒸馏的鲁棒性图像分类方法，实现了通过知识蒸馏使学生充分学习不同教师模型的特性，在提高对抗鲁棒性时兼顾精度。

公开(公告)号：CN114897013A

公开(公告)日：2022-08-12

申请号：CN202210472839.X

申请日：2022-04-29

Applicant: 浙江工业大学

Inventor： 宣琦 ,  凌书扬 ,  陈壮志 ,  徐东伟 ,  王张伟

IPC: G06K9/00 ,  G06K9/62

Abstract: 一种基于多模态蒸馏的深度学习信号调制识别方法，包括以下步骤：S1：利用信号原数据生成信号的实部和虚部、瞬时频率和瞬时振幅、频谱幅值和相位、星座图等可以表征原信号信息的多种模态数据；S2：挑选三种模态数据，将其进行归一化处理；S3：将三组模态数据分别传入三个相同的、并行的卷积神经网络进行训练，对三个并行卷积神经网络输出的置信度矩阵进行相加的融合处理，最终得到调制信号的分类结果及模型对测试集的分类准确率；S4：利用知识蒸馏机制，使用三种模态数据作为三个教师模型的输入，使得训练所得的学生模型在调制信号分类准确率和模型鲁棒性方面相较于原始单模态数据所训练的模型有一定的提高，且模型复杂度降低。

公开(公告)号：CN114842257A

公开(公告)日：2022-08-02

申请号：CN202210488306.0

申请日：2022-05-06

Applicant: 浙江工业大学

Inventor： 宣琦 ,  王张伟 ,  陈壮志 ,  徐东伟 ,  凌书扬

IPC: G06V10/764 ,  G06V10/774 ,  G06V10/82 ,  G06K9/62 ,  G06N3/04 ,  G06N3/08

Abstract: 本发明提供一种基于多模型对抗蒸馏的鲁棒性图像分类方法，包括以下步骤：S1：获取数据集，对复杂模型预训练得到模型T2；S2：根据训练数据集，通过对抗样本生成方法生成对应对抗样本数据；S3：将对抗样本输入复杂模型进行对抗训练，得到模型T2；S4：选择与复杂模型任务相同的轻量化模型作为学生模型S，通过多模型的知识蒸馏框架对学生模型进行蒸馏训练。本发明通过对抗训练和知识蒸馏的方法，实现了一种基于多模型对抗蒸馏的鲁棒性图像分类方法，实现了通过知识蒸馏使学生充分学习不同教师模型的特性，在提高对抗鲁棒性时兼顾精度。