一种基于集成与知识蒸馏的图像分类模型训练方法

    公开(公告)号:CN113822373B

    公开(公告)日:2023-09-15

    申请号:CN202111254249.1

    申请日:2021-10-27

    Applicant: 南京大学

    Abstract: 本发明公开一种针对类别不均衡数据的基于集成与知识蒸馏的图像分类模型训练方法,包括子模型训练步骤、集成学习步骤和模型融合步骤;首先收集待分类的图片的训练数据,包括每类的图片以及图片的类别信息,在真实的情况下,不同类别的数据的个数呈长尾分布特征,并在该数据上,训练多个不同的深度模型。然后使用这些不同的深度模型对训练数据提取特征,并在特征空间中对这些深度模型进行集成,最后利用知识蒸馏的方法把集成模型融合成一个复杂度更低的推理模型,降低推理的复杂度。本发明可以解决在类别不平衡的情况下进行图片分类的问题,并且本发明实施过程中占用资源少,适用性强。

    一种基于不完全监督信息的多维度牙周炎识别和检测方法

    公开(公告)号:CN119993458A

    公开(公告)日:2025-05-13

    申请号:CN202510097299.5

    申请日:2025-01-22

    Abstract: 本发明公开一种基于不完全监督信息的多维度牙周炎识别和检测方法,首先,获取标注的牙周疾病图像,排除掉无法识别的图像并将剩余图像中需要识别的部分裁剪出来,并根据牙龈是否发炎和牙周退缩程度两个维度对图像进行分类;接着,基于多维度分类模型估计全部样本的标签分布,并用于修改每个类别数据的训练损失;然后,基于多维度分类模型对无标注牙周炎图像数据生成伪标签,并将通过估计现有参数的类别偏差来获取更精准的伪标签,利用矫正标签重新训练模型;最后,利用训练好的模型生成图像对应的最终标签,得到最终的识别结果。本发明利用半监督学习的框架,在仅有少量标注数据且数据类别不均衡的场景下,通过估计标签分布得到无偏损失,并通过估计类别偏差来矫正伪标签,解决了类别不均衡和标注数据有限两个问题,能使模型达到较高的识别准确率。

    一种基于集成与知识蒸馏的图像分类模型训练方法

    公开(公告)号:CN113822373A

    公开(公告)日:2021-12-21

    申请号:CN202111254249.1

    申请日:2021-10-27

    Applicant: 南京大学

    Abstract: 本发明公开一种针对类别不均衡数据的基于集成与知识蒸馏的图像分类模型训练方法,包括子模型训练步骤、集成学习步骤和模型融合步骤;首先收集待分类的图片的训练数据,包括每类的图片以及图片的类别信息,在真实的情况下,不同类别的数据的个数呈长尾分布特征,并在该数据上,训练多个不同的深度模型。然后使用这些不同的深度模型对训练数据提取特征,并在特征空间中对这些深度模型进行集成,最后利用知识蒸馏的方法把集成模型融合成一个复杂度更低的推理模型,降低推理的复杂度。本发明可以解决在类别不平衡的情况下进行图片分类的问题,并且本发明实施过程中占用资源少,适用性强。

Patent Agency Ranking