一种基于微调大模型的溢油检测方法、系统及设备
摘要:
本发明公开了一种基于微调大模型的溢油检测方法、系统及设备,其种方法包括:采集并保存溢油图像数据;对溢油图像数据根据溢油级别进行人工标注,并制作成数据集;将数据集按照一定比例分割为训练集和测试集并且对溢油图像进行预处理;构建基于Vision Transformer和LoRA的溢油检测模型;包括:构建基于Vision Transformers的模型,通过Vision Transformers的多头自注意力机制,捕捉图像中的特征;通过LoRA技术,冻结Vision Transformers的权重,将可训练的秩分解矩阵注入到Vision Transformers架构的每一层,在每个Vision Transformers块中注入可训练层,减少需要训练的参数数量;通过调整参数在训练集上迭代训练溢油检测模型,得到最优溢油检测模型,对溢油进行检测;本发明通过LoRA进行微调的效果与全模型微调相同,速度更快,计算需求更少,同时保持或提升模型在溢油检测任务上的性能。
0/0