一种基于Transformer模型进行语义分割的方法

    公开(公告)号:CN118608787A

    公开(公告)日:2024-09-06

    申请号:CN202410780285.9

    申请日:2024-06-17

    Inventor: 夏冰 刘斌

    Abstract: 本文提供了一种基于Transformer模型进行语义分割的方法,包括步骤:数据准备,进行图像序列化以将输入图像X转换为特征嵌入;特征提取,向第一层Transformer输入数据,每个Transformer层由多头注意力、层归一化、MLP层构成;特征解码,将提取出的特征序列作为输入,经过一个交叉注意力的解码器结构,通过使用交叉注意模块,两者经过交叉注意力的解码器后能获得学习好的特征向量;生成分割结果,将充当解码器的交叉注意力模块输出的新的特征向量送入分割层预测得到最终的分割结果。与现有的大多数基于FCN模型的语义分割模型相比,以Transformer编码器进行语义分割任务的特征提取工作,可以很大程度上增强模型对远程依赖信息的学习;以交叉注意力模块充当解码器,能够让模型更加高效高质量地进行全局上下文信息的提取,提升了语义分割模型的准确性与分割质量。

    一种用于海底盾构隧道的管片结构及其安装方法

    公开(公告)号:CN119878220A

    公开(公告)日:2025-04-25

    申请号:CN202510229352.2

    申请日:2025-02-28

    Abstract: 本发明公开了一种用于海底盾构隧道的管片结构及其安装方法,包括内侧管片、外侧管片、防水层、内侧连接机构和外侧连接机构,防水层设置于内侧管片与外侧管片之间,内侧管片由若干Ⅰ号管片沿周向首尾相接组合形成闭环结构,外侧管片由若干Ⅱ号管片沿周向首尾相接组合形成闭环结构,内侧管片通过内侧连接机构与相邻的内侧管片相连,外侧管片通过外侧连接机构与相邻的外侧管片相连。本发明通过双层管片设计、错缝搭接技术、强化连接机构以及防水层的应用,显著增强了隧道的结构稳定性和承载能力,提升了防水性能,同时采用机械化施工和模块化设计,提高了施工效率与质量,降低了成本,并便于长期运营与维护,从而确保了隧道的长期安全、高效运行。

    一种半监督的零样本语义分割方法

    公开(公告)号:CN119649023A

    公开(公告)日:2025-03-18

    申请号:CN202411686461.9

    申请日:2024-11-22

    Inventor: 夏冰 刘斌

    Abstract: 本文提供了一种半监督的零样本语义分割的方法,所提出的方法共包含4个神经网络模型,分别是ViT(Vision Transformer)编码器、预训练图像编码器、像素级解码器和Transformer解码器。同时,该方法由两个模块组成:自监督生成掩码模块和语义分割解码器的预训练模块。包括步骤:数据准备,进行图像序列化以将输入图像X转换为特征嵌入;掩码特征提取,向第一层Transformer输入数据,每个Transformer层由多头注意力、层归一化、前馈网络层构成;接着将特征再而分别输入到Transformer解码器和像素级解码器中,对各输出特征做矩阵乘积来进行N个掩码的预测并完成匹配,得到分割结果。此外,解码器也需要学习具体的图像语义信息。该发明使用了自监督对比学习将正样本和负样本的特征进行对比,增加正样本之间的相似度,降低负样本和正样本之间的相似度。

Patent Agency Ranking