一种视觉Transformer模型设计方法、装置、存储介质和程序产品

    公开(公告)号:CN118840414B

    公开(公告)日:2025-04-29

    申请号:CN202411038198.2

    申请日:2024-07-30

    Abstract: 本发明提供一种视觉Transformer模型设计方法、装置、存储介质和程序产品,其中,方法包括:设定最小形变图像的大小和最小区域块的大小;根据原图的宽高,得到原图的长边与短边之比取整的值,确定形变目标图像的一边长和待划分区域块的一边长;根据原图的长边与短边之比取整的值,计算出形变目标图像的宽高和待划分区域块的宽高;根据形变目标图像的宽高和待划分区域块的宽高,对图像进行形变和划分,得到若干区域块,送入Transformer结构中。将每个区域块划分成若干方块,对所述若干方块进行编码,得到每个区域块特征;整合所有的区域块特征,送入Transformer结构中进行训练。本发明可以在较少形变情况下提取更符合原始图像的特征信息。

    图片的多标签分类方法、系统及电子设备

    公开(公告)号:CN118674995A

    公开(公告)日:2024-09-20

    申请号:CN202410909676.6

    申请日:2024-07-09

    Abstract: 本公开提供了一种图片的多标签分类方法、系统及电子设备。多标签分类方法包括:获取目标图片的第一图片特征;其中,第一图片特征包含冗余信息和噪音;基于多头注意力机制对第一图片特征进行压缩处理,以去除冗余信息,得到第二图片特征;基于稀疏编码对第二图片特征进行去噪处理,以得到目标图片特征;对目标图片特征所属的类别进行概率预测,以对目标图片进行多标签分类。基于多头注意力机制和稀疏编码依次对第一图片特征进行压缩和去噪处理,以去除第一图片特征中的以使得到的目标图片特征冗余信息和噪声,以使得到的目标图片特征只保留有价值的特征,进而使用该目标图片特征进行图片的多标签分类的效果更佳。

    工作流管理方法、系统、设备、介质和程序产品

    公开(公告)号:CN118657483A

    公开(公告)日:2024-09-17

    申请号:CN202410687885.0

    申请日:2024-05-30

    Abstract: 本公开提供一种工作流管理方法、系统、设备、介质和程序产品,工作流管理方法包括:响应于用户的输入触发,在不满足工作流停止条件时,通过训练好的深度学习语言表示模型从用户输入的信息中识别出需要跳转到的下一个工作流节点,并跳转到下一个工作流节点;通过训练好的大语言模型引导并提取用户提供当前工作流节点所需的信息,并存储提取出的信息;在已获得当前工作流节点所需的全部信息时完成执行当前工作流节点。本公开通过将大语言模型与传统的深度学习语言表示模型相结合的任务流管理,既能够基于人机对话交互模式辅助用户高效完成任务,又能够支持工作流的灵活扩展和节点间的准确地自由跳转,从而成为用户日常工作中不可或缺的可靠助手。

    数据管理系统的构建方法、使用方法、设备、介质及产品

    公开(公告)号:CN118332068A

    公开(公告)日:2024-07-12

    申请号:CN202410363601.2

    申请日:2024-03-28

    Abstract: 本发明公开了一种数据管理系统的构建方法、使用方法、设备、介质及产品,涉及自然语言处理领域。该方法应用于数据管理系统,系统包括数据存储架构模块、知识库模块和历史对话检索模块,方法包括基于初始文本信息构建数据存储架构模块,初始文本信息为文档结构化生成的片段或问答,基于信息抽取模型将初始文本信息进行标签化处理,构建知识库模块,基于双层分类模型对与用户产生的对话进行分类,并将分类后的对话进行存储生成历史对话库,与用户产生的对话基于用户与初始文本信息交互形成,历史对话检索模块基于历史对话库构建。本发明中将历史对话进行分类存储,不仅避免直接存储干扰信息,还能结合上下文,将多轮对话中的信息完整全面的保存。

    大语言模型的处理方法、系统、设备、介质及程序产品

    公开(公告)号:CN118297107A

    公开(公告)日:2024-07-05

    申请号:CN202410390211.4

    申请日:2024-04-02

    Abstract: 本公开提供了一种大语言模型的处理方法、系统、设备、介质及程序产品,处理方法包括:获取数据集;根据数据集生成伪标签数据;根据伪标签数据获取指令微调数据;利用指令微调数据对原始大语言模型进行指令微调,得到新的大语言模型。本公开根据获取的数据集生成伪标签数据;再根据伪标签数据获取指令微调数据;利用指令微调数据对原始大语言模型进行指令微调,得到新的大语言模型,实现了基于伪标签数据对大语言模型进行指令微调,有效的缓解了大语言模型灾难性遗忘的问题,严格遵守了连续学习的形式,降低了计算的复杂度,提高了计算的效率和准确率。

    文本匹配方法及装置、存储介质、终端

    公开(公告)号:CN114661861B

    公开(公告)日:2024-06-21

    申请号:CN202210170758.4

    申请日:2022-02-23

    Abstract: 一种文本匹配方法及装置、存储介质、终端,所述方法包括:获取第一文本;构建所述第一文本的要素图;提取所述第一文本的语义信息;获取第二文本的语义信息和结构信息,所述第二文本的结构信息包括:所述第二文本的要素图和/或图嵌入特征信息,所述图嵌入特征信息是根据所述要素图计算得到的;根据所述第一文本的语义信息、要素图和所述第二文本的语义信息、结构信息,确定所述第一文本和所述第二文本的匹配结果。通过本发明提供的方案,能够提高文本匹配的准确度。

    一种生成式大语言模型选择题评测的方法及系统

    公开(公告)号:CN118113845A

    公开(公告)日:2024-05-31

    申请号:CN202410269522.5

    申请日:2024-03-08

    Abstract: 本发明提供一种生成式大语言模型选择题评测的方法及系统,其中方法包括以下步骤:获取选择题;对所述选择题进行重构和扩充,得到扩充后的选择题;对各个所述扩充后的选择题进行大模型回答文本匹配和大模型token约束回答,得到大模型答案;对所述大模型答案进行综合评分。本发明能够更全面更有效地检验大模型是否真正理解并拥有解答问题的能力,使得能力评估的分数更为客观准确,对由于模型输出内容不符合规范或者模型输出内容无法被正则模板匹配命中的问题进行补偿,有效地避免大模型直接回答问题时需要二次解析的情况,有效弥补了模型缺乏各个选项之间信息交互的问题,并且支持多选题评测。

Patent Agency Ranking