专家知识驱动的大模型定制化数据处理方法及相关设备

    公开(公告)号:CN119670807A

    公开(公告)日:2025-03-21

    申请号:CN202510194176.3

    申请日:2025-02-21

    Abstract: 本申请提供一种专家知识驱动的大模型定制化数据处理方法及相关设备。所述方法包括:将获取的业务数据输入至训练好的可动态定制专家子模型的大模型;在所述大模型中,基于所述业务数据,确定知识嵌入向量;基于所述知识嵌入向量,确定每个适配器专家的权重,定制专家子模型;基于所述专家子模型对所述业务数据进行处理。本申请实施例基于大规模业务数据,利用多维度业务信息与专家知识构建业务知识层次结构。结合大模型高效微调技术、混合专家策略,在业务数据知识的引导下实现动态专家组合适配,从而为不同业务数据定制不同的专家模型,实现多场景下的自动适配,实现更专业的数据处理。

    一种管道式高鲁棒性医学知识图谱标准化构建方法

    公开(公告)号:CN116313121A

    公开(公告)日:2023-06-23

    申请号:CN202211732226.1

    申请日:2022-12-30

    Abstract: 本申请提供一种管道式的高鲁棒性标准化医疗知识图谱构建方法及装置,该方法包括:枚举医学文本中所有候选实体词跨度进行悬浮标记,将所有候选实体词跨度的悬浮标记附加到医学文本后作为一个训练实例,对实体词跨度的悬浮标记进行分组,利用预训练语言模型获取每一组中实体词跨度的语境化表示,根据语境化表示,利用神经网络结构输出实体类型信息;根据语境化表示和实体类型信息编码,得到实体类别信息之间的关系类别,并输出关系信息;利用实体类型信息和关系信息与医学术语标准进行对齐,构建医学知识图谱。

    基于模态转换的联邦学习方法及相关设备

    公开(公告)号:CN116319714A

    公开(公告)日:2023-06-23

    申请号:CN202310589332.7

    申请日:2023-05-24

    Abstract: 本申请提供一种基于模态转换的联邦学习方法及相关设备;方法包括:客户端将本地模态的特征数据发送至服务器端;服务器端对各特征数据进行解码,得到目标模态的解码数据,并聚合每个客户端的编码参数得到全局编码器,利用全局编码器将解码数据重建为本地模态的第一重建数据,并下发至客户端,通过交互第一重建数据和特征数据来训练全局编码器,并下发训练好的全局编码器至客户端;客户端将训练好的全局编码器的输出作为下游任务模型的输入,以进行有监督训练,将训练的第一模型参数发送至其他客户端;其他客户端对下游任务模型进行半监督次训练,并将训练的第二模型参数发送至服务器端聚合,得到完成二次训练的下游任务模型。

    预训练联邦学习微调方法、系统、电子设备及存储介质

    公开(公告)号:CN118504658A

    公开(公告)日:2024-08-16

    申请号:CN202410590510.2

    申请日:2024-05-13

    Abstract: 本申请提供一种预训练联邦学习微调方法、系统、电子设备及存储介质,所述方法包括:确定调整策略,根据调整策略调整第一矩阵的参数量,并将第一矩阵插入到预训练矩阵;获取数据集,将数据集输入到预训练矩阵和第一矩阵,正向传播确定损失;确定传播梯度,根据损失和传播梯度,利用反向传播更新第一矩阵;对不同来源的第一矩阵进行聚合,生成第二矩阵,并对与第一矩阵对应来源的损失进行聚合,生成全局损失;响应于调整策略执行完成,且全局损失最小,则确定对应的第二矩阵。响应于调整策略未执行完成,或全局损失未达到最小,则将第二矩阵插入到预训练矩阵并重复上述步骤,直至调整策略执行完成且全局损失最小。

    联邦计算网络保护方法及相关设备

    公开(公告)号:CN116010944B

    公开(公告)日:2023-06-20

    申请号:CN202310295479.5

    申请日:2023-03-24

    Abstract: 本公开提供了一种联邦计算网络保护方法及相关设备,包括:检测联邦计算网络中是否存在恶意攻击行为;响应于存在恶意攻击行为,执行物理隔离手段、虚拟化逻辑隔离手段及加密手段中的至少之一进行保护,得到第一保护结果,根据预设的评估标准判断所述第一保护结果是否成功;响应于所述第一保护结果为保护失败,执行入侵检测手段、病毒查杀手段、沙箱手段及补丁手段中的至少之一进行保护,得到第二保护结果,根据所述预设的评估标准判断所述第二保护结果是否成功;响应于所述第二保护结果为保护失败,利用联邦学习防御模型进行保护。本公开受人体免疫机制启发,实现了对未知恶意攻击的防御,对联邦计算网络进行安全保护,保障联邦学习的网络安全。

    医学影像诊疗产品的跨设备泛化性的检测方法及相关设备

    公开(公告)号:CN114611568A

    公开(公告)日:2022-06-10

    申请号:CN202210056389.6

    申请日:2022-01-18

    Abstract: 本申请提供一种医学影像诊疗产品的跨设备泛化性的检测方法及相关设备。该方法包括:获取医学影像设备输出的初始数据集;将初始数据集分别输入至少两个经过训练的数据风格迁移模型中,经由每个数据风格迁移模型输出相应风格的生成数据集;将全部生成数据集中的每一个生成数据集分别输入医学影像诊疗产品中,得到每个生成数据集对应的诊断结果;对全部诊断结果进行对比分析,得到医学影像诊疗产品的跨设备泛化性的检测结果。能够在保证输出生成数据集的风格在尽可能接近新风格的前提下,尽可能扩大输出的生成数据集的风格与初始数据集风格的不同,解决了医学影像领域中数据短缺的问题,同时可以很好地检测医学影像诊疗产品的诊断泛化性。

    三维人脸重建方法、设备、存储介质及装置

    公开(公告)号:CN117635838A

    公开(公告)日:2024-03-01

    申请号:CN202311651131.1

    申请日:2023-12-04

    Abstract: 本发明属于人工智能技术领域,公开了一种三维人脸重建方法、设备、存储介质及装置,本发明通过将待识别照片帧对应的三维地标与预设三维可变人脸模型进行拟合,获得人脸粗参数;基于可微渲染器对人脸粗参数进行参数优化,获得优化后的人脸参数;基于低分辨率局部金字塔纹理基对优化后的人脸参数进行多视图纹理融合,获得面部不同局部区域的局部拟合纹理参数;基于面部不同局部区域的局部拟合纹理参数重建三维人脸,获得目标三维人脸,相较于相关重建方案不能精准确定人脸纹理特征,导致重建效果差。本发明通过构建局部纹理金字塔,逐尺度融合不同视角的纹理信息,用低分辨输入指导高清纹理图生成,提高了生成人脸的质量和保真度。

    基于模态转换的联邦学习方法及相关设备

    公开(公告)号:CN116319714B

    公开(公告)日:2023-07-21

    申请号:CN202310589332.7

    申请日:2023-05-24

    Abstract: 本申请提供一种基于模态转换的联邦学习方法及相关设备;方法包括:客户端将本地模态的特征数据发送至服务器端;服务器端对各特征数据进行解码,得到目标模态的解码数据,并聚合每个客户端的编码参数得到全局编码器,利用全局编码器将解码数据重建为本地模态的第一重建数据,并下发至客户端,通过交互第一重建数据和特征数据来训练全局编码器,并下发训练好的全局编码器至客户端;客户端将训练好的全局编码器的输出作为下游任务模型的输入,以进行有监督训练,将训练的第一模型参数发送至其他客户端;其他客户端对下游任务模型进行半监督次训练,并将训练的第二模型参数发送至服务器端聚合,得到完成二次训练的下游任务模型。

Patent Agency Ranking