-
公开(公告)号:CN118197526B
公开(公告)日:2024-08-16
申请号:CN202410356565.7
申请日:2024-03-27
Applicant: 安徽省立医院(中国科学技术大学附属第一医院)
IPC: G16H20/00 , G16H50/70 , G06F40/126 , G06N3/0455 , G06N3/084
Abstract: 本发明涉及管理方案生成领域,公开了一种基于注意力机制及混合专家系统的慢病管理方案生成方法;将患者信息输入到完成训练的生成模型,得到慢病管理方案;生成模型的训练过程包括:使用大模型文本编码模块,将患者信息文本编码为文本向量;将文本向量输入注意力模块,得到混合专家系统中混合专家模型的权重;将文本向量以及混合专家系统权重输入混合专家系统,得到混合专家模型输出的中间方案表征;将中间方案表征输入整合模块,生成慢病管理方案;构建损失函数;基于损失函数并使用反向传播和梯度下降算法,实现生成模型的训练。本发明提出了基于大模型与混合专家网络的方法,以解决现有使用单一模型难以有效生成不同方面慢病管理方案的问题。
-
公开(公告)号:CN118428412A
公开(公告)日:2024-08-02
申请号:CN202410875622.2
申请日:2024-07-02
Applicant: 安徽省立医院(中国科学技术大学附属第一医院)
IPC: G06N3/0455 , G06N3/0464 , G06N3/084 , G06N3/092 , G06F16/332 , G16H10/60
Abstract: 本发明涉及医疗问答技术领域,公开了一种基于记忆及强化学习优化的医疗大模型问答方法,包括:使用记忆插件对结构化的患者病历文本进行编码,得到记录患者病历关键信息的记忆向量;将用于问题文本输入到医疗大模型,得到患者问题编码特征;使用交互模块实现记忆向量与患者问题编码特征的交互,得到增强的患者问题编码特征;使用医疗大模型处理,得到个性化答案;将个性化答案与人工标注答案比较,使用交叉熵损失函数得到损失;基于损失,通过反向传播以及梯度下降算法,更新医疗问答模型中的医疗大模型、记忆插件和交互模块的可训练的参数,实现医疗问答模型的训练;本发明引入了患者病历信息,以解决难以生成个性化答案的问题。
-
公开(公告)号:CN118692663B
公开(公告)日:2025-01-24
申请号:CN202411178359.8
申请日:2024-08-27
Applicant: 安徽省立医院(中国科学技术大学附属第一医院)
Abstract: 本发明涉及诊疗方案生成技术领域,公开了一种基于记忆及检索增强的大模型医疗诊疗方案生成方法,将患者信息文本输入到完成训练的生成模型,得到最终诊疗方案;生成模型的训练过程包括以下步骤:检索与患者信息文本最相近的相似患者信息文本;将患者信息文本和相似患者信息文本输入记忆模块,得到相似患者信息表征;将患者信息文本以及相似患者信息表征分别输入到医疗大模型中,生成中间诊疗方案;对生成的中间诊疗方案进行整合,得到最终诊疗方案;将人工标注的诊疗方案分别与中间诊疗方案以及最终诊疗方案进行对比,计算交叉熵损失对生成模型进行训练;使得多个大模型的可以从不同方面生成诊疗方案,提高最终报告的全面性。
-
公开(公告)号:CN119150066A
公开(公告)日:2024-12-17
申请号:CN202411158833.0
申请日:2024-08-22
Applicant: 安徽省立医院(中国科学技术大学附属第一医院)
IPC: G06F18/24 , G06F18/214 , G16H50/70
Abstract: 本发明公开了基于记忆及检索增强的患者大模型分类方法及系统,涉及人工智能技术领域,将当前患者信息输入到训练完成后的医疗大模型中,以输出患者信息的分类结果;医疗大模型的训练过程如下:步骤一、获取不同患者信息以构建训练数据集,对训练数据集中的第i个数据通过检索模块检索得到对应的知识实例;步骤二、将每个知识实例通过记忆插件得到知识实例表示;步骤三、将第i个数据输入到大语言模型中,利用门控机制将第i个数据对应的知识实例表示纳入大语言模型的信息流中,从而输出第i个数据的分类结果;该患者大模型分类方法及系统,能够根据病人的具体病情动态调整所使用的知识实例,从而显著提高了病人分类的准确性。
-
公开(公告)号:CN118428412B
公开(公告)日:2024-11-01
申请号:CN202410875622.2
申请日:2024-07-02
Applicant: 安徽省立医院(中国科学技术大学附属第一医院)
IPC: G06N3/0455 , G06N3/0464 , G06N3/084 , G06N3/092 , G06F16/332 , G16H10/60
Abstract: 本发明涉及医疗问答技术领域,公开了一种基于记忆及强化学习优化的医疗大模型问答方法,包括:使用记忆插件对结构化的患者病历文本进行编码,得到记录患者病历关键信息的记忆向量;将用于问题文本输入到医疗大模型,得到患者问题编码特征;使用交互模块实现记忆向量与患者问题编码特征的交互,得到增强的患者问题编码特征;使用医疗大模型处理,得到个性化答案;将个性化答案与人工标注答案比较,使用交叉熵损失函数得到损失;基于损失,通过反向传播以及梯度下降算法,更新医疗问答模型中的医疗大模型、记忆插件和交互模块的可训练的参数,实现医疗问答模型的训练;本发明引入了患者病历信息,以解决难以生成个性化答案的问题。
-
公开(公告)号:CN118692663A
公开(公告)日:2024-09-24
申请号:CN202411178359.8
申请日:2024-08-27
Applicant: 安徽省立医院(中国科学技术大学附属第一医院)
Abstract: 本发明涉及诊疗方案生成技术领域,公开了一种基于记忆及检索增强的大模型医疗诊疗方案生成方法,将患者信息文本输入到完成训练的生成模型,得到最终诊疗方案;生成模型的训练过程包括以下步骤:检索与患者信息文本最相近的相似患者信息文本;将患者信息文本和相似患者信息文本输入记忆模块,得到相似患者信息表征;将患者信息文本以及相似患者信息表征分别输入到医疗大模型中,生成中间诊疗方案;对生成的中间诊疗方案进行整合,得到最终诊疗方案;将人工标注的诊疗方案分别与中间诊疗方案以及最终诊疗方案进行对比,计算交叉熵损失对生成模型进行训练;使得多个大模型的可以从不同方面生成诊疗方案,提高最终报告的全面性。
-
公开(公告)号:CN118197526A
公开(公告)日:2024-06-14
申请号:CN202410356565.7
申请日:2024-03-27
Applicant: 安徽省立医院(中国科学技术大学附属第一医院)
IPC: G16H20/00 , G16H50/70 , G06F40/126 , G06N3/0455 , G06N3/084
Abstract: 本发明涉及管理方案生成领域,公开了一种基于注意力机制及混合专家系统的慢病管理方案生成方法;将患者信息输入到完成训练的生成模型,得到慢病管理方案;生成模型的训练过程包括:使用大模型文本编码模块,将患者信息文本编码为文本向量;将文本向量输入注意力模块,得到混合专家系统中混合专家模型的权重;将文本向量以及混合专家系统权重输入混合专家系统,得到混合专家模型输出的中间方案表征;将中间方案表征输入整合模块,生成慢病管理方案;构建损失函数;基于损失函数并使用反向传播和梯度下降算法,实现生成模型的训练。本发明提出了基于大模型与混合专家网络的方法,以解决现有使用单一模型难以有效生成不同方面慢病管理方案的问题。
-
-
-
-
-
-