-
公开(公告)号:CN118467757A
公开(公告)日:2024-08-09
申请号:CN202410622662.6
申请日:2024-05-20
申请人: 华东师范大学
IPC分类号: G06F16/36 , G06F16/33 , G06N3/0455 , G06N3/08 , G06N5/02
摘要: 本发明公开了一种面向领域增量任务的大语言模型持续学习方法,该方法包括:领域知识表征计算和解耦、领域知识预热及领域定位。领域知识表征计算和解耦通过正交约束分离领域不变适配器和领域特定适配器,并学习到对应的知识。领域知识预热对齐领域不变适配器和领域特定适配器之间的参数分布。领域定位通过计算测试样本与不同领域训练数据表征的相似性,来查找对应的领域知识特定适配器,与领域不变适配器拼接,从而给出最终预测结果。在由HL5Domains、Liu3Domains、Ding9Domains、SemEval14数据集组成的具有19个领域的方面级情感词极性判断数据集上进行实验,实验结果表明,本发明与现有技术相比,平均性能更高,能有效缓解灾难性遗忘问题。
-
公开(公告)号:CN118313461A
公开(公告)日:2024-07-09
申请号:CN202410583011.0
申请日:2024-05-11
申请人: 华东师范大学
摘要: 本发明公开了一种基于人机协同的因果知识生成器与判别器反馈调优方法,其特点是采用初始化训练和迭代训练的方法,对已有知识衍生出新知识的因果知识生成器和判别器进行训练,得到一个具有反馈调优的因果知识生成器和判别器,所述初始化训练得到两个具有初步推理能力的生成器和判别器;所述迭代训练中生成器利用现有知识产生新的因果对,而判别器则通过人工判断对置信度低的生成知识进行筛选,进而不断迭代优化修正错误,使生成的因果知识具有高可信度。本发明与现有技术相比具有提升模型的性能,能够对已有知识衍生出新知识的因果对进行协同学习,以准确、可靠的获取因果知识,方法简便,使用效果好,具有良好的运用前景和商业价值。
-
公开(公告)号:CN117171322A
公开(公告)日:2023-12-05
申请号:CN202311186715.6
申请日:2023-09-14
申请人: 华东师范大学
IPC分类号: G06F16/332 , G06Q50/20
摘要: 本发明公开了一种基于大型语言模型的智能教育聊天机器人训练方法,其特点是采用在大量教育书籍和多样化基础指令上对LLM进行预训练的方式,使模型具备教育领域的专业知识和指令遵循技能,并以学习跨学科的基础知识、基本的指令跟随能力和对话能力,通过在教育特色指令数据集上对模型微调,激活模型在不同教育场景下的能力,增强在检索增强的开放式问答、细粒度的作文评估、苏格拉底式教学和基于心理学的情感支持等多种教育场景下的能力,使LLM能够自动判断检索到信息的有用性,并根据相关信息和LLM中存储的知识生成回答。本发明与现有技术相比具有更好地适应教育领域的实际需求,提供个性化、全面和及时的教育支持,应用前景良好。
-
公开(公告)号:CN116468036A
公开(公告)日:2023-07-21
申请号:CN202310259396.0
申请日:2023-03-17
申请人: 华东师范大学
IPC分类号: G06F40/289 , G06F40/30 , G06F18/241 , G06F18/214 , G06F18/2415
摘要: 本发明公开了一种基于结构化信息的情感分析方法,其特点是使用一个端到端结构化情感分析的框架,主要包括:语境词嵌入模块、特征增强的触发词提取模块、触发词增强的论元抽取模块和结构化情感分析模块,将事件的结构化信息考虑到情感分析模型中进行端到端的结构化抽取和情感分析,充分考虑了结构化信息对于情感变化的影响,对于预测结果给出更为合理的解释,在数据集缺失的情况下,构造了一个真实的金融语料库,大大减少了管道抽取的传播错误情况。本发明与现有技术相比具有准确率更高,可解释性更强,更好的关注到事件级别情感极性,有效地捕获了事件的情感信息,减少管道抽取的传播错误情况,效果明显优于所有的强基线,具有很好的应用前景。
-
公开(公告)号:CN116303965A
公开(公告)日:2023-06-23
申请号:CN202310292961.3
申请日:2023-03-23
申请人: 华东师范大学
IPC分类号: G06F16/332 , G06F40/35 , G06V10/80 , G06V10/82
摘要: 本发明公开了一种基于最优传输的多模态语义对齐的视觉对话方法,其特点是构建包括:多模态特征抽取、基于最优传输的文本语义对齐和基于最优传输的跨模态语义对齐的模型,在给定一张图片、一句关于该图片的描述,以及过去t‑1轮围绕该图片的对话历史,对于当前的第t轮的问题,模型能从答案候选集中选出正确答案进行预测。本发明与现有技术相比具有引入了基于最优传输的语义对齐,显式地提供了模态内和模态间的对齐的训练信号,提高模型对齐指向相同实体的不同文本实体和不同模态实体的能力,帮助模型更好的理解文本信息和回答问题,提高预测答案的正确性,能够在多种实际应用场景中的视觉对话,有较高的实用价值与良好的发展前景。
-
公开(公告)号:CN118983091A
公开(公告)日:2024-11-19
申请号:CN202411001697.4
申请日:2024-07-25
申请人: 华东师范大学
IPC分类号: G16H50/30 , G06F16/332 , G06N3/045
摘要: 本发明公开了一种基于大语言模型的心理咨询对话评估系统,属于自然语言处理领域。训练大语言模型所需要的数据集来自真实对话,模型训练方法采用低秩适配高效微调。应用所述数据和训练方法,实现了一个由半结构化的心理咨询对话模型和心理咨询评估模型共同组成的心理咨询对话评估系统,为受访者提供AI(Artificial Intelligence)心理咨询对话评估服务,同时根据对话内容和评估分数可以生成一份供受访者参考的评估报告。本发明能够使大语言模型在心里咨询对话评估效果上得到提高,在心理咨询过程中可以有效进行倾听询问,建立情感连接,并给予受访者合理的评估建议和情感支持。
-
公开(公告)号:CN117993508A
公开(公告)日:2024-05-07
申请号:CN202410071040.9
申请日:2024-01-18
申请人: 华东师范大学
IPC分类号: G06N5/04 , G06N5/045 , G06N3/0455 , G06N3/0475 , G06N3/096
摘要: 本发明公开了一种融合论据和结构信息的事件因果关系识别方法,其特点是采用多任务学习框架,通过基本论据和结构信息感知的因果问题回答来增强事件因果关系识别;将文档级事件因果关系识别转化为多项选择题生成式问答,并融合论据和结构信息,使用大型语言模型生成被质疑事件的因果关系,该方法具体包括:数据准备、论据生成、结构信息和模型训练等步骤。本发明与现有技术相比具有识别精确性和效率高的优点,为文档级事件因果关系识别领域带来了新的前沿和突破,方法简便,使用效果好,同时适应有限的计算成本和可接受的时间,具有良好的运用前景和商业价值。
-
公开(公告)号:CN116341533A
公开(公告)日:2023-06-27
申请号:CN202310336882.8
申请日:2023-03-31
申请人: 华东师范大学
IPC分类号: G06F40/279 , G06N5/04
摘要: 发明公开了一种基于因果干涉的提示去偏事件论元抽取方法,用于人工智能自然语言处理中的信息抽取领域。本发明包括:1)根据三个数据集,整理出所有时间的论元类型和论元实例;2)根据三个数据集中的论元类型,基于MF模型,依照因果干涉中的后门准则,每种事件生成5个prompt和其对应的权重;3)基于BART模型,对于输入的5个prompt和原句,得到事件论元span编码;4)根据所述span的编码,与权重矩阵内积之后得到具体的论元实例。本发明根据以往事件抽取任务中prompt产生的偏差,通过因果干涉的方法对偏差进行修正,进而提高了模型的准确率和鲁棒性。
-
公开(公告)号:CN115858745A
公开(公告)日:2023-03-28
申请号:CN202211460692.9
申请日:2022-11-17
申请人: 华东师范大学
IPC分类号: G06F16/332 , G06F16/33 , G06F40/151 , G06F18/2415 , G06F18/214
摘要: 本发明公开了一种基于提示学习与细粒度对比学习的低资源常识问答方法,属于自然语言处理领域。方法包括:基于提示学习的完型填空式格式转化;基于细粒度对选项进行对比;预测正确答案。本发明与现有技术相比,引入了提示学习与基于细粒度的对比学习,能够使得模型在低资源情况下训练的时候降低冗余,大幅提高模型的准确率。
-
公开(公告)号:CN102617852B
公开(公告)日:2013-07-17
申请号:CN201210120697.7
申请日:2012-04-24
申请人: 华东师范大学
摘要: 本发明公开了一种马来酰亚胺-聚谷氨酸-天冬氨酸聚合物,是由γ-聚谷氨酸-天冬氨酸聚合物与含马来酰亚胺基团的胺类化合物共价结合形成,其中的键合是通过γ-聚谷氨酸-天冬氨酸聚合物的游离羧基与含马来酰亚胺基团的胺类化合物上的氨基之间在缩合剂和催化剂共同作用下形成酰胺键来实现。本发明还公开了一种马来酰亚胺-聚谷氨酸-天冬氨酸复合物及其制备方法和应用。本发明马来酰亚胺-聚谷氨酸-天冬氨酸聚合物偶联带巯基生物学活性分子可以提高其稳定性、体内活性和延长其体内半衰期,同时该聚合物与带巯基靶向分子偶联并结合抗肿瘤药物,能够成为具主动靶向的高分子药物。
-
-
-
-
-
-
-
-
-