公开(公告)号：CN119271893A

公开(公告)日：2025-01-07

申请号：CN202411393826.9

申请日：2024-10-08

Applicant: 之江实验室

Inventor： 黄飞 ,  张泷 ,  陈红阳

IPC: G06F16/9535 ,  G06F16/957 ,  G06F16/2455 ,  G06N20/00

Abstract: 本发明公开了一种使用网络搜索增强大语言模型生成的方法和系统，该方法通过使用网络搜索相关内容后向大语言模型提供相关资料，为大语言模型输出提供更多信息，增强大模型回答的准确性，及时性。同时使用该方法可以节省大模型预训练的庞大成本。同时使用该方法可以降低成本，节省大模型预训练的庞大成本。该方法可以为大模型的输出找到信息来源，有效减少大预言模型输出“幻觉”的情况。最后，通过设计的缓存数据机制可显著加速查询响应时间。

公开(公告)号：CN117009490A

公开(公告)日：2023-11-07

申请号：CN202311112954.7

申请日：2023-08-31

Applicant: 之江实验室

Inventor： 黄飞 ,  战凯 ,  吴信东

IPC: G06F16/332 ,  G06F16/36 ,  G06F40/194 ,  G06F40/30 ,  G06F18/214 ,  G06N5/022

Abstract: 本发明公开了一种基于知识库反馈的生成式大语言模型的训练方法和装置，该方法利用领域知识库以及监督微调训练对大语言模型进行优化；采用基于知识库反馈的强化学习方法，利用领域知识库，构建奖励模型，对大语言模型生成的答案进行打分和反馈，构成了强化学习的流程。本发明的创新之处将知识图谱技术应用在奖励构建之中，从而可通过知识工程的自动化流程进行大语言模型微调，取代了基于人类反馈的强化学习，有利于节省大量人类反馈标注的高昂成本，基于确定性的知识推理得到领域应用的正确答案可修正生成式大语言模型捏造事实的关键缺陷，可使用在基于领域知识图谱构建行业垂直应用语言大模型的场景，适用性强。