发明公开
- 专利标题: 基于历史对话记录优化的大模型问答方法、系统及存储介质
-
申请号: CN202410479876.2申请日: 2024-04-22
-
公开(公告)号: CN118070908A公开(公告)日: 2024-05-24
- 发明人: 孙磊 , 徐鹏飞 , 徐徐 , 邹小勇 , 杨世飞 , 韩华
- 申请人: 南京凯奥思数据技术有限公司
- 申请人地址: 江苏省南京市雨花台区宁双路19号云密城5号楼J栋7层708室
- 专利权人: 南京凯奥思数据技术有限公司
- 当前专利权人: 南京凯奥思数据技术有限公司
- 当前专利权人地址: 江苏省南京市雨花台区宁双路19号云密城5号楼J栋7层708室
- 代理机构: 湖北武汉永嘉专利代理有限公司
- 代理商 李丹; 胡琳萍
- 主分类号: G06N5/04
- IPC分类号: G06N5/04
摘要:
本发明公开了一种基于历史对话记录优化的大模型问答方法、系统及存储介质,该方法包括:1)采集使用者的历史提问,以及使用标准大模型对该提问进行回答的历史对话记录;2)压缩对话记录中由大模型生成的回答部分;3)将压缩后的对话记录进行向量化并存储到对话历史向量库中;4)当使用者发出新的提问时,先将新的提问进行向量化,将该向量和对话历史向量库中的向量进行匹配,输出所有匹配值小于设定阈值的历史对话信息;5)将新提问的背景信息结合新的提问,使用标准大模型对该提问进行回答,生成一条新的对话记录。本发明将和此新对话相关的历史问答提取出来作为新对话的背景,从而实现兼顾降低大模型使用成本与提升回答准确率的目的。