-
公开(公告)号:CN119441398A
公开(公告)日:2025-02-14
申请号:CN202411469649.8
申请日:2024-10-21
Applicant: 中国电力科学研究院有限公司 , 国家电网有限公司客户服务中心 , 国网浙江省电力有限公司营销服务中心 , 国家电网有限公司
IPC: G06F16/332 , G06F16/33 , G06F16/36 , G06N3/0455 , G06N5/04 , G06F40/30 , G06Q30/015 , G06Q50/06
Abstract: 本发明公开了一种基于语义大模型的电力客服智能问答方法及相关装置,所述方法包括:获取电力用户提问;基于电力客服智能问答大模型对所述提问进行处理,输出电力用户提问的回复;模型构建方法:通过引入相对位置编码信息,构建基于Transformer的电力客服语义大模型,并进行大模型预训练;通过改进相对位置编码对智能问答的上下文长度进行拓展,并通过大模型训练和优化更新得到电力客服智能问答大模型。本发明主要设计电力客服语义大模型上下文窗口扩展方法以及训练方法,并将其应用于电力客服语义大模型的微调阶段,使模型更加适应特定领域的语境和问题类型,准确理解用户的需求和偏好,从而提供更加个性化和精准的服务,提升用户体验和服务质量。
-
公开(公告)号:CN118797477A
公开(公告)日:2024-10-18
申请号:CN202410803612.8
申请日:2024-06-20
Applicant: 中国电力科学研究院有限公司 , 国网山西省电力公司电力科学研究院 , 国家电网有限公司
IPC: G06F18/2415 , G06F18/214 , G06F18/213 , G06N3/042 , G06N3/0464
Abstract: 本发明涉及一种基于反事实分析的变压器故障诊断模型构建方法和装置,包括获取变压器油中溶解气体数据,并设计结构因果模型,所述结构因果模型表示变压器工作状态、溶解气体数据、模型抽取特征和故障预测之间的关系;创建图卷积神经网络GCN,基于所述溶解气体数据得到邻接矩阵,根据所述邻接矩阵和所述GCN,得到所述模型抽取特征中的事实特征和反事实特征;利用所述事实特征、所述反事实特征和反事实特征策略训练所述结构因果模型,得到变压器故障诊断模型。本发明实现高精度、高鲁棒性的变压器故障诊断,有效解决对不平衡故障样本的误判和漏判问题。本发明还涉及一种变压器故障诊断方法、一种设备和存储介质。
-
公开(公告)号:CN119577128A
公开(公告)日:2025-03-07
申请号:CN202411373926.5
申请日:2024-09-29
Applicant: 中国电力科学研究院有限公司 , 国家电网有限公司客户服务中心 , 国网浙江省电力有限公司营销服务中心 , 国家电网有限公司
IPC: G06F16/34 , G06F40/151 , G06N20/00
Abstract: 本发明公开了一种基于语言大模型的文本摘要生成方法及相关装置,涉及自然语言处理技术领域。该方法包括:基于目标领域的数据构建训练数据集,所述训练数据集包括多组训练数据,每一组所述训练数据均包括原始文本和对应的摘要;基于语言大模型构建目标大模型,所述目标大模型用于基于输入的文本生成对应的摘要;使用所述训练数据集对所述目标大模型进行微调,得到微调后的大模型;基于所述微调后的大模型对目标领域文本进行摘要生成处理,得到目标摘要。本发明实施例可提高生成的摘要的质量。
-
公开(公告)号:CN118966282A
公开(公告)日:2024-11-15
申请号:CN202411102526.0
申请日:2024-08-12
Applicant: 国网福建省电力有限公司电力科学研究院 , 国网福建省电力有限公司 , 中国电力科学研究院有限公司 , 福建省亿力信息技术有限公司
Abstract: 本申请涉及一种面向供电服务指挥大模型的上下文长度扩展方法及系统,包括以下步骤:采用正余弦函数将位置编码添加到输入词嵌入中,使大模型考虑词序信息;在多头自注意力机制中,将每个位置的编码向量进行旋转变换,使用旋转变换后的位置信息计算注意力得分,更好地捕捉长距离依赖关系;利用神经切核特性对旋转位置编码进行插值,使用若干数据对语义大模型进行微调,扩展上下文窗口,减少高频信息损失;构建供电服务指令数据集,专家检查修正和拓展指令数据集,使用供电服务指令数据集对改进后的语义大模型进行指令微调,使语义大模型适应拓展后的上下文长度。
-
公开(公告)号:CN118733732A
公开(公告)日:2024-10-01
申请号:CN202410862725.5
申请日:2024-06-28
Applicant: 中国电力科学研究院有限公司
IPC: G06F16/332 , G06F16/33 , G06F16/335 , G06F16/338 , G06F16/35 , G06F40/126 , G06F40/186 , G06N5/04 , G06Q50/06
Abstract: 本发明涉及一种多路召回检索的电力知识服务方法和装置,包括通过检索器对检索向量进行检索得到检索信息;采用预设召回策略对检索信息在向量数据库中进行匹配,得到匹配结果,通过混合检索对匹配结果进行重新排序;将重新排序后的匹配结果输入电力知识服务大模型中生成回答结果,并将查询信息和回答结果输入安全防护模型进行判断。本发明混合稠密检索、稀疏检索方式,采用多路召回策略优化多功能检索和重排序,形成检索增强的电力标准知识服务大模型,具有更高的检索精度和更强的泛化能力,避免模型输出错误答案的同时提高模型的相关性、准确性和可解释性,并通过安全防护为用户提供高准确性、安全性的知识服务。本发明还涉及一种设备和存储介质。
-
-
-
-