公开(公告)号：CN119990134A

公开(公告)日：2025-05-13

申请号：CN202411808989.9

申请日：2024-12-10

Applicant: 国家计算机网络与信息安全管理中心 ,  清华大学

Inventor： 张翔宇 ,  姜文华 ,  张旭 ,  侯磊 ,  叶佳然 ,  姚子俊 ,  王晓智 ,  李涓子

IPC: G06F40/30 ,  G06F40/284 ,  G06F40/237

Abstract: 本发明提供一种使用自述式提示与集成梯度的语义贡献识别方法及系统，包括：获取输入数据并编写特定的问题提示；将所述问题提示多次输入至预设的大语言模型，引导大语言模型自动识别并报告在决策过程中起到关键作用的词汇，生成关键词提议集合；基于所述关键词提议集合抽取关键词，生成第一语义贡献度列表；基于所述输入数据通过预设的公式进行集成梯度计算，生成第二语义贡献度列表；将所述第一语义贡献度列表和第二语义贡献度列表进行整合分析，确定对大语言模型决策有重大影响的词汇。本发明解决了现有技术中大语言模型行为解释单一方法的局限性问题，提高了模型解释的全面性和准确性，满足了在多种自然语言处理应用中对可解释性的要求。