公开(公告)号：CN119990203A

公开(公告)日：2025-05-13

申请号：CN202411812196.4

申请日：2024-12-10

Applicant: 国家计算机网络与信息安全管理中心 ,  清华大学

Inventor： 张翔宇 ,  姜文华 ,  张旭 ,  侯磊 ,  陈健晖 ,  姚子俊 ,  王晓智 ,  李涓子

IPC: G06N3/06 ,  G06F18/2431

Abstract: 本发明提供一种大模型安全神经元筛选方法和装置，方法包括：对基础大模型进行安全对齐，得到安全对齐模型；计算所述安全对齐模型和所述基础大模型的神经元激活差异；基于所述神经元激活差异，确定对所述基础大模型进行安全对齐时的安全神经元。本发明从模型自身内部的性质出发，不受任务形式限制，容易扩展，适用于大模型中的安全神经元发现，为进一步研究大模型的安全机理提供方案。

公开(公告)号：CN119990134A

公开(公告)日：2025-05-13

申请号：CN202411808989.9

申请日：2024-12-10

Applicant: 国家计算机网络与信息安全管理中心 ,  清华大学

Inventor： 张翔宇 ,  姜文华 ,  张旭 ,  侯磊 ,  叶佳然 ,  姚子俊 ,  王晓智 ,  李涓子

IPC: G06F40/30 ,  G06F40/284 ,  G06F40/237

Abstract: 本发明提供一种使用自述式提示与集成梯度的语义贡献识别方法及系统，包括：获取输入数据并编写特定的问题提示；将所述问题提示多次输入至预设的大语言模型，引导大语言模型自动识别并报告在决策过程中起到关键作用的词汇，生成关键词提议集合；基于所述关键词提议集合抽取关键词，生成第一语义贡献度列表；基于所述输入数据通过预设的公式进行集成梯度计算，生成第二语义贡献度列表；将所述第一语义贡献度列表和第二语义贡献度列表进行整合分析，确定对大语言模型决策有重大影响的词汇。本发明解决了现有技术中大语言模型行为解释单一方法的局限性问题，提高了模型解释的全面性和准确性，满足了在多种自然语言处理应用中对可解释性的要求。

公开(公告)号：CN113761122B

公开(公告)日：2025-03-07

申请号：CN202110546916.7

申请日：2021-05-19

Applicant: 清华大学 ,  腾讯科技(深圳)有限公司

Inventor： 李涓子 ,  王子奇 ,  王晓智 ,  韩旭 ,  林衍凯 ,  侯磊 ,  刘知远 ,  李鹏 ,  周杰

IPC: G06F16/334 ,  G06F16/335 ,  G06F16/36 ,  G06F16/353 ,  G06F40/30

Abstract: 本申请实施例公开了一种事件抽取方法、相关装置、设备及存储介质，用于将句级自然语言转化为结点和边，再将结点和边转化为语义特征来进行事件抽取，能够保证获取事件的精度。本申请实施例方法包括：获取待处理文本；根据待处理文本生成抽象语义表示，抽象语义表示包括与词语一一对应的结点，以及用于连接结点之间边；对抽象语义和文本表示进行语义编码处理，得到语义嵌入向量，语义嵌入向量用于表示每个词语的与事件之间的语义特征；对抽象语义表示进行图编码处理，得到图嵌入向量，其中，图嵌入向量为用于表示通过边相连接的结点的结构特征；将语义嵌入向量与图嵌入向量进行拼接，得到拼接特征向量；对拼接特征向量进行识别，输出目标事件。

公开(公告)号：CN113158672B

公开(公告)日：2024-11-08

申请号：CN202110326769.2

申请日：2021-03-26

Applicant: 清华大学

Inventor： 侯磊 ,  刘丁枭 ,  吴茜凤 ,  李涓子 ,  张鹏 ,  唐杰 ,  许斌

IPC: G06N5/025 ,  G06F40/242 ,  G06F40/295 ,  G06F40/30 ,  G06F16/36 ,  G06F16/35 ,  G06F18/23 ,  G06F18/2415

Abstract: 本发明提供一种基于新闻事件的关系分析方法及装置，其中方法包括：获取多篇新闻文本；对多篇新闻文本进行聚类，得到聚类后的多个新闻事件；对多个新闻事件进行实体链接、实体抽取、实体关系抽取、事件关系抽取、实体与事件关系抽取，根据实体链接结果、实体抽取结果、实体关系抽取结果、事件关系抽取结果、实体与事件关系抽取结果进行关联分析得到分析结果。本发明通过原始新闻文本聚类实现新闻事件级别分析，得到多个事件，再通过对事件文本抽取实体、实体关系、事件关系、事件与实体的关系。进而通过实体链接，将实体背景知识进行补充，实现对事件的深层次挖掘，从而使读者能够获得更全面和深入的信息。

公开(公告)号：CN115098692B

公开(公告)日：2024-09-20

申请号：CN202210614778.6

申请日：2022-05-30

Applicant: 清华大学

Inventor： 李涓子 ,  李亚坤 ,  侯磊 ,  褚晓泉 ,  孟斌杰 ,  张鹏 ,  唐杰 ,  许斌

IPC: G06F16/36 ,  G06F16/335 ,  G06F16/9535 ,  G06F40/295 ,  G06F40/30 ,  G06Q30/0601

Abstract: 本发明提供一种跨域推荐方法、装置、电子设备及存储介质，其中，所述方法应用于数据稀疏的目标域，目标域的目标域实体包括待推荐用户实体和待推荐商品实体，所述方法包括：获取知识图谱和源域，其中，源域中的源域实体包括源域用户实体和源域商品实体；基于知识图谱，对目标域实体和源域实体进行转换，得到目标域实体向量和源域实体向量；基于目标域实体向量和源域实体向量，通过图注意力模型得到待推荐用户实体的融合偏好特征；基于待推荐用户实体的融合偏好特征，通过跨域贝叶斯机制进行推荐，得到待推荐用户实体关于待推荐商品实体的推荐排序。通过本发明提高了对待推荐用户实体进行商品实体推荐的推荐效率。

公开(公告)号：CN113705237B

公开(公告)日：2024-07-23

申请号：CN202110881415.4

申请日：2021-08-02

Applicant: 清华大学

Inventor： 侯磊 ,  吕志亨 ,  李涓子 ,  张鹏 ,  唐杰 ,  许斌

IPC: G06F40/295 ,  G06F40/30 ,  G06F16/35

Abstract: 本发明提供一种融合关系短语知识的关系抽取方法、装置和电子设备，包括：确定待抽取关系语句，以及该语句中的待抽取关系的两个实体的位置信息；将所述待抽取关系语句和所述位置信息输入抽取模型，输出所述两个实体的关系类型；其中，所述抽取模型是基于样本语句、对应的样本头尾实体位置和对应的头尾实体间关系类型标签进行训练得到的，所述抽取模型训练时的网络结构包括语句编码器、协同切割关系短语表示网络、关系记忆网络和关系短语类别分类网络。本发明提供的方法、装置和电子设备，实现了融合关系短语的语义信息到关系类型中，提高了语句中关系类型抽取的准确率。

公开(公告)号：CN118020097A

公开(公告)日：2024-05-10

申请号：CN202180101578.4

申请日：2021-08-11

Applicant: 罗伯特·博世有限公司 ,  清华大学

Inventor： E·哈特拉莫诺夫 ,  唐杰 ,  于济凡 ,  李涓子 ,  侯磊 ,  刘知远 ,  孙茂松 ,  罗干

IPC: G09B5/00

Abstract: 提供了一种用于使神经网络系统能够发现多个课程的概念之间的先决条件关系的方法，其中，多个课程中的每个课程包含一系列视频。该方法包括：收集学生行为数据，学生行为数据至少包括跨多个课程的视频观看行为数据；至少基于视频观看行为模式将学生行为数据建模为先决条件特征，其中，视频观看行为模式由来自视频观看行为数据的一个或多个视频对形成；以及至少基于先决条件特征来训练神经网络系统。提供了众多其它方面。

公开(公告)号：CN118020080A

公开(公告)日：2024-05-10

申请号：CN202180101405.2

申请日：2021-08-06

Applicant: 罗伯特·博世有限公司 ,  清华大学

Inventor： E·哈特拉莫诺夫 ,  唐杰 ,  于济凡 ,  李涓子 ,  侯磊 ,  刘知远 ,  孙茂松 ,  王禹权

IPC: G06N5/022

Abstract: 本公开内容提供了一种用于为在线课程建立知识库的方法。所述方法包括：从多个课程中获得多个概念，其中，所述多个课程包括视频和练习；将所述课程中包括的所述视频和所述练习中的每一项链接到所述多个概念中的一个或多个相关概念；以及将多个学生行为中的每个学生行为链接到所述多个概念中的一个或多个相关概念，其中，所建立的知识库包括以下各项：包括所述视频和所述练习的所述多个课程、所述多个学生行为、所述多个概念、所述视频与所述多个概念之间的链接、所述练习与所述多个概念之间的链接、所述学生行为与所述多个概念之间的链接。

公开(公告)号：CN116127030A

公开(公告)日：2023-05-16

申请号：CN202211608833.7

申请日：2022-12-14

Applicant: 北京智谱华章科技有限公司 ,  清华大学

Inventor： 张笑涵 ,  于济凡 ,  李涓子 ,  侯磊

IPC: G06F16/332 ,  G06F16/33 ,  G06F16/338

Abstract: 本申请提出了一种提升内容正确性的对话生成方法，涉及自然语言处理技术领域，其中，该方法包括：获取对话历史，并根据对话历史检索相关知识内容；根据对话历史和相关知识内容构建知识具象化上下文和反事实场景上下文；将知识具象化上下文和反事实场景上下文输入逐词相减的解码模型中，输出对话结果。采用上述方案的本发明能够有效提升对话生成内容的准确性。

公开(公告)号：CN114817512B

公开(公告)日：2023-03-14

申请号：CN202210738644.5

申请日：2022-06-28

Applicant: 清华大学

Inventor： 李涓子 ,  姚子俊 ,  吕鑫 ,  曹书林 ,  陈源涌 ,  史佳欣 ,  侯磊 ,  张鹏 ,  唐杰 ,  许斌

IPC: G06F16/332 ,  G06F16/31 ,  G06F16/36

Abstract: 本发明涉及人工智能技术领域，提供一种问答推理方法及装置，其中方法包括：确定推理目标问题的答案所需的至少一个算子；针对至少一个算子中至少部分需要访问知识库的算子，基于知识库中预先构建的知识元素的倒排索引结构，访问知识库，以得到算子的执行结果；基于至少一个算子的执行结果，得到答案。如此解决现有技术中推理引擎的推理效率不高的缺陷，由于确定的推理目标问题的答案所需的至少一个算子，能够展示出推理目标问题的答案的过程，透明可解释，并且，由于针对至少部分需要访问知识库的算子，基于知识库中预先构建的知识元素的倒排索引结构，访问知识库，以得到算子的执行结果，提高了算子的执行速度，进而提高了答案的推理效率。