公开(公告)号：CN118152528B

公开(公告)日：2024-12-06

申请号：CN202410222968.2

申请日：2024-02-28

Applicant: 中国科学院自动化研究所

Inventor： 徐博 ,  张清扬 ,  王燕娜 ,  谷召振 ,  张文圣 ,  王媛媛 ,  徐波

IPC: G06F16/332 ,  G06N3/045 ,  G06N3/08 ,  G06F18/214

Abstract: 本发明提供一种基于大语言模型的行动方案生成模型的训练方法及装置，其中方法包括：获取行动方案样本的背景信息，以及初始大语言模型；基于背景信息，以及通用大语言模型，构建行动方案样本的想定数据集；基于想定数据集，以及通用大语言模型，构建行动方案样本的问题数据集；基于问题数据集，以及通用大语言模型，构建行动方案样本的方案数据集；基于问题数据集以及方案数据集，对初始大语言模型进行训练，得到行动方案生成模型。本发明提供的方法，基于连续多阶段的数据集构建，提升了训练数据的全面性、准确性、可定制性。并通过构建得到的数据集对初始大语言模型进行微调训练，提升行动方案生成模型的准确性、可行性、实用性。

公开(公告)号：CN118152529B

公开(公告)日：2024-12-06

申请号：CN202410223392.1

申请日：2024-02-28

Applicant: 中国科学院自动化研究所

Inventor： 徐博 ,  张清扬 ,  杜佳鸿 ,  王燕娜 ,  徐波

IPC: G06F16/332 ,  G06N3/04

Abstract: 本发明提供一种基于上下文信息的问题生成方法、装置、设备和介质，属于自然语言处理技术领域，其中方法包括：获取初始问题，以及初始问题对应的上下文信息；从预先构建的提示库中选取目标信息提取提示prompt，将目标信息提取prompt和上下文信息输入至第一大语言模型，得到第一大语言模型输出的上下文信息的关键信息；从提示库中选取目标问题进化prompt，将初始问题、关键信息和目标问题进化prompt输入至第二大语言模型，得到第二大语言模型输出的初始问题进化后的问题。本发明提供的基于上下文信息的问题生成方法、装置、设备和介质能够更有效地生成多样性强、规模大的问题数据集，灵活性和适应性强。

公开(公告)号：CN118152529A

公开(公告)日：2024-06-07

申请号：CN202410223392.1

申请日：2024-02-28

Applicant: 中国科学院自动化研究所

Inventor： 徐博 ,  张清扬 ,  杜佳鸿 ,  王燕娜 ,  徐波

IPC: G06F16/332 ,  G06N3/04

Abstract: 本发明提供一种基于上下文信息的问题生成方法、装置、设备和介质，属于自然语言处理技术领域，其中方法包括：获取初始问题，以及初始问题对应的上下文信息；从预先构建的提示库中选取目标信息提取提示prompt，将目标信息提取prompt和上下文信息输入至第一大语言模型，得到第一大语言模型输出的上下文信息的关键信息；从提示库中选取目标问题进化prompt，将初始问题、关键信息和目标问题进化prompt输入至第二大语言模型，得到第二大语言模型输出的初始问题进化后的问题。本发明提供的基于上下文信息的问题生成方法、装置、设备和介质能够更有效地生成多样性强、规模大的问题数据集，灵活性和适应性强。

公开(公告)号：CN118152528A

公开(公告)日：2024-06-07

申请号：CN202410222968.2

申请日：2024-02-28

Applicant: 中国科学院自动化研究所

Inventor： 徐博 ,  张清扬 ,  王燕娜 ,  谷召振 ,  张文圣 ,  王媛媛 ,  徐波

IPC: G06F16/332 ,  G06N3/045 ,  G06N3/08 ,  G06F18/214

Abstract: 本发明提供一种基于大语言模型的行动方案生成模型的训练方法及装置，其中方法包括：获取行动方案样本的背景信息，以及初始大语言模型；基于背景信息，以及通用大语言模型，构建行动方案样本的想定数据集；基于想定数据集，以及通用大语言模型，构建行动方案样本的问题数据集；基于问题数据集，以及通用大语言模型，构建行动方案样本的方案数据集；基于问题数据集以及方案数据集，对初始大语言模型进行训练，得到行动方案生成模型。本发明提供的方法，基于连续多阶段的数据集构建，提升了训练数据的全面性、准确性、可定制性。并通过构建得到的数据集对初始大语言模型进行微调训练，提升行动方案生成模型的准确性、可行性、实用性。