公开(公告)号：CN118823478A

公开(公告)日：2024-10-22

申请号：CN202410992690.7

申请日：2024-07-23

Applicant: 北京计算机技术及应用研究所

Inventor： 赵睿卓 ,  徐哲炜 ,  曲紫畅 ,  杨波 ,  冯大成 ,  付修锋 ,  杨广 ,  季超英 ,  祝宇

IPC: G06V10/764 ,  G06V10/774 ,  G06V10/40 ,  G06N3/0464 ,  G06V10/82

Abstract: 本发明涉及一种基于谱特征分析的目标检测后门攻击数据检测方法，属于后门检测领域。本发明首先根据目标检测数据集每张图像的边界框标注信息从原始图像裁剪出每一个单独的目标生成新的目标数据集；然后将目标数据集作为输入，训练一个分类神经网络，获取每个目标样本的特征表示；接着将获取的特征表示按类别进行划分，得到每个类别的特征表示，进而计算得到每个类别的协方差矩阵，随后对协方差矩阵进行奇异值分解来分析协方差矩阵中的谱特征；然后根据奇异值分解得到的谱特征中的奇异向量计算得到每个样本的异常分数；最后设定一个分数阈值作为判断标准，确定有毒样本和有毒图像。本发明能提升目标检测任务中的后门攻击数据检测能力。

公开(公告)号：CN119851104A

公开(公告)日：2025-04-18

申请号：CN202411743594.5

申请日：2024-11-30

Applicant: 北京计算机技术及应用研究所

Inventor： 徐哲炜 ,  赵睿卓 ,  曲紫畅 ,  刘绍桐 ,  闫惟娜 ,  魏建宇 ,  姜志学 ,  王潇怡 ,  杨广 ,  陈金宝 ,  刘孟鑫

IPC: G06V10/98 ,  G06V10/25 ,  G06V10/26 ,  G06V20/70 ,  G06V10/764

Abstract: 本发明涉及一种基于数据拆解的标注错误缺陷检测方法，属于目标检测领域。本发明的方法通过数据集分解、鲁棒分类器训练和怀疑度分数计算等步骤，有效检测数据集中前景和背景区域的标注准确性。首先，对每张图像的标注信息进行分解，将前景目标和背景区域作为独立的实例单元；然后使用鲁棒分类器进行训练，降低噪声数据对模型的影响，接着通过计算怀疑度分数确定每个实例的优先级。怀疑度分数越高的实例表示其标注错误的可能性越大，从而被优先检查和修正。本发明的方法在无需依赖模型预测结果的前提下，帮助开发者快速定位并修复数据集中的问题标注。

公开(公告)号：CN118485885A

公开(公告)日：2024-08-13

申请号：CN202410592238.1

申请日：2024-05-14

Applicant: 北京计算机技术及应用研究所

Inventor： 赵睿卓 ,  徐哲炜 ,  陈国英 ,  曲紫畅 ,  刘绍桐 ,  姜志学 ,  闫惟娜

IPC: G06V10/774 ,  G06V10/776 ,  G06V10/25 ,  G06V10/94 ,  G06V10/44

Abstract: 本发明涉及一种基于优先级的目标检测深度模型测试用例选择方法，属于测试技术领域。本发明首先对目标检测模型进行训练；测试用例经过目标检测模型处理之后，得到检测结果，以特定的检测阈值进行推断，将检测结果拆分成不同的实例；对实例级别的结果进行处理，对每一个实例分别计算它们的分类能力和定位能力，根据分类能力和定位能力计算优先级指标；最后根据计算得到的每个实例的优先级指标对各个的实例进行排序，实例的得分越高，则更需要对这些实例进行关注。本发明能更加有效的选择测试用例，测试人员能够有序高效地处理测试用例数据集。

公开(公告)号：CN119847913A

公开(公告)日：2025-04-18

申请号：CN202411743436.X

申请日：2024-11-30

Applicant: 北京计算机技术及应用研究所

Inventor： 刘绍桐 ,  曲紫畅 ,  徐哲炜 ,  赵睿卓 ,  魏建宇 ,  王潇怡 ,  闫惟娜 ,  姜志学 ,  安传翔 ,  刘悦 ,  高建宇 ,  张翔

IPC: G06F11/3668 ,  G06F40/30 ,  G06F40/247 ,  G06F16/3329 ,  G06F16/353 ,  G06N3/045

Abstract: 本发明涉及一种基于不确定性的智能文本对话模型模糊测试方法，属于神经网络领域。本发明构建了一系列文本数据的蜕变关系算子，这些算子包括同义词替换、回译和单词插入，适用于文本对话任务。在语义保留策略方面，这些算子可用于生成新的测试文本句子，而不会改变原始句子的语义。在生成测试用例时，本发明会计算被测对话模型对测试数据的不确定性。在不确定性的指导下，模糊测试技术可以有效地选择最有可能触发模型潜在缺陷的测试数据。最后，本发明的模糊测试技术在有限的种子测试数据基础上自动生成大量用于测试对话模型的测试用例，节省了测试资源，并且具有高效的故障揭示能力。

公开(公告)号：CN118485884A

公开(公告)日：2024-08-13

申请号：CN202410592107.3

申请日：2024-05-14

Applicant: 北京计算机技术及应用研究所

Inventor： 赵睿卓 ,  徐哲炜 ,  陈国英 ,  曲紫畅 ,  刘绍桐 ,  姜志学 ,  闫惟娜

IPC: G06V10/774 ,  G06V10/776 ,  G06V10/25 ,  G06V10/762 ,  G06V10/44

Abstract: 本发明涉及一种基于适应度的测试用例选择方法，属于测试技术领域。本发明进行目标检测模型训练，通过基于适应度的测试选择模型ATS进行错误模式计算，计算适应度度量，自适应进行测试用例选择。本发明能够有效选取覆盖类别更均衡的测试样本，使用基于适应度的测试用例选择方法选取的图像能够包含更多的目标，覆盖的范围更加广泛，充分显示了基于适应的的测试用例选择方法具有多样性。另外，使用本发明选择的测试用例场景更为复杂，包含更多目标对象、覆盖范围广且大小规模不一，能够有效揭示模型漏检、错检等多方面问题。