公开(公告)号：CN117611968A

公开(公告)日：2024-02-27

申请号：CN202311543191.1

申请日：2023-11-20

Applicant: 浙江大学

Inventor： 纪守领 ,  付冲 ,  蒲誉文 ,  潘家雨 ,  伍一鸣

IPC: G06V10/82 ,  G06V10/40 ,  G06V10/764 ,  G06N3/04

Abstract: 本发明公开了一种计算机视觉神经网络模型后门攻击清除方法和系统，应用于图像识别领域，属于神经网络模型安全保护技术领域。将待处理的视觉神经网络模型分为特征提取器部分和分类器部分；对于视觉神经网络模型的每个预测类别，利用视觉神经网络模型的特征提取器部分生成多个特征表示；使用生成的特征表示构建数据集，将每个特征表示作为一个样本，样本标签为其生成时所对应的预测类别；利用构建的数据集对视觉神经网络模型的分类器部分进行微调，以清除视觉神经网络模型的后门攻击。本发明自动生成特征表示以构建微调数据集，填补了当前没有非数据依赖的神经网络模型后门清除技术的空白。

公开(公告)号：CN117608651A

公开(公告)日：2024-02-27

申请号：CN202311418645.2

申请日：2023-10-30

Applicant: 浙江大学

Inventor： 纪守领 ,  杜扬恺 ,  张旭鸿 ,  蒲誉文 ,  潘家雨 ,  伍一鸣

IPC: G06F8/75 ,  G06F18/22 ,  G06N3/09

Abstract: 本发明提出了一种面向代码相似性检测的跨编程语言迁移方法和系统，属于软件工程和深度学习领域。利用高资源有标注源语言代码库对多语言预训练代码编码器进行有监督对比学习；将低资源无标注目标语言代码库分为两部分，基于两部分代码库轮流对微调的多语言预训练代码编码器进行自适应对比学习，自适应对比学习中的对比样本获取方式包括挖掘和生成两种模式，训练过程中基于偏好参数从挖掘和生成的对比样本中抽样；将经过自适应对比学习之后得到的多语言预训练代码编码器作为跨编程语言迁移之后的结果，用于在低资源目标语言上实现代码相似性检测。本发明可以将一个在高资源语言上训练的相似性检测模型，迁移到在低资源语言上实现代码相似性检测。

公开(公告)号：CN117608648A

公开(公告)日：2024-02-27

申请号：CN202311418650.3

申请日：2023-10-30

Applicant: 浙江大学

Inventor： 纪守领 ,  杜扬恺 ,  张旭鸿 ,  蒲誉文 ,  潘家雨 ,  伍一鸣

IPC: G06F8/72 ,  G06F8/41 ,  G06F40/216

Abstract: 本发明提出了一种零样本大模型生成代码检测方法和系统，属于软件工程和深度学习领域。包括：基于思维链提示方法，由生成模型重写原始代码片段；所述的思维链提示方法为：以原始代码片段为输入，由生成模型翻译得到该原始代码片段对应的自然语言分析文本，再以自然语言分析文本为输入，生成对应所述自然语言分析文本的代码，作为重新代码片段；利用代码相似性模型计算原始代码片段和重新代码片段的相似性得分，若相似性得分高于阈值，判断所述原始代码片段是由大语言模型生成的代码。本发明使得检测方法能够不依赖于似然估计，解决了根源在于对代码内容的不准确似然估计问题。

公开(公告)号：CN117592506A

公开(公告)日：2024-02-23

申请号：CN202311436314.1

申请日：2023-11-01

Applicant: 浙江大学

Inventor： 纪守领 ,  麻瓯勃 ,  张乔 ,  张旭鸿 ,  潘家雨 ,  蒲誉文 ,  沈剑 ,  江莉 ,  周颖杰 ,  杨星

IPC: G06N3/008 ,  G06N5/04 ,  G06N20/00

Abstract: 本发明公开了一种面向部分可观测多机器人竞争环境的对抗策略生成方法，属于多智能体强化学习安全领域。在多机器人竞赛机制的部分可观测竞争环境下，将各方可控制的多机器人视为多智能体系统，竞争者构建针对对手方多智能体系统的子博弈集合；竞争者控制的每个智能体为每一个子博弈维护一个重放缓冲区，用于存储竞争者与目标多智能体系统在环境中的交互数据并用于训练过程，采用轨迹共享策略均衡用于训练所有子策略的交互数据量；竞争者控制的每个智能体在训练阶段生成针对每个子博弈的最佳子策略，所有子策略的集合即为对抗策略；部署阶段，竞争者控制的智能体根据各时刻的观测确定对应子博弈，再根据最佳子策略输出机器人决策动作。