一种神经网络模型后门检测方法和系统

    公开(公告)号:CN116383814A

    公开(公告)日:2023-07-04

    申请号:CN202310644147.3

    申请日:2023-06-02

    Applicant: 浙江大学

    Abstract: 本发明公开了一种神经网络模型后门检测方法和系统,属于神经网络模型安全保护技术领域。将目标神经网络模型划分为特征提取器部分和分类器部分,定义特征提取器部分的输出为中间层表示;通过最大化源类别的分类置信度的方式,逆向生成每一个源类别的中间层表示;由分类器部分获取每一个源类别的中间层表示的分类置信度向量,预处理每一个源类别的分类置信度向量,拼接得到分类置信度矩阵;根据分类置信度矩阵计算异常指标值,若异常指标值大于阈值,则判断目标神经网络模型存在后门,并定位后门的目标类别。本发明能够自动生成中间层表示而非依赖现成的辅助数据,且对于后门攻击的触发器形式不敏感,后门检测精度高,适用范围广。

    漏洞类型适应性程序切片方法及装置、电子设备

    公开(公告)号:CN119046947A

    公开(公告)日:2024-11-29

    申请号:CN202410956135.9

    申请日:2024-07-17

    Abstract: 本发明公开了一种漏洞类型适应性程序切片方法及装置、电子设备,该方法通过大语言模型对补丁中程序语句筛选,识别与漏洞相关的程序语句,准确确定漏洞相关切片标准;通过大语言模型对补丁描述及程序语句的分析,判断补丁修复的漏洞类型,针对不同的漏洞特征构建合适的切片策略;通过大语言模型对切片代码片段完整性的判断,在防止切片路径爆炸的同时,保证切片代码片段的高完整性。本发明能够达到根据漏洞类型自适应地实现高完整性程序切片的目的。

    基于智能设备漏洞知识图谱的知识表示学习模型构建方法

    公开(公告)号:CN118316662B

    公开(公告)日:2024-11-26

    申请号:CN202410367115.8

    申请日:2024-03-28

    Abstract: 本发明公开了一种基于智能设备漏洞知识图谱的知识表示学习模型构建方法,其中步骤为:构建智能设备漏洞知识图谱来生成训练集、正例三元组集和负例三元组集;根据实体间的结构邻域计算实体间的相似值,并将训练集通过Doc2vec模型训练得到实体描述信息的嵌入向量;将正负例三元组对输入到TransE模型中,得到实体和关系的嵌入向量,并将其与实体描述信息的嵌入向量计算得到正负例三元组的评分函数得分;利用评分函数和实体间的相似值计算损失函数,将其进行反向传播不断更新实体和关系的嵌入向量。本发明能够有效预测漏洞的隐藏威胁、更正漏洞库中的错误信息。

    基于智能设备漏洞知识图谱的知识表示学习模型构建方法

    公开(公告)号:CN118316662A

    公开(公告)日:2024-07-09

    申请号:CN202410367115.8

    申请日:2024-03-28

    Abstract: 本发明公开了一种基于智能设备漏洞知识图谱的知识表示学习模型构建方法,其中步骤为:构建智能设备漏洞知识图谱来生成训练集、正例三元组集和负例三元组集;根据实体间的结构邻域计算实体间的相似值,并将训练集通过Doc2vec模型训练得到实体描述信息的嵌入向量;将正负例三元组对输入到TransE模型中,得到实体和关系的嵌入向量,并将其与实体描述信息的嵌入向量计算得到正负例三元组的评分函数得分;利用评分函数和实体间的相似值计算损失函数,将其进行反向传播不断更新实体和关系的嵌入向量。本发明能够有效预测漏洞的隐藏威胁、更正漏洞库中的错误信息。

    一种代码提交场景下的全局关联定向模糊测试方法和系统

    公开(公告)号:CN116383047A

    公开(公告)日:2023-07-04

    申请号:CN202310312188.2

    申请日:2023-03-28

    Applicant: 浙江大学

    Abstract: 本发明公开了一种代码提交场景下的全局关联定向模糊测试方法和系统。方法包括:对待测程序海量代码提交中的功能无关提交过滤,得到待测提交,并利用函数内支配树筛选待测目标位置;对待测提交源码进行静态分析,提取控制流、数据流等基本块关联信息,并基于基本块间边数计算各基本块与目标位置间距离;在测试用例执行过程中,收集和统计执行信息,并基于关联基本块执行情况为测试用例分配能量;按照测试用例有无执行到目标位置进行分类讨论并设计掩码加入变异策略生成新测试用例,提升高价值字节的利用率;重复以上步骤直至模糊测试结束。本发明的方法使得定向模糊测试挖掘软件新生漏洞的效率大幅度提升。

    基于图匹配的LLVM中间语言差分分析方法及系统

    公开(公告)号:CN113553056B

    公开(公告)日:2024-05-14

    申请号:CN202110825310.7

    申请日:2021-07-21

    Applicant: 浙江大学

    Abstract: 本发明公开了一种基于图匹配的LLVM中间语言差分分析方法及系统,包括:收集并编译两个版本源代码,获取两个版本源代码的待匹配LLVM中间代码;根据待匹配LLVM中间代码进行函数匹配得到待匹配函数对,依据函数的哈希值对未改动的函数对进行过滤,以获得发生改动的函数对;确定发生改动的函数对中的敏感指令;获取并静态分析发生改动的函数对的程序控制流图,依据静态分析结果对程序控制流图进行基本块的细粒度划分;依据细粒度划分结果,对发生改动的函数对中包含敏感指令的基本块进行匹配后,再对剩下的基本块进行匹配,最终得到所有匹配的基本块对;对匹配的基本块对进行指令序列对比,以确认删除指令、增加指令。

    一种神经网络模型后门检测方法和系统

    公开(公告)号:CN116383814B

    公开(公告)日:2023-09-15

    申请号:CN202310644147.3

    申请日:2023-06-02

    Applicant: 浙江大学

    Abstract: 本发明公开了一种神经网络模型后门检测方法和系统,属于神经网络模型安全保护技术领域。将目标神经网络模型划分为特征提取器部分和分类器部分,定义特征提取器部分的输出为中间层表示;通过最大化源类别的分类置信度的方式,逆向生成每一个源类别的中间层表示;由分类器部分获取每一个源类别的中间层表示的分类置信度向量,预处理每一个源类别的分类置信度向量,拼接得到分类置信度矩阵;根据分类置信度矩阵计算异常指标值,若异常指标值大于阈值,则判断目标神经网络模型存在后门,并定位后门的目标类别。本发明能够自动生成中间层表示而非依赖现成的辅助数据,且对于后门攻击的触发器形式不敏感,后门检测精度高,适用范围广。

    一种面向物联网设备的用户数据深层取证分析方法及系统

    公开(公告)号:CN114884717B

    公开(公告)日:2023-08-25

    申请号:CN202210463280.4

    申请日:2022-04-28

    Applicant: 浙江大学

    Abstract: 本发明公开了一种面向物联网设备的用户数据深层取证分析方法及系统,属于物联网设备取证分析领域。包括:插电启动设备;扫描设备端口信息,并将处于开放状态的端口进行分类;通过动态方式从不同类型的端口中获取用户数据;通过物理引脚连接设备芯片,提取芯片内flash中的信息,得到二进制固件;以及,对能够通过调试端口登录的设备,在命令行中输入交互式指令,从软件层面提取二进制固件;逆向二进制固件,提取用户数据分区,解析成可读的文件格式,通过关键词匹配查找用户数据;形成取证分析报告。本发明从两个维度对设备中存在的用户数据进行挖掘,巧妙利用固件数据重写的原理,全方位、深层次提取用户数据残留,为取证提供新的技术手段。

    一种面向物联网设备的用户数据深层取证分析方法及系统

    公开(公告)号:CN114884717A

    公开(公告)日:2022-08-09

    申请号:CN202210463280.4

    申请日:2022-04-28

    Applicant: 浙江大学

    Abstract: 本发明公开了一种面向物联网设备的用户数据深层取证分析方法及系统,属于物联网设备取证分析领域。包括:插电启动设备;扫描设备端口信息,并将处于开放状态的端口进行分类;通过动态方式从不同类型的端口中获取用户数据;通过物理引脚连接设备芯片,提取芯片内flash中的信息,得到二进制固件;以及,对能够通过调试端口登录的设备,在命令行中输入交互式指令,从软件层面提取二进制固件;逆向二进制固件,提取用户数据分区,解析成可读的文件格式,通过关键词匹配查找用户数据;形成取证分析报告。本发明从两个维度对设备中存在的用户数据进行挖掘,巧妙利用固件数据重写的原理,全方位、深层次提取用户数据残留,为取证提供新的技术手段。

Patent Agency Ranking