基于大语言模型的深度学习编译器模糊测试方法及系统

    公开(公告)号:CN117632751A

    公开(公告)日:2024-03-01

    申请号:CN202311675029.5

    申请日:2023-12-07

    Abstract: 本发明提供一种基于大语言模型的深度学习编译器模糊测试方法及系统,所述方法包括:基于大语言模型生成多段能够调用一个或多个指定深度学习API的代码片段,以构成模糊测试的初始代码种子集合;根据指定深度学习API的文档进行传参的约束提取,得到API约束文件;基于API约束文件对初始代码种子进行变异,得到测试代码片段;通过比较测试代码片段在待测深度学习编译器与参考编译器的编译结果,得到待测深度学习编译器的测试结果。本发明可以发现深度学习编译器中的漏洞,保证深度学习模型的变异后语义与原始模型相同,进而保障下游应用程序的正确性。

    面向人工智能模型迁移安全的后门攻击对抗方法及系统

    公开(公告)号:CN116702832A

    公开(公告)日:2023-09-05

    申请号:CN202310705688.2

    申请日:2023-06-14

    Abstract: 本发明公开了一种面向人工智能模型迁移安全的后门攻击对抗方法及系统。本发明基于对知识蒸馏迁移范式进行优化,来抵抗后门攻击触发器模式的转移;其中学生模型不直接模仿教师模型的输出,而是在利用Transformer对学生模型输出进行层间融合后以全局交互信息模式对教师模型输出进行匹配学习,教师模型的信息被融合信息分散拆解到学生模型各阶段的参数权重内,可避免学生模型受到教师模型内包含的基于局部信息的攻击后门的影响,同时全局信息融合可以提高学生模型所学习的语义,从而提高精度。本发明提供的方法可在迁移不可信来源的人工智能模型能力时,获得可去除基于局部信息攻击后门的安全学生模型。

    一种基于深度强化学习的深度学习漏洞检测模型对抗样本生成方法和系统

    公开(公告)号:CN115481714A

    公开(公告)日:2022-12-16

    申请号:CN202210553722.4

    申请日:2022-05-20

    Abstract: 本发明提供一种基于深度强化学习的深度学习漏洞检测模型对抗样本生成方法和系统。该方法包括:获取基于深度学习的目标漏洞检测模型信息以及用于生成对抗样本的原型漏洞代码集合;构建面向目标漏洞检测模型的有效对抗代码变换;构建面向最优对抗样本生成的深度强化学习框架;使用有效对抗代码变换和面向最优对抗样本生成的深度强化学习框架,生成目标漏洞检测模型的最优对抗样本。本发明利用目标漏洞检测模型的代码表征中对模型决策有重要影响的特征构造有效对抗代码变换,并采用深度强化学习算法生成面向目标漏洞检测模型的最优对抗样本,能更为高效、有针对性地生成基于深度学习的目标漏洞检测模型的对抗样本。

    基于RISC-V与地址空间布局随机化的内存地址检测攻击防御方法及装置

    公开(公告)号:CN113672906B

    公开(公告)日:2022-08-23

    申请号:CN202110942028.7

    申请日:2021-08-17

    Abstract: 本发明公开了一种基于RISC‑V与地址空间布局随机化的内存地址检测攻击防御方法及装置,包括:构造程序内存地址空间描述表;插入用于生成和设置地址随机偏移量的RISC‑V扩展指令;执行代码,在生成地址随机偏移量后,更新程序内存地址空间描述表;实现内存地址空间布局随机化。本发明可以在不改变程序控制流的情况下,将地址布局随机化机制应用于系统之中,有效遏制内存地址检测攻击,进而提高系统对相关后续攻击(DOP、ROP、缓冲区溢出攻击、代码重用攻击等)的防御能力,增强RISC‑V系统的安全性,解决了地址空间布局随机化在多种应用环境中的适用性问题。

    基于RISC-V与Canary机制的缓冲区溢出攻击防御方法及装置

    公开(公告)号:CN113536297B

    公开(公告)日:2022-07-22

    申请号:CN202110806892.4

    申请日:2021-07-16

    Abstract: 本发明公开一种基于RISC‑V与Canary机制的缓冲区溢出攻击防御方法及装置,包括:为程序源代码的抽象语法树赋予content属性后,生成节点调用关系图G;生成特殊数据Canary;在每一调用节点content属性所对应的代码语句之前及每一返回节点content属性所对应的代码语句之前,分别插入设置特殊数据Canary的RISC‑V扩展指令与检验特殊数据Canary的RISC‑V扩展指令;执行程序源代码,设置特殊数据Canary的RISC‑V扩展指令将特殊数据Canary写入当前栈帧,检验特殊数据Canary的RISC‑V扩展指令通过特殊数据Canary的值p与从当前栈帧中取得特殊数据Canary的值p′的对比结果,以进行防御。本发明全面覆盖堆溢出、栈溢出、BSS溢出等多种缓冲区溢出形式,可实现安全防御的软硬协同,对系统性能的影响较小,获取了更佳的防御效果。

    基于API文档图谱的操作系统智能编程方法及装置

    公开(公告)号:CN113849163A

    公开(公告)日:2021-12-28

    申请号:CN202111174889.1

    申请日:2021-10-09

    Abstract: 本发明公开了一种基于API文档图谱的操作系统智能编程方法及装置,包括根据从源系统及目标系统的API文档中提取的所需信息,分别构建源系统的API文档图谱ADG1及目标系统的API文档图谱ADG2;分别向量化API文档图谱ADG1与API文档图谱ADG2,构建节点表示矩阵及节点表示矩阵基于节点表示矩阵与节点表示矩阵进行API文档图谱ADG1与API文档图谱ADG2的实体对齐任务,得到API映射结果。本发明避免了API文档中有效信息丢失,解决了已有的基于代码的API映射方法存在的代码库不可用、不准确等问题,以及基于文档的API映射方法的信息利用不充分等问题,为后续通过智能编程实现应用程序的跨系统迁移的过程提供支持。

    一种基于代码属性张量的程序源代码编码方法

    公开(公告)号:CN110286891A

    公开(公告)日:2019-09-27

    申请号:CN201910554093.5

    申请日:2019-06-25

    Abstract: 本发明涉及一种基于代码属性张量的程序源代码编码方法,包括:对程序源代码生成代码属性图;创建符号表、节点表和代码属性张量并进行初始化;将AST节点的数据类型和AST节点之间的运算关系编码到代码属性张量中;将AST节点之间的父子关系编码到代码属性张量中;将CFG节点之间的邻接关系编码到代码属性张量中,输出最终的代码属性张量。本发明为了解决已有的程序源代码的编码方式无法充分体现程序语义特征的问题,提出了代码属性张量的概念,以及将程序源代码编码为代码属性张量的算法。本发明可以在避免语义信息的丢失的情况下,将程序源代码编码为张量形式的数据,作为机器学习模型的输入,为后续的程序静态分析工作提供支持。

Patent Agency Ranking