公开(公告)号：CN119441961A

公开(公告)日：2025-02-14

申请号：CN202411266935.4

申请日：2024-09-11

Applicant: 湖南大学

Inventor： 李肯立 ,  孟颖 ,  刘楚波 ,  丁岩 ,  肖国庆 ,  唐卓 ,  罗辉章 ,  张羽丰

IPC: G06F18/241 ,  G06F18/213 ,  G06F18/25 ,  G06F18/22 ,  G06N3/0455

Abstract: 本申请涉及一种基于特征降维聚合的多模态并行优化计算方法与装置，其中，方法包括：获取第一模态嵌入层参数矩阵和第二模态嵌入层参数矩阵；对第一模态嵌入层参数矩阵和第二模态嵌入层参数矩阵进行降维和注意力计算，得到所有注意力头的重要性矩阵；根据每个注意力头的重要性矩阵、预设的注意力头舍弃率和预设的注意力头性能阈值，从所有注意力头中选择前预设数量需要保留的头，得到保留的注意力头集合；基于保留的注意力头集合，进行模态间融合、模态间相似特征聚合计算以及模态间注意力决策处理，得到注意力分数矩阵的掩码矩阵；根据掩码矩阵恢复重新组织高精度的注意力计算，取出对应的第二模态键矩阵中的特征向量进行浮点数计算。

公开(公告)号：CN117591913A

公开(公告)日：2024-02-23

申请号：CN202311592615.3

申请日：2023-11-25

Applicant: 湖南大学

Inventor： 张羽丰 ,  朱玉磊

IPC: G06F18/24 ,  G06N3/0455 ,  G06N3/0442 ,  G06F11/36

Abstract: 本发明公开了一种基于改进的R‑Transformer的语句级软件缺陷预测方法，该方法具体包括：利用设计好的32个语句级代码指标对每个代码行提取静态代码特征，使用One‑Hot编码对每行代码提取token特征，构建DP‑Tramo缺陷预测模型对软件缺陷进行语句级别的预测，通过代价敏感学习技术处理类别的不平衡，运用标签平滑技术来增强模型泛化能力。本发明通过改进的R‑Transformer有效地获取了函数代码行的语法和语义信息，进而提高了语句级软件缺陷预测的效果。该发明在细粒度软件缺陷预测以及基于深度学习引导模糊测试等领域均具有广大应用前景。