基于梯度的Transformer模块化分解方法

    公开(公告)号:CN118586440A

    公开(公告)日:2024-09-03

    申请号:CN202410649049.3

    申请日:2024-05-23

    Abstract: 本发明公开了基于梯度的Transformer模块化分解方法,涉及图像处理和计算机视觉技术领域,该基于梯度的Transformer模块化分解方法,包括以下步骤:步骤一:目标点识别,如算法1描述了基于梯度技术识别单个注意力头中的非目标节点;步骤二;存储不属于目标类模块的节点位置;步骤三:添加非目标类;步骤四:目标类模块化,将事先训练好的Transformer模型分解为一组更小且可重用的模块,通过这一独特的分解过程,生成的模块能够被灵活地重用,以构建全新的、甚至更加精准的Transformer模型,而无需从头开始进行昂贵的训练。这种模块化分解方法不仅提高了模型的灵活性和可重用性,同时降低了模型开发的成本和时间,为深度学习模型的定制和优化提供了一种高效而创新的途径。

    基于Transformer模块化分解模型方法

    公开(公告)号:CN118504617A

    公开(公告)日:2024-08-16

    申请号:CN202410641506.4

    申请日:2024-05-22

    Abstract: 本发明公开了基于Transformer模块化分解模型方法,涉及图像处理和计算机视觉技术领域,该基于Transformer模块化分解模型方法,包括以下步骤:步骤1:神经网络模型等效改造;步骤2:重新训练改造后的Transformer网络模型#imgabs0#步骤3:梯度重置;步骤4:设置二进制掩码;步骤5:模块化Transformer;步骤6:等效转化获得目标模块,事先训练好的Transformer模型分解为一组更小且可重用的模块,通过这一独特的分解过程,生成的模块能够被灵活地重用,以构建全新的、甚至更加精准的Transformer模型,而无需从头开始进行昂贵的训练。这种模块化分解方法不仅提高了模型的灵活性和可重用性,同时降低了模型开发的成本和时间,为深度学习模型的定制和优化提供了一种高效而创新的途径。

    一种布式场景下的全密态分布式安全聚合计算方案

    公开(公告)号:CN119939649A

    公开(公告)日:2025-05-06

    申请号:CN202411928224.9

    申请日:2024-12-25

    Abstract: 本申请涉及一种布式场景下的全密态分布式安全聚合计算方案,包括:客户端,所述客户端通过数据传递连接可信主节点TM,所述可信主节点TM通过数据传递连接多个从节点#1,所述可信主节点TM包括REE和TEE,所述TEE内部包含查询引擎和全局索引,所述从节点#1由安全局部索引、TEE查询引擎和数据集,所述TEE查询引擎通过数据传递连接安全局部索引和数据集。本申请实施例提供的整体系统,系统能够在分布式环境中实现数据的安全聚合计算,同时保障计算请求的隐私性和完整性;多聚合算子的支持:研究提供安全的数据传输机制和加密聚合方案,确保不同聚合算子的计算过程不会泄露敏感信息,同时优化计算性能,减少需要参与计算的子节点。

    一种无损的数据库水印方案
    8.
    发明公开

    公开(公告)号:CN119939542A

    公开(公告)日:2025-05-06

    申请号:CN202411956357.7

    申请日:2024-12-28

    Abstract: 本申请涉及一种无损的数据库水印方案,包括如下步骤:S1、原始数据输入预处理模块进行预处理,对原始数据进行属性选择,得到预处理数据;S2、预处理数据进入水印嵌入模块中处理,得到嵌入数据;S3、嵌入数据若未被恶意攻击,则直接进入水印提取模块中的掩码生成及水印提取中处理,再经过多数投票处理,生成水印;S4、嵌入数据被恶意攻击,则进入水印提取模块中的数据分区处理,再经过掩码生成及水印提取中处理,最后经过多数投票处理,生成水印。本申请实施例提供的整体系统,零失真:将水印信息嵌入数据库的同时,不对原始数据库进行修改,适用于需要高精度数据的应用场景,具有良好的鲁棒性。

Patent Agency Ranking