一种运用基于三重重参数化的Re3Adapter模块进行参数高效迁移学习的方法

    公开(公告)号:CN117496215A

    公开(公告)日:2024-02-02

    申请号:CN202311229276.2

    申请日:2023-09-21

    Abstract: 本发明公开一种运用基于三重重参数化的Re3Adapter模块进行参数高效迁移学习的方法,在预处理阶段,通过预训练的ViT‑B/16,ConvNeXt等公开模型作为基础模型;采用重参数化来代替Adapter中的激活函数来引入非线性,整个过程中的非线性通过采样实现,让改进后的Adapter成为完全可重参数化的结构;利用训练时重参数化来改进Adapter中的单层线性层,提升Adapter的表征能力。本发明通过重参数化转移Adapter中非线性的方法,并结合训练时重参数化来加强MLP的表征能力,随后使用结构重参数化将训练好的Adapter任何到骨架网络中从而产生零推理延迟的参数高效的迁移学习的方法。

    一种基于零知识证明的侧链小额支付系统

    公开(公告)号:CN110428249A

    公开(公告)日:2019-11-08

    申请号:CN201910675921.0

    申请日:2019-07-25

    Inventor: 曹岭 万哲驿 王瑞

    Abstract: 本发明请求保护一种基于零知识证明的侧链小额支付系统,包括区块链主链模块,还包括区块链侧链模块及零知识证明加密模块,通过在区块链主链上扩展的侧链进行交易支付,减少了主链的交易量,增强了主链的可扩展性,该交易系统提高了侧链的区块出块速度,提升了交易的速度,并且用零知识证明对发起交易的地址生成隐秘交易地址,对交易信息进行隐私保护。

Patent Agency Ranking