一种基于轻量多出口网络的模型压缩与推断加速方法

    公开(公告)号:CN115600675A

    公开(公告)日:2023-01-13

    申请号:CN202211194881.6

    申请日:2022-09-26

    Abstract: 本发明公开了一种基于轻量多出口网络的模型压缩与推断加速方法,包括以下步骤:1:在用户给定的数据集上训练基于变换器的预训练语言模型,得到教师模型并初始化学生模型;2:构建轻量模型的体积需求,并根据模型体积需求设置词嵌入矩阵中间维度、自注意力头数、前馈网络中间维度;3:使用综合静态压缩与动态加速的联合优化方法训练目标轻量多出口网络模型;4:在推断前根据实际需要设定或改变轻量多出口网络模型的置信度阈值,实现可变程度的加速。本发明设计了一种宽度压缩的多出口模型以优化时间和空间效率,大幅降低存储计算开销,减小压缩后的多出口模型因各层不一致导致的性能下降,弥补了静态压缩和动态加速的结合导致模型性能大幅降低的问题。

    基于情绪细微感知的电网客服共情对话回复生成方法

    公开(公告)号:CN117591648A

    公开(公告)日:2024-02-23

    申请号:CN202311556838.4

    申请日:2023-11-21

    Abstract: 本发明公开了一种基于情绪细微感知的电网客服共情对话回复生成方法,使用基于细粒度情绪感知的共情对话回复生成模型,由语句知识编码器、情绪流感知器和知识选择解码器组成;采用语句知识编码器以及句间使用双向长短期记忆网络与注意力机制达到准确的发言级别的精确建模,捕捉细微情绪动态变化过程;结合引入的外部知识把握情绪变化特征,从细微到整体理解对话整体带有的情绪特征;基于交叉注意力机制的情绪与外部知识的对应选择模块,对外部知识进行一致化选择,使得选取的知识与对话发言轮次顺序的情绪特征协同,消除逻辑冲突;引入词频惩罚损失函数,惩罚模型选择高频词行为,增加对低频词语选择概率,增加模型生成回复多样性。

    变电站光伏电源系统
    10.
    发明公开

    公开(公告)号:CN109830982A

    公开(公告)日:2019-05-31

    申请号:CN201910166399.3

    申请日:2019-03-06

    Abstract: 本发明公开了一种变电站光伏电源系统,包括光伏组件、光伏控制器、蓄电池组、交流母线、交流切换开关、电网、站内交流负荷、站内直流系统,其中光伏控制器包含第一直流调压器、第二直流调压器、并网逆变器;光伏组件与第一直流调压器相连,蓄电池组与第二直流调压器相连,第一直流调压器、第二直流调压器与并网逆变器相连,并网逆变器的交流输出端同时与电网、交流母线相连,电网与交流母线相连,站内交流负荷连接至交流母线,交流切换开关输入端同时与并网逆变器的EPS输出端、交流母线相连,站内直流系统连接至交流切换开关输出端。本发明能够充分利用太阳能为站内负荷供电同时在电网失电的情况下,持续为直流系统供电,保障直流系统可靠性。

Patent Agency Ranking