一种视觉语言大模型混合量化方法、装置和电子设备

    公开(公告)号:CN119441513A

    公开(公告)日:2025-02-14

    申请号:CN202510033310.1

    申请日:2025-01-09

    Abstract: 本发明涉及混合量化技术领域,具体涉及一种视觉语言大模型混合量化方法、装置和电子设备,该方法包括:将构建的图像编码器校准集输入预先建立的图像编码器和文本编码器,并从预先定义的混合精度量化的搜索空间中选择量化方案对图像编码器进行训练后量化,基于量化前后图像编码器和文本编码器的输出计算第一量化误差;将多模态校准集输入视觉语言大模型,并从搜索空间中选择量化方案对视觉语言大模型进行混合精度量化,根据量化前后视觉语言大模型的输出计算第二量化误差;将各量化方案及对应的量化误差存入到哈希表中;结合哈希表使用基于策略梯度的强化学习算法来优化生成量化方案的策略。通过哈希表加速量化方案的搜索过程,提高优化效率。

    一种保护隐私的用户日用电模式分析方法

    公开(公告)号:CN119397269A

    公开(公告)日:2025-02-07

    申请号:CN202411382005.5

    申请日:2024-09-30

    Abstract: 本发明公开了一种保护用户隐私的用户日用电模式分析方法,包括:供电侧从用户侧部署的智能电表收集原始的用户日用电数据,汇总成原始数据集,并对用户日用电数据进行规范化处理,得到规范数据集;供电侧根据规范数据集提取原始的用户日用电模式,并得到规范数据集中每个日用电模式的所属类别;供电侧基于差分隐私,对规范数据集进行数据扰动,得到扰动数据集;售电侧根据上述过程得到的日用电模式的所属类别和扰动数据集,计算估计用户日用电模式提取结果。本发明将原始用电数据在供电侧分析,售电侧通过扰动后的数据计算获得估计的分析结果,使得原始用电数据与售电侧隔离,从而保护用户用电数据隐私。

Patent Agency Ranking