面向基础模型的场景自适应的边云协同推理系统及方法

    公开(公告)号:CN119721238A

    公开(公告)日:2025-03-28

    申请号:CN202411765028.4

    申请日:2024-12-04

    Abstract: 本发明涉及一种面向基础模型的场景自适应的边云协同推理系统及方法,包括场景自适应的边侧模型定制和自适应推理两个组件;场景自适应的边侧模型定制组件通过超类路由和模型蒸馏的方法,从云侧部署的基础模型中提取混合专家模型,随后,利用边缘设备上少量的无标签原始数据,选择合适的专家模块压缩并微调出边侧定制模型。自适应推理组件协同边侧定制模型和云侧部署的基础模型处理推理任务。将边侧定制模型推理结果上传决策模块,计算置信度分数,并决定是否需要上传数据块选择器,如需上传,上传局部且重要的数据块到云侧部署的基础模型,起到减少传输开销和保护数据隐私的作用。

    一种面向自监督训练的轻量化本地神经网络结构搜索方法

    公开(公告)号:CN118350443A

    公开(公告)日:2024-07-16

    申请号:CN202410579338.0

    申请日:2024-05-11

    Abstract: 一种面向自监督训练的轻量化本地神经网络结构搜索方法,属于边缘计算相关领域,包括:构建序列搜索空间;构建Memory‑FLOPs对应表;构建训练质量预测器;多目标贝叶斯优化;通过搜索得到目标设备的最优模型结构之后,构建最优模型并将预训练模型中的权重加载到最优模型中。本发明在边端设备上只需要300秒到3000秒就能生成一个定制模型,比前部署NAS技术快18.8倍。与最先进的后部署NAS技术相比,本发明拥有相当的搜索时间,并且本发明在进行后续的数据环境适配时不需要将设备本地的数据上传到云端,保护了数据隐私并减小了数据传输成本。

    联合智能音箱和电表的细粒度家庭用电监测系统及方法

    公开(公告)号:CN117131462A

    公开(公告)日:2023-11-28

    申请号:CN202311075482.2

    申请日:2023-08-24

    Abstract: 联合智能音箱和电表的细粒度家庭用电监测系统及方法,属于家庭电器能耗监测相关领域,该方法包括:系统自动学习电器功率和声音之间的关联关系,即一致性信息和互补性信息;将功率事件分为高功率变化和低功率变化,迭代地进行情景发现;寻找具有关联的声音特征和功率特征即关键特征对,通过聚类了解哪些关键特征对属于同一电器状态;噪声鲁棒的基于声音的电器状态识别器训练;利用学习到的一致性信息和互补信息即电器状态识别器的识别结果,以跨模态关联融合的方式实现电器能耗分解,进而推断每类电器的耗电情况。本发明以低设备成本和低标注成本的方式帮助用户了解家庭细粒度用电情况,帮助用户培养低碳的用电习惯,还可辅助进行用户活动识别。

    一种面向边端设备的轻量化对比迁移学习方法

    公开(公告)号:CN118428448A

    公开(公告)日:2024-08-02

    申请号:CN202410579421.8

    申请日:2024-05-11

    Abstract: 本发明属于迁移学习技术领域,具体涉及一种面向边端设备的轻量化对比迁移学习方法。本发明的方法包括以下步骤:首先基于包含预训练权重的边端设备定制模型,添加可学习的SiameseResidual模块;然后构建LiteSiamese对比迁移学习架构,并使用对比迁移学习方法用冻结主干网络、只更新SiameseResidual模块的方式微调边端设备定制模型。本发明的方法通过冻结主干网络的预训练权重,引入可学习的SiameseResidual模块显著减少了训练所需的内存,利用LiteSiamese对比迁移学习架构微调可学习权重并使用预训练权重约束对比损失,提高了模型在边端设备上的性能。

Patent Agency Ranking