公开(公告)号：CN113067873B

公开(公告)日：2022-08-30

申请号：CN202110298308.9

申请日：2021-03-19

Applicant: 北京邮电大学

Inventor： 滕颖蕾 ,  牛涛 ,  张勇 ,  滕俊杰 ,  满毅 ,  王楠 ,  胡刚 ,  邹盼盼 ,  刘阳 ,  文志刚

IPC: H04L67/10 ,  H04L41/142 ,  G06N3/04 ,  G06N3/08

Abstract: 本发明提供一种基于深度强化学习的边云协同优化方法，所述方法包括：在离线阶段，通过离线训练深度学习模型生成带有多个早退点的多分支网络，并获取云服务器与终端设备运行深度学习模型中的不同神经网络层的时延和能耗作为设备参数；在优化决策阶段，将预先获取的时延、能耗、准确率以及带宽的设备参数一起输入至优化器进行优化，得到深度学习模型关于早退点、分割点以及量化编码的推理方案；在在线推理阶段，边缘设备与云服务器建立连接并运行深度学习模型，优化器根据边缘设备实时检测到的带宽对推理方案进行动态优化，并按照优化后的推理方案指导边缘设备与云服务器协同实施。本发明对于传输数据的时延、能耗和准确率能够有效优化。

公开(公告)号：CN116306801A

公开(公告)日：2023-06-23

申请号：CN202211567134.2

申请日：2022-12-07

Applicant: 北京邮电大学

Inventor： 滕颖蕾 ,  王楠 ,  满毅 ,  滕俊杰 ,  张勇 ,  王振 ,  胡刚 ,  马仕君 ,  张新阳 ,  孙博雅

IPC: G06N3/0464 ,  G06F9/50 ,  G06F9/48 ,  G06F9/54 ,  G06N3/084 ,  G06N3/08

Abstract: 本发明提供一种基于重要性的数据采集存储方法、装置、设备及介质，基于重要性的数据采集存储方法应用于包括边缘服务器、边缘设备以及中央处理器的边缘计算系统；该方法包括：确定待训练的卷积神经网络模型对应的损失函数，基于小批量随机梯度下降算法和所述损失函数，更新所述卷积神经网络模型；根据所述损失函数、边缘服务器的属性信息以及边缘设备的属性信息，确定数据上传信息和缓存队列信息；基于所述数据上传信息和所述缓存队列信息，确定随机优化问题；基于所述随机优化问题，确定长期优化策略和短期优化策略，基于所述长期优化策略和所述短期优化策略进行数据采集存储。本发明实现了算法性能的提升，降低了网络资源损耗。

公开(公告)号：CN116233954A

公开(公告)日：2023-06-06

申请号：CN202211575350.1

申请日：2022-12-08

Applicant: 北京邮电大学

Inventor： 滕颖蕾 ,  余思聪 ,  胡刚 ,  满毅 ,  滕俊杰 ,  王楠 ,  牛涛 ,  杜韬 ,  金磊 ,  马仕君

IPC: H04W40/04 ,  G06N3/098 ,  H04L67/10 ,  G06N3/08 ,  H04W12/03 ,  H04W4/70

Abstract: 本发明提供一种基于联邦学习系统的分簇数据共享方法、装置及存储介质，联邦学习系统包括K个分布式设备和中央服务器，K为大于1的整数；方法包括：基于预先设置的分簇算法，将K个分布式设备划分为M个簇；M为小于K的整数，M个簇中存在至少一个包括簇头设备和簇内成员设备的簇；控制各簇中的簇头设备向簇内成员设备共享训练数据；基于预先设置的联邦学习算法，通过各分布式设备的训练数据与所述中央服务器协同迭代训练预先设置的初始模型，得到联邦学习训练后的目标模型。本发明通过对分布式设备进行分簇，由簇头设备向簇内成员设备共享训练数据，减缓了数据异构的程度，减小了联邦学习训练的通信开销，提高了最终训练的目标模型的准确度。

公开(公告)号：CN119312947A

公开(公告)日：2025-01-14

申请号：CN202411728336.X

申请日：2024-11-28

Applicant: 北京邮电大学

Inventor： 滕颖蕾 ,  满毅 ,  张勇 ,  胡刚 ,  孙昀瑞 ,  滕俊杰 ,  孙博雅 ,  孙家辰 ,  闫富航 ,  于欣雨

IPC: G06N20/20 ,  G06N3/006

Abstract: 本发明公开一种基于异构系统的分割联邦学习模型训练方法，该系统包括多个客户端、一个中心服务器和一个边缘服务器。全局模型基于每个客户端设备条件分割客户端局部模型和服务器局部模型并分别部署到对应客户端和中心服务器。每轮训练中客户端并行训练，将本地数据前向传播输出粉碎数据并传输至中心服务器的服务器局部模型继续前向传播得到损失值，再反向传播梯度以更新服务器局部模型和客户端局部模型的参数。各客户端将更新后的模型传至边缘服务器，边缘服务器和中心服务器完成公共层的参数交换后进行模型聚会，生成全局客户端模型和全局服务器模型。全局客户端模型按每个客户端分割点向客户端分发客户端局部模型。本发明能适应异构设备的设备条件，提高模型训练效率。

公开(公告)号：CN113067873A

公开(公告)日：2021-07-02

申请号：CN202110298308.9

申请日：2021-03-19

Applicant: 北京邮电大学

Inventor： 滕颖蕾 ,  牛涛 ,  张勇 ,  滕俊杰 ,  满毅 ,  王楠 ,  胡刚 ,  邹盼盼 ,  刘阳 ,  文志刚

IPC: H04L29/08 ,  H04L12/24 ,  G06N3/04 ,  G06N3/08

Abstract: 本发明提供一种基于深度强化学习的边云协同优化方法，所述方法包括：在离线阶段，通过离线训练深度学习模型生成带有多个早退点的多分支网络，并获取云服务器与终端设备运行深度学习模型中的不同神经网络层的时延和能耗作为设备参数；在优化决策阶段，将预先获取的时延、能耗、准确率以及带宽的设备参数一起输入至优化器进行优化，得到深度学习模型关于早退点、分割点以及量化编码的推理方案；在在线推理阶段，边缘设备与云服务器建立连接并运行深度学习模型，优化器根据边缘设备实时检测到的带宽对推理方案进行动态优化，并按照优化后的推理方案指导边缘设备与云服务器协同实施。本发明对于传输数据的时延、能耗和准确率能够有效优化。