-
公开(公告)号:CN116776939A
公开(公告)日:2023-09-19
申请号:CN202310765012.2
申请日:2023-06-27
Applicant: 北京邮电大学深圳研究院
IPC: G06N3/0495 , G06N3/045 , G06N3/0442 , G06N3/063
Abstract: 本发明涉及人工智能和移动计算技术领域,且公开了一种面向终端设备的稀疏化大语言模型的部署方法,在Switch Transformer网络结构的基础上通过概率统计和并行化技术进行的改进,Switch Transformer网络结构中将T5模型中的FFN层替换为MoE结构,设计一个全局的专家暂存器,专家暂存器管理从磁盘中加载的专家网络,在进行推理时会直接使用专家暂存器中的专家网络进行推理,实现了在终端设备上以少量推理时间的增加为代价,部署远大于终端设备内存上限的模型,并实现零精度损失的推理部署。
-
公开(公告)号:CN115809216A
公开(公告)日:2023-03-17
申请号:CN202211496832.8
申请日:2022-11-25
Applicant: 北京邮电大学
Abstract: 一种太空服务器及应用方法,卫星中设置的太空服务器为ARM架构的SoC集群服务器,将该SoC集群服务器搭载在卫星中,该太空服务器包括以太网交换模块,接收卫星中星载交换机转发的任务所需数据并发送任务处理结果;还包括至少一电路底板,在每个电路底板中置入多个ARM SoC模块,每个ARM SoC模块经由电路底板和以太网交换模块接收其处理的任务所需数据,将任务处理结果经由电路底板和以太网交换模块输出;还包括管理模块,根据其内置管理策略对该太空服务器中的所述ARM SoC模块、电路底板及以太网交换模块进行控制管理。本申请在卫星中处理任务所需数据,且将得到的任务处理结果传输到地面站点,满足任务的实时性和时效性的需求。
-
公开(公告)号:CN119210854A
公开(公告)日:2024-12-27
申请号:CN202411349522.2
申请日:2024-09-26
Applicant: 北京邮电大学
Abstract: 本申请提供一种基于工业互联网的数据安全隐私融合方法及系统。其中,基于差分隐私处理的数据流构建安全框架,并定义安全框架内数据的安全级别;通过区块链技术为每个参与实体创建去中心化的身份认证系统,并根据安全级别动态调整身份认证系统的访问控制权限;根据访问控制权限及数据流的安全级别,建立数据加密与解密规则,并应用数据加密与解密规则于数据流中;将加密后的数据流传输至云端数据中心,在传输过程中采用同态加密技术确保数据传输过程中的安全性;利用同态加密技术的结果,在云端数据中心生成数据融合模型;根据数据融合模型生成最终的数据安全隐私融合结果。本申请提供的技术方案能够提升数据安全性。
-
公开(公告)号:CN114584564A
公开(公告)日:2022-06-03
申请号:CN202210295662.0
申请日:2022-03-23
Applicant: 北京邮电大学深圳研究院
IPC: H04L67/10 , H04L9/40 , H04L69/321
Abstract: 一种隐私资源保护的移动终端侧数据寻址与分析技术,它涉及一种对分布式移动终端的隐私资源以统一的方式执行终端寻址与数据分析的技术。它包含终端系统、云端系统、应用编程接口系统的实际系统,所述的实际系统的运行,包含以下步骤:数据分析程序编写,云端权限检查,云端任务调度,终端任务执行,云端结果聚合与返回,本发明通过对数据分析人员编写的代码在云端执行静态检查与终端执行动态检查的方式,避免了数据分析人员越权获取用户信息,通过限制最少终端查询数量,并通过云端对多终端返回的数据分析结果强制聚合的方式来保护单个用户的隐私资源,提出了统计模型来执行增量的任务分发决策,来平衡数据分析任务的时延和端侧的资源消耗。
-
公开(公告)号:CN114584564B
公开(公告)日:2023-08-18
申请号:CN202210295662.0
申请日:2022-03-23
Applicant: 北京邮电大学深圳研究院
IPC: H04L67/10 , H04L9/40 , H04L69/321
Abstract: 一种隐私资源保护的移动终端侧数据寻址与分析技术,它涉及一种对分布式移动终端的隐私资源以统一的方式执行终端寻址与数据分析的技术。它包含终端系统、云端系统、应用编程接口系统的实际系统,所述的实际系统的运行,包含以下步骤:数据分析程序编写,云端权限检查,云端任务调度,终端任务执行,云端结果聚合与返回,本发明通过对数据分析人员编写的代码在云端执行静态检查与终端执行动态检查的方式,避免了数据分析人员越权获取用户信息,通过限制最少终端查询数量,并通过云端对多终端返回的数据分析结果强制聚合的方式来保护单个用户的隐私资源,提出了统计模型来执行增量的任务分发决策,来平衡数据分析任务的时延和端侧的资源消耗。
-
公开(公告)号:CN117829226A
公开(公告)日:2024-04-05
申请号:CN202311318039.3
申请日:2023-10-12
Applicant: 北京邮电大学
IPC: G06N3/063
Abstract: 本申请公开一种面向SoC边缘服务器的神经网络协同推理方法及装置,基于预设的算子拆分规则及预设的子模型计算图分支规则,对待推理的神经网络进行算子拆分及子模型计算图分支的划分,得到多个子模型,每个所述子模型中具有多个算子;针对每一所述子模型,基于设置的所述子模型的计算图,确定所述子模型中的多个算子的执行顺序;根据所述子模型中的多个算子的执行顺序,将所述子模型的多个算子分配到所述SoC边缘服务器的不同SoC芯片中的不同CPU中,以使所述不同的SoC芯片中的不同CPU计算所述子模型中的不同算子,完成所述神经网络的推理。这样,充分利用SoC边缘服务器的SoC芯片的计算资源,减少计算资源的损失。
-
公开(公告)号:CN116775149A
公开(公告)日:2023-09-19
申请号:CN202310732822.8
申请日:2023-06-20
Applicant: 北京邮电大学
Abstract: 本申请实施例公开了一种神经网络冷启动的方法及装置,采用具有多核处理器的边缘设备,其中多核处理器采用大小核架构,以神经网络的算子内核为单位,将神经网络的运行过程拆分为多个所述算子内核的运行过程,按照所述算子内核的运行顺序,将其中的第一算子内核的参数读取的操作过程、对应权重的读取及转化的操作过程、以及运行第一算子内核的操作过程,调度在所述大核处理器中完成;将运行其余算子内核的操作过程调度在所述大核处理器中完成,将其余算子内核的参数读取的操作过程、以及对应权重的读取及转化的操作过程调度在所选取的小核处理器完成。这样,在不影响神经网络运行精度的前提下,降低延迟时间。
-
-
-
-
-
-