代码补全模型训练方法、装置、电子设备和存储介质

    公开(公告)号:CN118656064B

    公开(公告)日:2024-12-03

    申请号:CN202411134182.1

    申请日:2024-08-19

    Abstract: 本发明提供一种代码补全模型训练方法、装置、电子设备和存储介质,属于代码补全技术领域,其中方法包括:获取待补全的开源的抽象语法树AST数据集;后序遍历AST数据集,得到AST数据集对应的后序序列数据集;基于AST数据集构建词汇表,基于词汇表对后序序列数据集进行转换,生成对应的后序索引序列数据集;确定AST数据集对应的层级序列数据集;基于后序索引序列数据集和层级序列数据集,得到AST建模数据,基于AST建模数据训练初始代码补全模型,训练完成后,得到代码补全模型。本发明能够提高代码补全模型预测的精度和准确率。

    一种面向AIoT的多任务本地协同推理方法及系统

    公开(公告)号:CN116306943B

    公开(公告)日:2023-10-17

    申请号:CN202310254000.3

    申请日:2023-03-16

    Abstract: 本发明提供一种面向AIoT的多任务本地协同推理方法及系统,属于分布式机器学习领域。本发明通过AIoT客户端将客户端本地模型切片推理的中间结果通过并行通信局域网发送至本地服务器,本地服务器使用同一模型切片对中的对应模型切片初始化推理引擎并完成推理过程,随后将结果回传至原客户端。本发明使用局部贪心搜索对协同推理中所用的模型切片进行通信优化,使用内存复用和内存替换加速推理引擎初始化,通过两级并行执行流来执行的协同推理任务。本发明使用本地设备和局域网进行协同推理,避免了传统方法中的隐私泄露和网络波动问题,为大量AIoT客户端提供低延迟的协同推理服务,提升了系统处理协同推理任务的吞吐量。

    一种自适应负载均衡方法及系统

    公开(公告)号:CN116360987A

    公开(公告)日:2023-06-30

    申请号:CN202310261234.0

    申请日:2023-03-17

    Abstract: 本发明提供一种自适应负载均衡方法及系统,属于负载均衡领域。本发明基于的并行流水线执行模式是使用包含若干流水级的并行执行流执行来自多个客户端的任务,本方法在拥塞延迟变高且在执行流之间不均衡时,依次使用交叉熵方法和强化学习分别进行执行流之间的负载均衡以及客户端和服务器之间的负载均衡。本发明能基于当前拥塞延迟的严重程度在客户端‑服务器计算范式中对使用并行流水线执行模式的服务器进行负载均衡,提供了比传统的负载均衡方法更细粒度的负载均衡,能够降低拥塞延迟和拥塞延迟的波动,提升服务器处理来自多个客户端的任务的性能。

    一种面向AIoT的多任务本地协同推理方法及系统

    公开(公告)号:CN116306943A

    公开(公告)日:2023-06-23

    申请号:CN202310254000.3

    申请日:2023-03-16

    Abstract: 本发明提供一种面向AIoT的多任务本地协同推理方法及系统,属于分布式机器学习领域。本发明通过AIoT客户端将客户端本地模型切片推理的中间结果通过并行通信局域网发送至本地服务器,本地服务器使用同一模型切片对中的对应模型切片初始化推理引擎并完成推理过程,随后将结果回传至原客户端。本发明使用局部贪心搜索对协同推理中所用的模型切片进行通信优化,使用内存复用和内存替换加速推理引擎初始化,通过两级并行执行流来执行的协同推理任务。本发明使用本地设备和局域网进行协同推理,避免了传统方法中的隐私泄露和网络波动问题,为大量AIoT客户端提供低延迟的协同推理服务,提升了系统处理协同推理任务的吞吐量。

    面向AIoT场景支持RISC-V处理器的操作系统

    公开(公告)号:CN114416031B

    公开(公告)日:2022-09-16

    申请号:CN202111614382.3

    申请日:2021-12-27

    Abstract: 本发明公开了一种面向AIoT场景支持RISC‑V处理器的操作系统,其特征在于,包括支持RISC‑V处理器和轻量级基础C库musl的操作系统引导程序,支持RISC‑V处理器和轻量级基础C库musl的Linux操作系统内核,支持轻量级基础C库musl的基本文件系统,以及支持RISC‑V处理器和轻量级基础C库musl的应用组件;其中,引导程序用于引导Linux操作系统内核启动以及完成RISC‑V处理器和硬件接口设备的初始化工作;基本文件系统挂载在Linux操作系统内核之上,用于管理系统中的文件,应用组件用于支持碎片化的AIoT应用场景。本发明适用于AIoT应用场景的碎片化、高实时性、低功耗的情况。

    一种嵌入式设备实现加速计算和高速网络数据传输方法

    公开(公告)号:CN109862023B

    公开(公告)日:2020-08-07

    申请号:CN201910146218.0

    申请日:2019-02-27

    Inventor: 程丽敏 李玲

    Abstract: 本发明提供一种嵌入式设备实现加速计算和高速网络数据传输方法,解决了在嵌入式设备的异构多核处理器实现高速率计算的情况下,为了满足加速计算的需求,通过设计一种网络传输方法来提高网卡的网络传输速率。其主要方法是嵌入式设备异构多核处理器的微处理器核负责接收加速计算的输入数据和参数数据,然后调用异构多核处理器的加速计算核进行加速计算,最后将计算好的结果数据通过以太网发送出去。本发明采用的方法直接以裸板的方式通过以太网发送和接收不包含TCP/IP包头的网络包,从而保证网络传输的速率与加速计算模块的计算速率相匹配,达到整体的性能提升。

    面向RISC-V架构的操作系统解耦构建方法及装置

    公开(公告)号:CN118626097B

    公开(公告)日:2024-12-03

    申请号:CN202411090391.0

    申请日:2024-08-09

    Abstract: 本发明涉及计算机软件技术领域,提供一种面向RISC‑V架构的操作系统解耦构建方法及装置,将操作系统中的软件组件划分为三类,既节省了使用RISC‑V扩展指令集特定的编译工具链构建扩展指令集不相关软件组件时可能带来的工程量,又省略了可能存在的连续的bug修复过程。此外,本发明使用通用编译工具链构建的扩展指令集不相关的软件组件可以跨不同扩展指令集组合的RISC‑V处理器复用,随着RISC‑V扩展指令集数量的不断增多,不同扩展指令集组合的RISC‑V处理器的数量也随之膨胀,通过跨不同的RISC‑V处理器复用扩展指令集不相关的软件组件可以节省操作系统开发的时间和工程量,提高开发效率。

    代码补全模型训练方法、装置、电子设备和存储介质

    公开(公告)号:CN118656064A

    公开(公告)日:2024-09-17

    申请号:CN202411134182.1

    申请日:2024-08-19

    Abstract: 本发明提供一种代码补全模型训练方法、装置、电子设备和存储介质,属于代码补全技术领域,其中方法包括:获取待补全的开源的抽象语法树AST数据集;后序遍历AST数据集,得到AST数据集对应的后序序列数据集;基于AST数据集构建词汇表,基于词汇表对后序序列数据集进行转换,生成对应的后序索引序列数据集;确定AST数据集对应的层级序列数据集;基于后序索引序列数据集和层级序列数据集,得到AST建模数据,基于AST建模数据训练初始代码补全模型,训练完成后,得到代码补全模型。本发明能够提高代码补全模型预测的精度和准确率。

    一种自适应负载均衡方法及系统

    公开(公告)号:CN116360987B

    公开(公告)日:2023-09-12

    申请号:CN202310261234.0

    申请日:2023-03-17

    Abstract: 本发明提供一种自适应负载均衡方法及系统,属于负载均衡领域。本发明基于的并行流水线执行模式是使用包含若干流水级的并行执行流执行来自多个客户端的任务,本方法在拥塞延迟变高且在执行流之间不均衡时,依次使用交叉熵方法和强化学习分别进行执行流之间的负载均衡以及客户端和服务器之间的负载均衡。本发明能基于当前拥塞延迟的严重程度在客户端‑服务器计算范式中对使用并行流水线执行模式的服务器进行负载均衡,提供了比传统的负载均衡方法更细粒度的负载均衡,能够降低拥塞延迟和拥塞延迟的波动,提升服务器处理来自多个客户端的任务的性能。

Patent Agency Ranking