-
公开(公告)号:CN112564712A
公开(公告)日:2021-03-26
申请号:CN202011344089.5
申请日:2020-11-26
Applicant: 中国科学院计算技术研究所
Abstract: 本发明提供一种基于深度强化学习的网络编码方法,所述方法包括:源节点将要发送的信息划分成K个片,根据源节点编码模型确定每个片的编码系数,生成并向下一跳节点发送编码包;中间节点接收前一节点发送的编码包,将收到的编码包再次编码,根据中间节点编码模型确定编码系数,生成并向下一跳节点发送编码包,其中所述源节点和中间节点编码模型通过对DQN网络训练得到。本发明可以根据网络动态变化来自适应地调节编码系数,改善解码效率,并具备良好的模型泛化能力,能泛化于具有不同网络规模和不同链路质量下的网络,本发明分别在源节点和中间节点上分布式执行的各自的编码系数优化模型,简化了编码系数优化实施并且改善了DQN训练的稳定性。
-
公开(公告)号:CN110519020B
公开(公告)日:2020-09-11
申请号:CN201910744399.7
申请日:2019-08-13
Applicant: 中国科学院计算技术研究所
IPC: H04L1/16 , H04L1/00 , H04W74/08 , H04B17/382
Abstract: 本发明提出一种无人系统网络智能跨层数据传输方法及系统,包括在路由层采用上限置信区间作为节点选择转发节点的搜索策略;采用双Q学习技术解决由于Q值过高估计导致行为选择评价不准确的问题;回报值的计算综合考虑MAC延时,链路错误概率与位置误差,使其更能反映动作的效益;根据节点速度与MAC延时,为每条链路赋予不同的学习率与折扣因子,实现学习率与折扣因子的自适应调节。最后结合MAC层与路由层,利用MAC延时参数共享实现跨层优化,提出一个无人系统网络智能跨层数据传输方法和系统。
-
公开(公告)号:CN109587751B
公开(公告)日:2020-12-22
申请号:CN201910012976.3
申请日:2019-01-07
Applicant: 中国科学院计算技术研究所
Abstract: 本发明涉及一种无人机自组网自适应路由方法,包括:以无人机自组网中的无人机为节点,所有节点以预定周期发送握手包;任一节点接收其邻居节点发送的握手包,获取并更新该邻居节点的节点信息;该节点发送或转发数据包时,获取该数据包从该节点到目标节点的要求传输速度,以及该数据包从该节点到该邻居节点的实际传输速度,以大于或等于该要求传输速度的该实际传输速度对应的邻居节点为候选节点;根据该候选节点的节点信息,通过Q‑learning算法获得该候选节点的Q值,以最大Q值对应的候选节点为下一跳的路由节点进行该数据包的路由。
-
公开(公告)号:CN112202848B
公开(公告)日:2021-11-30
申请号:CN202010968137.1
申请日:2020-09-15
Applicant: 中国科学院计算技术研究所
IPC: H04L29/08 , H04L12/721 , H04L12/727 , H04L12/729
Abstract: 本发明提出一种基于深度强化学习的无人系统网络自适应路由方法,旨在解决现有技术中节点的高速移动、频繁变化的网络拓扑,无法提供自适应路由策略的技术问题。所述方法包括:所有节点以一个自适应的时间间隔发送HELLO信息包;任一节点收到其邻居节点发送的HELLO信息包后,更新该节点的邻居表中该邻居节点的节点信息;建立基于深度强化学习的路由策略算法框架;设计基于深度强化学习的路由策略实现方法。本发明具备良好的模型泛化能力,能泛化于具有不同网络规模和不同节点移动速度的网络上,使得本发明更适用于具有动态变化的无人系统网络。
-
公开(公告)号:CN110062476B
公开(公告)日:2021-04-02
申请号:CN201910237579.6
申请日:2019-03-27
Applicant: 中国科学院计算技术研究所
Abstract: 本发明提出一种分布式工业无线网介质访问控制方法及系统,包括:分布式工业无线网中欲发送报文的发送节点向接收节点发送传输请求,接收节点成功接收到传输请求后,向发送节点的邻居节点广播功率竞争启动报文;邻居节点根据功率竞争启动报文中的功率要求,参与功率竞争并发送竞争报文至接收节点;接收节点收到竞争报文后,发送竞争结束报文至邻居节点,邻居节点根据竞争结束报文判断其是否竞争成功,若成功,则邻居节点和发送节点均发送报文通过功率域上的多路接入被接收节点同时接收,否则仅发送节点均发送报文至接收节点。本发明可应用于工业无线网络,实现功率区分多路访问的低延迟分批竞争MAC,降低接入时延,提升工业无线网络的工作效率。
-
公开(公告)号:CN110519020A
公开(公告)日:2019-11-29
申请号:CN201910744399.7
申请日:2019-08-13
Applicant: 中国科学院计算技术研究所
IPC: H04L1/16 , H04L1/00 , H04W74/08 , H04B17/382
Abstract: 本发明提出一种无人系统网络智能跨层数据传输方法及系统,包括在路由层采用上限置信区间作为节点选择转发节点的搜索策略;采用双Q学习技术解决由于Q值过高估计导致行为选择评价不准确的问题;回报值的计算综合考虑MAC延时,链路错误概率与位置误差,使其更能反映动作的效益;根据节点速度与MAC延时,为每条链路赋予不同的学习率与折扣因子,实现学习率与折扣因子的自适应调节。最后结合MAC层与路由层,利用MAC延时参数共享实现跨层优化,提出一个无人系统网络智能跨层数据传输方法和系统。
-
公开(公告)号:CN110062476A
公开(公告)日:2019-07-26
申请号:CN201910237579.6
申请日:2019-03-27
Applicant: 中国科学院计算技术研究所
Abstract: 本发明提出一种分布式工业无线网介质访问控制方法及系统,包括:分布式工业无线网中欲发送报文的发送节点向接收节点发送传输请求,接收节点成功接收到传输请求后,向发送节点的邻居节点广播功率竞争启动报文;邻居节点根据功率竞争启动报文中的功率要求,参与功率竞争并发送竞争报文至接收节点;接收节点收到竞争报文后,发送竞争结束报文至邻居节点,邻居节点根据竞争结束报文判断其是否竞争成功,若成功,则邻居节点和发送节点均发送报文通过功率域上的多路接入被接收节点同时接收,否则仅发送节点均发送报文至接收节点。本发明可应用于工业无线网络,实现功率区分多路访问的低延迟分批竞争MAC,降低接入时延,提升工业无线网络的工作效率。
-
公开(公告)号:CN112564712B
公开(公告)日:2023-10-10
申请号:CN202011344089.5
申请日:2020-11-26
Applicant: 中国科学院计算技术研究所
IPC: H03M7/40 , G06N3/0464 , G06N3/092
Abstract: 本发明提供一种基于深度强化学习的网络编码方法,所述方法包括:源节点将要发送的信息划分成K个片,根据源节点编码模型确定每个片的编码系数,生成并向下一跳节点发送编码包;中间节点接收前一节点发送的编码包,将收到的编码包再次编码,根据中间节点编码模型确定编码系数,生成并向下一跳节点发送编码包,其中所述源节点和中间节点编码模型通过对DQN网络训练得到。本发明可以根据网络动态变化来自适应地调节编码系数,改善解码效率,并具备良好的模型泛化能力,能泛化于具有不同网络规模和不同链路质量下的网络,本发明分别在源节点和中间节点上分布式执行的各自的编码系数优化模型,简化了编码系数优化实施并且改善了DQN训练的稳定性。
-
公开(公告)号:CN112202848A
公开(公告)日:2021-01-08
申请号:CN202010968137.1
申请日:2020-09-15
Applicant: 中国科学院计算技术研究所
IPC: H04L29/08 , H04L12/721 , H04L12/727 , H04L12/729
Abstract: 本发明提出一种基于深度强化学习的无人系统网络自适应路由方法,旨在解决现有技术中节点的高速移动、频繁变化的网络拓扑,无法提供自适应路由策略的技术问题。所述方法包括:所有节点以一个自适应的时间间隔发送HELLO信息包;任一节点收到其邻居节点发送的HELLO信息包后,更新该节点的邻居表中该邻居节点的节点信息;建立基于深度强化学习的路由策略算法框架;设计基于深度强化学习的路由策略实现方法。本发明具备良好的模型泛化能力,能泛化于具有不同网络规模和不同节点移动速度的网络上,使得本发明更适用于具有动态变化的无人系统网络。
-
公开(公告)号:CN109587751A
公开(公告)日:2019-04-05
申请号:CN201910012976.3
申请日:2019-01-07
Applicant: 中国科学院计算技术研究所
Abstract: 本发明涉及一种无人机自组网自适应路由方法,包括:以无人机自组网中的无人机为节点,所有节点以预定周期发送握手包;任一节点接收其邻居节点发送的握手包,获取并更新该邻居节点的节点信息;该节点发送或转发数据包时,获取该数据包从该节点到目标节点的要求传输速度,以及该数据包从该节点到该邻居节点的实际传输速度,以大于或等于该要求传输速度的该实际传输速度对应的邻居节点为候选节点;根据该候选节点的节点信息,通过Q-learning算法获得该候选节点的Q值,以最大Q值对应的候选节点为下一跳的路由节点进行该数据包的路由。
-
-
-
-
-
-
-
-
-