-
公开(公告)号:CN114185884B
公开(公告)日:2025-04-04
申请号:CN202111306456.7
申请日:2021-11-05
Applicant: 中国科学院计算技术研究所
IPC: G06F16/22 , G06F16/2453 , G06F16/2455 , G06F16/2458 , G06F16/51 , G06F16/53 , G06F16/31 , G06F16/3331 , G06F16/901
Abstract: 本发明提出一种基于列存数据的流式数据处理方法及系统,包括:获取待处理的流式数据及其对应的处理任务,基于时间维度将该流式数据切分为批式数据块,该批式数据块中每条数据均包含各自所属窗口的时间戳;根据该时间戳的时间类型,压缩该时间戳,根据压缩结果为该批式数据块中每条数据分配窗口序号,将该批式数据块切分为多个中间数据块,每个中间数据块仅包含窗口序号相同的数据,根据处理任务对每个中间数据块的数据进行预聚合计算,产生预聚合中间状态;根据预设的流式数据时间处理模式,从内部存储提取相应窗口序号的预聚合中间状态并执行与其对应的处理任务,输出各窗口序号的任务处理结果,作为流式数据处理结果。
-
公开(公告)号:CN109889452B
公开(公告)日:2021-06-11
申请号:CN201910012933.5
申请日:2019-01-07
Applicant: 中国科学院计算技术研究所
IPC: H04L12/851 , H04L12/24 , H04L12/26 , H04L1/00
Abstract: 本发明涉及一种基于条件生成式对抗网络的网络背景流量生成方法,包括:数据获取步骤,获取的网络流量数据及条件信息,并向量化为真实流量;模型生成步骤,以该真实流量得到初始生成模型和判别模型,并通过条件生成式对抗网络以该判别模型对该初始生成模型进行训练,以得到生成模型;流量生成步骤,通过该生成模型以随机向量生成模拟背景流量。
-
公开(公告)号:CN112667221A
公开(公告)日:2021-04-16
申请号:CN202011249093.3
申请日:2020-11-10
Applicant: 中国科学院计算技术研究所
Abstract: 本发明提出一种基于深度学习开发IDE的深度学习模型构建方法及系统,本发明不仅支持多种不同的深度学习框架,可以让用户以简单的方式选择不同的框架进行模型的训练或推断而不引入额外的类似启动容器的开销;同时通过提供模型转换以支持不同框架模型的可视化,并支持以文本和可视化联调的方式实现实施模型结构的编辑。本发明的IDE较现有方法提供了更简单、方便且全面的开发环境。
-
公开(公告)号:CN108874849B
公开(公告)日:2020-12-25
申请号:CN201810097136.7
申请日:2018-01-31
Applicant: 中国科学院计算技术研究所
IPC: G06F16/2453
Abstract: 本发明公开了一种非等值关联子查询的优化方法和系统,其特征在于,包括:获取关联子查询的外表关联列的取值集;根据该关联子查询中操作符的类型和该取值集,建立该关联子查询的外表关联列到内表关联列分区的映射关系;根据得到的分区集合,对该关联子查询的内表进行分区,同时依据该关联子查询中内表的查询聚合函数,获取关联子查询在各分区的中间结果状态信息;根据该映射关系,遍历该外表关联列,通过聚合对应的分区集的中间结果状态信息,得到外表中各关联列对应的子查询结果。本发明具有的技术效果包括:通过对内表进行分区,并重复利用各分区的中间结果从而得到最终的子查询结果集,以提升查询性能。
-
公开(公告)号:CN110532072A
公开(公告)日:2019-12-03
申请号:CN201910672072.3
申请日:2019-07-24
Applicant: 中国科学院计算技术研究所
Abstract: 本发明提出一种基于微内核操作系统的分布式流式数据处理方法及系统,包括:获取包含用户定义函数的作业代码,并以该用户定义函数作为节点将该作业代码转换为有向无环图,并根据该有向无环图中算子之间的关联度,将该有向无环图中算子进行合并,得到任务逻辑视图;根据分布式微内核操作系统的物理执行环境,将该任务逻辑视图转换为执行图,该分布式微内核操作系统中工作节点收到该执行图,并将该执行图内的作业任务与作业调度分配至空闲CPU内核执行。与现有技术相比,本发明具有端到端处理延迟低,且吞吐量高,系统镜像体积小,启动时间短的技术进步。
-
公开(公告)号:CN109684349A
公开(公告)日:2019-04-26
申请号:CN201811383695.0
申请日:2018-11-20
Applicant: 中国科学院计算技术研究所
IPC: G06F16/242 , G06F16/245
Abstract: 本发明涉及一种基于SQL与图计算交互式分析的查询方法和系统,包括:根据标准结构化查询语句对数据库中的节点表和边表进行筛选,得到原始节点集和原始边集,根据类结构化查询语句涉及的图计算算法将原始边集转换为图计算算法所需数据结构,原始节点集和原始边集进行连接查询的迭代计算,不断更新节点集,直至算法的迭代终止条件触发,从而得到图计算的最终结果,并将最终结果作为查询结果输出。本发明在已有的关系型数据查询语言SQL中嵌入图查询与图计算方法,既可发挥SQL数据处理与分析的优势,又可进行图查询与计算。
-
公开(公告)号:CN118070868A
公开(公告)日:2024-05-24
申请号:CN202410293163.7
申请日:2024-03-14
Applicant: 中国科学院计算技术研究所
Abstract: 本发明提出一种基于边缘计算架构的模型结构化剪枝方法及装置,该方法包括:根据集群中每一边缘设备的硬件资源信息,对边缘设备进行分组;对于同一组的边缘设备,将神经网络加速器在该边缘设备硬件的实际运行时间与内存资源消耗作为资源约束条件,对该边缘设备上部署的神经网络模型进行剪枝;校准修剪后的神经网络模型。该方法提高了计算设备的硬件处理速度,降低了内存消耗,进而提升了计算机系统的内部性能。
-
公开(公告)号:CN115756781A
公开(公告)日:2023-03-07
申请号:CN202211415669.8
申请日:2022-11-11
Applicant: 中国科学院计算技术研究所
Abstract: 本发明提出一种基于无中心自组织流式数据计算引擎调度的任务执行方法和系统,通过无中心自组织的形式实现流式数据计算引擎调度器,无中心作业管理器负责集群计算任务相关信息存储及共享。微集群采用任务驱动方式创建,每个微集群负责一个计算任务执行。采用微集群的形式可以降低传统无中心系统计算延迟。
-
公开(公告)号:CN110532291B
公开(公告)日:2022-07-12
申请号:CN201910676904.9
申请日:2019-07-25
Applicant: 中国科学院计算技术研究所
IPC: G06F16/2455 , G06N20/00
Abstract: 本发明提出一种基于最小执行代价的深度学习框架间模型转换方法及系统,包括:在原有技术的基础上,添加操作转换代价值,同时考虑多个独立操作可以融合的情况,补充融合映射;模型的具体实现体现在构成模型的操作转换上,本阶段依据模型转换映射表,通过动态规划算法得到执行代价最低的转换后模型结构。本发明通过操作融合可以减少多个操作间中间结果的读写过程,从而优化计算性能和存储空间,进而降低转换后模型的执行代价。同时,在有多种融合可选时通过动态规划的算法得到执行代价最小的模型转换方法。
-
公开(公告)号:CN114185884A
公开(公告)日:2022-03-15
申请号:CN202111306456.7
申请日:2021-11-05
Applicant: 中国科学院计算技术研究所
IPC: G06F16/22 , G06F16/2453 , G06F16/2455 , G06F16/2458 , G06F16/51 , G06F16/53 , G06F16/31 , G06F16/33 , G06F16/901
Abstract: 本发明提出一种基于列存数据的流式数据处理方法及系统,包括:获取待处理的流式数据及其对应的处理任务,基于时间维度将该流式数据切分为批式数据块,该批式数据块中每条数据均包含各自所属窗口的时间戳;根据该时间戳的时间类型,压缩该时间戳,根据压缩结果为该批式数据块中每条数据分配窗口序号,将该批式数据块切分为多个中间数据块,每个中间数据块仅包含窗口序号相同的数据,根据处理任务对每个中间数据块的数据进行预聚合计算,产生预聚合中间状态;根据预设的流式数据时间处理模式,从内部存储提取相应窗口序号的预聚合中间状态并执行与其对应的处理任务,输出各窗口序号的任务处理结果,作为流式数据处理结果。
-
-
-
-
-
-
-
-
-