-
公开(公告)号:CN117290442A
公开(公告)日:2023-12-26
申请号:CN202311252057.6
申请日:2023-09-26
Applicant: 河钢数字技术股份有限公司 , 河钢雄安数字科技有限公司 , 河钢集团有限公司 , 西安电子科技大学
Abstract: 本申请适用于数据库间的数据同步技术领域,提供了数据库间的数据同步方法、系统、电子设备及存储介质,该数据库间的数据同步方法包括:获取上游数据库的数据变更记录,先将数据变更记录进行预存,再进行读取和预处理,得到第一变更记录对象,然后,将相同表名且相同行id的第一变更记录对象划分至同一区域,对于每一个区域,创建一个整合窗口,通过整合窗口接收对应区域中的第一变更记录对象,对整合窗口中的第一变更记录对象进行整合,得到第二变更记录对象,然后将第二变更记录对象进行预存,最后读取第二变更记录对象,并将第二变更记录对象的数据同步到下游数据库中。本申请能够提高数据库间的变更数据的同步效率。
-
公开(公告)号:CN117435670A
公开(公告)日:2024-01-23
申请号:CN202311251998.8
申请日:2023-09-26
Applicant: 河钢数字技术股份有限公司 , 河钢雄安数字科技有限公司 , 西安电子科技大学
IPC: G06F16/27 , G06F16/2458 , G06F16/2455 , G06F16/21 , G06F9/54
Abstract: 本申请适用于电数字数据处理技术领域,提供了异构数据源同步方法、系统、电子设备及存储介质,该异构数据源同步方法包括:获取异构数据源中数据库日志的数据变更信息,并分别存储到第一Topic中;获取第一Topic中的数据变更信息,并将第一Topic中的数据变更信息包装为多条事件流;将每条事件流中的数据变更信息转化为MyRecord对象,并将事件流进行分区,形成多个键控流,对每个键控流上的MyRecord对象进行聚合;将聚合后的多条事件流合并为一条事件流,整合合并后的事件流,并存储到第二Topic中;将第二Topic中的数据变更信息分发到目标数据库。本申请实施例可同时兼顾实时性、低侵入性和较高同步效率。
-
公开(公告)号:CN117193841A
公开(公告)日:2023-12-08
申请号:CN202311171922.4
申请日:2023-09-12
Applicant: 河钢数字技术股份有限公司 , 河钢雄安数字科技有限公司 , 西安电子科技大学
IPC: G06F8/71 , G06F9/445 , G06F18/214
Abstract: 本申请适用于参数调优技术领域,提供了一种软件系统的配置参数调优方法及装置,包括:获取软件系统的调优目标和成本模型;成本模型包括对调优目标的成本约束;基于调优目标确定具有配置结构感知的调优模型;针对调优目标,对软件系统的配置参数进行预采样,并对预采样的配置参数所产生的性能进行测量,获得公开离线数据;基于成本模型和公开离线数据,对调优模型进行离线训练,获得调优目标的收敛效果在预设阈值范围内的调优模型的超参数组合;基于超参数组合,将调优模型与软件系统进行在线实时交互,得到软件系统的目标配置参数。本申请能够在未知的内部约束的情况下,进行配置调优。
-
公开(公告)号:CN116451081A
公开(公告)日:2023-07-18
申请号:CN202310425578.0
申请日:2023-04-20
Applicant: 河钢数字技术股份有限公司 , 河钢集团有限公司 , 西安电子科技大学
IPC: G06F18/214 , G06F18/241 , G06F18/25 , G06N3/04 , G06N3/088
Abstract: 本发明提供一种数据漂移的检测方法、装置、终端及存储介质。该方法包括:通过参考窗口在历史数据中选取训练数据,通过检测窗口在实时数据中选取待检测数据;通过训练数据和无监督学习算法对神经网络模型进行训练,得到经过训练的神经网络模型;采用经过训练的神经网络模型的输入层和隐含层对待检测数据进行特征提取,得到待检测数据的多项融合特征的值;选取对于标签的重要性程度排名前m位的k项融合特征作为差异判断特征;对各项差异判断特征进行假设检验,并基于假设检验结果得到数据漂移的检测结果。本发明能够以较低的计算开销进行数据漂移检测,同时能够摆脱对真实标注的依赖。
-
公开(公告)号:CN110941618A
公开(公告)日:2020-03-31
申请号:CN201911178004.8
申请日:2019-11-27
Applicant: 河钢数字技术股份有限公司
Abstract: 本发明公开了一种海量异构数据存储方法及系统,所述方法包括:从数据源获取海量异构数据;根据设定的规则对海量异构数据进行分类,分为:结构化数据、半结构化数据和非结构化数据以及系统运行过程中产生的热点数据;根据数据的元数据,将不同类型的数据存储至不同的数据存储分区,不同的数据存储分区包括:关系型数据库Oracle、MySQL和非关系型数据库HBase、内存型数据库Redis。本发明提供的海量异构数据存储方法及系统,通过整合多种数据库,实现了海量结构化数据、半结构化数据和非结构化数据的有效结合和统一存储管理,解决了数据的异构性、海量性和不确定性的问题。
-
公开(公告)号:CN117294497A
公开(公告)日:2023-12-26
申请号:CN202311252011.4
申请日:2023-09-26
Applicant: 河钢数字技术股份有限公司 , 河钢雄安数字科技有限公司 , 河钢集团有限公司 , 西安电子科技大学
IPC: H04L9/40 , G06F18/2433 , G06F18/23213
Abstract: 本发明涉及网络安全技术领域,提供一种网络流量异常检测方法、装置、电子设备及存储介质。该方法包括获取网络流量数据集;采用异常检测算法检测网络流量数据集,确定网络流量数据集中每个网络流量数据的状态;对网络流量数据集进行聚类,获得聚类后的n个分类;基于该分类中每个网络流量数据的状态,确定该分类中异常状态的数据所占比例;若该分类中异常状态的数据所占比例大于预设阈值,则将该分类的所有网络流量数据确定为异常值。本发明通过根据聚类中异常数据的比例判断该类别是否属于异常类。并将异常类的数据确认为异常值。通过聚类修正异常检测结果,减少了异常检测算法误判的概率,提升了网络流量数据异常检测的准确性。
-
-
-
-
-