-
公开(公告)号:CN110852090B
公开(公告)日:2024-03-19
申请号:CN201911080694.3
申请日:2019-11-07
申请人: 中科天玑数据科技股份有限公司 , 国家计算机网络与信息安全管理中心
IPC分类号: G06F40/284 , H04L41/147
摘要: 本发明提供了一种用于舆情爬取的机构特征词汇扩展系统,包括:数据采集模块:用于采集数据;特征词清洗加工模块:用于对特征词进行初步筛选;特征词统计分析模块:用于通过相关度分析,进一步筛选特征词,最终生成拓展特征词。本发明另一方面提供了一种用于舆情爬取的机构特征词汇扩展方法,采用上述方案,筛选掉无用特征词并进行分析,生成拓展特征词,全面、快速采集相关舆情信息,一方面有效的避免了漏查情况的发生,另一方面也减少了无用特征词增加无用的数据,提高检索效率和质量,减少内存的占用。
-
公开(公告)号:CN110837608A
公开(公告)日:2020-02-25
申请号:CN201911080716.6
申请日:2019-11-07
申请人: 中科天玑数据科技股份有限公司 , 国家计算机网络与信息安全管理中心
IPC分类号: G06F16/9538 , G06F16/951
摘要: 本发明提供了一种基于多源数据的舆情话题传播路径分析系统,包括:多源数据采集模块,用于对舆情话题进行多源数据采集,获取至少一项来源信息;传播路径分析模块,用于根据来源信息的类型采用不同的单源传播路径建立方案,得到单源传播路径,多个单源传播路径相互关联,得到交叉传播路径;传播主路径分析模块,用于分析各个节点的转发关系和转发量,得到舆情话题的关键传播节点,保留根节点与关键传播节点、关键传播节点之间的传播路径,删掉无关路径,得到传播主路径;路径显示模块,用于显示路径信息。本发明还提供了一种基于多源数据的舆情话题传播路径分析方法,帮助用户更加直观的了解舆情话题的传播情况。
-
公开(公告)号:CN109977414A
公开(公告)日:2019-07-05
申请号:CN201910256768.8
申请日:2019-04-01
申请人: 中科天玑数据科技股份有限公司 , 国家计算机网络与信息安全管理中心
摘要: 本发明公开了一种互联网金融平台用户评论主题分析系统及方法,涉及自然语言处理领域;分析系统包括数据采集模块、金融词向量学习模块、评论主题生成模块、用户评论分类模块和评论主题更新模块;分析方法所述方法利用金融论坛中平台用户印象聚类生成用户评论主题,基于用户评论主题对互联网金融平台相关用户评论进行分析,并定期对评论主题进行更新。本发明不需要进行长期人工干预,借助互联网中易于获取的用户知识实现稳定的互联网金融平台评论分析及主题提取,分析获得的评论主题较有代表性,从而可以通过分析结果帮助用户更直观了解该互联网金融平台。
-
公开(公告)号:CN110837608B
公开(公告)日:2024-04-12
申请号:CN201911080716.6
申请日:2019-11-07
申请人: 中科天玑数据科技股份有限公司 , 国家计算机网络与信息安全管理中心
IPC分类号: G06F16/9538 , G06F16/951
摘要: 本发明提供了一种基于多源数据的舆情话题传播路径分析系统,包括:多源数据采集模块,用于对舆情话题进行多源数据采集,获取至少一项来源信息;传播路径分析模块,用于根据来源信息的类型采用不同的单源传播路径建立方案,得到单源传播路径,多个单源传播路径相互关联,得到交叉传播路径;传播主路径分析模块,用于分析各个节点的转发关系和转发量,得到舆情话题的关键传播节点,保留根节点与关键传播节点、关键传播节点之间的传播路径,删掉无关路径,得到传播主路径;路径显示模块,用于显示路径信息。本发明还提供了一种基于多源数据的舆情话题传播路径分析方法,帮助用户更加直观的了解舆情话题的传播情况。
-
公开(公告)号:CN109977414B
公开(公告)日:2023-03-14
申请号:CN201910256768.8
申请日:2019-04-01
申请人: 中科天玑数据科技股份有限公司 , 国家计算机网络与信息安全管理中心
摘要: 本发明公开了一种互联网金融平台用户评论主题分析系统及方法,涉及自然语言处理领域;分析系统包括数据采集模块、金融词向量学习模块、评论主题生成模块、用户评论分类模块和评论主题更新模块;分析方法所述方法利用金融论坛中平台用户印象聚类生成用户评论主题,基于用户评论主题对互联网金融平台相关用户评论进行分析,并定期对评论主题进行更新。本发明不需要进行长期人工干预,借助互联网中易于获取的用户知识实现稳定的互联网金融平台评论分析及主题提取,分析获得的评论主题较有代表性,从而可以通过分析结果帮助用户更直观了解该互联网金融平台。
-
公开(公告)号:CN110852090A
公开(公告)日:2020-02-28
申请号:CN201911080694.3
申请日:2019-11-07
申请人: 中科天玑数据科技股份有限公司 , 国家计算机网络与信息安全管理中心
IPC分类号: G06F40/284 , H04L12/24
摘要: 本发明提供了一种用于舆情爬取的机构特征词汇扩展系统,包括:数据采集模块:用于采集数据;特征词清洗加工模块:用于对特征词进行初步筛选;特征词统计分析模块:用于通过相关度分析,进一步筛选特征词,最终生成拓展特征词。本发明另一方面提供了一种用于舆情爬取的机构特征词汇扩展方法,采用上述方案,筛选掉无用特征词并进行分析,生成拓展特征词,全面、快速采集相关舆情信息,一方面有效的避免了漏查情况的发生,另一方面也减少了无用特征词增加无用的数据,提高检索效率和质量,减少内存的占用。
-
公开(公告)号:CN110020433A
公开(公告)日:2019-07-16
申请号:CN201910256769.2
申请日:2019-04-01
申请人: 中科天玑数据科技股份有限公司 , 国家计算机网络与信息安全管理中心
摘要: 本发明公开了一种基于企业关联关系的工商高管人名消歧方法,涉及实体消歧领域,包括以下步骤:将待消歧数据集U,按高管姓名划分成组n个高管姓名组A;根据步骤S1得到的姓名组划分结果,对每个组A,构建N层以内的高管及企业关联关系网络G;针对每个姓名组A,根据密切度计算规则,计算姓名组A中高管节点之间的关联密切度f;根据关联密切度构建聚类函数CL,使用层次聚类算法得到消歧结果。本发明能自动化对工商高管人名进行消歧,具有较高的消歧准确率,且具有一定的阈值设置灵活性,可满足较多应用场景的工商高管人名消歧;同时可构建高管任职关联关系、高管投资关联关系,为高管全视角的关联图谱分析提供支撑。
-
公开(公告)号:CN110020433B
公开(公告)日:2023-04-18
申请号:CN201910256769.2
申请日:2019-04-01
申请人: 中科天玑数据科技股份有限公司 , 国家计算机网络与信息安全管理中心
IPC分类号: G06F40/295 , G06F16/35 , G06Q50/00
摘要: 本发明公开了一种基于企业关联关系的工商高管人名消歧方法,涉及实体消歧领域,包括以下步骤:将待消歧数据集U,按高管姓名划分成组n个高管姓名组A;根据步骤S1得到的姓名组划分结果,对每个组A,构建N层以内的高管及企业关联关系网络G;针对每个姓名组A,根据密切度计算规则,计算姓名组A中高管节点之间的关联密切度f;根据关联密切度构建聚类函数CL,使用层次聚类算法得到消歧结果。本发明能自动化对工商高管人名进行消歧,具有较高的消歧准确率,且具有一定的阈值设置灵活性,可满足较多应用场景的工商高管人名消歧;同时可构建高管任职关联关系、高管投资关联关系,为高管全视角的关联图谱分析提供支撑。
-
公开(公告)号:CN113760877A
公开(公告)日:2021-12-07
申请号:CN202110337239.8
申请日:2021-03-10
申请人: 中科天玑数据科技股份有限公司
IPC分类号: G06F16/215 , G06F16/242 , G06F16/2455
摘要: 本发明公开了一种基于标准SQL的流式数据清洗转换方法和系统,根据本发明的一方面包括以下步骤:S1、系统初始化,针对系统库、工作线程、Groovy函数线程、SQL解析引擎进行初始化操作;S2、在上述初始化完成以后,系统开始进行数据清洗转换的工作。根据本发明的另一方面还包括系统初始化模块、内置算子库、SQL解析引擎、提交SQL模块、提交Groovy模块、Groovy类初始化模块、Groovy执行模块、数据重组模块、数据输入和输出模块。本发明的有益效果为:更加高效、便捷、灵活地对流式数据清洗、转换,筛选符合条件的数据,让数据对用户更加有价值。
-
公开(公告)号:CN118646588A
公开(公告)日:2024-09-13
申请号:CN202410908967.3
申请日:2024-07-08
申请人: 中科天玑数据科技股份有限公司
IPC分类号: H04L9/40
摘要: 本发明提供一种基于用户行为的爬虫用户识别方法,包括第一次认证用户,访问页面或访问接口设置验证信息,获取设备ID的请求记录,将请求记录异常的设备ID标记为爬虫;第二次认证用户,设置埋点信息获取设备ID或IP地址的行为日志,进而获取设备ID或IP地址在每个埋点处的行为模式,将行为模式异常的设备ID或IP地址标记为爬虫;应对措施,判断特征库内设备ID或IP地址是否被标记,若是,限制设备ID或IP地址的访问频率、屏蔽请求或引导至验证码页面,否,允许正常访问,将设备ID的行为特征更新至特征库。本发明能够有效区分正常用户和爬虫,从而在不影响正常用户体验的同时,保护网络资源和数据安全。
-
-
-
-
-
-
-
-
-