一种针对大模型内容安全能力的评测方法及系统

    公开(公告)号:CN118035711A

    公开(公告)日:2024-05-14

    申请号:CN202410431137.6

    申请日:2024-04-11

    Abstract: 本发明公开了一种针对大模型内容安全能力的评测方法及系统,属于网络空间安全技术领域。所述评测方法包括步骤1,构建多模态、多领域和多题型的评测集;步骤2,构建内容安全评测模型;步骤3,将评测集的问题输入至被测大模型,输出对应的大模型回答;将问题和对应大模型回答整理成问答集,将所述问答集输入至所述内容安全评测模型,根据内容安全评测模型的输出对所述大模型进行综合打分,获得针对大模型内容安全能力的评测结果。该方法可以量化评价大模型跨模态内容安全防护性能,为监管部门、第三方评测机构、大模型研发机构提供参考数据。

    一种基于不完全信息推断互联网AS连接关系的方法

    公开(公告)号:CN114640620A

    公开(公告)日:2022-06-17

    申请号:CN202210561377.9

    申请日:2022-05-23

    Abstract: 本发明提供了一种基于不完全信息推断互联网AS连接关系的方法,包括对每个分组中BGP采集点采集的AS之间的路径信息进行初始判定,获得一致性AS连接关系集合和无法判定的AS连接关系集合;每个分组对一致性AS连接关系集合中的同一个AS连接关系进行判定,获得可信的p2p连接关系或p2c连接关系,将其加入可信AS连接关系集合;一致性AS连接关系集合中的其他AS连接关系加入无法判定的AS连接关系集合;利用可信AS连接关系集合进行分类模型训练,利用训练好的分类模型对无法判定的AS连接关系集合中的AS连接关系进行判定,输出判定结果。该方法能够对无法判定关系类型的AS连接关系进行推断,构建准确的AS连接关系。

    一种流量数据信息检测方法、装置、设备及存储介质

    公开(公告)号:CN115795533A

    公开(公告)日:2023-03-14

    申请号:CN202211406620.6

    申请日:2022-11-10

    Abstract: 本发明公开了一种流量数据信息检测方法、装置、设备及存储介质,包括:获取目标应用程序的明文流量样本数据以及加密流量样本数据,根据隐私信息库确定明文流量样本数据的隐私信息标签;根据明文流量样本数据以及加密流量样本数据分别对应的五元组信息,判断是否存在明文流量样本数据对应的关联加密流量数据;如果存在,则根据明文流量样本数据的隐私信息标签,确定关联加密流量数据的隐私信息标签;根据关联加密流量数据对应的隐私信息标签以及特征信息,构建密文隐私信息检测模型。本发明实施例的技术方案可以保证加密流量数据中隐私检测结果的准确性。

    一种主被动相结合的私有工控协议逆向分析方法

    公开(公告)号:CN115065623B

    公开(公告)日:2022-11-01

    申请号:CN202210971580.3

    申请日:2022-08-15

    Abstract: 本发明公开了一种主被动相结合的私有工控协议逆向分析方法,包括采集工控设备正常通信过程中的报文,对所述报文进行逆向分析,获得逆向分析结果;构造错误的报文格式,产生报文与工控设备进行通信交互;确定接收到错误数据后工控设备的响应方式;对所述逆向分析结果中的字段属性进行验证;构建待验证报文结构格式集合,构造报文并发送至工控设备,根据与工控设备通信交互的响应结果确定该报文结构是否为符合所述工控协议规范的正确报文格式;对逆向分析结果中的状态机信息进行扩展分析,获得最终的逆向分析结果。该方法能够对协议格式、字段属性和状态机的分析结果进行更深入的挖掘,归纳出能够更加真实反映出工控协议全局信息的逆向结果。

    一种针对大模型内容安全能力的评测方法及系统

    公开(公告)号:CN118035711B

    公开(公告)日:2024-06-14

    申请号:CN202410431137.6

    申请日:2024-04-11

    Abstract: 本发明公开了一种针对大模型内容安全能力的评测方法及系统,属于网络空间安全技术领域。所述评测方法包括步骤1,构建多模态、多领域和多题型的评测集;步骤2,构建内容安全评测模型;步骤3,将评测集的问题输入至被测大模型,输出对应的大模型回答;将问题和对应大模型回答整理成问答集,将所述问答集输入至所述内容安全评测模型,根据内容安全评测模型的输出对所述大模型进行综合打分,获得针对大模型内容安全能力的评测结果。该方法可以量化评价大模型跨模态内容安全防护性能,为监管部门、第三方评测机构、大模型研发机构提供参考数据。

Patent Agency Ranking