-
公开(公告)号:CN119474977A
公开(公告)日:2025-02-18
申请号:CN202411550391.4
申请日:2024-11-01
Applicant: 杭州电子科技大学
Abstract: 本发明的目的就是为了克服用户只能看到训练结果,并不能看到查询集和支持集之间的关系以及不能对支持集里的样本进行筛选,提供了一种直观形象、可以在分类过程中观察支持集对分类结果影响的可视化办法。为了解决上述技术问题,本发明的技术方案为:一种基于可视化重构的少样本分类方法,用以在样本集很少的情况下,通过交互的方法来提高支持集的质量并提高分类结果,包括以下步骤:S1、查询集样本的重构;S2、支持集样本的相似矩阵可视化生成;S3、支持集样本的推荐算法;S4、替换过程的类内,类间聚合程度的可视化生成。
-
公开(公告)号:CN116975253A
公开(公告)日:2023-10-31
申请号:CN202310750125.5
申请日:2023-06-25
IPC: G06F16/34 , G06T11/20 , G06N3/0464 , G06N3/08
Abstract: 本发明公开了一种基于Transformer自注意力的可视分析方法及装置。本发明通过可视分析图表了解深度学习模型的训练层及注意力头的自注意力的整体分布情况及统计规律,并可通过数据链接图和矩阵图具体训练样本查看自注意力在实例中的联系情况;计算机视觉领域的注意力可视分析揭示在训练任务中像素块之间的相互关注性,通过全局归一化和局部归一化两种方式查看不同层和头之间的自注意力分布情况,获得下游任务得出结果的过程。通过本发明,研究人员利用统计分析图表,可直观地观察Transformer模型内部注意力头的值分布情况,选择感兴趣的注意力头。且通过具体的单个注意力头可视化,研究人员可以分析注意力头在具体任务中所发挥的作用,帮助研究人员改进优化模型。
-
公开(公告)号:CN116821425A
公开(公告)日:2023-09-29
申请号:CN202310750193.1
申请日:2023-06-25
IPC: G06F16/901 , G06N3/0464 , G06N3/082 , G06N3/04
Abstract: 本发明公开了一种面向天枢人工智能平台的模型结构提取方法及装置。本发明首先“跟踪/记录”模型上的所有操作,并进一步提取模型计算图节点信息和连接关系,生成模型计算图树形结构。然后基于深度学习模型计算图信息,确定模型结构图中需要保留的层级名称,过滤基本层节点的子节点以及容器节点,同时删除相关的连接边。最后,基于美观性、易交互性和可读性为目标求解图布局方式。本发明不需要借助其他数据信息,完全基于深度神经网络计算图数据信息过滤结构图数据,解决了结构图难以获取的问题。同时,由于仅仅过滤了计算图中不重要节点,因而完整地保留了深度学习模型的主要结构信息。
-
公开(公告)号:CN120068927A
公开(公告)日:2025-05-30
申请号:CN202510126889.6
申请日:2025-01-27
Applicant: 杭州电子科技大学
IPC: G06N3/042 , G06N3/08 , G06F18/214 , G06F18/241 , G06N5/04 , G06F21/55
Abstract: 本发明公开了一种图神经网络鲁棒性可视分析方法,该方法首先获取训练的图神经网络模型及其数据集,收集训练结果,进行数据提取获取基础数据。其次利用基础数据对数据集中数据和图神经网络模型结果,生成可视化图表。然后对数据集选择攻击方式施加攻击,将受攻击后的数据集作为输入,重新通过图神经网络模型进行推理判断,对受攻击后的网络模型的输出结果进行数据提取。最后基于提取的数据,识别出易受攻击扰动的节点,并进行标记,选择标记的易受扰动节点,作为焦点节点,进行可视分析。本发明能够更全面、更深入地分析网络模型的特性和问题,帮助专家全面有效评估图神经网络在面对不同攻击场景时的鲁棒性。
-
公开(公告)号:CN115757938A
公开(公告)日:2023-03-07
申请号:CN202211317767.8
申请日:2022-10-26
Applicant: 杭州电子科技大学
IPC: G06F16/9535 , G06N3/04 , G06N3/08
Abstract: 本发明公开了一种基于时空注意力的双通道神经网络的兴趣点推荐方法,采用双通道神经网络的架构,以用户群体作为输入提取用户群体的时间偏好特征与地点偏好特征,以单个用户作为输入提取用户的个性化偏好特征。通过图神经网络学习用户的轨迹意图,并且结合时间地点偏好特征为用户做出个性化的推荐。本方法可学习非相邻位置和非连续访问之间的相关性。通过用户时间偏好与兴趣点时间偏好匹配层为用户匹配合合适的下一个兴趣点,且面对冷启动问题时更加有效。本发明的采样方式在计算损失时,采样损失对正确预测仍有动量影响,所有负采样都有机会参与交叉熵损失的计算。本发明在多个数据集上都显得更加有效,在序列较短时表现突出。
-
公开(公告)号:CN112884021B
公开(公告)日:2022-09-02
申请号:CN202110127717.2
申请日:2021-01-29
Abstract: 本发明公开了一种面向深度神经网络可解释性的可视分析系统,包括:深度学习模型结构和计算过程的解释性可视化模块,揭示深度学习模型内部的网络结构和数据流的逐步计算流程;训练过程数据流的解释性可视化模块,揭示整个训练过程中数据流的统计信息;神经网络特征提取功能的解释性可视化模块,将神经元权重或神经元输出以可视化方式展示给用户,以解释各层神经元的特征提取能力,通过对比可视化方式,发现模型在不同时间点、不同参数等情况下的表现差异;数据异常值的解释性可视化模块,帮助用户发现数据中的异常和训练中模型参数的异常,提示用户及时暂停和修改模型参数;用户定制功能可视化模块,支持多种可视化模块在同一个页面中进行展示。
-
公开(公告)号:CN115713576A
公开(公告)日:2023-02-24
申请号:CN202211464654.0
申请日:2022-11-22
Applicant: 杭州电子科技大学
IPC: G06T11/20 , G06N3/0455 , G06N3/0464 , G06N3/048 , G06N3/082 , G06N3/084
Abstract: 本发明公开了一种面向BERT模型的剪枝可视分析方法,包括如下步骤:训练模型BERT,提取BERT模型结构图,并保存训练结果;训练结果可视化显示;利用剪枝可视分析系统组件分析模型剪枝可能性,设置剪枝参数,利用模型剪枝算法精简模型,再进行训练,观察模型各项评估指标;保存剪枝后模型及模型参数,当剪枝模型达到性能指标以及模型参数量达到要求水平,保存剪枝模型及模型参数。该方法通过可视化的方式展示模型剪枝过程,利用多图可视化分析技术,了解模型训练数据集样本,关注模型训练过程指标变化,发现训练样本自注意力分布情况,有助于加深模型研究人员对模型的了解,帮助研究人员对模型进行剪枝研究,达到降低模型参数量及优化模型的目的。
-
公开(公告)号:CN112884021A
公开(公告)日:2021-06-01
申请号:CN202110127717.2
申请日:2021-01-29
Abstract: 本发明公开了一种面向深度神经网络可解释性的可视分析系统,包括:深度学习模型结构和计算过程的解释性可视化模块,揭示深度学习模型内部的网络结构和数据流的逐步计算流程;训练过程数据流的解释性可视化模块,揭示整个训练过程中数据流的统计信息;神经网络特征提取功能的解释性可视化模块,将神经元权重或神经元输出以可视化方式展示给用户,以解释各层神经元的特征提取能力,通过对比可视化方式,发现模型在不同时间点、不同参数等情况下的表现差异;数据异常值的解释性可视化模块,帮助用户发现数据中的异常和训练中模型参数的异常,提示用户及时暂停和修改模型参数;用户定制功能可视化模块,支持多种可视化模块在同一个页面中进行展示。
-
-
-
-
-
-
-