-
公开(公告)号:CN119559286A
公开(公告)日:2025-03-04
申请号:CN202510108403.6
申请日:2025-01-23
Applicant: 南京信息工程大学
IPC: G06T11/00 , G06N3/0455 , G06N3/0495 , G06N3/086 , G06N3/096
Abstract: 本发明提供了一种基于演化神经架构搜索的轻量级潜在扩散模型设计方法及系统,所述方法采用超网技术同时训练多个网络架构,在架构搜索过程中结合演化遗传算法,并通过训练一个多层感知器作为得分预测器,以辅助演化遗传算法在大规模搜索空间中高效筛选出最优架构,这种方法显著降低了传统架构设计过程中所需的资源消耗和计算成本。本发明通过结合知识蒸馏技术引入了预训练好的教师模型来监督学生模型的训练,可以在保证潜在扩散模型性能稳定的同时将潜在扩散模型变得轻量化。通过该方法,不仅能够自动化设计高效的神经网络架构,还能实现潜在扩散模型的高效部署,为扩散模型的优化提供了一种全新的、低成本的解决方案。
-
公开(公告)号:CN119478587A
公开(公告)日:2025-02-18
申请号:CN202510027124.7
申请日:2025-01-08
Applicant: 南京信息工程大学
IPC: G06V10/774 , G06V10/80 , G06N3/082
Abstract: 本发明提出了一种基于CLIP损失与感知损失的扩散模型LoRA微调优化方法及系统,所述方法包括:步骤1,在LoRA微调过程中,结合CLIP损失和感知损失,动态调整CLIP损失和感知损失的权重;步骤2,利用CLIP模型计算去噪后的中间图像与目标文本的语义相似度,并根据相似度差异优化扩散模型的噪声预测能力;步骤3,采用感知损失计算中间图像与目标图像在特征空间的差异,并优化扩散模型的噪声预测能力,提升生成图像的视觉质量与细节保真度;步骤4,根据训练进展调整是否启用CLIP损失和感知损失。通过引入CLIP损失,模型在微调训练过程中能够更好地将图像与文本进行对齐,使得生成的图像更加符合文本提示的描述。
-
公开(公告)号:CN119152193A
公开(公告)日:2024-12-17
申请号:CN202411601484.5
申请日:2024-11-11
Applicant: 南京信息工程大学
IPC: G06V10/25 , G06V10/44 , G06V10/52 , G06V10/766 , G06V10/80 , G06V10/82 , G06N3/045 , G06N3/0464 , G06N3/0985
Abstract: 本发明提供了一种基于可微分架构搜索的YOLO目标检测方法和系统,所述方法首先构建了候选操作集合。然后,基于YOLO的网络架构,设计了超网。随后,使用可微分架构搜索方法对超网进行预训练,交替优化网络权重与架构参数。最后,根据架构参数得到搜索后的子网,并引入坐标注意力机制,进一步提升模型性能。与手工设计方法不同,本发明通过自动化搜索神经网络架构,极大地减少了人工所需要的试验与经验,有更高的搜索效率与性能,能更快地找到适用于目标检测的高效YOLO改进模型。
-
公开(公告)号:CN119150925A
公开(公告)日:2024-12-17
申请号:CN202411673668.2
申请日:2024-11-21
Applicant: 南京信息工程大学
IPC: G06N3/045 , G06N3/0464 , G06N3/0475 , G06N3/084
Abstract: 本发明提供了基于混合卷积操作的生成对抗网络架构搜索方法和系统,所述方法首先设计了一个广阔的搜索空间,进而构建一个融合了所有候选操作的超网,并将超网通过连续松弛的方法使其训练过程完全可微,从而利用梯度下降方法进行高效的训练,最后,选取各个位置上表现最佳的操作来获得最优架构。与传统的架构搜索方法不同,本发明在搜索空间中引入了新颖的混合卷积操作,并通过集成部分通道注意力机制优化了搜索过程。本发明的基于混合卷积操作的生成对抗网络架构搜索增强了网络对长距离信息的捕捉能力与架构搜索速度,这种方法相比传统的搜索方法具有更高的效率和更好的性能,能够更快地找到适合任务的最优神经网络架构。
-
公开(公告)号:CN118196600B
公开(公告)日:2024-07-12
申请号:CN202410615399.8
申请日:2024-05-17
Applicant: 南京信息工程大学
IPC: G06V10/82 , G06N3/0464 , G06N3/084 , G06N3/006
Abstract: 本发明提供了基于差分进化算法的神经架构搜索方法和系统,所述方法首先定义了一个搜索空间,将所有候选操作糅合在一起构建超网,并使用连续数值进行编码。接着,利用训练数据及其标签来训练超网的网络权重。然后,我为超网内的每个子网设计了唯一的编码方式,并直接从超网获得网络权重。随后,使用差分进化算法优化子网的编码。最后,交替执行超网的网络权重优化和子网的编码优化。与使用梯度下降方法和遗传算法优化子网编码的方式不同,本发明的差分进化算法能够更充分地利用连续编码的矢量化信息。这种方法相比传统的优化方法具有更高的效率和更好的搜索性能,能够更快地找到适合任务的最优神经网络架构。
-
公开(公告)号:CN118014010B
公开(公告)日:2024-06-18
申请号:CN202410418128.3
申请日:2024-04-09
Applicant: 南京信息工程大学
IPC: G06N3/045 , G06N3/0464 , G06N3/086
Abstract: 本发明公开了一种自动化机器学习技术领域的基于多种群机制及代理模型的多目标演化神经架构搜索方法,旨在解决现有技术在设计用于各种视觉任务的卷积神经网络时消耗人力成本高、效率低且难以兼顾多目标场景的问题,其包括构建搜索空间,确定优化目标,对神经网络架构进行种群初始化;通过初始种群来初始化演化搜索过程,并结合预训练的代理模型和多种群机制在搜索空间内进行多目标演化搜索,得到候选神经网络架构;由候选神经网络架构中筛选出兼顾两个优化目标的神经网络架构。本发明通过代理模型加速搜索过程,使用多种群机制拓展解的多样性,来进行高效的神经架构搜索,能在目标数据集上获得一组兼顾多个优化目标的网络架构。
-
公开(公告)号:CN118014010A
公开(公告)日:2024-05-10
申请号:CN202410418128.3
申请日:2024-04-09
Applicant: 南京信息工程大学
IPC: G06N3/045 , G06N3/0464 , G06N3/086
Abstract: 本发明公开了一种自动化机器学习技术领域的基于多种群机制及代理模型的多目标演化神经架构搜索方法,旨在解决现有技术在设计用于各种视觉任务的卷积神经网络时消耗人力成本高、效率低且难以兼顾多目标场景的问题,其包括构建搜索空间,确定优化目标,对神经网络架构进行种群初始化;通过初始种群来初始化演化搜索过程,并结合预训练的代理模型和多种群机制在搜索空间内进行多目标演化搜索,得到候选神经网络架构;由候选神经网络架构中筛选出兼顾两个优化目标的神经网络架构。本发明通过代理模型加速搜索过程,使用多种群机制拓展解的多样性,来进行高效的神经架构搜索,能在目标数据集上获得一组兼顾多个优化目标的网络架构。
-
公开(公告)号:CN116108384A
公开(公告)日:2023-05-12
申请号:CN202211671424.1
申请日:2022-12-26
Applicant: 南京信息工程大学
IPC: G06F18/2411 , G06F18/214 , G06N3/126 , G06N3/08 , G06N3/063
Abstract: 本发明公开了一种神经网络架构搜索方法、装置、电子设备及存储介质,属于自动化机器学习技术领域,方法包括:获取初始数据集;对所述初始数据集进行预处理,获取训练数据集;利用所述训练数据集对分类模型进行训练;根据遗传算法进行神经网络架构搜索,并利用经过训练的分类模型评估网络种群中个体网络的适应度;根据适应度评估结果,获取性能优秀的深度神经网络。该方法能够节省神经网络架构搜索过程中模型训练的时间,降低使用者对硬件的要求,在短时间内获得性能优异的深度神经网络。
-
公开(公告)号:CN112003642A
公开(公告)日:2020-11-27
申请号:CN202010503524.8
申请日:2020-06-05
Applicant: 南京信息工程大学
Abstract: 本发明涉及一种基于BSO改进的无人机通信组网方法,针对BSO思想进行改进,加入至无人机组网应用当中进行实时执行,基于预设迭代次数的规划,引入多策略分组方案构建分组策略库。在每次迭代中按其被选中概率进行策略选择,应用于每次迭代中的分组,并依据已实施迭代中舒适度的大小,以最小舒适度所对应的方案作为时刻所对应的最优方案,同时结合过去各时刻的最优方案,以最小舒适度筛选出当前时刻的全局最优方案,实现当前时刻的组网。最后基于组网实现无人机机群与控制端之间的通讯,如此设计能够针对无人机机群实现高效快速响应,完成实时组网动作,提高无人机机群与控制端之间的通信效率。
-
公开(公告)号:CN104391887B
公开(公告)日:2018-01-12
申请号:CN201410629873.9
申请日:2014-11-10
Applicant: 南京信息工程大学
IPC: G06F17/30
Abstract: 本发明公开了一种基于网络结构优化的节点属性划分朋友圈的方法,包括:建立特征向量步骤;计算朋友之间的曼哈顿距离步骤;选定核心朋友步骤;划分社团步骤;社团优化调整步骤。本发明先使用节点属性进行初步的社团划分,然后利用网络结构信息对于划分结果进一步优化调整,充分利用在线社交网络中可以获取到的信息,能够获得更加准确的社团划分结果,从而实现对用户的朋友圈自动分组,能够有效完善社交网络平台功能,适用于社交网络平台功能的应用和优化。
-
-
-
-
-
-
-
-
-