公开(公告)号：CN119272291A

公开(公告)日：2025-01-07

申请号：CN202411807879.0

申请日：2024-12-10

Applicant: 南京大学

Inventor： 许封元 ,  孙立志 ,  朱景舟 ,  吴昊

IPC: G06F21/57 ,  G06F21/60 ,  G06F21/53 ,  G06N3/098

Abstract: 本发明公开了一种基于可信执行环境的可信联邦学习系统及方法，包括服务器和若干个客户端；所述服务器和若干客户端均配置有领域虚拟机、加密模块以及解密模块，所述领域虚拟机作为可信执行环境，其内配置有远程安全连接模块。本发明基于可信执行环境保护整个联邦学习的本地训练和中心聚合过程，全局模型和本地模型及其更新数据仅仅在可信执行环境中以明文存在，出可信执行环境时对数据进行加密，保护联邦学习协议的完整性和参数的机密性，有效抵御投毒攻击和隐私攻击的同时仅仅引入很小的计算开销，有效保障用户数据隐私同时提升训练后模型的精度和安全性，全面解决当前联邦学习系统面临的隐私和安全攻击。

公开(公告)号：CN111914928B

公开(公告)日：2024-04-09

申请号：CN202010749009.8

申请日：2020-07-30

Applicant: 南京大学

Inventor： 诸渝 ,  许封元 ,  仲盛

IPC: G06V10/764 ,  G06V10/774 ,  G06V10/82 ,  G06N3/0464 ,  G06N3/084

Abstract: 本发明公开了一种为图像分类器进行对抗样本防御的方法，首先构造模型、准备图像训练数据并初始化超参数；其次将图像训练数据分成多个批次；使用一个批次的图像训练数据更新模型参数，包括：生成对抗样本、混合对抗样本与图像训练数据并调整对抗样本中图像数据的相对位置、使用反向传播算法更新模型参数；重复使用余下批次的图像训练数据实现模型参数的更新；重新开始新一轮的训练，直至训练完成；输出训练完成的模型。本发明将暹罗架构与对抗训练相结合，是对传统对抗训练算法的改进，可以更好应对图像分类器中对抗样本的攻击。

公开(公告)号：CN113239329B

公开(公告)日：2024-03-19

申请号：CN202110440695.5

申请日：2021-04-23

Applicant: 南京大学

Inventor： 许封元 ,  孙立志 ,  王烁程 ,  吴昊 ,  龚宇航 ,  仲盛

IPC: G06F21/12 ,  G06F21/57 ,  G06F8/61

Abstract: 本发明公开一种用于移动端应用程序的可信执行环境的实现系统，其特征在于，包括移动端设备侧和应用程序开发者侧；所述移动端设备侧包括普通世界非安全敏感环境、普通世界可信执行环境和安全世界；所述普通世界非安全敏感环境包括不可信操作系统、可信执行环境管理模块和非安全敏感应用程序；所述普通世界可信执行环境包括安全操作系统、系统管理模块和安全敏感应用程序；所述安全世界包括可信操作系统、完整性验证模块、可信应用程序、EL3安全监视器；所述EL3安全监视器包括ARM可信固件、中断管理模块、页表管理模块、系统启动模块、系统关闭模块、外设访问模块、资源调整模块；所述应用程序开发者侧包括应用程序拆分模块、库生成模块。

公开(公告)号：CN110647948B

公开(公告)日：2023-04-21

申请号：CN201910947973.9

申请日：2019-10-08

Applicant: 南京大学

Inventor： 李宗飞 ,  许封元 ,  柯晓鹏 ,  田育龙

IPC: G06V10/82 ,  G06V10/44 ,  G06V10/72 ,  G06V10/774 ,  G06V30/42 ,  G06V30/414 ,  G06V40/16

Abstract: 本发明公开了一种基于神经网络的图片拼接检测方法和系统，包括如下步骤：首先，获取图片，通过第一神经网络模型识别出被检测本体的图片，剔除背景干扰；其次，归一化被检测本体的图片，对图片进行十字线等份切割；然后，通过第二神经网络模型对每等份图像，分别进行划痕识别，获得像素比；最后，统计所有等份图像的拼痕比例之和，与设定的阈值进行比较，高于阈值，则判断为拼接图像，否则判断为非拼接图像。相对于现有技术，本发明的检测方法具有较高的准确性。

公开(公告)号：CN115174404A

公开(公告)日：2022-10-11

申请号：CN202210533169.8

申请日：2022-05-17

Applicant: 南京大学

Inventor： 许封元 ,  吴昊 ,  赵鑫 ,  柯晓鹏 ,  宰晓晨

IPC: H04L41/0896 ,  H04L41/0894 ,  H04L41/14 ,  H04L41/0895

Abstract: 本发明公开了一种基于SDN组网的多设备联邦学习系统，系统内采用SDN进行组网连接，该系统将边缘设备根据互相之间的延迟分为数个小组，组内采用去中心化的联邦学习策略进行联邦学习训练；在完成组内训练后，根据SDN中提供的信息在每组中选择网络性能最强的设备，让其将本组模型发送给中心节点，由中心节点对各组模型进行聚合。本发明通过对原有联邦学习过程的改良，更充分地使用了边缘设备的数据、算力与网络带宽，同时降低中心节点的压力，提高了模型训练效率，进而使各边缘设备上的数据能够更快地转化为深度学习模型，有效提升了深度学习服务的质量。

公开(公告)号：CN114091108A

公开(公告)日：2022-02-25

申请号：CN202210051704.6

申请日：2022-01-18

Applicant: 南京大学

Inventor： 许封元 ,  吴昊

IPC: G06F21/62 ,  G06F16/35 ,  G06F16/953 ,  G06F16/9535 ,  G06F40/30 ,  G06V10/762 ,  G06K9/62

Abstract: 本发明公开了一种智能系统隐私性评估方法及系统，该评估方法包括：首先根据待评估系统的应用场景进行数据按需准备，并根据待评估系统的工作要求进行动态数据采样；而后通过智能语义编辑算法对评估数据中的隐私信息进行修改，通过评估所修改数据对模型推断精度的影响来分析数据隐私信息与系统推断精度的关联关系，进而对待评估系统的隐私性进行量化评估。本发明以数据驱动的方式，通过建立用户隐私信息与模型推断精度之间的关系，实现了智能系统的隐私性评估，从而建立了一套通用、高效、自动化的智能系统隐私性评估系统，有效提高了智能系统对用户隐私信息使用的透明度，保证用户对个人隐私信息使用风险的知情权。

公开(公告)号：CN113297530A

公开(公告)日：2021-08-24

申请号：CN202110405149.8

申请日：2021-04-15

Applicant: 南京大学

Inventor： 许封元 ,  吴昊 ,  王浩 ,  仲盛

IPC: G06F17/11 ,  G05B23/02 ,  G01M17/007

Abstract: 本发明公开一种基于场景搜索的自动驾驶黑盒测试系统，包括配置文件，世界初始化器，世界生成器，反馈搜索器，以及结果分析器；用于测试待测试目标系统；所述初始化器读取预先写好的关于场景和对象的配置文件，随后每次故障场景搜索过程调用世界初始化器采样出一个初始场景，在转换为参数化表示后使用世界生成器在Unreal Engine中进行创建生成场景；所述反馈搜索器通过调整场景中的物体，寻找造成故障的场景；所述结果分析器对搜索到的故障场景进行逐个的对象移除判断造成故障的对象。本发明能够对自动驾驶系统的安全性进行标定，同时能够分析出自动驾驶系统的脆弱性。具备可扩展性和可理解性，且适用于具有高度非线性特征的深度学习系统。

公开(公告)号：CN113204750A

公开(公告)日：2021-08-03

申请号：CN202110590888.9

申请日：2021-05-28

Applicant: 南京大学

Inventor： 许封元 ,  吴昊 ,  秦政 ,  苏醒 ,  仲盛

IPC: G06F21/32 ,  G06K9/62 ,  G06N3/04 ,  G06N3/08

Abstract: 本发明公开一种基于用户意图的安卓资源权限动态管理系统及其实现方法，基于用户在操作智能手机的触摸行为数据，将数据抽象提取特征并使用机器学习的算法模型，最终推断出用户权限请求，来帮助权限系统做出准确的管理。系统包括四个组件，四个组件分别是：用作获取触摸行为数据的行为采集器，用作抽象手势数据的手势提取器，用作得到合适决策推理模型的模型训练器，以及在权限请求发生时做出关键决策的权限判别器。本发明通过挖掘用户操作安卓智能手机时的手机的手势获取其意图，再根据意图对资源全权限进行动态的管理。权限的发放和回收更加符合用户主管意图，且能防御住更多的新型的攻击。

公开(公告)号：CN119990357A

公开(公告)日：2025-05-13

申请号：CN202311512181.1

申请日：2023-11-10

Applicant: 华为技术有限公司 ,  南京大学

Inventor： 吴昊 ,  许封元 ,  柯晓鹏 ,  张朱谷承 ,  杨渊

IPC: G06N20/00 ,  G06F21/62

Abstract: 本申请公开了一种联邦学习中参与端的贡献度确定方法、装置及系统，涉及联邦学习技术领域。在该方法中，以联邦学习中多个参与端提供的蒸馏样本集为基础，通过蒸馏样本集中蒸馏样本的不确定度来体现蒸馏样本为机器学习模型的训练过程所带来的信息量，从而根据每个参与端所提供蒸馏样本的不确定度来确定每个参与端的贡献度，在准确评估参与端贡献度的基础上，有效降低了计算复杂度，进而提升了贡献度计算效率。

公开(公告)号：CN118965443B

公开(公告)日：2025-02-07

申请号：CN202411419929.8

申请日：2024-10-12

Applicant: 南京大学

Inventor： 许封元 ,  吴昊 ,  徐世贸

IPC: G06F21/62 ,  G06N3/0985 ,  G06N5/04 ,  G06N3/0464 ,  G06N3/0455

Abstract: 本发明公开了一种针对深度学习推理服务的可控数据隐私增强方法，通过设计一种动态路由神经网络模型拉实现舵机数据增强，并设计并设计多层训练框架进行逐级训练，以实现不同级别的数据保护功能。动态路由神经网络具有多个不同大小的信息瓶颈和基于门的瓶颈选择。多级训练框架中，根据优化目标表达式，通过计算得出的信息约简损失，逐级训练。该方法可以满足用户在实际深度学习推理服务使用中的不同保护需求，它以用户数据和增强级别作为输入，以可控的数据信息缩减方式对数据进行增强，可以做到有效防止二次推理攻击和重构攻击。