公开(公告)号：CN119443280A

公开(公告)日：2025-02-14

申请号：CN202411565459.6

申请日：2024-11-05

Applicant: 南京大学

Inventor： 傅玉祥 ,  谢雨昊 ,  李丽 ,  戴晨阳 ,  范文杰 ,  刘亦锦 ,  张璐 ,  李峰

IPC: G06N5/04 ,  H04L49/109 ,  G06F15/78

Abstract: 本发明公开了基于协同近似策略的片上网络AI推理系统、方法及设备，属于片上网络通信技术领域，其技术方案要点是包括至少一个第一近似处理核心和至少一个第二近似处理核心；第一近似处理核心用于对当前分配的计算任务单元进行近似计算得到近似计算结果并生成原始数据包，并根据近似计算与非近似计算的算法误差，对原始数据包进行截位处理，得到近似数据包，最后将近似数据包通过对应的路由单元，发送至接收该近似数据包的处理核心对应的路由单元；第二近似处理核心用于接收一近似数据包，并根据近似数据包的头包信息，对近似数据包进行数据恢复，得到恢复数据包，本发明采用协同近似策略，在极低的推理精度损失下，最大程度保证了能效的提升。

公开(公告)号：CN119476381A

公开(公告)日：2025-02-18

申请号：CN202411490368.0

申请日：2024-10-24

Applicant: 南京大学

Inventor： 李丽 ,  徐勤凯 ,  傅玉祥 ,  刘亦锦 ,  陈铠 ,  何国强 ,  李伟 ,  何书专

IPC: G06N3/063 ,  G06N3/084 ,  G06N3/098 ,  G06F18/2433

Abstract: 本发明公开了一种基于可学习阈值的异常值感知低精度训练硬件系统，属于神经网络训练领域，旨在解决在边缘计算设备上进行深度神经网络训练时，如何在保证量化精度的同时有效处理异常值的问题。其包括通过在线更新异常值的阈值提高模型量化性能，具体包括以下步骤：配置异常值阈值实时监测和识别输入的计算数据中的异常值，并根据识别结果对计算数据进行感知量化；对感知量化后的计算数据进行数据转换，并进行数据编码，根据数据编码结果确定计算场景；基于计算场景分配计算任务至处理单元簇中；通过梯度下降算法计算异常值梯度，并进行可学习的异常值阈值更新；在网络训练完成后，进行性能评估，并将结果进行整理和输出。