Patent search ap:("之江实验室") AND inv:"张少杰" Page 1

1.

发明公开
一种基于Fisher信息矩阵的增量学习方法无效

公开(公告)号：CN113469262A

公开(公告)日：2021-10-01

申请号：CN202110788383.3

申请日：2021-07-13

Applicant: 之江实验室

Inventor： 张少杰 , 朱世强 , 蔡思佳 , 任杰 , 徐泽民 , 顾建军

IPC: G06K9/62 , G06N3/04 , G06N3/08

Abstract: 本发明公开了一种基于Fisher信息矩阵的增量学习方法。该方法通过计算Fisher信息矩阵判定神经网络各层参数的重要性；通过分离层间参数和层内参数，大大提升Fisher信息矩阵的计算效率；通过引入新的车辆增量数据，迭代训练模型，避免了全量数据训练的庞大计算量；对不同重要性的参数设置相应的权重系数，使得先验模型和后验模型具有最大的相似度；将Fisher信息矩阵和经典的KL散度相关联，给予神经网络的流形假设更有力的支撑。本发明的测试结果表明神经网络各层参数之间确实存在不同的重要性，且引入正则项可以有效控制神经网络的先验模型和后验模型之间的距离，使其尽可能小。

Patent Agency Ranking