公开(公告)号：CN117576600A

公开(公告)日：2024-02-20

申请号：CN202210932532.3

申请日：2022-08-04

Applicant: 北京交通大学

Inventor： 赵宏智 ,  甄辛 ,  刘恂

IPC: G06V20/40 ,  G06V10/82 ,  G06V10/74 ,  G06N3/0464 ,  G06N3/08

Abstract: 本发明公开一种基于视频检测的卷积神经网络推断优化方法，包括：所述视频帧计数模块用于记录输入视频帧总量和更新背景帧后输入视频帧数量；所述背景帧存储模块用于存储背景帧及其推断结果，记录背景帧更新的间隔时长；所述相似度检测模块用于对比输入视频帧与背景帧的相似度；所述卷积神经网络推断计算模块用于得到输入视频帧的推断结果；所述相关矩阵计算模块用于计算阈值矩阵和累加帧矩阵。本发明是一种低缓存成本的视频任务卷积神经网络推断优化方法，无需消耗大量搜索时间或学习成本，通过动态更新背景帧，对比背景帧和输入帧的相似度，合理复用背景帧推断结果，减少卷积神经网络处理监控视频的计算量，在可接受的精度损失下缩短推断时间。

公开(公告)号：CN115168039A

公开(公告)日：2022-10-11

申请号：CN202210801018.6

申请日：2022-07-08

Applicant: 北京交通大学

Inventor： 赵宏智 ,  何景静 ,  刘恂

IPC: G06F9/50 ,  G06F9/54 ,  G06N3/10 ,  G06N3/04 ,  G06N5/04

Abstract: 一种在多核CPU服务器上的卷积神经网络推断任务调度优化方法，其特征在于：该方法包括初始化设置模块、缓冲区数据存储模块、缓冲区数据探测模块和若干卷积神经网络计算层模块；所述初始化设置模块用于关键变量初始化计算设置；所述缓冲区数据存储模块用于接收存储CNN推断任务；所述缓冲区数据探测模块用于探测所述缓冲区数据存储模块内的待处理CNN推断任务，运行CNN推断时间预测方法，评估是否进行优化调度处理；每个所述卷积神经网络计算层模块用于执行部分CNN推断计算操作。本发明通过利用多核CPU服务器多线程资源，一边接收新到达任务数据，一边处理推断任务，利用动态批量计算优化单个样本的推断时间，提高服务器单位时间CNN推断任务吞吐量。