-
公开(公告)号:CN119169438A
公开(公告)日:2024-12-20
申请号:CN202411333340.6
申请日:2024-09-24
Applicant: 中国科学院计算技术研究所
Abstract: 本发明提出一种嵌入式边缘智能计算系统的推理加速方法、装置、存储介质,该方法包含:集成CPU与NPU处理器,构建边缘计算的基础异构架构;配置模型离线部署框架,该框架支持将训练后的YOLO模型部署在NPU处理器上;对所述YOLO模型的检测层算子网络结构进行逻辑重构;对重构后的YOLO模型检测层进行算子编程与多核加速计算。该方法提高了算子速度,提高了系统推理速度。