-
-
公开(公告)号:CN114444673A
公开(公告)日:2022-05-06
申请号:CN202111291378.8
申请日:2021-11-01
申请人: 蒂普爱可斯有限公司
发明人: 金錄元
摘要: 一种人工神经网络(ANN)的存储器系统包括:处理器,其用于处理人工神经网络模型;以及ANN存储器控制器,其被配置为控制存储在存储器中的ANN模型的数据的重新排列并且基于ANN模型的ANN数据局部性信息以读取突发模式操作存储在存储器中的ANN模型的数据。ANN存储器控制器可以接收预先生成的ANN数据局部性信息,或者处理器可以按顺序生成多个数据访问请求,使得ANN存储器控制器可以通过监控多个数据访问请求来生成ANN数据局部性信息。ANN存储器控制器基于人工神经网络数据局部性在接收来自处理器的请求之前准备数据,以减少存储器向处理器提供数据的延迟。
-
公开(公告)号:CN113316794B
公开(公告)日:2024-09-03
申请号:CN202080007589.1
申请日:2020-06-04
申请人: 蒂普爱可斯有限公司
发明人: 金錄元
IPC分类号: G06N3/063 , G06N3/08 , G06N3/0464
摘要: 公开了一种数据缓存或数据管理设备,其用于在至少一个处理器和至少一个存储器之间高速缓存数据,并且支持由至少一个处理器执行的人工神经网络(ANN)操作。数据高速缓存设备或数据管理设备可以包括内部控制器,该内部控制器用于基于ANN操作的ANN数据局部性来预测下一数据操作请求。内部控制器从在至少一个处理器和至少一个存储器之间实际做出的数据操作请求中监视与ANN操作相关联的数据操作请求,从而提取ANN操作的ANN数据局部性。
-
公开(公告)号:CN118228786A
公开(公告)日:2024-06-21
申请号:CN202310870890.0
申请日:2023-07-14
申请人: 蒂普爱可斯有限公司
摘要: 本申请涉及能够切换ANN模型的神经处理单元及其操作方法。根据本公开,提供了一种安装在可移动装置上的用于检测物体的神经处理单元NPU。NPU可以包括多个处理元件PE,其被配置为处理第一人工神经网络模型ANN的操作和不同于第一ANN的第二ANN的操作;存储器,其被配置为存储第一ANN和第二ANN的数据的一部分;以及控制器,其被配置为控制PE和存储器以基于确定数据选择性地执行第一ANN或第二ANN的卷积运算,其中确定数据可以分别包括第一ANN和第二ANN的物体检测性能数据。
-
公开(公告)号:CN115204375A
公开(公告)日:2022-10-18
申请号:CN202111311760.0
申请日:2021-11-08
申请人: 蒂普爱可斯有限公司
发明人: 金錄元
摘要: 一种神经处理单元(NPU)包括:内部存储器,其用于存储关于多个人工神经网络(ANN)模型的组合的信息,所述多个ANN模型包括第一ANN模型和第二ANN模型;多个处理元件(PE),其用于依次或并行处理所述多个ANN模型的第一操作和第二操作,所述多个PE包括第一组PE和第二组PE;以及调度器,其用于基于与关于所述多个ANN模型的操作次序相关的信息的指令或者进一步基于ANN数据局部性信息,将所述第一ANN模型的所述第一操作的一部分分配给所述第一组PE,并且将所述第二ANN模型的所述第二操作的一部分分配给所述第二组PE。所述第一操作和所述第二操作可以是并行或分时执行的。
-
公开(公告)号:CN114689961A
公开(公告)日:2022-07-01
申请号:CN202111674411.5
申请日:2021-12-31
申请人: 蒂普爱可斯有限公司
发明人: 金錄元
IPC分类号: G01R31/00 , G01R31/3185 , G06N3/04 , G06N3/08
摘要: 提出了一种系统,其能够在运行时间期间测试所述系统中的部件。所述系统可以包括:基板;多个功能部件,所述多个功能部件被安装在所述基板上并且包括电路;系统总线,其利用导电图案在所述基板上形成,从而允许所述多个功能部件相互通信;一个或多个包装器,所述一个或多个包装器中的每一个连接到所述多个功能部件中的一个上;以及系统内部件测试器(ICT),其被配置为:选择所述多个功能部件中的处于空闲状态的至少一个功能部件作为待测部件(CUT);以及通过所述一个或多个测试包装器测试被选择作为所述CUT的所述至少一个功能部件。
-
-
-
公开(公告)号:CN117151175A
公开(公告)日:2023-12-01
申请号:CN202310505974.4
申请日:2023-05-06
申请人: 蒂普爱可斯有限公司
IPC分类号: G06N3/063 , G06F15/78 , G06F13/28 , G06F12/0871 , G06F12/0862
摘要: 本申请涉及包括可变内部存储器的神经处理单元及其电子系统。一种神经处理单元包括:内部存储器,其包括多个存储器单元;以及控制器,其被配置为基于其中设置了人工神经网络模型的多个操作步骤的机器代码中的操作调度,相对于多个存储器单元中的每一个控制输入特征图域、权重域和输出特征图域中的至少一个的数据的读取操作和写入操作。
-
公开(公告)号:CN115358377A
公开(公告)日:2022-11-18
申请号:CN202210452060.1
申请日:2022-04-27
申请人: 蒂普爱可斯有限公司
发明人: 金錄元
摘要: 一种神经处理单元(NPU)包括控制器,该控制器包括调度器,该控制器被配置为从编译器接收包括融合ANN的人工神经网络(ANN)的机器代码,该机器代码包括融合ANN的数据局部性信息,并且该控制器被配置为接收来自与融合人工神经网络对应的多个传感器的异构传感器数据;被配置为执行包括卷积操作和至少一个特殊功能操作的融合ANN的融合操作的至少一个处理元件;特殊功能单元(SFU),其被配置为执行融合ANN的特殊功能操作;以及片上存储器,其被配置成存储融合ANN的操作数据,其中所述调度器被配置为控制至少处理元件和片上存储器,使得融合ANN的所有操作根据数据局部性信息以预定序列进行处理。
-
-
-
-
-
-
-
-
-