-
公开(公告)号：CN118227840A
公开(公告)日：2024-06-21
申请号：CN202410323166.0
申请日：2024-03-20
Applicant: 南京工程学院
IPC: G06F16/901 , G06F16/23 , G06F16/25 , G06N3/048 , G06N3/0495 , G06N3/045
Abstract: 本发明提出了一种用于激活函数量化后的多段非线性查找表构建方法和装置，包括：对数据范围的存储数据进行均匀采样，并计算各个采样点的斜率与曲率数据；确定分段的关键点；根据输入数据从小到大的顺序生成所有可能输入的定点数，并存放在候选数组内；通过关键点，确定每一段的数据范围，更新临时表；按照量化规则将临时表中的表项转换为整型数，存入真正的查找表中，同时存储转换时使用的量化参数和输出对齐参数。本发明可以有效提升Softmax函数在量化网络中的运行速度。
Search Results
1
records
(took 0.02 seconds)
筛选
AND
AND
过滤
NOT
NOT
Scan to Join
