-
公开(公告)号：CN118446266A
公开(公告)日：2024-08-06
申请号：CN202410614274.3
申请日：2024-05-17
Applicant: 东南大学
Abstract: 本发明公开视觉变换器中GELU非线性激活函数近似计算电路，属于计算、推算或计数的技术领域，其功能是用于视觉变换器模型的高斯误差线性单元非线性激活函数的硬件友好优化。该方法以硬件友好为目标对激活值进行GELU计算，通过检测激活值的大小，对小和极大的激活值使用线性函数或分段线性函数近似，而对其它值应用更精确的多项式近似函数以确保模型精度。以硬件友好为原则，整个计算过程以全整型计算的方式进行，在提高能效和面积效率的情况下，以极低的精度损失代价达到较高的硬件收益，适合于在硬件环境上进行部署。
Search Results
1
records
(took 0.011 seconds)
筛选
AND
AND
过滤
NOT
NOT
Scan to Join
