一种基于存内计算电路的卷积神经网络量化方法

    公开(公告)号:CN118798273A

    公开(公告)日:2024-10-18

    申请号:CN202410779207.7

    申请日:2024-06-17

    摘要: 本发明公开一种基于存内计算电路的卷积神经网络量化方法,属于卷积神经网络量化领域。用卷积神经网络针对卷积层的激活值、权重,设计量化网络模型;挑选1000个样本作为量化数据集,50个样本为一组,分成20组;计算权重量化系数,固定到量化网络模型中;计算激活值量化系数;根据存内计算电路数据流过程,设计计算ivc系数的量化网络模型,选100个样本为量化样本,计算ivc系数;将卷积层权重、偏移量转化为整数形式,ivc系数映射为电路中电阻的电导值,卷积层激活值和权重量化系数、ivc系数以及下一层卷积激活值量化系数进行融合,并转化成a*2b形式,设计量化后卷积网络在存内计算电路推理网络模型,实现卷积神经网络在存内计算电路的量化部署。

    一种边窗滤波高动态红外图像增强IP核及数据处理方法

    公开(公告)号:CN116681576A

    公开(公告)日:2023-09-01

    申请号:CN202310631935.9

    申请日:2023-05-31

    摘要: 本发明涉及一种边窗滤波高动态红外图像增强IP核,其中IP核基于利用FPGA的设计实现,包括图像行缓存模组、边窗滤波模组、自适应平台直方图模组、边缘信息增强模组、加权融合量化模组;图像行缓存模组更新三个最新的一行像素和缓存一个三行像素,同时对输入图像的顶部和底部边缘、左侧和右侧边缘进行填充以维持图像输入时的大小,输出一个三行像素和三个一行像素,其中一个三行像素和一个一行像素发送至边窗滤波模组,另外两个一行像素分别发送至自适应平台直方图模组和边缘信息增强模组。本发明在具体实现中可采用IP使用高层次综合工具进行开发,可将C/C++代码先转换为Verliog/VHDL代码,综合实现成特定电路。

    一种GELU函数高精度全量化计算方法

    公开(公告)号:CN118211618A

    公开(公告)日:2024-06-18

    申请号:CN202410255118.2

    申请日:2024-03-06

    摘要: 本发明公开一种GELU函数高精度全量化计算方法,属于算法模型领域。根据曼哈顿距离给出拟合的损失评估函数用以客观评估拟合效果并计算适应度,划分多段拟合区间,各分段子区间内采用二次多项式单侧曲线精确拟合高斯误差erf函数,采用粒子群优化算法给出最优的二次多项式拟合系数以及最优的区间划分阈值,根据动态精度对称量化方法,输出二次多项式拟合的GELU函数量化结果和量化系数。对于标准测试集,与现有GELU全量化方法进行对比,添加本发明的典型Transformer算法具有更高的推理精度和性能。