一种流水线ADC的前台校准系统及实现方法

    公开(公告)号:CN118018021A

    公开(公告)日:2024-05-10

    申请号:CN202410204097.1

    申请日:2024-02-23

    Abstract: 本发明公开了一种流水线ADC的前台校准系统及实现方法,属于流水线ADC的校准领域。本发明所述系统包括流水线ADC电路、开关控制模块、状态机模块和校准核心模块,流水线ADC电路接收开关控制模块的开关码和温度计码,向校准核心模块发送输出码字;状态机模块产生状态控制信号,输入到开关控制模块;开关控制模块接收状态控制信号,并分别译码为开关码和温度计码;校准核心模块接收来自流水线ADC电路的原始输出码字进行码字合成,并在前台校准时得到误差参数,在正常转换过程中利用误差参数对误差进行补偿,得到校准后的数字输出编码。本发明校准系统结构精简、效率高;复杂度得到优化,降低了硬件成本,具有高效快速准确的特点。

    一种流水线ADC的DAC误差校准方法
    2.
    发明公开

    公开(公告)号:CN118018020A

    公开(公告)日:2024-05-10

    申请号:CN202410204018.7

    申请日:2024-02-23

    Abstract: 本发明属于模拟集成电路技术领域,具体涉及一种流水线ADC的DAC误差校准方法;包括获取流水线ADC在单个周期内的采样数据量,求取每一采样数据在流水线ADC中的输出码字集合;根据输出码字集合计算每一采样数据的第一级未放大余差,每一第一级未放大余差与其对应采样数据形成一组采样点数据;根据多组采样点数据构建MDAC传输曲线,并根据采样点数据对MDAC传输曲线进行子区间划分;计算每一个子区间的子区间偏移量,根据子区间偏移量对同周期内的模拟输入的数字输出进行补偿;本发明有效地提升了流水线ADC的性能。

    一种基于层剪枝灵敏度的迭代式重训练方法及一种图像处理器

    公开(公告)号:CN116187416A

    公开(公告)日:2023-05-30

    申请号:CN202310174590.9

    申请日:2023-02-28

    Abstract: 本发明涉及神经网络技术,特别涉及一种基于层剪枝灵敏度的迭代式重训练方法及一种图像处理器,方法包括初始化初始阈值和阈值增量;根据权重矩阵的绝对值之和及权重矩阵的深度计算缩放因子;利用缩放因子更新初始阈值和阈值增量,获取当前权值矩阵在进行重训练之前的输入和输出作为训练数据;根据初始阈值、阈值增量及精度因子计算剪枝阈值;根据剪枝阈值对权值矩阵进行剪枝,通过训练数据对剪枝后的权值矩阵进行重训练;判断剪枝后权值矩阵的误差是否在设定范围内,若在则令剪枝精度因子自加1;若精度不达标则判断是否还有其他矩阵需要进行剪枝操作,若有则切换到到剪枝的权值矩阵;本发明相较于现有方法计算各层权重矩阵的灵敏度的速度更快。

    一种基于预剪枝和联合剪枝的语言模型剪枝方法

    公开(公告)号:CN115345295A

    公开(公告)日:2022-11-15

    申请号:CN202210966295.2

    申请日:2022-08-12

    Abstract: 本发明涉及语言模型剪枝领域,尤其涉及一种基于预剪枝和联合剪枝的语言模型剪枝方法,包括通过设备预留存储空间和语言模型实际所占存储空间计算出总剪枝率;采用预剪枝方法获取语言模型结构性剪枝率和语言模型各层的非结构性剪枝率;对语言模型进行结构性剪枝和非结构性剪枝,并且通过重训练方式恢复模型精度;本发发明通过预剪枝这种剪枝率分配方式可以获取合理的语言模型结构性剪枝率和语言模型各层的非结构性剪枝率,并且联合结构性剪枝和非结构性剪枝可以对语言模型进行彻底的剪枝。

Patent Agency Ranking