训练标准化流的设备和方法
    1.
    发明公开

    公开(公告)号:CN114154389A

    公开(公告)日:2022-03-08

    申请号:CN202111031918.9

    申请日:2021-09-03

    Abstract: 用于训练标准化流(70)的计算机实现的方法(1),其中,该标准化流(70)被配置成基于第一输入图像(x)预测第一密度值,其中,该第一密度值表征第一输入图像出现的可能性,其中,该第一密度值是基于标准化流的第一卷积层的中间输出而预测的,其中,该中间输出是基于第一卷积层的多个权重而确定的,其中,训练的方法包括以下步骤:●确定(101)第二输入图像(xi);●确定(102)输出(),其中,输出()是通过将第二输入图像(xi)提供给标准化流并且提供标准化流的输出作为输出()而确定的;●基于输出张量并且基于多个权重来确定(103)第二密度值;●确定(104)多个权重相对于第二密度值的自然梯度;●根据该自然梯度适配(105)多个权重。

    用于训练人工神经网络的设备和计算机实现的方法

    公开(公告)号:CN112529173A

    公开(公告)日:2021-03-19

    申请号:CN202010973059.4

    申请日:2020-09-16

    Abstract: 用于训练人工神经网络的设备和计算机实现的方法。用于训练人工神经网络(106)的设备(100)和计算机实现的方法,其中设备(100)包括用于数据的输入(108)、用于输出信号的输出(110)、适于执行所述方法的用于人工神经网络(106)的存储器(104)和至少一个处理器(102),所述方法提供具有多个输出通道的用于等变特征映射的神经网络层、特别是卷积神经网络层,将神经网络层的多个输出通道中的通道分组(204)为多个独特组,为所述多个独特组中的每个单独的独特组的每个输出通道提供(206)独特归一化函数,取决于独特归一化函数中的每个的结果来确定(208)人工神经网络(106)的输出,在人工神经网络(106)的训练中训练(210)所述超参数。

    用于训练神经元网络的设备和方法

    公开(公告)号:CN113379048A

    公开(公告)日:2021-09-10

    申请号:CN202110253677.6

    申请日:2021-03-09

    Abstract: 用于训练神经元网络的设备和方法。用于训练神经网络(60)的方法,神经网络(60)包括第一层(),第一层()包括多个过滤器以提供包括多个特征映射的第一层输出(z),分类器(60)的训练包括步骤:由先前层接收(901)第一层()中的第一层输入(i),第一层输入(i)基于输入信号(x);基于第一层输入(i)和第一层()的多个参数(w)确定(902)第一层输出(z);基于第一层输出(z)确定(903)第一层损失值(l),第一层损失值(l)表征在第一层输出(z)的特征映射之间的相关性程度,第一层损失值(l)是以无监督方式获得的;训练(904)神经网络(60),训练包括第一层()的参数(w)的适配,适配基于第一层损失值(l)。

    使用自标准化梯度训练标准化流的设备和方法

    公开(公告)号:CN114358276A

    公开(公告)日:2022-04-15

    申请号:CN202111144023.6

    申请日:2021-09-28

    Abstract: 使用自标准化梯度训练标准化流的设备和方法。用于训练标准化流的计算机实现的方法,其中标准化流被配置为确定表征输入信号的似然性或对数似然性的第一输出信号,其中标准化流包括至少一个第一层,其中训练标准化流包括以下步骤:●确定至少一个训练输入信号;●借助于标准化流针对每个训练输入信号确定训练输出信号;●确定第一损失值,其中第一损失值基于所述至少一个确定的训练输出信号相对于预定义概率分布的似然性或对数似然性;●确定第一层的可训练参数相对于第一损失值的梯度的近似,其中梯度取决于可训练参数的矩阵的逆,并且通过优化逆的近似来实现对梯度的近似的确定;●基于梯度的近似更新第一层的可训练参数。

    训练对差异可预测地响应的函数
    5.
    发明公开

    公开(公告)号:CN113626758A

    公开(公告)日:2021-11-09

    申请号:CN202110494590.8

    申请日:2021-05-07

    Abstract: 提供了训练对差异可预测地响应的函数。本发明涉及训练机器可学习函数(诸如图像分类器或图像特征提取器)的计算机实现的方法(600)。当在自主驾驶和类似应用领域中应用这样的机器可学习函数时,泛化能力是重要的。为了改进泛化能力,机器可学习函数因在机器可学习函数的一层处对输入观察之间的差异集合可预测地响应而被奖励。这是借助于包括在用于训练机器可学习函数的目标函数中的正则化目标来完成的。在给定指示输入观察之间的差异的差异标记的情况下,正则化目标奖励给定层处的输入观察的表示之间的互统计相关性。

Patent Agency Ranking