公开(公告)号：CN112631775A

公开(公告)日：2021-04-09

申请号：CN202011552010.8

申请日：2020-12-24

Applicant: 北京百度网讯科技有限公司

Inventor： 陈庆澍 ,  欧阳剑 ,  王勇 ,  赵志彪

IPC: G06F9/50 ,  G06N3/08 ,  G06N3/10

Abstract: 本公开公开了模型训练方法、装置、电子设备和计算机可读存储介质，涉及人工智能领域，尤其涉及深度学习领域和人工智能芯片领域。具体实现方案为：通过一个计算单元对一个训练数据集执行前向计算操作序列以及反向计算操作序列中包括的第一反向计算操作，以基于第一反向计算操作确定第一计算结果和模型的第一梯度；至少基于第一梯度，确定第一同步梯度；基于所述第一计算结果对所述一个训练数据集执行所述反向计算操作序列中包括的第二反向计算操作，以基于所述第二反向计算操作至少确定所述模型的第二梯度；至少基于第二梯度，确定第二同步梯度；以及至少基于第一同步梯度和第二同步梯度更新模型的参数。以此方式，实现了高效准确的并行训练。

公开(公告)号：CN112148418A

公开(公告)日：2020-12-29

申请号：CN201910560713.6

申请日：2019-06-26

Applicant: 北京百度网讯科技有限公司

Inventor： 冷祥纶 ,  赵志彪 ,  韩金宸 ,  漆维

IPC: G06F9/455

Abstract: 根据本公开的实施例，提供了用于访问数据的方法、装置、设备和计算机可读存储介质，涉及计算机领域。用于访问数据的方法包括获得与计算设备的虚拟机相对应的虚拟功能的标识和与虚拟机要访问的存储器中的数据有关的地址，虚拟功能的标识和地址是基于接收的来自计算设备的虚拟机的访问请求而确定的。该方法还包括基于标识，确定与虚拟机相对应的存储器中的存储资源的范围。该方法还包括确定地址是否在范围内。该方法还包括响应于确定地址在范围内，访问与地址有关的数据。通过片上系统芯片上的存储器管理单元来控制虚拟机访问存储器，该访问方法不仅减小了硬件资源，并且还减少了软件开销，提高了效率。

公开(公告)号：CN112395071A

公开(公告)日：2021-02-23

申请号：CN201910741694.7

申请日：2019-08-12

Applicant: 北京百度网讯科技有限公司

Inventor： 冷祥纶 ,  赵志彪 ,  韩金宸 ,  欧阳剑 ,  漆维 ,  王勇

IPC: G06F9/50

Abstract: 本公开的实施例提供了一种用于资源管理的方法、装置、电子设备和计算机可读存储介质。该方法包括：确定所要支持的多个虚拟功能，其中多个虚拟功能中的每个虚拟功能与计算设备上运行的虚拟机相对应。该方法还包括：将物理资源集合按预定比例划分成多个物理资源子集，物理资源子集的数目与虚拟功能的数目相同。该方法进一步包括：将多个物理资源子集分别分配给多个虚拟功能。本公开的实施例可以按空分复用的方式实现对物理资源的虚拟化，具有较小的硬件和软件开销，同时提高系统安全性和可靠性。

公开(公告)号：CN112631775B

公开(公告)日：2024-06-18

申请号：CN202011552010.8

申请日：2020-12-24

Applicant: 北京百度网讯科技有限公司

Inventor： 陈庆澍 ,  欧阳剑 ,  王勇 ,  赵志彪

IPC: G06F9/50 ,  G06N3/08 ,  G06N3/084 ,  G06N3/10

Abstract: 本公开公开了模型训练方法、装置、电子设备和计算机可读存储介质，涉及人工智能领域，尤其涉及深度学习领域和人工智能芯片领域。具体实现方案为：通过一个计算单元对一个训练数据集执行前向计算操作序列以及反向计算操作序列中包括的第一反向计算操作，以基于第一反向计算操作确定第一计算结果和模型的第一梯度；至少基于第一梯度，确定第一同步梯度；基于所述第一计算结果对所述一个训练数据集执行所述反向计算操作序列中包括的第二反向计算操作，以基于所述第二反向计算操作至少确定所述模型的第二梯度；至少基于第二梯度，确定第二同步梯度；以及至少基于第一同步梯度和第二同步梯度更新模型的参数。以此方式，实现了高效准确的并行训练。

公开(公告)号：CN112131174A

公开(公告)日：2020-12-25

申请号：CN201910554661.1

申请日：2019-06-25

Applicant: 北京百度网讯科技有限公司

Inventor： 冷祥纶 ,  朱贺飞 ,  陈庆澍 ,  赵志彪 ,  龚小章

IPC: G06F15/78

Abstract: 本公开的实施例涉及一种确定多个芯片之间的连接关系的方法、装置、电子设备和计算机可读存储介质。该方法可以包括确定由主机管理的多个芯片的身份信息，多个芯片通过各自的用于片间通信的片间通信接口相连接。该方法还可以包括使多个芯片中的一个或多个芯片获取与一个或多个芯片的片间通信接口连接的其他芯片的身份信息。该方法可以进一步包括经由一个或多个芯片的用于与主机通信的管理接口读取该其他芯片的身份信息，以确定多个芯片之间的连接关系。本公开的技术方案通过各芯片的片间通信接口来确定与之连接的芯片，从而可以在主机侧创建并维护该芯片网络的物理连接矩阵，进而为芯片网络连接的故障检测以及芯片网络拓扑的动态配置提供便利。