联合更新模型的方法及装置

    公开(公告)号:CN114676838B

    公开(公告)日:2024-07-26

    申请号:CN202210380007.5

    申请日:2022-04-12

    Inventor: 郑龙飞 王磊 王力

    Abstract: 本说明书实施例提供一种联合更新模型的方法及装置,在联邦学习过程中,训练成员上传部分待同步参数,服务方向训练成员下发部分待同步参数的聚合值,从而减少联合训练过程中的数据通信量。其中,针对单个训练成员,基于训练成员上传的待同步参数和服务方确定的聚合值共同选择下发的聚合值,从而充分考虑训练成员的本地数据特点,以及全局数据特点,使得通过联邦学习训练的模型更加符合实际业务需求,提高联邦学习的有效性。

    联合更新模型的方法、装置及系统

    公开(公告)号:CN113887740B

    公开(公告)日:2024-07-16

    申请号:CN202111228436.2

    申请日:2021-10-21

    Abstract: 本说明书实施例提供一种联合更新模型的方法、装置及系统,基于训练成员的数据构成水平切分,且模型在训练成员和服务方切分成两部分的情形,由服务方将服务方切分得到的子模型配置为多个可同步聚合的子模型。这样,在单个训练周期,服务方配置的多个可同步聚合的子模型可以与各个训练成员一一对应,单个训练成员上的子模型和服务方的单个子模型串联相当于联合训练的模型。而服务方在各个子模型中待定参数的梯度或待定参数更新完成后,可以对待定参数的梯度或待定参数进行同步,以聚合为服务方切分得到的子模型。如此,可以大大减少各个训练成员之间计算的相互等待时间,提高联合训练模型的效率。

    任务模型训练方法、装置以及系统

    公开(公告)号:CN114723047B

    公开(公告)日:2024-07-02

    申请号:CN202210397221.1

    申请日:2022-04-15

    Abstract: 本说明书实施例提供任务模型训练方法、装置以及系统,其中任务模型训练方法,应用于训练设备,包括:在接收到服务器发送的第一子任务模型的情况下,先将本地训练样本输入第一子任务模型,得到输出向量;然后根据稀疏矩阵对输出向量进行稀疏化处理,得到隐层特征向量并发送至服务器;接着接收预测结果,基于预测结果与标签信息确定损失值,并基于损失值获取梯度向量;然后根据梯度向量,更新稀疏矩阵,返回执行将本地训练样本输入第一子任务模型的步骤,直至达到训练停止条件。极大降低了任务模型的迭代次数,同时保证了任务模型的收敛性;在保证收敛速度的前提下降低了任务模型的通信量,提高了训练速度。

    基于隐私保护的模型训练方法及装置

    公开(公告)号:CN114239860B

    公开(公告)日:2024-07-02

    申请号:CN202111489067.2

    申请日:2021-12-07

    Inventor: 吴慧雯 陈岑 王力

    Abstract: 本说明书实施例提供一种基于隐私保护的模型训练方法及装置,通过本说明书实施例提供的方法和装置,在安全计算过程中,利用高斯差分隐私和(ε,δ)差分隐私之间形成的对偶关系,以及在训练周期达到一定阈值的极限情况下高斯差分隐私空间中用于衡量累积隐私损失的参数μ与所添加的高斯噪声的方差σ2之间满足的关系,建立(ε,δ)差分隐私与所添加高斯噪声的方差σ2之间的关联关系。从而,一方面,可以根据高斯机制中的参数确定多次迭代累积的隐私损失,对模型性能进行衡量和管控,另一方面,根据给定的隐私预算,反向指导单次迭代过程中应该添加的高斯噪声的方差σ2,以加入适当的噪声。

    一种基于容器部署联邦学习任务的方法及装置

    公开(公告)号:CN113672352B

    公开(公告)日:2024-05-31

    申请号:CN202110968564.4

    申请日:2021-08-23

    Abstract: 本说明书实施例提供了一种基于容器部署联邦学习任务的方法及装置。该方法通过容器管理平台向多个业务方设备部署联邦学习任务,并且,联邦学习任务通过多个业务方设备执行。在该方法中,容器管理平台在接收到针对联邦学习任务的任务描述文件时,可以基于该任务描述文件,分别生成针对多个业务方设备的第一容器组描述文件,并将生成的多个第一容器组描述文件分别发送至对应的业务方设备。多个业务方设备基于各自接收的第一容器组描述文件创建容器组,并利用创建的容器组执行联邦学习任务。

    一种模型训练数据传输方法、装置、设备和可读介质

    公开(公告)号:CN114827308B

    公开(公告)日:2023-11-17

    申请号:CN202210399111.9

    申请日:2022-04-15

    Inventor: 郑龙飞 王磊 王力

    Abstract: 本说明书实施例公开了一种模型训练数据传输方法、装置、设备和可读介质。方案可以包括:第一训练成员端将基于所述第一训练成员端的训练成员模型计算得到的第一隐层数据按照第一预设方式进行划分,得到多个隐层分片,其中包括第一隐层分片,所述第一隐层分片与所述第一隐层数据的第一目标范围内的数据相对应;向服务器上传所述第一隐层分片;服务器基于所述第一隐层分片以及各个第二训练成员端上传的第二隐层分片,确定第一隐层分片梯度,所述第二隐层分片与所述第二隐层数据的对应于第一目标范围的第二目标范围内的数据相对应;服务器将所述第一隐层分片梯度发送给所述第一训练成员端。

    联合更新模型的方法、装置及系统

    公开(公告)号:CN113377797B

    公开(公告)日:2023-03-28

    申请号:CN202110753670.0

    申请日:2021-07-02

    Abstract: 本说明书实施例提供一种联合更新模型的方法、装置及系统,用于服务方与k个数据方联合更新模型的过程。其中,各个数据方分别利用本地训练样本更新模型对应的M个待同步参数并选择部分更新值以及当前同步周期使用的本地训练样本数量上传至服务方,服务方根据各个数据方上传的训练样本数量聚合各个待同步参数的更新值,得到各个聚合值构成的同步参数集Wt,并反馈给各个数据方,各个数据方利用同步参数集Wt,更新本地的待定参数,从而更新本地模型。这种实施方式可以提高模型精度,加快收敛速度。

    一种由用户终端执行的推送模型优化方法和装置

    公开(公告)号:CN110704754B

    公开(公告)日:2023-03-28

    申请号:CN201910996134.6

    申请日:2019-10-18

    Inventor: 陈超超 王力 周俊

    Abstract: 本说明书实施例提供一种由用户终端执行的推送模型优化方法和装置,所述终端与第一用户相对应,所述终端本地包括当前推送模型,所述方法包括:获取第一用户针对第一对象的第一行为数据,其中,第一对象属于预定候选推送对象集合;基于第一输入特征和第一行为数据,计算用于优化所述推送模型的第一梯度数据,其中,第一输入特征包括从本地获取的所述第一用户的当前特征和从服务器获取的第一对象的当前特征;确定第一用户的当前的预定数目的邻居用户,其中,邻居用户与所述第一用户具有预定关联关系;将第一梯度数据分别发送给预定数目的邻居用户各自的终端,以使得每个邻居用户的终端基于第一梯度数据分别优化其本地的推送模型。

    图像脱敏性能评估方法及装置
    179.
    发明公开

    公开(公告)号:CN115618407A

    公开(公告)日:2023-01-17

    申请号:CN202211217541.0

    申请日:2022-09-30

    Inventor: 王莹桂 王力 王磊

    Abstract: 本说明书的实施例提供图像脱敏性能评估方法及装置。在进行图像脱敏性能评估时,使用脱敏图像数据确定第一隐私保护评估值;以及使用重构图像数据确定第二隐私保护评估值。随后,将脱敏图像数据和原始图像数据分别提供给图像数据应用模型来确定各自的图像应用处理结果;并且基于脱敏图像数据和原始图像数据各自的图像应用处理结果确定图像应用评估值。然后,根据第一隐私保护评估值、第二隐私保护评估值和图像应用评估值,确定脱敏图像数据的图像脱敏性能的评估值。

    语音数据处理方法及装置、语音意图理解方法及系统

    公开(公告)号:CN115547359A

    公开(公告)日:2022-12-30

    申请号:CN202211215274.3

    申请日:2022-09-30

    Inventor: 王莹桂 王力 王磊

    Abstract: 本说明书的实施例提供用于语音意图理解的语音数据处理方法及装置以及语音意图理解方法及系统。在进行语音数据处理时,对语音数据进行语音数据特征提取,以得到第一特征数据。随后,对第一特征数据进行局部频域变换处理,以得到至少一个特征图,每个特征图包括多个元素并且对应第一特征数据中的一个数据块,每个元素对应频域中的一个频率;并且分别使用至少一个特征图中的各个频率所对应的元素,构建各个频率所对应的频率分量通道特征图。然后,从所构建的频率分量通道特征图中筛选出至少一个目标频率分量通道特征图,以得到语音数据的脱敏特征数据,所筛选出的目标频率分量通道特征图是语音意图理解的关键通道特征且是语音信号识别的非关键通道特征。

Patent Agency Ranking