公开(公告)号：CN117009729B

公开(公告)日：2024-01-26

申请号：CN202311293166.2

申请日：2023-10-08

Applicant: 之江实验室 ,  浙江大学

Inventor： 刘振德 ,  刘鹏 ,  姜婧辉 ,  张吴越 ,  张丽娜 ,  段钧文 ,  王维东 ,  朱笑丛

IPC: G06F17/16 ,  G06F17/18 ,  G06F18/25 ,  G06F9/50 ,  G06F9/48

Abstract: 本说明书公开了一种基于softmax的数据处理方法及装置，将目标模型部署在服务器中，通过目标模型的前处理层，确定待处理数据对应的目标矩阵，并通过在服务器上运行归一化层的第一算子，确定该目标矩阵中各行数据分别对应的归一化参数，再通过在服务器上运行第二算子，确定该目标矩阵对应的全局最大值和全局指数和，进而当目标模型的后处理层启动时，通过在服务器上运行融合算子，确定目标矩阵的归一化结果，并根据该归一化结果执行该后处理层对应的数据处理任务。本方法中的服务器不需要对目标矩阵中的数据同时进行处理，即可确定出目标矩阵的全局最大值和全局指数和，减少了对服务器的算力的要求，提高了任务处理效率。

公开(公告)号：CN117009729A

公开(公告)日：2023-11-07

申请号：CN202311293166.2

申请日：2023-10-08

Applicant: 之江实验室 ,  浙江大学

Inventor： 刘振德 ,  刘鹏 ,  姜婧辉 ,  张吴越 ,  张丽娜 ,  段钧文 ,  王维东 ,  朱笑丛

IPC: G06F17/16 ,  G06F17/18 ,  G06F18/25 ,  G06F9/50 ,  G06F9/48

Abstract: 本说明书公开了一种基于softmax的数据处理方法及装置，将目标模型部署在服务器中，通过目标模型的前处理层，确定待处理数据对应的目标矩阵，并通过在服务器上运行归一化层的第一算子，确定该目标矩阵中各行数据分别对应的归一化参数，再通过在服务器上运行第二算子，确定该目标矩阵对应的全局最大值和全局指数和，进而当目标模型的后处理层启动时，通过在服务器上运行融合算子，确定目标矩阵的归一化结果，并根据该归一化结果执行该后处理层对应的数据处理任务。本方法中的服务器不需要对目标矩阵中的数据同时进行处理，即可确定出目标矩阵的全局最大值和全局指数和，减少了对服务器的算力的要求，提高了任务处理效率。

公开(公告)号：CN116340004A

公开(公告)日：2023-06-27

申请号：CN202310429448.4

申请日：2023-04-11

Applicant: 之江实验室

Inventor： 段钧文 ,  张吴越 ,  刘鹏 ,  张丽娜 ,  唐雪飞 ,  赖彦名 ,  朱春节

IPC: G06F9/50 ,  H04L67/10 ,  G06N3/098

Abstract: 本说明书公开了一种任务执行的方法、装置、存储介质及电子设备。所述任务执行的方法包括：获取目标模型的模型数据，针对每个计算单元，确定该计算单元在每个时间节点之前允许进行针对各微训练批次的反向传播的最大次数，并确定反向传播次数的最大值所对应的时间节点，作为前向传播节点，在至少位于所述前向传播节点之前的各时间节点中确定该计算单元执行针对每个微训练批次的反向传播的时间节点，作为反向传播节点，根据每个计算单元对应的前向传播节点以及每个计算单元对应的反向传播节点，确定针对所述目标模型的训练策略，并基于所述训练策略，执行针对所述目标模型的任务执行任务。