本说明书公开了一种面向分布式集群的任务执行方法、装置、介质及设备。所述面向分布式集群的任务执行方法包括：获取样本数据，根据磁盘带宽和本地延迟，以及网络带宽和网络延迟，对样本数据的数量进行划分，将第一样本数量的样本数据存储在各计算节点的本地磁盘，将第二样本数量的样本数据存储在存储节点，针对每个计算节点，将该计算节点的本地磁盘中指定数量的样本数据与其他计算节点的本地磁盘中的样本数据进行交换，得到更新后样本数据，以及，从所述存储节点中读取远端样本数据，根据更新后本地样本数据和远端样本数据，在该计算节点上执行当前训练周期针对目标模型的训练任务。