Cuckoo:面向异构 GPU 深度学习训练的截止时间感知作业打包
面向异构 GPU 集群的截止时间感知作业打包系统,通过构建考虑运行时干扰的估计模型并求解优化问题来共置深度学习训练作业,相比 Muri 显著提升截止时间满足率并降低归一化 JCT。
面向异构 GPU 集群的截止时间感知作业打包系统,通过构建考虑运行时干扰的估计模型并求解优化问题来共置深度学习训练作业,相比 Muri 显著提升截止时间满足率并降低归一化 JCT。
面向 GPU 深度学习集群的增强型异构感知调度器,通过动态规划在线分配把训练作业分叉到多个节点上执行,相比 Hadar 与 Gavel 显著提升集群资源利用率并缩短作业完成时间。
面向 GPU 集群的统一调度系统,通过 Estimator 与 Selector 组件和基于租约的执行机制,同时覆盖严格/软 SLO 与尽力而为作业的调度时延需求,以及迭代/性能两类停止条件。