课程简介

案例背景:
随着人工智能的普及，机器学习、深度学习已经被广泛应用于各个行业。然后数据显示目前分布式训练在很多场景下依然面临复杂度高、训练效率达不到期望的状况。分布式训练的性能优化受到了越来越多的关注。华为云Volcano团队针对GPU利用率低、数据传输延迟、节点计算密度不足等场景进行了优化实践，提供了多种解决方案并取得了实质性的成果。

解决思路:
我们主要针对分布式训练的特点，主要从调度方面进行了优化，提供了组调度、binpack、拓扑调度、GPU共享等多种调度策略，有效缩短了分布式训练的时间。同时我们增强了分布式训练作业的生命周期管理，让分布式训练更简单、更高效。

成果：
优化后实际分布式训练性能提升30%以上

目标收益

1. 机器学习、深度学习平台优化经验
2. 基于Kubernetes的机器学习平台调度系统设计经验
3. 开源社区运作、参与经验

培训对象

课程内容

案例方向

---

数据商业化/大数据架构/NLP/人工智能产品落地

案例背景

---

随着人工智能的普及，机器学习、深度学习已经被广泛应用于各个行业。然后数据显示目前分布式训练在很多场景下依然面临复杂度高、训练效率达不到期望的状况。分布式训练的性能优化受到了越来越多的关注。华为云Volcano团队针对GPU利用率低、数据传输延迟、节点计算密度不足等场景进行了优化实践，提供了多种解决方案并取得了实质性的成果。

收益

---

1. 机器学习、深度学习平台优化经验
2. 基于Kubernetes的机器学习平台调度系统设计经验
3. 开源社区运作、参与经验

解决思路

---

我们主要针对分布式训练的特点，主要从调度方面进行了优化，提供了组调度、binpack、拓扑调度、GPU共享等多种调度策略，有效缩短了分布式训练的时间。同时我们增强了分布式训练作业的生命周期管理，让分布式训练更简单、更高效。

结果

---

优化后实际分布式训练性能提升30%以上