DeepSpeed

开发公司：Microsoft

用于深度学习训练和推理优化的开源库，重点处理分布式计算、显存利用和大模型运行等工程问题。

产品简介

用于深度学习训练和推理优化的开源库，重点处理分布式计算、显存利用和大模型运行等工程问题。适合需要扩展训练规模或优化既有模型流程的技术团队。分布式训练优化：组织多设备上的模型计算；模型运行优化：围绕显存与推理流程调整配置。

组织多设备上的模型计算。

围绕显存与推理流程调整配置。

对于机器学习工程师，可从“分布式训练优化”进入任务，并利用“模型运行优化”继续整理结果；具体价值在于围绕显存与推理流程调整配置。

可用分布式训练优化处理相关工作：组织多设备上的模型计算。

可用模型运行优化处理相关工作：围绕显存与推理流程调整配置。