
资源介绍
通过提升模型训练过程构建更精准的模型
使用 PyTorch 显著加速复杂模型的构建过程,从任何计算环境中提取最佳性能
核心特点
通过应用优化技术和方法减少模型构建时间
利用多设备和多机器的计算能力提升训练过程
通过快速评估不同的模型配置,专注于模型质量
内容简介
本书由一位拥有超过 25 年经验的高性能计算专家撰写,将指导你利用 PyTorch 提升模型训练性能。在这里,你将了解模型复杂度如何影响训练时间,发现加速训练过程的性能调优层面,以及利用 PyTorch 的特性、专业库和高效数据管道来优化 CPU 和加速器上的训练。你还将学习降低模型复杂度、采用混合精度,以及利用多核系统和多 GPU 环境进行分布式训练。到最后,你将掌握加速训练的技术和策略,从而专注于构建出色的模型。
你将学到什么
编译模型以实现更快训练
使用专业库优化 CPU 上的训练
构建数据管道以提升 GPU 执行效率
通过剪枝和压缩技术简化模型
采用自动混合精度,且不影响模型精度
在多机器和多设备上分布式执行训练步骤
本书适用人群
本书面向中级数据科学家,他们希望学习如何利用 PyTorch,通过一系列优化策略和技术来加速机器学习模型的训练过程。要充分利用本书,读者需熟悉机器学习、PyTorch 和 Python 的基本概念。但无需事先了解分布式计算、加速器或多核处理器的相关知识。
目录
训练过程解构
更快地训练模型
模型编译
专业库的使用
构建高效数据管道
模型简化
混合精度的采用
分布式训练概述
多 CPU 训练
多 GPU 训练
多机器训练