PyTorch
介绍 PyTorch 框架的基础知识,包括张量、模型定义、数据集与加载器、标准训练流程、CUDA、工程可视化等内容
训练基础
介绍深度学习的基本概念、训练流程、常见技术(如归一化、正则化)以及模型评价指标,为后续 PyTorch 实践打下坚实基础
张量
介绍 PyTorch 中的张量(Tensor)概念、创建、索引、切片、形状变换、数学运算等基础知识
模型定义
介绍 PyTorch 中模型定义的核心概念 nn.Module,以及常见的模型结构设计模式,如残差连接、分支结构等
数据集
介绍 PyTorch 中数据集(Dataset)和数据加载器(DataLoader)的基本概念、设计原则、使用方法以及性能优化技巧
标准训练流程
介绍 PyTorch 中的标准训练流程,包括训练/验证模式切换、前向传播、反向传播、优化器更新、学习率调度、AMP、梯度裁剪等内容
模型推理
介绍 PyTorch 模型推理的核心方式,包括原生模型推理和 TorchScript 推理,并对比它们的特点和适用场景,同时介绍 ONNX 和 TensorRT 两种常见的模型推理加速工具
训练指标监控
介绍 PyTorch 中的训练日志保存、指标监控、wandb、TensorBoard、PyTorch Profiler、CUDA Profiling 等内容
这篇文档有帮助吗?