Generative Models
整理自编码器与 VAE、GAN、扩散模型的思路与最小的 PyTorch 实现,以及条件生成、无分类器引导和生成结果的评价方式
整理自编码器与 VAE、GAN、扩散模型的思路与最小的 PyTorch 实现,以及条件生成、无分类器引导和生成结果的评价方式
整理 PyTorch 中各种归一化层的统计维度与手动计算、BatchNorm 在训练和推理时的区别,以及权重衰减、Dropout、标签平滑等正则化方法的用法与实测效果
整理 PyTorch 中迁移学习与微调的做法,包括加载预训练模型、冻结参数、分层学习率、加载部分权重与 LoRA,以及从头训练、特征提取、全量微调的对比实验
整理深度学习模型常用评估指标的含义、容易产生误导的情况与计算方法,包括混淆矩阵、精确率与召回率、ROC 与 PR 曲线、回归、分割与语言模型的指标,以及指标的正确累积方式
整理目标检测的基本组成:边界框格式、IoU、非极大值抑制、锚框、检测头输出的解码、损失函数、mAP 的计算,以及预训练检测器的使用和坐标映射
整理 PyTorch 训练中显存不足的原因与处理方法,以及怎样找出训练速度的瓶颈
整理 PyTorch 中不报错但结果错误的常见问题,包括损失函数的输入、梯度清零、广播、eval 模式、计算图被切断以及标签的类型与范围
整理 PyTorch 训练出现问题时的排查顺序,以及 NaN、学习率、梯度、过拟合与欠拟合问题的定位方法
整理 PyTorch 模型从训练到推理的过程,包括推理前的准备、导出 ONNX、ONNX Runtime 推理、预处理一致性、量化、耗时测量,以及 TensorRT 与 C++ 推理
整理 PyTorch 训练中检查点的保存与恢复、weights_only 的含义,以及固定随机种子和 GPU 上的不确定性