PyTorch Checkpoints and Reproducibility
整理 PyTorch 训练中检查点的保存与恢复、weights_only 的含义,以及固定随机种子和 GPU 上的不确定性
整理 PyTorch 训练中检查点的保存与恢复、weights_only 的含义,以及固定随机种子和 GPU 上的不确定性
整理 PyTorch 的训练流程,包括损失函数、优化器与学习率调度、训练与验证循环,以及梯度裁剪、梯度累积、混合精度、提前停止等训练技巧
整理 PyTorch 的数据加载与数据增强,包括 Dataset、DataLoader、变长样本的整理以及训练与验证时的图像变换
整理 PyTorch 中 Transformer 的张量形状、注意力计算、掩码、位置编码与参数量,常用的模型结构,以及语言模型的训练、逐词生成与 KV 缓存
整理 Linux 下 ssh、scp、rsync、screen、tmux、tar、grep、find、shc、wine 等常用工具的安装与用法
汇总 Linux 文件系统类型、挂载与卸载命令、挂载选项及 fstab 配置
介绍 ZeroMQ 的安装与源码编译、通信模式、传输协议、CURVE 加密认证,以及 C++ 与 Python 下的用法
整理 Python 虚拟环境的用途,以及 venv、Conda、uv 三种工具的环境创建、包管理与项目依赖管理方法
汇总 Matplotlib 的两种绘图接口、常用图表、样式参数、子图、中文显示与图片保存
介绍标准镜头与鱼眼镜头在不同投影模型下,由焦距和传感器尺寸计算视场角的方法