大模型预训练工程与一次参数更新的完整旅程

预训练怎样把数据变成参数

以文本自回归模型为例，训练样本的后续 Token 直接提供监督信号，因此称为自监督；并不需要人逐句填写标准问答。其他模型也会使用遮盖预测、图文对齐等目标，不能把所有预训练都归为同一种任务。

数据清理和配比 → 切分 Token 与组成批次 → 前向预测 → 计算损失 → 反向传播求梯度 → 优化器调整参数，是一次更新的主线。梯度描述参数微小变化怎样影响当前损失，优化器据此选择更新步长。

可以把一个预测玩具任务想成：模型本来给正确片段很低的概率，通过许多样本的更新，使相关模式更容易被预测。不是每轮都单调变好，也不是逐条把句子存进参数。

最小数学边界

常用预测目标是负对数似然 $L=-\sum_t\log p_\theta(x_t\mid x_{<t})$；基本梯度下降示意为 $\theta' = \theta-\eta\nabla_\theta L$。真实预训练常用 AdamW 等优化器和分布式系统，此式只表示更新方向的直觉。

更多参数、数据和计算需要合理分配；重复、污染或低质量数据不能靠规模自动修复。预训练后的基础模型还需要 大模型后训练机制与一次策略更新的完整旅程 ↗ 中的任务与行为塑造。