Reverse-mode autodiff laboratory

反向传播与残差梯度实验台

从可手算标量图走到残差分支,观察局部导数怎样相乘、分支梯度怎样相加。

正在校验
先预测,再操作,最后解释

误差怎样沿计算路线,回到每个参数?

先算输出和误差;此时还没有更新任何参数。

学习模式
2.00
5.00
局部系数
3.00
0.50
0.25
残差直通

标量链式法则

y=wx · L=(y−t)²

逐步查看标量计算图或残差代理模型的前向值、局部导数、累计梯度和有限差分检查。

当前 Loss—
解析梯度 dL/dx—
有限差分最大相对误差—
当前结论

—

模型边界:残差模式用标量斜率 a、f 代理 Attention 与 FFN 的局部 Jacobian,只解释 Identity Path 与分支梯度汇合,不是在浏览器中训练真实 Transformer。有限差分仅用于小规模可信度检查。D3.js 7.9.0,ISC License;页面离线运行,不发送数据。