温度、Top-k 与 Top-p:概率质量如何被筛选

固定 logits,逐步观察温度变形、候选截断、重新归一化与采样

自包含单文件 · 无网络请求
先预测,再操作,最后解释

为什么同一句开头,会接出不同的词?

保留所有候选,观察温度改变了概率分布的形状。

候选概率(浅色:温度后;深色:截断并重新归一化后)

伪随机数种子固定;刷新页面或依次点击重采样可复现实验序列。