being v3 · 学概率分布 · 实时 loss

上下文蒸馏：老师 = 带原理的 Qwen，学生 = 不带原理的同一个模型 + LoRA。每 30 秒自动刷新。

进度

–

最新 loss

–

近 10 步平均

–

已用 / 预计剩余

–

每步 loss（8 条样本平均）滑动平均v2 滑动平均（对照）

being v3 = being v2（v7）同样的 2298 条数据、同样的 LoRA 和步数，只改一处：学生不再只学老师抽中的那个 token，而是对齐老师每一步前 20 个 token 的概率（加其余概率桶，前向 KL）。老师不认同的位置（含改写处）、钥匙句、逐字背诵仍按原来的硬标签。这里的 loss 是 KL 和交叉熵的混合，数值不能和 v7 直接比。