以下为上游提供的源文稿,可能存在识别错误。
乔木转写是基于源文稿的中文提炼,不是逐字翻译。请核对原文中的人名、数字与观点。
选一篇,慢慢读
从左侧挑一篇,正文会在这里排成书页。
On-Policy Self-Distillation (OPSD) improves reasoning by training a student on its own reasoning, using the same model conditioned on reference solutions as a teacher. Applying OPSD to multilingual reasoning requires the teacher to provide useful feedback across languages, even when the student makes mistakes in interm
阅读原文 · Jaewon Cho, Minseo Yoon, Jinyoung Park, Jinwoo Seo, Jaewon Chu, Alice Oh, Hyunwoo J. Kim
向阳乔木 · opencode-go/deepseek-v4.1-flash
多语言推理蒸馏里有个容易被忽略的细节:老师模型不一定一直在教对的东西。 这篇论文盯的就是这件事。作者在 On-Policy Self-Distillation(OPSD)框架下观察到一个现象,学生模型自己推理出错之后,老师模型会顺着学生的错误步骤往下走,而不是把它拉回来。他们把这个现象叫 Teacher Drift ,并且发现低资源语言里漂移来得更早。 如果...