DeepSeek 公开 R1 模型权重时也披露了训练方法。团队在后训练中使用强化学习,让模型尝试不同解题路径,再根据反馈调整。发布材料把数学题、代码题和自然语言推理分别列出来,方便读者查看评测成绩来自哪些任务。
同一批公开的六个较小模型以 Qwen 或 Llama 为基础。它们学习 R1 输出的解题样本,形成各自独立的权重。这就是这次发布所说的蒸馏。六个模型从 15 亿到 700 亿参数,开发者可以根据设备条件选择版本,观察小模型学会了哪些步骤。
要读懂评测表,先看清一行成绩属于完整 R1,还是某个具体蒸馏版本。对一道能用程序验证的题,可以分别检查最终答案、解题理由和多次作答是否一致。小模型解对一道例题后,再换一组未见过的题目,就能继续检验同一种方法是否适用。
