GrandLine_LLM

从零构建类 Qwen 3 Dense架构 / Deepseek MoE架构大语言模型，全链路打通“预训练、SFT、CoT蒸馏、GRPO 对齐与评测闭环”的端到端大模型训练管线。

训练结果分析： 量化指标表明，经过 GRPO 本地组相对策略优化后，模型在格式遵循与文本连贯性上展现出极高的收敛度：CoT 推理范式掌握率（Format Reward）达到 0.99，语法流畅度（Fluency）接近物理极限收敛至 0.985。然而，受限于 0.08B 极小参数规模的固有知识容量（Knowledge Capacity）瓶颈，事实准确性（Factuality）与指令遵循度（Instruction Following）的收敛上界分别停靠在 0.73 和 0.35 左右，全局平均期望奖励（Mean Reward）稳定在 0.68 区间。