三万字长文：大语言模型从零入门

腾讯技术工程发布近三万字长文，用猜数字和“他口渴了，于是喝了一杯____”等同一组例子，从预测下一个 token、熵与交叉熵讲到神经网络、Transformer 和从模型到 ChatGPT 的后训练流程。文章称不需要机器学习背景，数学只用到加减乘除和对数，带计算过程的公式可跳过。文中还梳理了幻觉、知识截止、上下文有限等局限，并引用 DeepSeek-R1 报告说明可验证奖励的推理强化学习。