跳到正文
  1. 腾讯技术工程72

    从 BERT、GPT 到 Jev:一文看懂大模型架构的演进与分化

    文章梳理 Transformer 以来大模型架构的演进,指出 BERT、T5、GPT 三条路线的实质差异在于注意力可见范围和预训练任务。文中分析 2026 年 9 月 TypeSafe AI 发布的 Jev 在 prefill 后不进入 decode,直接读出各选项概率,并对照开源项目 Laya 说明去掉生成不难、难的是底层网络的理解能力。

    推荐理由:文章把 BERT、GPT 到 Jev 的架构差异落到注意力可见范围与输出方式两点上,便于读者理解判断类模型与生成式 LLM 的分工。

  1. 阿里技术72

    手把手带工程同学从零实现一个完整的 LLM(CS336)——Transformer 篇

    阿里技术作者以工程背景学习斯坦福 CS336 课程,跟随 Assignment1 从零手写一个 Llama 风格 decoder-only Transformer,并逐模块拆解实现。

    推荐理由:作者以工程背景从零手写 Transformer 各模块,并附参数量与 FLOPs 核算,可作为理解 LLM 底层结构的实操参考。

  1. 阿里技术72

    深度解析 RSI:当 AI 开始实现自我迭代提升

    阿里技术系统梳理了 RSI(递归自我改进)的概念边界,指出它与 Agent 自进化、持续学习的关键区别在于改进必须由 AI 自身完成。

    推荐理由:文章把 RSI 从概念争议到 DGM、SEAL、AlphaEvolve 等代表工作串成一条线,并给出可复用的六步闭环框架。

  2. 腾讯技术工程62

    三万字长文:大语言模型从零入门

    腾讯技术工程发布近三万字长文,用猜数字和“他口渴了,于是喝了一杯____”等同一组例子,从预测下一个 token、熵与交叉熵讲到神经网络、Transformer 和从模型到 ChatGPT 的后训练流程。文章称不需要机器学习背景,数学只用到加减乘除和对数,带计算过程的公式可跳过。文中还梳理了幻觉、知识截止、上下文有限等局限,并引用 DeepSeek-R1 报告说明可验证奖励的推理强化学习。

    推荐理由:长文用同一组例子把预测下一个 token、交叉熵、Transformer 到后训练串成一条线,适合作为入门路径参考。

  1. 美团技术团队博客72

    GeoRA: 为RLVR设计的LoRA——ACL 2026杰出论文解析

    美团履约技术团队与北京大学合作的《GeoRA: Geometry-Aware Low-Rank Adaptation for RLVR》入选 ACL 2026 杰出论文,全球共 18 篇入选。

    推荐理由:美团与北大提出面向 RLVR 的低秩适配方法 GeoRA,读者可了解其几何先验设计与在业务 Agentic RL 中的落地数据。

  1. 美团技术团队博客72

    KDD'26美团学术论文精选及KDD Cup'26 DataAgents赛道冠军思路解读

    美团技术团队有 8 篇论文被 KDD 2026 收录,覆盖推荐大模型、奖励建模、智能体搜索、Transformer 框架与元泛化等方向。其中 MTFM 以无对齐方式统一多场景推荐并已全量替换独立精排模型,MTGenRec 相比 TorchRec baseline 取得 1.6 倍至 2.4 倍训练加速。

    推荐理由:美团公开 KDD 2026 收录的 8 篇论文与 KDD Cup DataAgents 赛道夺冠方案,可看到工业推荐、奖励建模与智能体搜索的落地路径。

已经到底了