手把手带工程同学从零实现一个完整的 LLM(CS336)——Transformer 篇
阿里技术作者以工程背景学习斯坦福 CS336 课程,跟随 Assignment1 从零手写一个 Llama 风格 decoder-only Transformer,并逐模块拆解实现。
推荐理由:作者以工程背景从零手写 Transformer 各模块,并附参数量与 FLOPs 核算,可作为理解 LLM 底层结构的实操参考。
阿里技术作者以工程背景学习斯坦福 CS336 课程,跟随 Assignment1 从零手写一个 Llama 风格 decoder-only Transformer,并逐模块拆解实现。
推荐理由:作者以工程背景从零手写 Transformer 各模块,并附参数量与 FLOPs 核算,可作为理解 LLM 底层结构的实操参考。
美团图灵 Agent 评测团队将内部博客公开,由浅入深讲解 Agent 评测,涵盖评测是什么、如何建立评测体系,以及长程 Agent 框架对评测带来的变化。文章提出观测加评测等于持续迭代,主张评测需覆盖结果、过程、效率、风险四层,并用指标下钻与 Rubric 二元化实现人人一致、人机一致,文中称数字站长人机一致率达 99%,Beam 从 62% 提升到 92%。
推荐理由:美团图灵团队把两年内部评测实践公开,给出从指标体系到长程 Agent 评测基建的完整落地路径。