跳到正文
只看技术深度#DeepSeek
今天10月21日周三1 条
  1. 阿里云云原生76

    非算法工程师也能看懂，推理框架的来龙去脉

    文章系统解释推理框架在模型部署与智能体调用中的作用，并按请求处理链路梳理入口、调度、执行、缓存、集群和输出环节。文章梳理 vLLM、SGLang、TensorRT-LLM 等开源项目的发展，并解释 Prefill、Decode、KV Cache、连续批处理和 PD 分离等机制与延迟、吞吐及成本的关系。

    推荐理由：文章沿着请求处理链路拆解推理框架，并联系智能体的长上下文负载，帮助读者理解缓存、调度与吞吐如何影响成本和响应体验。

10月19日周一
  1. 腾讯技术工程72

    从 BERT、GPT 到 Jev：一文看懂大模型架构的演进与分化

    文章梳理 Transformer 以来大模型架构的演进，指出 BERT、T5、GPT 三条路线的实质差异在于注意力可见范围和预训练任务。文中分析 2026 年 9 月 TypeSafe AI 发布的 Jev 在 prefill 后不进入 decode，直接读出各选项概率，并对照开源项目 Laya 说明去掉生成不难、难的是底层网络的理解能力。

    推荐理由：文章把 BERT、GPT 到 Jev 的架构差异落到注意力可见范围与输出方式两点上，便于读者理解判断类模型与生成式 LLM 的分工。