跳到正文
  1. 阿里云云原生76

    非算法工程师也能看懂,推理框架的来龙去脉

    文章系统解释推理框架在模型部署与智能体调用中的作用,并按请求处理链路梳理入口、调度、执行、缓存、集群和输出环节。文章梳理 vLLM、SGLang、TensorRT-LLM 等开源项目的发展,并解释 Prefill、Decode、KV Cache、连续批处理和 PD 分离等机制与延迟、吞吐及成本的关系。

    推荐理由:文章沿着请求处理链路拆解推理框架,并联系智能体的长上下文负载,帮助读者理解缓存、调度与吞吐如何影响成本和响应体验。

  1. 阿里技术72

    深度解析 RSI:当 AI 开始实现自我迭代提升

    阿里技术系统梳理了 RSI(递归自我改进)的概念边界,指出它与 Agent 自进化、持续学习的关键区别在于改进必须由 AI 自身完成。

    推荐理由:文章把 RSI 从概念争议到 DGM、SEAL、AlphaEvolve 等代表工作串成一条线,并给出可复用的六步闭环框架。

已经到底了