技术日报 · 2026 年 10 月 22 日 · 星期四
COCOHOT
国产算力·昇腾 910C 大模型推理优化(上):镜像更新与参数调优,提速 40%|得物技术
得物技术介绍了在昇腾 910C 上优化 Qwen3.5-35B-A3B 在线推理的实践,重点是低并发 decode 的 TPOT。将 vllm-ascend 从 0.22.0rc1 升至 0.23.0rc1 后,c=1 TPOT 从 14.2ms 降至 12.0ms;未开启投机解码时,叠加优化后降至 7.8ms。
架构演进与工程实战
Agent as a Service:驱动 Personal Agent 与企业智能体的服务架构
阿里云云原生讲解基于 AgentScope 构建 Agent as a Service 的架构,将 Harness、持久状态与工具执行分离,支持个人助手与企业智能体持续推进任务。
Jev:当 AI 不再"写答案",而是直接做决策
Jev 面向结构化问题返回有类型的决策及概率,京东技术围绕其与 LLM 的分工和生产接入展开解读。其 Choice、Score 和 Noul 三种输出分别用于选择、评分和带概率的二元判断,但类型正确不等于语义正确,概率输出也不能替代业务安全约束。落地建议从高频、边界清楚、可评测、可回滚的决策点开始,比较规则、传统分类器、LLM 结构化输出与 Jev,并经过离线评测、影子运行和逐步放量。
域名埋点零侵入实时校验实践:基于代理转发与规则驱动的工具设计
vivo 互联网前端团队介绍 Flyheart Monitor,通过代理转发和规则驱动校验,在不修改业务代码的情况下实时检查 H5 域名埋点。工具以 Node.js 接收请求并通过 WebSocket 推送至浏览器,按 cfrom 匹配规则、检查参数缺失与类型异常,并支持将请求和校验结果导出为 Canvas 宫格图。
11 天的后期压成 30 分钟:我用火山引擎 AI MediaKit Skill 做完了一条成片
投稿开发者实测火山引擎 AI MediaKit Skill,画质增强、字幕擦除、场景切分及字幕包装等任务合计约 27 分钟,人工输入操作不到 5 分钟。演示包括将 480p 视频提升至 1080p、将短剧拆成 17 个片段后选取拼接,以及为个人拍摄的 14 秒孔明灯视频增强画质并添加字幕。
开发工具与平台发布
OpenAI 模型与 Codex workflows 将进入 Gemini’s Model Garden
OpenAI 与 Google Cloud 将把 frontier models 和 Codex workflows 引入 Gemini’s Model Garden,并通过 Google Cloud Marketplace 提供。
底层原理与深度拆解
非算法工程师也能看懂,推理框架的来龙去脉
文章系统解释推理框架在模型部署与智能体调用中的作用,并按请求处理链路梳理入口、调度、执行、缓存、集群和输出环节。文章梳理 vLLM、SGLang、TensorRT-LLM 等开源项目的发展,并解释 Prefill、Decode、KV Cache、连续批处理和 PD 分离等机制与延迟、吞吐及成本的关系。
记忆不是存历史,而是治理未来行动|KDC 系列 04
vivo 互联网存储团队在 KDC 系列第 04 篇中提出,AI 系统记忆的核心不是保存更多历史,而是治理哪些历史仍能影响未来判断与行动。文章将记忆置于形成、强化、衰减、冲突、遗忘、迁移和归档的生命周期,并强调反馈需结合来源、可信度及错误归因,不能直接视为真值。文中以退款为例提出 Feedback Contract 的六项设计问题,用于关联现实结果与原行动,并说明 KDC 仍处于开放研究阶段。
生态周边与行业快讯
如何从构建AI到驾驭AI?快手8场工程实践亮相QCon 2026
快手技术团队将由 9 位技术专家参与 10 月 22 日–24 日举行的 QCon 2026 上海站,带来 8 场工程实践分享及 AIGC 内容工业化专题。议题涵盖 AI 原生架构、智能运维、Data Agent、移动端稳定性、端云协同、电商导购、安全保障与广告素材修复。
架构视野与工程思考
天猫数字员工(协作篇)- 研发的暗物质与 AI Native 组织协作
天猫技术以驻钉钉需求群的数字员工探索端到端研发协作,通过共享需求上下文和沉淀业务资产,减少信息交接、等待检索与隐性知识流失。数字员工已在天猫技术所有业务线落地推广,月均活跃需求交付100+,上下文层按知识、能力、过程、协作四个维度组织资产。文章提出流程协同、单人主导、数字员工主导三级演进路径,目前交付主要运行在前两级,第三级自主推进与定向找人仍在探索,放权前需建立门禁、回滚和升级人工机制。