跳到正文

技术方向

模型推理与部署工程 最新动态

高并发推理引擎、延迟约束下的吞吐优化、算子加速、显存治理与在线服务基础设施。

27 条精选近 30 天 20 条共收录 28 条

更新

精选归档 · 第 2 页

9月9日周三第 21–27 条
  1. 大淘宝技术80

    Agent 长程任务断点续传:从框架 Checkpoint 到跨进程恢复的完整实践

    淘天集团直播技术团队介绍了基于 Spring AI Alibaba 1.1.2.0 的 Agent 长程任务断点续传方案,采用框架层 Checkpoint 加上层任务调度的两层架构,不修改框架源码。

    推荐理由:淘天直播技术团队公开了不改框架源码实现 Agent 断点续传的两层方案,含关机摘流与子图 ID 处理细节。

9月3日周四
  1. 快手技术82

    Harness Engineering:快手电商用 AI 流水线重塑研发范式

    快手电商商家和运营赋能中心分享了用 AI 流水线重塑研发范式的实践,把需求、Spec、开发、测试、oncall 各阶段串成自动化交付链路。团队称 2026 年 1 月至 4 月人均代码量增加 170%,但平均需求交付时长缩短有限,因此转向全生命周期自动化,目标需求吞吐率提升 30%、平均交付时长下降 40%。

    推荐理由:快手电商团队复盘了从需求到 oncall 的 AI 流水线搭建过程,并给出组织调整与踩坑清单,可作为复杂系统落地 Agent 交付的参考。

  2. 美团技术团队博客78

    美团智播——数字人直播技术创新与实践

    美团技术团队介绍面向本地生活场景的AI数字人直播方案美团智播,围绕形象生成、动作驱动、语音手势协调与推理加速四项技术展开。方案支持真人1:1复刻、30秒生成直播素材、3分钟完成开播配置,过去一年月日均GTV同比增长82.12%,开播场次提升11倍。其中Glance2Gaze实现75%视觉token压缩与2.5倍推理加速,将并发成本降低60%以上。

    推荐理由:美团智播团队系统拆解数字人直播从形象生成到万路并发的四项自研技术,可作为多智能体实时系统的工程参考。

9月2日周三
  1. 得物技术78

    得物小摊 AI Native 演进实录:用 Harness 构建可控 AI 交付

    得物技术复盘小摊业务从 0 到 1 孵化中让 AI 并行参与 H5、运营后台、Node 网关和 Go 服务开发的过程,提出 Delivery Harness 以 Version Contract、Execution Boundary、Evidence Gate、Repair Loop 四个组件接管交付状态。

    推荐理由:得物技术复盘单人全栈交付中 AI 多模块协作的失控风险,并给出四个可复用组件的落地方式。

9月1日周二
8月27日周四
8月20日周四