技术方向
高并发推理引擎、延迟约束下的吞吐优化、算子加速、显存治理与在线服务基础设施。
27 条精选近 30 天 20 条共收录 28 条
天猫技术以驻钉钉需求群的数字员工探索端到端研发协作，通过共享需求上下文和沉淀业务资产，减少信息交接、等待检索与隐性知识流失。数字员工已在天猫技术所有业务线落地推广，月均活跃需求交付100+，上下文层按知识、能力、过程、协作四个维度组织资产。文章提出流程协同、单人主导、数字员工主导三级演进路径，目前交付主要运行在前两级，第三级自主推进与定向找人仍在探索，放权前需建立门禁、回滚和升级人工机制。
推荐理由：将研发提效拆成协作路径压缩与隐性知识沉淀两条线，为定位编码之外的交付瓶颈提供了可迁移的分析框架。
Jev 面向结构化问题返回有类型的决策及概率，京东技术围绕其与 LLM 的分工和生产接入展开解读。其 Choice、Score 和 Noul 三种输出分别用于选择、评分和带概率的二元判断，但类型正确不等于语义正确，概率输出也不能替代业务安全约束。落地建议从高频、边界清楚、可评测、可回滚的决策点开始，比较规则、传统分类器、LLM 结构化输出与 Jev，并经过离线评测、影子运行和逐步放量。
推荐理由：将决策模型接入拆成契约定义、基线比较和影子运行，把类型约束、概率评测与执行权限分开处理，可迁移到边界明确的自动化节点。
火山引擎 AI MediaKit 巨幕超分方案在 2026 抖音美好奇妙夜中，将 720P/1080P 素材增强至 8K 用于 20 米舞台巨幕播放。方案通过逐帧语义级纹理生成、边缘细节重建和时序一致性约束，补全原始素材中不存在的细节并避免帧间闪烁。该能力此前已在 2026 年春晚将 Seedance 2.0 生成的 720P 视频增强至 8K，目前最高支持 16K/32K 分辨率输出。
推荐理由：原文拆解了巨幕超分在纹理生成、边缘重建与时序一致性上的具体做法，可了解生成式补全如何落到工程交付。
火山方舟上线 DeepSeek-V4.1-Flash-1017，相较 9 月 10 日首发版本，Agent 与代码能力提升，在 Terminal-Bench 4.0、DeepSWE v1.1、ProgramBench 等基准上较上版显著提升，任务运行时间与输出长度明显缩短。
推荐理由：火山方舟上线 DeepSeek-V4.1-Flash-1017，并给出标准版与经济版同权重、8 折计费的差异，便于对比选型。
文章梳理 Transformer 以来大模型架构的演进，指出 BERT、T5、GPT 三条路线的实质差异在于注意力可见范围和预训练任务。文中分析 2026 年 9 月 TypeSafe AI 发布的 Jev 在 prefill 后不进入 decode，直接读出各选项概率，并对照开源项目 Laya 说明去掉生成不难、难的是底层网络的理解能力。
推荐理由：文章把 BERT、GPT 到 Jev 的架构差异落到注意力可见范围与输出方式两点上，便于读者理解判断类模型与生成式 LLM 的分工。
大淘宝技术介绍方舟 AI 会场 Agent Harness，把用户一句话需求经策划、视觉设计、数据装配与页面构建链路转化为可投放淘内或端外的 page.html 会场。
推荐理由：淘天团队拆解会场 Agent 的 Harness 环境，涵盖 Skill 体系、SubAgent 上下文隔离与质检观测，可供构建生产级 Agent 参考。
美团技术团队公开了面向搜索推荐场景 SLM 的推理引擎，以静态 DAG 组织完整业务请求，结合 AOTInductor 编译、Packed Prefill、请求内 K/V 共享和选择性 FP8 压缩调度与计算开销。
推荐理由：美团公开了面向搜推有界生成负载的推理引擎设计，含分层 A/B 数据与适用边界，可供同类低延迟场景参考。
得物技术介绍了资产验收场景的 Agent 实践，把验收规则以文本配置下发，由 LLM 负责材料提取与规则比对，文件解析、印章检测、数值核对等环节交给确定性代码。系统配套用户反馈推导标准答案、试跑与回测双阈值门禁、三种流量四道隔离闸门，并采用提取与判定分离的双制品模型、关键判定多模型投票和盖章检测三级流水线。文中称月均验收单审批量数百单，规则发布需回测一致率超过配置阈值（如≥90%）才允许常规发布。
推荐理由：得物技术公开资产验收 Agent 的确定性工作流设计，含试跑回测门禁与防幻觉护栏的具体实现。
阿里技术作者以工程背景学习斯坦福 CS336 课程，跟随 Assignment1 从零手写一个 Llama 风格 decoder-only Transformer，并逐模块拆解实现。
推荐理由：作者以工程背景从零手写 Transformer 各模块，并附参数量与 FLOPs 核算，可作为理解 LLM 底层结构的实操参考。
阿里技术系统梳理了 RSI（递归自我改进）的概念边界，指出它与 Agent 自进化、持续学习的关键区别在于改进必须由 AI 自身完成。
推荐理由：文章把 RSI 从概念争议到 DGM、SEAL、AlphaEvolve 等代表工作串成一条线，并给出可复用的六步闭环框架。
腾讯技术工程发布近三万字长文，用猜数字和“他口渴了，于是喝了一杯____”等同一组例子，从预测下一个 token、熵与交叉熵讲到神经网络、Transformer 和从模型到 ChatGPT 的后训练流程。文章称不需要机器学习背景，数学只用到加减乘除和对数，带计算过程的公式可跳过。文中还梳理了幻觉、知识截止、上下文有限等局限，并引用 DeepSeek-R1 报告说明可验证奖励的推理强化学习。
推荐理由：长文用同一组例子把预测下一个 token、交叉熵、Transformer 到后训练串成一条线，适合作为入门路径参考。
腾讯技术工程复盘 OK 平台端到端 AI 研发实践，安全中心项目空间 4 月至 6 月提交的 254 条需求中，AI 端到端完成 172 条（68%），51% 的需求在 2 小时内完成。
推荐理由：腾讯 OK 平台公开了端到端 AI 研发的九阶段流程与真实运营数据，可看到各环节质量门的具体设计。
阿里稳定性团队复盘 S1 的 AI Native 研发转型，通过结构化技能、Anchor 插件和质量门禁，将跨角色生成的代码纳入团队交付流程。设计原型库与正式库分离但共享规范，AIOps 原型代码复用率从不足 30% 提升至 80%，还原、走查和修改从两三天压缩到半天。跨端开发仍需专业 owner 评审与结对支持，返工、缺陷、长期维护成本及应急助手的诊断效果尚未形成完整衡量结果。
推荐理由：把技术栈识别、规范加载和提交检查嵌入代码生产流程，为跨角色使用 AI 后如何减少交接返工提供了可迁移的工程方法。
阿里 TRE AI 系统工程团队用 AKA 优化 Qwen3.8-Max 的三类核心算子，在 60 个真实业务 shape 上均取得低于专家版本的几何平均时延。AKA 与算子库 atrex-kernels 已开源，地址为 https://github.com/alibaba/atrex-kernel-agent 和 https://github.com/alibaba/atrex-kernels。
推荐理由：文章用 60 个真实业务 shape 对比生产基线与专家实现，并拆解三条算子线的结构优化，呈现 Kernel Agent 从榜单验证走向生产交付的工程路径。
vivo 互联网存储团队在 KDC 系列 02 中区分知识与文件、向量及 RAG，并将知识定义为已经验证、可复用且能降低不确定性的认知成果。文章以旧版退款政策被检索误用为例，提出知识对象应管理来源、证据、版本、成熟度和适用边界，并介绍了 Knowledge Card 的实践检查项。作者说明 KDC 仍处于开放研究阶段，相关定义与框架尚非成熟的行业标准。
推荐理由：旧版退款政策被高相似度检索误用的案例，具体呈现了版本、有效性与适用边界治理的重要性，文中还给出 Knowledge Card 的检查框架。
得物交易搜索团队复盘过去一年从判别式检索转向生成式召回的实践，覆盖LLM文本索引增强、多模态四塔向量召回、HLLM语义表征、HSTU行为序列建模与基于语义ID的统一生成式召回。
推荐理由：得物交易搜索团队完整复盘从判别式检索转向生成式召回的工程路径，包含量化方案与线上架构取舍。
字节跳动技术团队以客户赔付口径冲突为例，演示如何用 OpenViking 零代码搭建 LLM-Wiki 团队知识库。流程包括通过本地上传、链接、飞书文档同步和 add-resource 命令导入资料，再用 Compile 配合自定义或官方 llm-wiki skill 将原始数据编译成带交叉引用的 Wiki，成员可在控制台编辑修正。
推荐理由：以赔付口径冲突的案例串起导入、Compile 编译、人工修订到 Agent 检索的完整链路，可作团队知识库落地参考。
腾讯资深搜索后台工程师吴银光讲述自己2025年初放下T12与管理头衔、转入大模型推理工程团队的经历与思考。他给出推理工程入门路径，包括建立模型结构与推理体系认知、阅读nano-vLLM和mini-sglang源码、深入PD分离与分布式KV Cache等方向，并设计同批次共享前缀、Beam Search等自检练习。
推荐理由：一位15年后台工程师复盘转岗大模型推理的路径与自检方法，并给出AI Infra与通用Infra同源分流的判断。
美团技术团队提出统一推荐基座大模型 MTFM，在 MTGR 基础上首次实现外卖多个主要业务的统一精排模型，相关工作已被 KDD 2026 收录。模型以异构 Tokenizer 与动态掩码实现多场景特征免对齐，用混合注意力与 Target Scale-Up 提升 Scaling 能力，并借鉴 LLM 的初始化、Muon 优化器等实践改善深层网络训练。
推荐理由：美团公开了推荐基座模型从多场景统一建模到训推优化的完整工程路径，可看工业级 Scaling 如何落到业务指标。
大淘宝技术团队撰文讨论 loop engineering，主张工程师不再逐轮提示 agent，而是设计包含读取状态、判断任务、执行、验证、记录状态和停止条件的自动化循环。
推荐理由：文章把 loop engineering 拆成六个组件并给出可落地的 CI triage 示例，读者可据此判断哪些任务适合交给 agent 循环。