2026-08-02AI自回归解码站在关键路径上:GUI 智能体的 650ms 截止时间问题同一个冻结模型,只把动作生成挪出关键路径,650ms 截止窗口下成功率 0.50→0.79。瓶颈不在推理能力,在自回归解码的 411ms。agentinferencelatencyllm
2026-08-02AI自省不如重复采样:等 token 成本下 7 种推理方法的 36 组对照七种「让模型想得更好」的方法,在等 token 预算下和重复采样逐题配对:36 组对照零胜十负,输的全是自省类。llminferenceevaluationagent