🗞️ AI 日报 · 10月2日

企业对AI的期待正在发生根本性转变。过去两年，Copilot模式——AI辅助人类完成工作——是企业落地的主流叙事，但MIT Technology Review这篇报道指出，真正的变革在于自主AI：不是帮人写邮件、做表格，而是端到端地接管业务流程中的决策和执行。文章深入剖析了多家企业从"AI辅助"向"AI自主"迁移的实践，揭示了一个关键矛盾：自主AI的价值越大，企业对失控的恐惧就越深。因此，新一代企业AI架构的核心不是模型能力，而是治理层——权限边界、审计追踪、回滚机制、异常升级。文章还指出，那些成功部署自主AI的企业，往往不是模型最强的，而是流程数字化最彻底的。没有干净的数据和清晰的流程边界，自主AI只会放大混乱。

这期MIT Technology Review的Download栏目聚焦两个看似无关但深层相连的话题。第一，一场生物"逆龄"竞赛正在升温：多家初创公司和学术实验室宣称能在细胞层面逆转衰老标志物，但监管机构和衰老生物学家对此持谨慎态度，核心争议在于——我们到底该用什么指标来定义"逆转衰老"？目前缺乏公认的临床终点，这让竞赛更像一场叙事之争。第二，为什么LLM不会推理？文章梳理了近期多篇论文的核心论证：LLM在训练数据分布内表现出的"推理"能力，在分布外任务上迅速退化为模式匹配。更尖锐的观点是，LLM的推理本质上是检索和插值，而非真正的因果推断。这两个话题的共同底色是：我们太容易把"看起来对"当成"真的对"——无论是对衰老指标，还是对模型能力。

当语言Agent从短任务走向长程任务，外部记忆被当作"冻结的世界模型"来使用，但研究者发现，主流记忆系统的评估只关注任务完成率，完全忽略了记忆访问模式本身的统计特性。这篇论文首次系统测量了长程Agent的记忆轨迹，发现其呈现重尾分布——少数记忆条目被反复调用，绝大多数几乎从不被触及。这种极端不均衡意味着：Agent的决策高度依赖极少数"热点记忆"，一旦这些记忆被污染或过时，整个行为链就会级联崩溃。更关键的是，现有记忆压缩和检索策略都建立在均匀分布的假设上，面对重尾现实几乎全部失效。作者提出，记忆系统的设计目标应该从"存得下"转向"扛得住重尾压力"，并给出了初步的鲁棒性评估框架。

当LLM Agent开始接管订单、支付、库存、物流等模块化系统时，一个根本问题浮出水面：一个模块中的动作会改变其他模块的可用状态，这种跨模块依赖让Agent的规划能力面临严峻考验。直觉上，给Agent配一个因果世界模型应该能显著提升表现，但这篇论文给出了一个更微妙的答案：因果世界模型并非在所有场景下都有用，它的收益高度依赖于模块间耦合的稀疏性和因果结构的可辨识度。在强耦合、反馈延迟长的系统中，因果模型的引入反而可能引入噪声，拖累决策质量。作者通过一组受控实验画出了一条"因果模型有效边界"，明确指出：什么时候该用因果世界模型，什么时候用简单的反应式策略反而更优。这为Agent架构设计提供了第一个可操作的决策依据。

LLM Agent可以提出并执行动作，但从"提案"到"权威授权"到"派发执行"到"验证外部效果"再到"服务上线"，这条链路上每一步都可能断裂。现实中，Agent说它完成了退款，但支付网关可能根本没收到指令；Agent说它更新了库存，但仓库系统可能仍显示旧数据。这篇论文提出了Praxa——一个"证据绑定"的Agent执行框架，核心思想是：Agent的每一个动作都必须携带可验证的外部效果证据，没有证据的动作不允许进入下一环节。Praxa将提案、授权、派发、效果验证和服务推广这五个阶段解耦，并在每个阶段之间设置证据检查点。作者在多个企业级场景中验证了该框架，发现它能将"幽灵执行"（Agent声称完成但实际未生效）的比例降低一个数量级。这可能是Agent从 demo 走向生产环境的关键基础设施。

Agent架构越来越倾向于让前沿大模型做规划，让小语言模型（SLM）处理周边微任务——自动补全、格式转换、简单分类、状态跟踪。但一个被回避的问题是：什么时候一个现成的SLM真的够用？这篇论文首次系统测量了"微任务资格差距"，即SLM在Agent harness中的实际可用边界。研究发现，差距并非均匀分布：结构化输出和短上下文分类任务中，7B级别的SLM已经接近大模型水平；但在需要多步推理、隐式状态追踪或模糊指令消歧的微任务上，SLM的失败率急剧上升，且失败模式往往是静默的——它不会报错，而是给出一个看起来合理但实际错误的输出，直接污染下游决策。作者给出了一个按任务类型划分的SLM适用性图谱，并指出：Agent harness的设计者需要为不同微任务设置不同的模型门槛，而不是一刀切地"用小模型省钱"。