确定性回放：面向AI智能体系统
摘要： 将大型语言模型（LLM）与外部工具及API耦合的AI智能体系统本质上具有非确定性：LLM采样的方差、外部API状态、CDN基础设施头部信息以及执行环境噪声，共同导致任何先前的智能体运行都无法被忠实地重新执行。现有的可观测性平台能够捕获执行日志，但无法在隔离环境中复现一次运行。我们提出agrepl，一个面向开发者的CLI框架，用于对智能体执行进行确定性回放。agrepl通过中间人（MITM）代理在传输层拦截所有外部交互，将其序列化为结构化执行轨迹，并在严格隔离、零出站网络访问的环境中回放。我们形式化了智能体执行模型，定义了请求-密钥匹配函数K(s)，并证明了确定性不变性。我们引入了一种噪声感知的差异算法，将HTTP头部信息差异分类为信号层和噪声层。在五个工作负载上的实证评估（n = 250次回放实例）表明，回放保真度F = 1.0，每步延迟中位数降低98.3%。agrepl使用Go语言实现，以单个静态二进制文件形式发布，并采用MIT许可证开源。
关键词： AI智能体、确定性回放、LLM调试、可复现性、MITM代理、执行追踪、记录/回放系统。