← 返回日报
🌐 机器翻译 · DeepSeek · GitHub

uber ADR


ADR:智能体人工智能检测与响应

ADR(Agentic AI Detection and Response,智能体人工智能检测与响应)是一个面向AI智能体的企业级安全系统。它帮助组织保护面向员工的智能体,如 Cursor、Claude Code 和 Codex,以及面向客户的智能体,如 AI 支持智能体。ADR 已在 Uber 的生产环境中部署,相关论文已被 MLSys 2026 接收:[论文 PDF](链接) · [幻灯片 PDF](链接)

ADR 如何保护企业 AI 智能体

ADR 通过四种互补能力保护企业 AI 智能体:观察智能体活动、评估防御能力、检测威胁以及阻止不安全操作。

ADR 可观测性:了解 AI 智能体在做什么以及为什么这样做。在生产环境中,ADR 捕获 macOS、Linux 和 Windows 上 7 种以上 AI 编码工具以及内部自动化和面向客户的智能体的意图、工具使用和执行轨迹。

ADR 基准测试:在真实企业条件下测试智能体安全性。ADR-Bench 包含 300 多个任务、133 个 MCP 服务器,覆盖全部 17 种智能体攻击技术。

ADR 检测:高效检测风险智能体行为。其两层架构将高召回率的初步筛选与针对可疑会话的深度智能体推理相结合。

ADR 防护:在不安全操作造成危害之前阻止它们。该组件不包含在当前开源版本中,敬请期待。

仓库结构

本仓库包含论文中描述的开源 ADR 传感器(Sensor)、ADR-Bench 和 ADR 检测器(Detector)。离线 ADR Explorer 引擎(通过部署前红队测试强化 ADR 检测)不包含在此处。

| 路径 | ADR 组件 | 描述 | |------|----------|------| | Sensor/ | ADR 可观测性 | 从 Claude Code、Cursor、Codex 等工具收集并标准化智能体遥测数据 | | Detection/ | ADR 基准测试 + 检测 | 双智能体检测器、133 个 MCP 服务器、303 个基准测试任务、基线、图表脚本 | | docs/REPRODUCIBILITY.md | 评估 | 复现基准检测和论文图表的逐步工作流程 |

快速开始:ADR 检测

git clone https://github.com/uber/ADR
cd ADR/Detection
uv sync
export ANTHROPIC_API_KEY="..."
export OPENAI_API_KEY="..."

默认检测器为 adr(ADR 双智能体)。如需无密钥冒烟测试,请使用 --detector llamafirewall(参见 Detection/README.md)。完整的评估工作流程(解压打包的基准 → 运行检测器 → 绘制图表)请参阅 docs/REPRODUCIBILITY.md

组件文档

或使用 CITATION.cff

许可证

Apache License 2.0。参见 LICENSEDetection/benchmark/agentdojo/ 是第三方供应商代码,遵循其自己的许可证(MIT)。

数据声明

Detection/ 包含合成基准测试数据(虚假凭据、模拟环境、提示注入场景),仅用于防御性安全研究。详情请参阅 docs/OPEN_SOURCE_REVIEW.md

📖 阅读原文 →