← 返回日报
🌐 机器翻译 · DeepSeek · GitHub

chopratejas headroom


chopratejas headroom

██╗ ██╗███████╗ █████╗ ██████╗ ██████╗ ██████╗ ██████╗ ███╗ ███╗ ██║ ██║██╔════╝██╔══██╗██╔══██╗██╔══██╗██╔═══██╗██╔═══██╗████╗ ████║ ███████║█████╗ ███████║██║ ██║██████╔╝██║ ██║██║ ██║██╔████╔██║ ██╔══██║██╔══╝ ██╔══██║██║ ██║██╔══██╗██║ ██║██║ ██║██║╚██╔╝██║ ██║ ██║███████╗██║ ██║██████╔╝██║ ██║╚██████╔╝╚██████╔╝██║ ╚═╝ ██║ ╚═╝ ╚═╝╚══════╝╚═╝ ╚═╝╚═════╝ ╚═╝ ╚═╝ ╚═════╝ ╚═════╝ ╚═╝ ╚═╝

面向 AI 智能体的上下文压缩层 —— 减少 60–95% 的 Token · 库 · 代理 · MCP · 6 种算法 · 本地优先 · 可逆

文档 · 安装 · 验证 · 智能体 · Discord · llms.txt

AI 智能体 / LLM:在此处阅读 /llms.txt,或获取实时索引 / 完整文档 blob。

Headroom 在你 AI 智能体读取的所有内容(工具输出、日志、RAG 块、文件和对话历史)到达 LLM 之前对其进行压缩。答案不变,Token 量大幅减少。 实时效果:10,144 → 1,260 个 Token —— 相同的 FATAL 错误依然被找到。

它能做什么

你的智能体 / 应用(Claude Code、Cursor、Codex、LangChain、Agno、Strands、你自己的代码……)

│ 提示词 · 工具输出 · 日志 · RAG 结果 · 文件 ▼ ┌────────────────────────────────────────────────────┐ │ Headroom(本地运行 —— 你的数据留在此处) │ │ ──────────────────────────────────────────────── │ │ CacheAligner → ContentRouter → CCR │ │ ├─ SmartCrusher(JSON) │ │ ├─ CodeCompressor(AST) │ │ └─ Kompress-base(文本,HF) │ │ │ │ 跨智能体记忆 · headroom learn · MCP │ └────────────────────────────────────────────────────┘ │ 压缩后的提示词 + 检索工具 ▼ LLM 提供商(Anthropic · OpenAI · Bedrock · …)

→ 架构 · CCR 可逆压缩 · Kompress-base 模型卡

快速开始(60 秒)

# 1 — 安装
pip install "headroom-ai[all]"  # Python
npm install headroom-ai          # Node / TypeScript

# 2 — 选择模式
headroom wrap claude             # 封装一个编码智能体
headroom proxy --port 8787       # 即时代理,零代码改动
# 或:from headroom import compress  # 内联库

# 3 — 查看节省效果
headroom stats

可选扩展:[proxy][mcp][ml][agno][langchain][evals]。需要 Python 3.10+。

验证

在真实智能体工作负载上的节省效果:

| 工作负载 | 压缩前 | 压缩后 | 节省比例 | |---------|--------|--------|---------| | 代码搜索(100 条结果) | 17,765 | 1,408 | 92% | | SRE 事故调试 | 65,694 | 5,118 | 92% | | GitHub Issue 分类 | 54,174 | 14,761 | 73% | | 代码库探索 | 78,502 | 41,254 | 47% |

标准基准测试上的准确率保持:

| 基准测试 | 类别 | N | 基线 | Headroom | 差异 | |---------|------|---|------|----------|------| | GSM8K | 数学 | 100 | 0.870 | 0.870 | ±0.000 | | TruthfulQA | 事实性 | 100 | 0.530 | 0.560 | +0.030 | | SQuAD v2 | 问答 | 100 | — | 97% | 19% 压缩 | | BFCL | 工具 | 100 | — | 97% | 32% 压缩 |

复现:python -m headroom.evals suite --tier 1 · 完整基准测试与方法论

社区已节省超过 600 亿 Token —— 实时排行榜 →

智能体兼容性矩阵

| 智能体 | headroom wrap | 备注 | |-------|---------------|------| | Claude Code | ● | --memory · --code-graph | | Codex | ● | 与 Claude 共享记忆 | | Cursor | ● | 打印配置 —— 粘贴一次即可 | | Aider | ● | 启动代理 + 启动 | | Copilot CLI | ● | 启动代理 + 启动 | | OpenClaw | ● | 作为 ContextEngine 插件安装 |

任何兼容 OpenAI 的客户端均可通过 headroom proxy 使用。MCP 原生支持:headroom mcp install

何时使用 · 何时跳过

非常适合你如果……

跳过它如果……

| 你的设置 | 接入方式 | |---------|---------| | 任何 Python 应用 | compress(messages, model=…) | | 任何 TypeScript 应用 | await compress(messages, { model }) | | Anthropic / OpenAI SDK | withHeadroom(new Anthropic()) · withHeadroom(new OpenAI()) | | Vercel AI SDK | wrapLanguageModel({ model, middleware: headroomMiddleware() }) | | LiteLLM | litellm.callbacks = [HeadroomCallback()] | | LangChain | HeadroomChatModel(your_llm) | | Agno | HeadroomAgnoModel(your_model) | | Strands | Strands 指南 | | ASGI 应用 | app.add_middleware(CompressionMiddleware) | | 多智能体 | SharedContext().put / .get | | MCP 客户端 | headroom mcp install |

内部组件

Headroom 在 compress()、SDK 和代理中暴露一个稳定的请求生命周期:

设置 → 预启动 → 后启动 → 输入接收 → 输入缓存 → 输入路由 → 输入压缩 → 输入记忆 → 预发送 → 后发送 → 响应接收

转换器完成实际工作:CacheAligner、ContentRouter、SmartCrusher、CodeCompressor、Kompress-base、IntelligentContext / RollingWindow。

管道扩展可以观察或自定义生命周期。

📖 阅读原文 →