← 返回日报
🌐 机器翻译 · DeepSeek · GitHub

chopratejas headroom


chopratejas headroom

██╗ ██╗███████╗ █████╗ ██████╗ ██████╗ ██████╗ ██████╗ ███╗ ███╗ ██║ ██║██╔════╝██╔══██╗██╔══██╗██╔══██╗██╔═══██╗██╔═══██╗████╗ ████║ ███████║█████╗ ███████║██║ ██║██████╔╝██║ ██║██║ ██║██╔████╔██║ ██╔══██║██╔══╝ ██╔══██║██║ ██║██╔══██╗██║ ██║██║ ██║██║╚██╔╝██║ ██║ ██║███████╗██║ ██║██████╔╝██║ ██║╚██████╔╝╚██████╔╝██║ ╚═╝ ██║ ╚═╝ ╚═╝╚══════╝╚═╝ ╚═╝╚═════╝ ╚═╝ ╚═╝ ╚═════╝ ╚═════╝ ╚═╝ ╚═╝

面向 AI 智能体的上下文压缩层,可减少 60–95% 的 token · 库 · 代理 · MCP · 6 种算法 · 本地优先 · 可逆

文档 · 安装 · 验证 · 智能体 · Discord · llms.txt

AI 智能体 / LLM:在此处阅读 /llms.txt,或获取实时索引 / 完整文档 blob。

Headroom 在你 AI 智能体读取的所有内容(工具输出、日志、RAG 块、文件和对话历史)到达 LLM 之前对其进行压缩。答案不变,token 量大幅减少。实时示例:10,144 → 1,260 个 token——相同的 FATAL 错误被找到。

功能

你的智能体 / 应用(Claude Code、Cursor、Codex、LangChain、Agno、Strands、你自己的代码…)

│ 提示词 · 工具输出 · 日志 · RAG 结果 · 文件 ▼ ┌────────────────────────────────────────────────────┐ │ Headroom(本地运行——你的数据保留在此处) │ │ ──────────────────────────────────────────────── │ │ CacheAligner → ContentRouter → CCR │ │ ├─ SmartCrusher (JSON) │ │ ├─ CodeCompressor (AST) │ │ └─ Kompress-base (文本, HF) │ │ │ │ 跨智能体记忆 · headroom learn · MCP │ └────────────────────────────────────────────────────┘ │ 压缩后的提示词 + 检索工具 ▼ LLM 提供商(Anthropic · OpenAI · Bedrock · …)

→ 架构 · CCR 可逆压缩 · Kompress-base 模型卡片

快速开始(60 秒)

# 1 — 安装
pip install "headroom-ai[all]"  # Python
npm install headroom-ai          # Node / TypeScript

# 2 — 选择模式
headroom wrap claude             # 封装一个编码智能体
headroom proxy --port 8787       # 即插即用代理,零代码更改
# 或:from headroom import compress  # 内联库

# 3 — 查看节省效果
headroom perf

额外组件:[proxy]、[mcp]、[ml]、[agno]、[langchain]、[evals]。需要 Python 3.10+。

验证

在真实智能体工作负载上的节省效果:

| 工作负载 | 压缩前 | 压缩后 | 节省比例 | | --- | --- | --- | --- | | 代码搜索(100 条结果) | 17,765 | 1,408 | 92% | | SRE 事故调试 | 65,694 | 5,118 | 92% | | GitHub issue 分类 | 54,174 | 14,761 | 73% | | 代码库探索 | 78,502 | 41,254 | 47% |

在标准基准测试上保持准确率:

| 基准测试 | 类别 | N | 基线 | Headroom | 差值 | | --- | --- | --- | --- | --- | --- | | GSM8K | 数学 | 100 | 0.870 | 0.870 | ±0.000 | | TruthfulQA | 事实性 | 100 | 0.530 | 0.560 | +0.030 | | SQuAD v2 | 问答 | 100 | — | 97% | 19% 压缩率 | | BFCL | 工具 | 100 | — | 97% | 32% 压缩率 |

复现:python -m headroom.evals suite --tier 1 · 完整基准测试与方法论

智能体兼容性矩阵

| 智能体 | headroom wrap | 备注 | | --- | --- | --- | | Claude Code | ● | --memory · --code-graph | | Codex | ● | 与 Claude 共享记忆 | | Cursor | ● | 打印配置——粘贴一次即可 | | Aider | ● | 启动代理 + 启动 | | Copilot CLI | ● | 启动代理 + 启动 | | OpenClaw | ● | 作为 ContextEngine 插件安装 |

任何兼容 OpenAI 的客户端均可通过 headroom proxy 使用。MCP 原生支持:headroom mcp install

何时使用 · 何时跳过

非常适合你如果……

跳过它如果……

| 你的设置 | 接入方式 | | --- | --- | | 任何 Python 应用 | compress(messages, model=…) | | 任何 TypeScript 应用 | await compress(messages, { model }) | | Anthropic / OpenAI SDK | withHeadroom(new Anthropic()) · withHeadroom(new OpenAI()) | | Vercel AI SDK | wrapLanguageModel({ model, middleware: headroomMiddleware() }) | | LiteLLM | litellm.callbacks = [HeadroomCallback()] | | LangChain | HeadroomChatModel(your_llm) | | Agno | HeadroomAgnoModel(your_model) | | Strands | Strands 指南 | | ASGI 应用 | app.add_middleware(CompressionMiddleware) | | 多智能体 | SharedContext().put / .get | | MCP 客户端 | headroom mcp install |

内部组件

Headroom 在 compress()、SDK 和代理之间暴露一个稳定的请求生命周期:

设置 → 预启动 → 后启动 → 输入接收 → 输入缓存 → 输入路由 → 输入压缩 → 输入记忆 → 预发送 → 后发送 → 响应接收

转换器完成具体工作:CacheAligner、ContentRouter、SmartCrusher、CodeCompressor、Kompress-base、IntelligentContext / RollingWindow。

流水线扩展通过 on_pipeline_event(...) 观察或自定义生命周期阶段。

压缩钩子

📖 阅读原文 →