billion-context 是一个以 TypeScript 实现的上下文压缩代理和插件，位于编码代理与模型 API 之间，改写请求及流式响应，并通过分层摘要管理长对话。项目提供原生插件、启动器和代理 URL 三种接入方式，面向多种编码客户端。
项目做什么
项目旨在减少长时间编码会话累积的对话上下文，降低持续发送上下文所需的 token，并避免接近模型上下文窗口后会话退化或中断。README 描述其通过模型调用上下文管理工具，将历史消息范围压缩为摘要，必要时再恢复细节；它并不只是设置固定长度后截断对话。
与同类方案相比
README 展示了几项设计层面的便利：压缩按消息范围增量执行，摘要可按需解压，另有关键词搜索和上下文状态查看工具；代理可处理 Anthropic 或 OpenAI 形状的请求并转发至兼容 API。项目还提供多种客户端接入路径。不过，宣传中的五倍 token 节省和高压缩质量在所给材料中没有可独立核验的测量方法或基准。
设计与创新
项目将上下文压缩放在模型请求代理层，并让模型通过注入的 compress、decompress、search_context、acp_status 工具参与管理；摘要以分层、增量方式组织，README 声称兼顾可恢复性与前缀缓存。文档还列出多客户端原生插件和启动器适配。是否构成相对既有方案的创新，缺少对照与独立验证，尚无法确认。
适用场景
适用于使用编码代理进行长时、多轮开发任务，且对话历史可能超过客户端或模型可用上下文的场景；尤其是希望持续保留单次会话、按需找回旧消息细节或减少重复上下文传输的用户。具体接入方式取决于客户端：部分支持原生插件，其他客户端可使用启动器或修改 API 基础 URL；README 也明确列出若干客户端不具备原生插件模式。
谁会受益
对于频繁进行长会话的开发者，按范围压缩和按需恢复有望减少上下文负担，同时保留查询历史摘要的路径。多种安装和接入选择也降低了适配单一客户端的限制。README 提供了 npm 安装命令及常见配置说明，但实际收益取决于模型、客户端、会话内容与配置；文中提到的缓存命中率、token 节省比例和长期运行数据属于项目方陈述，不能仅凭该材料视为普遍结果。
使用前需要注意
摘要压缩可能省略原始细节，虽然项目提供解压机制，但恢复效果和准确性仍需在具体任务中检验。代理接入会引入额外配置与运行组件，原生插件支持因客户端而异，部分方案涉及证书中间人代理；混用原生插件与独立扩展还可能造成重复压缩。所给 README 未充分说明压缩质量的独立评测、隐私与安全边界、完整兼容性测试及运行成本，相关结论尚无法验证。
本文基于抓取时的项目 README 和仓库简介整理；功能、限制与文档可能随项目更新而变化。