FreeLLMAPI 是一个以 TypeScript 构建的本地 LLM 路由与聚合项目，通过统一 API 接入多个免费模型提供方及自定义 OpenAI 兼容服务，并提供密钥管理、路由和故障切换功能。
项目做什么
项目旨在减少逐一对接模型服务和处理各家配额、接口差异及请求失败的工作。用户在本地运行服务并添加自己的提供方密钥后，可让兼容客户端通过统一接口发起请求；路由器依据可用模型和策略选择服务，并在限流或部分错误情况下尝试备用模型。简介及 README 所述免费额度与端点数量是项目方公布的信息，不能据此保证实际可用额度。
与同类方案相比
README 列出多种 API 入口、提供方及自定义 OpenAI 兼容端点，并称支持流式与非流式请求、按密钥跟踪配额、冷却和密钥轮换等机制。密钥据称以 AES-256-GCM 加密后存入 SQLite，客户端可使用统一令牌；另有管理界面、分析功能和容器部署方式。这些是文档描述，实际安全性、稳定性及支持范围仍需结合代码和部署环境核验。
设计与创新
文档描述的组合包括基于模型评分的路由、限流或服务错误后的自动切换、命名回退链、短时会话黏着，以及可选的多模型并行回答与评审合成。项目还称会从签名目录同步模型信息，并提供提示压缩流程。现有材料能说明这些设计主张，但不足以验证实现质量、效果或相对其他路由工具的创新程度；竞品比较也无法据此确认。
适用场景
适用于希望用一个本地入口尝试多个模型服务的个人开发者，也可用于连接 OpenAI 兼容客户端、部分编程助手、Anthropic 或 Gemini 客户端，以及自托管的 llama.cpp、LM Studio、vLLM、Ollama 等端点。若任务涉及图像、音频或视频接口，README 称可路由到相应服务，但具体能力取决于已配置的提供方和模型，不应假定所有端点都支持这些任务。
谁会受益
当使用者已经拥有多个服务商密钥、愿意自行部署并维护本地路由器时，该项目可能减少客户端配置与逐家处理配额和故障切换的负担。其统一接口、仪表板及客户端配置工具也可用于实验模型或搭建个人工作流。不过，实际价值取决于各服务商当时的免费政策、账户资格、地区可用性和模型兼容性，README 中的月度 token 总量不能视为对单个用户的承诺。
使用前需要注意
项目简介明确限定为个人实验用途，不能据此推断适合生产关键业务。免费服务的配额、模型和可用性由外部提供方决定；自动切换也不能保证请求必然成功或不同模型输出等价。部分目录更新存在免费版延迟，部分功能依赖特定兼容接口或自备密钥。由于目前只有简介和 README，无法核实代码实现、维护状况、性能、安全审计、实际配额，也无法独立确认许可证或比较优势。
本文基于抓取时的项目 README 和仓库简介整理；功能、限制与文档可能随项目更新而变化。