📊 查看开源项目排行

📱 下载 AI Rank App

FreeLLMAPI（仓库：tashfeenahmed/freellmapi）是一个可自建的路由层：把多家「免费额度」大模型服务，以及你自己加的 OpenAI 兼容聊天／向量／图像／音频端点，收成同一个 /v1 接口。我们在 2026 年 11 月 1 日打开的 README 写明：目录里大约有 34 家免费供应商、635 个免费模型端点、合计约 74 亿 tokens／月的公开免费额度口径；支持智能路由、自动故障转移，并用 AES-256-GCM 加密存放供应商密钥。协议是 MIT，定位是个人实验与学习，不是带 SLA 的生产推理底座。

它解决什么问题

各家免费额度单独用往往不够，手工轮询又要维护多套 SDK 与限流。FreeLLMAPI 让你在本机（或 Docker）跑一个服务，在控制台录入密钥，再把任意 OpenAI 兼容客户端指到 http://localhost:3001/v1，只用一把统一的 freellmapi-… Bearer。README 还写到：

  • 覆盖常见 OpenAI 风格路径（聊天、/v1/responses、补全、嵌入、图像／视频／语音等），并提供 Anthropic /v1/messages，以及可选的 Gemini／Ollama 兼容面。
  • 按速度／能力／可靠性给模型打分，遇 429／5xx 冷却并换下一档与密钥。
  • 每天两次从 freellmapi.co 拉取签名模型目录；免费安装跟的是月度快照（新模型进 live 后约 30 天才进免费快照），付费 Premium（官网标价 $19／年或 $49 买断）可当天同步。
  • 供应商密钥落在 SQLite 里加密保存，请求时再在内存解密。

README 点名的免费供应商包括 Google、Groq、Cerebras、Mistral、OpenRouter、Cloudflare、Cohere、Z.ai（智谱）、NVIDIA、HuggingFace、ModelScope 等，外加自定义 OpenAI 兼容端点。

Docker／一键安装（以 README 为准）

一键脚本路径需要 Docker：

curl -fsSL https://freellmapi.co/install.sh | bash

官方说明：脚本会准备 ~/freellmapi、生成加密密钥、拉镜像并启动容器；重复执行会保留 .env。更稳妥的做法是先阅读 install.sh 再决定是否管道执行。启动后打开 http://localhost:3001，在 Keys 页加密钥、调 Fallback Chain，并从 Keys 页眉复制统一 API Key。

Windows 可走 GitHub Releases 里的桌面 .exe；macOS 提供 arm64／x64 的 .dmg。Compose、本机 Node 20+ 开发、局域网访问与备份细节见 docs/en/install/01-install.md。README 也挂了 GHCR 镜像徽章。

README 中的最小 Python 示例：

from openai import OpenAI
client = OpenAI(base_url="http://localhost:3001/v1", api_key="freellmapi-your-unified-key")
resp = client.chat.completions.create(
    model="auto",
    messages=[{"role": "user", "content": "用一句话概括罗马的衰落。"}],
)

使用前必须看清的限制

以下均来自上游 Limitations／Disclaimer，不是我们臆测：

  • 只适合个人试验；真要上线产品，请换成付费、有保障的推理 API。
  • 免费池意味着没有前沿闭源旗舰保证、延迟不稳、无 SLA；一天后段顶尖模型额度耗尽时体感会变差，并在 UTC 午夜重置（README 原文口径）。
  • 你与各上游的关系仍受对方服务条款约束；仓库架构文档含 2026 年 5 月按供应商梳理的 ToS 说明。
  • 服务器安装有邮箱＋密码后台；桌面版本机可自动登录。忘记密码时，一次性验证码打在服务器日志里（不会发邮件）。
  • 目录里的供应商／端点／额度数字会变，请以 freellmapi.co/models 与最新 README 为准。

常见问题

FreeLLMAPI GitHub 项目是什么？

tashfeenahmed/freellmapi：自托管的 OpenAI 兼容网关，聚合多家免费大模型额度，带路由与加密密钥管理（MIT）。

怎样用 Docker 自建？

接受官方安装脚本的前提下，可用 curl …/install.sh | bash；或按 README 链接的 Compose／安装文档操作。该一键路径明确依赖 Docker。

收费吗？

路由本体 MIT、可免费跑。上游另售 Premium 实时目录；免费安装仍可通过月度快照更新。

能接 Claude Code、Codex 吗？

README 列出了 npx freellmapi setup-claude … 等助手配置，并声称兼容一批 OpenAI／Anthropic／Gemini 客户端。具体步骤以官方 clients 文档为准。

来源