news 2026/7/2 20:38:36

New API:管理多模型调用的开源网关

作者头像

张小明

前端开发工程师

1.2k 24
文章封面图
New API:管理多模型调用的开源网关

文章目录

  • New API:管理多模型调用的开源网关
    • 它解决什么问题
    • 部署方式
    • 接口兼容性
    • 认证与权限
    • 适用场景

New API:管理多模型调用的开源网关

企业在接入大模型时面临一个现实问题:不同厂商的 API 格式各异,计费方式不同,权限管理分散。OpenAI 用一种格式,Claude 用另一种,Google Gemini 又是一套。如果团队内部有多个项目同时调用这些模型,光是管理 API Key 和统计用量就够头疼的。

New API 就是为了解决这个问题而生的。它是一个开源的 LLM 网关,定位是"下一代 AI 资产管理系统"。截至目前,这个项目在 GitHub 上获得了超过 4 万颗星标,基于早期的 One API 项目开发而来。

它解决什么问题

简单来说,New API 做了三件事:统一接口、集中管理、用量计费。

统一接口方面,它把 OpenAI、Claude、Gemini 等不同格式的 API 统一成 OpenAI 兼容格式。你的代码只需要对接一种接口,网关负责把请求转换成各家模型能识别的格式。这包括 Chat 对话、图片生成、音频处理、Embedding 向量化等常见接口类型。

集中管理方面,所有 API Key 都收归到网关后台。管理员可以在一个界面里配置多个渠道,设置每个渠道的权重和优先级。当某个渠道出问题时,系统会自动重试其他渠道。用户权限可以按组划分,限制不同用户能调用的模型范围。

用量计费方面,系统支持按组织维度统计每次请求的 Token 消耗和费用。对于 OpenAI、Azure、DeepSeek、Claude、Qwen 等模型,还能统计缓存命中情况。后台支持 EPay 和 Stripe 两种充值方式,适合内部结算或对外提供服务的场景。

部署方式

New API 提供 Docker 镜像,部署过程比较直接。最简单的做法是用 Docker Compose:

克隆仓库后编辑 docker-compose.yml 配置文件,然后一条命令启动。数据库方面,本地环境默认用 SQLite,远程环境可以选 MySQL(5.7.8 以上)或 PostgreSQL(9.6 以上)。如果需要缓存,可以接入 Redis。

对于不想折腾命令行的用户,宝塔面板也支持一键安装,版本要求 9.2.0 以上。

多机部署时需要注意两个环境变量:SESSION_SECRET 用于保持登录状态一致性,CRYPTO_SECRET 用于 Redis 场景下的数据加密。这两个不设置的话,多实例之间会出现数据不同步的问题。

接口兼容性

New API 支持的接口类型比较全面。对话类接口覆盖了 OpenAI Chat Completions、OpenAI Responses、Claude Messages、Google Gemini 四种格式。此外还支持图片生成、音频转写、语音合成、Embedding 向量化、Rerank 重排序等。

实时对话方面,支持 OpenAI Realtime API,包括 Azure 版本。

格式转换是这个项目的一个亮点功能。它能在 OpenAI 兼容格式和 Claude Messages 格式之间双向转换,也能把 OpenAI 格式转成 Gemini 格式,或者反过来。这意味着你用一套代码就能同时调用多家模型,不用为每家写适配逻辑。

推理强度控制也做了适配。OpenAI 的 o3-mini 和 gpt-5 系列可以通过后缀指定 high、medium、low 三档推理强度。Claude 的 thinking 模型和 Gemini 的 thinking 模式同样支持开关控制。

认证与权限

系统支持多种第三方登录方式,包括 Discord、Telegram、LinuxDO 以及 OIDC 统一认证。Token 可以按组管理,设置不同的模型访问权限和调用限额。

对于需要对外提供服务的场景,系统内置了渠道分组和用户级别的速率限制功能。管理员可以按用户维度控制调用频率,防止单个用户占用过多资源。

适用场景

这个项目适合几类用户:一是团队内部有多个项目需要调用不同模型,想统一管理入口和用量;二是需要对外提供 AI 服务,要求有计费和权限控制能力;三是想在本地部署一套网关,避免直接把各家 API Key 散落在各个项目里。

项目采用 AGPLv3 协议开源,商用需要注意协议要求。如果组织政策不允许使用 AGPLv3 软件,可以联系官方获取商业授权。

协议开源,商用需要注意协议要求。如果组织政策不允许使用 AGPLv3 软件,可以联系官方获取商业授权。

版权声明: 本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若内容造成侵权/违法违规/事实不符,请联系邮箱:809451989@qq.com进行投诉反馈,一经查实,立即删除!
网站建设 2026/7/2 5:15:41

Windows任务栏美化终极指南:用TranslucentTB打造个性化桌面体验

Windows任务栏美化终极指南:用TranslucentTB打造个性化桌面体验 【免费下载链接】TranslucentTB A lightweight utility that makes the Windows taskbar translucent/transparent. 项目地址: https://gitcode.com/gh_mirrors/tr/TranslucentTB 厌倦了Window…

作者头像 李华
网站建设 2026/7/1 4:16:27

【计算机毕业设计案例】基于 SpringBoot 的智能健身房课程服务管理系统的设计与实现 基于 SpringBoot 的健身房私教业绩与课程管理系(程序+文档+讲解+定制)

博主介绍:✌️码农一枚 ,专注于大学生项目实战开发、讲解和毕业🚢文撰写修改等。全栈领域优质创作者,博客之星、掘金/华为云/阿里云/InfoQ等平台优质作者、专注于Java、小程序技术领域和毕业项目实战 ✌️技术范围:&am…

作者头像 李华
网站建设 2026/7/1 4:08:10

IETF 发布 RFC 10008:定义 QUERY 方法,兼具 GET 语义与 POST 表达能力

【导语:IETF 最新发布的 RFC 10008 正式定义了 HTTP 新成员 QUERY 方法,它结合了 GET 的安全幂等与 POST 带请求体的能力,解决了 GET 和 POST 存在的问题。】HTTP 新成员:QUERY 方法诞生 IETF 发布的 RFC 10008 为 HTTP 家族增添了…

作者头像 李华
网站建设 2026/7/1 4:04:29

iPad webssh在tmux中复制到剪切板

官方文档可能是较久没有更新了,按文档操作并没有成功。所以把爬坑过程发出来分享一下。 官方文档如下: https://webssh.net/documentation/help/howtos/copying-text-to-clipboard-from-terminal/ tmux 复制功能 安装wshcopy,但是它依赖的库已经过期了…

作者头像 李华
网站建设 2026/7/1 4:03:28

2025 写好歌词AI自动作曲编曲工具实测对比

前言 随着AIGC技术在音乐领域的快速落地,“输入歌词一键生成完整歌曲”已经从概念变成创作者的日常工具。但对于国内用户来说,海外工具存在中文适配差、合规风险高、访问不稳定等问题,国产工具又鱼龙混杂,很多产品存在编曲模板化、…

作者头像 李华