news 2026/4/23 13:22:59

颠覆 AI 开发效率!开源工具一站式管控 30+大模型ApiKey,秘钥付费+负载均衡全搞定

作者头像

张小明

前端开发工程师

1.2k 24
文章封面图
颠覆 AI 开发效率!开源工具一站式管控 30+大模型ApiKey,秘钥付费+负载均衡全搞定

颠覆 AI 开发效率!开源工具一站式管控 30+大模型ApiKey,秘钥付费+负载均衡全搞定

引言

在 AI 技术爆发式发展的今天,OpenAI、百度文心一言、智谱 ChatGLM、腾讯混元等主流大模型纷纷涌现,各自凭借独特优势占据市场。但对开发者而言,多平台对接却成了棘手难题:不同的 API 格式、繁杂的鉴权方式、各异的返回结构,意味着要维护多套代码、反复研读不同文档,不仅耗时耗力,还大幅增加了系统维护成本。

而开源工具 One-API 的出现,正以 "万能接口翻译官" 的姿态,彻底破解这一行业痛点。

什么是One-API

1个平台管理30+大模型API并支持秘钥付费。

LLM API 管理 & 分发系统,支持 OpenAI、Azure、Anthropic Claude、Google Gemini、DeepSeek、字节豆包、ChatGLM、文心一言、讯飞星火、通义千问、360 智脑、腾讯混元等主流模型,统一 API 适配,可用于 key 管理与二次分发。单可执行文件,提供 Docker 镜像,一键部署,开箱即用。LLM API management & key redistribution system, unifying multiple providers under a single API. Single binary, Docker-ready, with an English UI.

One-API 支持几十种模型服务商,包括但不限于:

  • • OpenAI / Azure OpenAI
  • • DeepSeek
  • • Moonshot
  • • Anthropic Claude
  • • Google Gemini
  • • 阿里 Qwen
  • • 百度文心
  • • 讯飞星火
  • • 本地模型代理(如 LM Studio、Ollama)

并提供:

  • • 轮询
  • • 权重分配
  • • 故障自动切换
  • • 负载均衡

让调用更稳定。

演示站:

部署One-API前置条件

Docker部署

1.使用 SQLite 的部署命令

mkdir -p /data/docker/one-api docker run --name one-api -d --restart always -p 3000:3000 -e TZ=Asia/Shanghai -v /data/docker/one-api:/data justsong/one-api

浏览器访问:IP+端口

2.使用 MySQL 的部署命令

在上面的基础上添加-e SQL_DSN="root:123456@tcp(localhost:3306)/oneapi",请自行修改数据库连接参数,不清楚如何修改请参见下面环境变量一节。

docker run --name one-api -d --restart always -p 3000:3000 -e SQL_DSN="root:123456@tcp(localhost:3306)/oneapi" -e TZ=Asia/Shanghai -v /home/ubuntu/data/one-api:/data justsong/one-api

其中,-p 3000:3000中的第一个3000是宿主机的端口,可以根据需要进行修改。

数据和日志将会保存在宿主机的/data/docker/one-api目录,请确保该目录存在且具有写入权限,或者更改为合适的目录。

如果启动失败,请添加--privileged=true

如果上面的镜像无法拉取,可以尝试使用 GitHub 的 Docker 镜像,将上面的justsong/one-api替换为ghcr.io/songquanpeng/one-api即可。

如果你的并发量较大,务必设置SQL_DSN,详见下面环境变量一节。

更新命令:docker run --rm -v /var/run/docker.sock:/var/run/docker.sock containrrr/watchtower -cR

3.基于 Docker Compose 进行部署

wget https://raw.githubusercontent.com/songquanpeng/one-api/refs/heads/main/docker-compose.yml # 目前支持 MySQL 启动,数据存储在 ./data/mysql 文件夹内 docker-compose up -d # 查看部署状态 docker-compose ps

Nginx 的参考配置

server{ server_name openai.justsong.cn; # 请根据实际情况修改你的域名 location / { client_max_body_size 64m; proxy_http_version 1.1; proxy_pass http://localhost:3000; # 请根据实际情况修改你的端口 proxy_set_header Host $host; proxy_set_header X-Forwarded-For $remote_addr; proxy_cache_bypass $http_upgrade; proxy_set_header Accept-Encoding gzip; proxy_read_timeout 300s; # GPT-4 需要较长的超时时间,请自行调整 } }

certbot 配置 HTTPS

# Ubuntu 安装 certbot: sudo snap install --classic certbot sudo ln -s /snap/bin/certbot /usr/bin/certbot # 生成证书 & 修改 Nginx 配置 sudo certbot --nginx # 根据指示进行操作 # 重启 Nginx sudo service nginx restart

使用One-API

1.登录

初始账号

用户名为 root

密码为 123456

2.添加渠道

如下图,点击渠道、 添加新的渠道

支持

  • • OpenAI(含官方和各种代理)
  • • Azure OpenAI
  • • Anthropic Claude
  • • 百度文心一言
  • • 科大讯飞星火
  • • 阿里通义千问
  • • 智谱AI
  • • 腾讯混元
  • • 等等十几家...

添加千问的渠道

填入密钥

测试

3.创建令牌

为你的应用创建授权令牌,这是调用API的凭证。

依次点击,令牌、添加新的令牌

创建新的令牌

可以设置名称、模型范围、IP限制等

复制令牌

4.修改应用配置

http://192.168.1.3:3000/v1/chat/completions

测试是否成功

http://192.168.1.3:3000/v1/chat/completions

CURL测试是否成功

curl -X POST "http://192.168.1.3:3000/v1/chat/completions" \ -H "Authorization: Bearer sk-D1aztx0oY9xBsez1Df0a188cD7434aAcB7C4E199D0DbBc2f" \ -H "Content-Type: application/json" \ -d "{ \"model\": \"qwen-plus\", \"messages\": [ { \"role\": \"system\", \"content\": \"You are a helpful assistant.\" }, { \"role\": \"user\", \"content\": \"你是谁?\" } ] }" {"id":"9b59d121-ce38-4ad6-afd9-bac2b616e371","model":"qwen","object":"chat.completion","created":1768471983,"choices":[{"index":0,"message":{"role":"assistant","content":"我是通义千问,阿里巴巴集团旗下的超大规模语言模型。我能够回答问题、创作文字,如写故事、公文、邮件、剧本等,还能进行逻辑推理、编程,甚至表达观点和玩游戏。我支持多种语言,包括中文、英文、德语、法语、西班牙语等。如果你有任何问题或需要帮助,欢迎随时告诉我!"},"finish_reason":"stop"}],"usage":{"prompt_tokens":22,"completion_tokens":78,"total_tokens":100}}

3.查看用量

总览查看请求的趋势

日志可以查看具体的使用情况

再用相同的方法配置多个渠道

结尾

无论你是想做团队内部的模型网关,还是想搭建一个对外的聚合服务,甚至只是想把各种大模型的 Key 管理得更优雅一点,One-API 都是个非常省心的选择。

如果你在部署过程中遇到什么奇怪的问题,可以随时来交流。

我这边会继续补充更多踩坑经验和最佳实践,帮你少走弯路。希望你也能顺利把 One-API 跑起来,早点享受到“一个平台管所有模型”的爽感。祝你折腾愉快!

版权声明: 本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若内容造成侵权/违法违规/事实不符,请联系邮箱:809451989@qq.com进行投诉反馈,一经查实,立即删除!
网站建设 2026/4/23 13:22:02

互联网大厂Java面试实战:Spring Boot、微服务与AI技术综合解析

文章内容: 本文以在线教育场景为背景,讲述一位严肃的面试官与搞笑的水货程序员谢飞机之间的三轮面试对话。面试围绕Java核心技术、构建工具、Web框架、数据库ORM、微服务架构、缓存、安全、消息队列以及AI技术展开,层层递进,帮助求…

作者头像 李华
网站建设 2026/4/23 13:22:34

学长亲荐2026研究生必用TOP10一键生成论文工具测评

学长亲荐2026研究生必用TOP10一键生成论文工具测评 学术写作工具测评:为何需要一份2026年权威榜单 随着人工智能技术的不断进步,学术写作工具在研究生群体中的使用率逐年攀升。然而,面对市场上琳琅满目的AI写作产品,如何选择真正…

作者头像 李华
网站建设 2026/4/23 13:22:03

碳基服务器|脑机接口

!think bold当马斯克的Neuralink首位人类用户Noland Arbaugh宣布,他脑中的芯片能像特斯拉一样通过OTA无线升级时,我们终于意识到:赛博朋克的未来,已经从屏幕里走到了现实。脑机接口:从“侵入式手术”到“无线OTA升级”…

作者头像 李华
网站建设 2026/4/19 2:04:18

生产上如何集成自定义的LLM接口:LangChain入门(三)

前言 在前三篇关于 LangChain 的系列文章中,我们从框架本质讲起,逐步搭建了可运行的 Demo,并深入探讨了其在真实业务系统中的集成架构。 现在,我们进入一个更贴近工程实践的核心议题: 当你的 AI 系统不再只依赖单一…

作者头像 李华