最近在折腾什么?
那肯定还是搞点有意思的,这段时间一直在研究 API 网关这类东西。
本来其实兴致一般,但巧就巧在,你正在看的这个程序里,有个叫“AI 配置中心”的功能,我正好想试试。可它偏偏只支持 New API 格式的接口,记住这个,这是伏笔。
那就去找 New API 格式的接口站吧,一看,要花钱。
花不了一点,不如自己搞。
其实搭这个程序之前,我就知道 New API 是个开源项目了。直接去 GitHub 翻到项目地址,用 Docker 一键部署,跑起来之后发现,嘿,还挺有意思。中间当然踩了无数坑,就不一一展开了。但搭完之后冷静一想,这不就是个中转吗?中转就得对接上游,找上游还是得花钱。不行。
正卡着呢,突然想起之前 OpenClaw(龙虾)那阵子,自己学过怎么搭建本地大模型。那思路不就通了吗,直接出本地接口,接到 API 中转上,再一并接入这个站点就行。

越想越兴奋,说干就干,前前后后研究了几天,居然真给搞成了。
那到底做出了什么?给你展示一下成果。

首先,是一个能够稳定运营的大模型 API 中转站。我已经接入了 DeepSeek、英伟达、OpenRouter,当然,还有我自己的本地大模型。
然后我又忍不住想,这么大动干戈搞出来的东西,只喂给这一个程序用,是不是有点亏?
于是就继续深挖,接着部署了 Open WebUI。这个项目是干什么的?简单说,就是做可视化的。也就是说,我搭好的中转站,还能在 WebUI 界面上直接调用,使用体验一下子拉起来了。

在中间调试的过程中,我还顺便搭了一套监控,能实时检测各个项目是否存活。

也算是顺便学会了不少东西吧。
至少证明了一件事,我还没太落后。
最后想到伏笔了吗?这个站的“AI 配置中心”功能兼容的是OpenAI格式的接口,New API只是能聚合所有格式的接口。那么问题来了..我原本本地大模型出的接口也兼容OpenAI格式啊,所以理论说我直接把本地的接口放上也能用,有时间再试吧~
补充:顺手还给OpenWebUI做了个安卓APP,纯原生。下载地址:openwebui_1.0.apk
