19分钟前
容城县
Chu.
相距 66.9 km
离线
顺平县
Yi.
Sanctuary of Us

一次“被迫营业”的技术实践 — 寄给月亮的一封情书
Success

目录

Story
2026
05
16

一次“被迫营业”的技术实践

Chu.

05:49于河北 · 容城,记录当下的瞬间。

WITH YOU
DAY 096
文章摘要
By Chu.

这篇文章记录了作者近期在技术实践中搭建本地大模型中转站的生活片段。文章详细描述了从研究 API 网关、尝试 New API 格式接口,到最终灵机一动结合 OpenClaw 思路成功部署本地大模型接口的完整过程。作者不仅实现了对接 DeepSeek、英伟达及 OpenRouter 等服务的稳定中转,还额外部署了 Open WebUI 可视化界面以提升使用体验,并顺手搭建了项目监控。整个过程充满了调试的波折与突破后的成就感,生动展现了作者在日常折腾中不断学习、保持技术热情并记录生活点滴的有趣日常。

阅读指引
3 分钟

最近在折腾什么?
那肯定还是搞点有意思的,这段时间一直在研究 API 网关这类东西。

本来其实兴致一般,但巧就巧在,你正在看的这个程序里,有个叫“AI 配置中心”的功能,我正好想试试。可它偏偏只支持 New API 格式的接口,记住这个,这是伏笔。

那就去找 New API 格式的接口站吧,一看,要花钱。
花不了一点,不如自己搞。

其实搭这个程序之前,我就知道 New API 是个开源项目了。直接去 GitHub 翻到项目地址,用 Docker 一键部署,跑起来之后发现,嘿,还挺有意思。中间当然踩了无数坑,就不一一展开了。但搭完之后冷静一想,这不就是个中转吗?中转就得对接上游,找上游还是得花钱。不行。

正卡着呢,突然想起之前 OpenClaw(龙虾)那阵子,自己学过怎么搭建本地大模型。那思路不就通了吗,直接出本地接口,接到 API 中转上,再一并接入这个站点就行。

越想越兴奋,说干就干,前前后后研究了几天,居然真给搞成了。

那到底做出了什么?给你展示一下成果。

首先,是一个能够稳定运营的大模型 API 中转站。我已经接入了 DeepSeek、英伟达、OpenRouter,当然,还有我自己的本地大模型。

然后我又忍不住想,这么大动干戈搞出来的东西,只喂给这一个程序用,是不是有点亏?
于是就继续深挖,接着部署了 Open WebUI。这个项目是干什么的?简单说,就是做可视化的。也就是说,我搭好的中转站,还能在 WebUI 界面上直接调用,使用体验一下子拉起来了。

在中间调试的过程中,我还顺便搭了一套监控,能实时检测各个项目是否存活。


也算是顺便学会了不少东西吧。
至少证明了一件事,我还没太落后。

最后想到伏笔了吗?这个站的“AI 配置中心”功能兼容的是OpenAI格式的接口,New API只是能聚合所有格式的接口。那么问题来了..我原本本地大模型出的接口也兼容OpenAI格式啊,所以理论说我直接把本地的接口放上也能用,有时间再试吧~

补充:顺手还给OpenWebUI做了个安卓APP,纯原生。下载地址:openwebui_1.0.apk

替换为随机一言?

当前输入框已有内容,确认后将清空并替换为一条随机文案

写一条留言
在这里,留下属于你的印记
QQ留言
匿名留言
--
--
--
--
QQ 信息经过加密脱敏处理,不会公开展示,请放心留言
Enter 发送
0/500
播放列表
暂无音乐
50%

沉浸体验

为了获得最佳沉浸式体验,建议您开启背景音乐。您随时可以在设置中关闭。

长按拖动
歌名伸缩
封面列表
点滴 留言 轨迹 相册 清单 首页 导航 赞赏 媒体库 管理 关于