LLM Gateway-多模型API统一管理网关

统一输出格式:客户端使用一种格式(如 OpenAI 风格),网关按上游要求做转换。 灵活的路由选择:支持按优先级、轮询、延迟优先或成本优先分配请求,支持模型分级和备用模型切换。 用量统计:记录每次调用的 token 消耗,存入数据库,方便对账和成本分析。 基础保护机制:简单的熔断和限流,避免上游抖动影响整体体验。 管理界面:动态调整 provider 配置和 key,无需重启服务。

开源一个我们自己用的大模型 API 网关,支持 OpenAI、Anthropic、DeepSeek 等
2026年7月9日
0
7

Discussion

评论与讨论

0 条公开评论
正在加载评论...

登录后参与讨论

评论使用你的 RustPoint Logto 账号身份。

猜你喜欢

我做了一个 iOS 上的 Linux x86 容器

Podish

产品主要功能和描述:Podish是一个面向iOS/Apple Silicon的高性能Linux x86用户态容器,使用C++编写i686解释器核心,C#编写Linux兼容层。在iPhone 17 (A19)上运行CoreMark约为3400,比iSH快一倍。它可以运行Busybox、Bash、Python、LuaJIT、GCC、OpenSSH甚至Node.js,并成功运行Gemini CLI。

容器技术iOS优化

5G CPE远程管理-AI监控与定时任务设计

**产品主要功能描述:** 1. **5G CPE 远程管理系统**:用于管理5G CPE设备,解决设备异地放置时的日常维护问题。 2. **AI智能监控**:一个自动化规则引擎,允许用户创建监控规则来定义触发条件和执行动作。例如,当CPE掉速或网络类型变化时自动采取行动。 3. **定时任务**:支持五种任务类型,包括重启、锁定小区、锁定频段、解锁小区等,并允许用户按星期和时间点配置任务。任务配置后通过MQTT推送到Agent执行。 4. **后续计划**:开发APP,改进Web端和移动端的体验,并覆盖安卓、iOS、Windows和Mac系统。目标是提供更及时的推送通知和本地快捷操作。 5. **技术选型**:使用FastAPI和PostgreSQL作为后端,Vue 3和Vite作为前端,Rust和Tokio作为Agent运行时,通信协议为MQTT over TLS。此外,与华为ESP32外挂盒子合作。 6. **内测信息**:内测于5月31日结束,内测用户将享受永久首发价。注册方式为HEOkdyFJ。

5G CPE 远程管理AI监控
[开源] 高阶魔方一键求解器

高阶魔方一键求解器-解决2~50阶魔方求解步骤,支持动画教学与拍照求解,可生成pdf教程

产品主要功能:高阶魔方一键求解 产品描述:一款高质量的高阶魔方求解器,采用古法与vibe混合实现,整合了网络上的开源算法。可以快速解算出魔方2~50阶的求解步骤,代码限制了50阶,但可以自行解除限制,理论上支持无限阶。支持动画教学、拍照求解,并支持生成pdf逐步教程文档。由于github pages限制,演示图片无法显示,建议下载代码本地部署。

魔方求解器开源软件
不是程序员利用 ai 生成一个工具型网站

Northnode Calculator

产品:Northnode Calculator 功能:网站计算器 描述:一个工具型网站,可能用于进行数学计算或其他相关任务。

产品类型:在线计算器

DeepSeek-企业内网Agent及办公工具

产品主要功能:Agent运行于企业内网,适配DeepSeek,自带办公工具。 产品描述:该产品是一个适用于企业内网的Agent,它适配了DeepSeek技术,并且自带了一套完整的办公工具。

AI工具企业内网
AI 德州扑克模拟器,可以练习、复盘

德州扑克AI模拟器-教学娱乐练习德扑

产品主要功能: 1. 模拟对局 2. AI 教练、复盘 3. 实盘对局辅助 4. 新人入门教学 产品描述:AI 德州扑克模拟器是一个用于练习和提升德州扑克技术的工具,它通过模拟对局来帮助用户提高游戏水平。该模拟器主打教学娱乐,不涉及真实牌局和交易。

内容创作生活娱乐