我独立设计、开发并上线了 Bubble大模型API聚合与分发平台,为希望开展大模型 API 业务的企业和团队提供建站与运营系统。平台统一接入多家模型供应商,将对话、图像和视频生成能力通过兼容 API 对外提供。企业可以使用自己的品牌和域名开设独立站,自主决定向客户提供哪些模型、如何定价,并管理从客户接入、调用计量到收款对账的完整流程。项目覆盖模型网关、多租户业务后台和用户端,从系统设计、前后端开发到部署上线均由我独立完成。
1. 整体架构与交付: 我独立完成了系统设计、前后端开发和部署上线。后端基于 Java 17、Spring Boot 和 MySQL,将模型调用与商家运营分开设计:模型网关负责协议适配、请求路由和用量记录,多租户后台负责站点配置、模型定价与账单管理。用户端和商家后台均使用 Vue 开发。
2. 多模型接入: 不同供应商的接口协议、参数和结果返回方式各不相同。我将这些差异封装在适配层,对外提供兼容 OpenAI、Anthropic 调用方式的 API。对话请求通过 SSE 逐段返回内容;耗时较长的图片、视频生成则采用异步任务,调用方提交后可查询进度并获取结果。
3. 多租户与商业运营: 为支持多家企业在同一套系统上独立运营,我按租户管理域名、品牌、可售模型和价格,并在数据查询与缓存中区分租户。这样,即使两家商户提供同一个模型,也可以使用各自的售价,分别管理客户和账单。
4. 支付与计费: 我实现了从充值支付、支付回调到余额更新的流程,并将模型调用的用量记录与对应商户的价格配置关联,生成消费账单。商户可以核对充值订单、调用记录和费用明细,平台也由此具备了从接入上游模型到向下游客户提供付费 API 服务的完整能力。