本平台面向企业内部业务人员与算法开发人员打造一站式 AI 智能体低代码开发平台,解决传统大模型应用开发门槛高、流程定制繁琐、多模型调度混乱等痛点。平台核心包含智能体可视化编排、多厂商大模型接入管理、知识库向量存储、对话流程可视化拖拽、权限管控、调用数据统计六大核心模块。业务人员无需代码即可搭建行业专属智能体,支持上传企业私有文档构建专属知识库,配置问答、工具调用、多轮对话逻辑;算法人员可统一管理文心、通义、GLM 等多模型接口,配置模型限流、上下文长度、温度参数;平台完整记录智能体调用日志、Token 消耗、问答准确率,支持按部门、用户分配智能体访问权限,覆盖企业内部客服、办公辅助、数据查询等多类 AI 业务场景。
整体采用前后端分离架构,后端基于 Java + SpringBoot 微服务拆分模型管理、知识库、智能体编排、日志统计四大服务,前端使用 Vue 实现可视化拖拽编辑器,向量检索集成 Milvus 实现私有文档向量化存储。本人独立负责后端核心模块开发:1. 多模型统一网关封装,完成十余种大模型接口适配,实现模型负载均衡与限流熔断,将模型调用失败率降低 90%;2. 文档解析与向量入库服务,支持 PDF/Word/TXT 多格式分片、文本清洗,优化分块策略后知识库问答匹配准确率提升 23%;3. 智能体流程引擎开发,设计可视化节点执行调度逻辑,支撑条件分支、循环、工具调用等复杂对话链路。开发中遇到大模型异步调用超时、海量向量检索缓慢两大难点,通过引入异步线程池 + 消息队列削峰、向量索引分区优化完成落地,平台上线后支撑企业 30 + 业务智能体稳定运行,日均 AI 对话调用量超 5000 次。