LLM Weaving 是一个基于 Spring Boot 3.2 + LangChain4j 的企业级 AI 应用开发框架,专注于为开发者提供 LLM 集成、RAG 知识库问答和代码智能辅助能力。核心功能:AI 模型管理(支持 DashScope、Ollama 等多服务商)、智能聊天会话管理、RAG 私有知识库问答、代码生成/分析/问题排查技能。技术栈:Spring Boot + MyBatis-Plus + Chroma 向量库 + Vue3,可快速构建智能问答助手、代码Copilot、知识库机器人等应用。
1. LLM Weaving 采用 Maven 多模块架构,共划分为 lw-app、lw-common、lw-agent、lw-rag、lw-file 五个子模块。其中 lw-app 作为主应用模块,通过 Spring Boot 启动并提供所有 HTTP API 入口;lw-common作为公共基础模块,被其他所有模块依赖,集中管理实体、Service、Mapper 和工具类;lw-agent 负责实现可扩展的技能注册与调用机制;lw-rag 处理知识库的文档解析、分块与向量检索;lw-file 则集成阿里云 OSS 实现文件上传下载功能。
2. 在 AI 模型管理方面,项目通过 AIModelService 提供服务商、模型、服务配置三类实体的完整 CRUD 操作,每个 Mapper 继承 MyBatis-Plus 的 BaseMapper,并配合 @MapperScan 自动注入到 Spring 容器,控制器层通过 RESTful API 对外暴露 /api/ai/providers、/api/ai/models、/api/ai/services 三组接口。聊天会话管理由 ChatSessionService 和 ChatMessageService 两个服务类支撑,通过 TokenInterceptor 实现认证拦截,会话按 userId 隔离存储,支持分页查询和历史消息回溯。
3. 技能框架是项目的核心亮点之一。SkillRegistry 在应用启动时通过 @PostConstruct 从 Spring 容器中扫描所有实现 Skill 接口的 Bean 并注册到内存注册表,目前已实现 CodeGenerationSkill(代码生成)、CodeAnalysisSkill(代码分析)、TroubleshootingSkill(问题排查)三个技能。