程序聚合软件案例企业用本地AI全栈搭建-Enterprise on prem AI stack

企业用本地AI全栈搭建-Enterprise on prem AI stack

2025-10-01 11:34:37

行业：企业内部管理、人工智能

载体：网站、框架或代码包

技术：JavaScript、Python、Docker Compose、Linux

业务和功能介绍

1. 为了确保企业数据合规和防泄漏以及符合法律规范，需本地搭建企业用AI并且落地企业相关可使用功能
2. 功能包括前端统一入口，后端大语言推理基座并且运行大语言模型
3. 企业级用AI应用包括知识库智能问答，翻译，数据智能分析，企业应用对接等
4. 安全和合规 - 敏感词过滤法律合规并且须考虑API安全等网络安全问题

项目实现

利用开源AI项目，提供AI本地化技术，包括已实现但不限于
1. Ollama 部署LLM(gpt-oss, Gemma, deepseek, qwen)推理和参数调优
2. 前端Open Webui 和 Open Webui mcpo本地化部署(含企业AD集成)和调优
3. RAG知识库:
(1) RAGFlow套件部署调优。已实现知识库 80%+ 精度本地知识问答
(2) Haystack + 向量数据库Qdrant自开发（实现知识库文档向量化切割和问答）以弥补RAGFlow自带功能不足的问题和需求。
4. MCP Server自建，gradio开发，部署相关AI Agent
5. 利用PandasAI建立ChatBI，实现Excel和相关数据库数据AI分析
6. 大模型提示词安全守护：为Open Webui和Ollama建立中间提示词过滤服务 prompt filter service 包含过滤或阻止敏感词的提示词输入和大模型输出 (含json输出或流输出两种功能) 并且实现统计token和优化大模型输出。
7. 利用FastAPI自建本地OpenAI compatible API server 转换ollama API已适配本地AI可扩展通用AI agent，并且对Ollama API无法设置key问题的安全性增强。
8. AI流程自动化n8n 的部署和低代码工作流实现
9. 大模型fine-tuning LoRA以适配企业内部词汇
10. 自建统一入口

此项目难点在于所有项目开源部分都非企业级可用，将它们整合后实现企业级安全标准，以及各组件对接并没有好的官方文档，最终在集合所有信息以及自己开发测试后实现所有功能

本人单独实现以上所有功能开发测试部署和运维。

示例图片视频

奥圣

30天前活跃

方向：人工智能-大模型和多模态、运维-运维、

交付率：100.00%

查看主页

相似推荐

个人记账与资产管理平台

本项目是一套从零搭建的全栈个人财务管理平台，目标是替代功能单一的记账工具，把日常记账、资金账户、借贷往来、预算控制、资产盘点收敛到一个数据自主的系统中。系统由 12 个业务模块、23 个控制器、170 个 REST 接口、36 张数据表构成：记账核心支持三级分类树、商家联想、多平台支付与 CSV 批量导入导出，每笔账单自动联动账户余额并留存流水日志；借贷模块实现未结清 / 已结清 / 已放弃三态模型，支持分期还款与坏账核销；预算模块提供月度 + 年度双层体系与阶梯式执行规则；资产模块通过快照与趋势图呈现净资产变化；报表模块支持从月度 / 年度报表下钻到分类明细。系统还包含完整 RBAC 权限体系、软删除回收站、8 套主题实时切换与中英双语国际化。核心业务流程为：记一笔 → 余额幂等联动 → 报表与预算同步更新；借据从创建、关联账单凭证、分期还款到三态判定的完整生命周期；以及登录后由后端菜单树动态生成侧边菜单、路由与区块双重门控的权限链路。

慧算盘财务软件

慧算盘 · 智能财务管理系统录入单据 → 自动生成记账凭证 → 自动出具财务报表与进销存报表覆盖 **业务单据 / 进销项发票 / 出纳账 / 记账凭证 / 账簿 / 报表 / 进销存 / 固定资产 / 员工档案**，凭证与报表可直接调用本机打印机输出提供 **Windows 桌面版 EXE**（带机器码激活与数据加密）与 **浏览器 Web 版** 两种形态

基于Tushare的股票行情批量数据分析工具

人工查阅单只股票历史行情、指标数据效率低，需要轻量化本地数据分析工具，批量拉取公开市场数据。批量获取股票日线行情、基础财务指标，自动计算涨跌幅、均线等统计指标对特定指标做回归量化分析，寻找行业热点，仅用于数据研究

保险代理人CRM管理系统

保险代理人的客户管理系统是一套面向保险代理人的客户经营工具，把「获客 → 跟进 → 成交 → 复盘」的完整业务链条管理起来。它主要能帮解决：客户资料集中管理：客户档案、家庭成员、保单、标签一目了然，不再靠本子和脑子记。跟进不遗漏：沟通记录、待办、日程、提醒中心互相联动，该跟进的客户一个都不漏。成交有抓手：产品库、保险方案、销售漏斗，从方案生成到阶段推进都有处可查。复盘有数据：展业分析、业绩看板、活动 ROI，用数据告诉你哪个渠道有效、哪个客户该重点跟。

面向 AI Agent 的商户 API 聚合与按量支付平台-AIPay

AIPay 面向 AI Agent 调用外部商业服务的场景，将商户 API 接入、服务匹配、按次支付、服务调用和履约结算整合为完整流程，旨在降低 AI 应用接入付费服务的开发成本。商户可以注册 API 的能力类别、参数规范、价格及超时配置；Agent 提交服务需求后，平台根据能力匹配程度、服务质量、价格和时延筛选接口，完成支付验证后调用商户服务，并返回执行结果。核心业务流程为“商户注册服务—Agent 提交需求—平台匹配接口—按次支付—凭证校验—服务调用—履约确认与结算”。平台记录服务选择、调用结果和资金账本，支持异常重试及履约状态追踪。