企业用本地AI全栈搭建-Enterprise on prem AI stack
2025-10-01 11:34:37
行业：企业内部管理、人工智能
载体：网站、框架或代码包
技术：JavaScript、Python、Docker Compose、Linux
业务和功能介绍
1. 为了确保企业数据合规和防泄漏以及符合法律规范，需本地搭建企业用AI并且落地企业相关可使用功能
2. 功能包括前端统一入口，后端大语言推理基座并且运行大语言模型
3. 企业级用AI应用 包括知识库智能问答，翻译，数据智能分析，企业应用对接等
4. 安全和合规 - 敏感词过滤法律合规 并且 须考虑API安全等网络安全问题
2. 功能包括前端统一入口，后端大语言推理基座并且运行大语言模型
3. 企业级用AI应用 包括知识库智能问答，翻译，数据智能分析，企业应用对接等
4. 安全和合规 - 敏感词过滤法律合规 并且 须考虑API安全等网络安全问题
项目实现
利用开源AI项目，提供AI本地化技术，包括已实现但不限于
1. Ollama 部署LLM(gpt-oss, Gemma, deepseek, qwen)推理 和参数调优
2. 前端Open Webui 和 Open Webui mcpo本地化部署(含企业AD集成)和调优
3. RAG知识库:
(1) RAGFlow套件部署调优。已实现知识库 80%+ 精度本地知识问答
(2) Haystack + 向量数据库Qdrant自开发（实现知识库文档向量化切割和问答）以弥补RAGFlow自带功能不足的问题和需求。
4. MCP Server自建，gradio开发，部署相关AI Agent
5. 利用PandasAI建立ChatBI，实现Excel和相关数据库数据AI分析
6. 大模型提示词安全守护：为Open Webui和Ollama建立中间提示词过滤服务 prompt filter service 包含过滤或阻止敏感词的提示词输入和大模型输出 (含json输出或流输出两种功能) 并且实现统计token和优化大模型输出。
7. 利用FastAPI自建本地OpenAI compatible API server 转换ollama API已适配本地AI可扩展通用AI agent，并且对Ollama API无法设置key问题的安全性增强。
8. AI流程自动化n8n 的部署和低代码工作流实现
9. 大模型fine-tuning LoRA以适配企业内部词汇
10. 自建统一入口
此项目难点在于所有项目开源部分都非企业级可用，将它们整合后实现企业级安全标准，以及各组件对接并没有好的官方文档，最终在集合所有信息以及自己开发测试后实现所有功能
本人单独实现以上所有功能开发测试部署和运维。
1. Ollama 部署LLM(gpt-oss, Gemma, deepseek, qwen)推理 和参数调优
2. 前端Open Webui 和 Open Webui mcpo本地化部署(含企业AD集成)和调优
3. RAG知识库:
(1) RAGFlow套件部署调优。已实现知识库 80%+ 精度本地知识问答
(2) Haystack + 向量数据库Qdrant自开发（实现知识库文档向量化切割和问答）以弥补RAGFlow自带功能不足的问题和需求。
4. MCP Server自建，gradio开发，部署相关AI Agent
5. 利用PandasAI建立ChatBI，实现Excel和相关数据库数据AI分析
6. 大模型提示词安全守护：为Open Webui和Ollama建立中间提示词过滤服务 prompt filter service 包含过滤或阻止敏感词的提示词输入和大模型输出 (含json输出或流输出两种功能) 并且实现统计token和优化大模型输出。
7. 利用FastAPI自建本地OpenAI compatible API server 转换ollama API已适配本地AI可扩展通用AI agent，并且对Ollama API无法设置key问题的安全性增强。
8. AI流程自动化n8n 的部署和低代码工作流实现
9. 大模型fine-tuning LoRA以适配企业内部词汇
10. 自建统一入口
此项目难点在于所有项目开源部分都非企业级可用，将它们整合后实现企业级安全标准，以及各组件对接并没有好的官方文档，最终在集合所有信息以及自己开发测试后实现所有功能
本人单独实现以上所有功能开发测试部署和运维。
示例图片视频
相似推荐
贷款业务管理平台 -基于Node.js+React的全栈金融管理系统
一个功能完整、界面优美的贷款业务管理系统，包含Web管理后台和移动端App。系统实现了贷款业务的完整闭环管理，包括用户管理、贷款管理、还款审核、合同生成、数据统计等核心功能。
核心功能亮点：
数据统计仪表板 - 实时展示总用户数、贷款金额、还款金额、逾期统计等关键数据，支持图表可视化展示近6个月还款趋势和还款状态分布。
用户管理 - 支持手动录入和Excel批量导入用户数据，一键导入可自动创建用户、贷款记录、还款计划和借款合同，大幅提升工作效率。
还款审核 - 在线审核用户上传的还款凭证图片，支持一键通过/拒绝操作，审核通过自动更新还款状态和已还款金额。
合同管理 - 自动生成电子借款合同，支持在线查看，合同模板可自定义配置。
移动端App - 借款用户可通过手机App查看待还款项、上传还款凭证、查看电子合同、管理个人账户。
系统设置 - 配置微信/支付宝收款码和银行账户信息，方便用户还款。
中信人平台H5+后台管理系统
1、业务员分享活动赚取积分换好礼
2、企业微信分享和微信分享好友及朋友圈
3、活动的上新及活动内容可配置
4、对接麦当劳、书店等平台权益
5、图表展示平台日活量、月活量的统计及页面的埋码功能
6、咨询订阅管理
港美A交易行情SDK数据
为招商国际证券、互信、清科等领先的互联网券商，提供高性能、多市场的企业级行情数据解决方案。通过标准化的 SDK 与低延迟、高并发的数据流推送服务，我们赋能其终端应用，向千万投资者稳定、实时地展示全球核心资产（涵盖港股、美股、A股）的全貌行情、精细化分时K线以及深度数据模型，最终助力券商提升其App的用户体验、交易转化与市场竞争力
股票量化分析系统
基于sina金融和腾讯金融的股票量化分析系统扩展方案
数据收集与存储
使用akshare（历史附件中已包含）获取A股/港股实时行情、历史K线、财务数据等，结合pandas进行结构化存储。
通过SQLAlchemy将数据持久化到本地数据库（如SQLite/MySQL），支持增量更新与去重。
量化指标实现
利用backtrader（附件中已列出）构建回测框架，集成MACD、KDJ等指标（可通过TA-Lib优化计算效率）。
扩展自定义指标：如RSI、布林带，结合numpy和scipy进行数值计算。
本地数据处理
使用dask加速大规模数据预处理（如缺失值填充、标准化），matplotlib和mplfinance可视化分析结果。
通过psutil监控系统资源，确保长时间运行的稳定性。
系统增强建议
添加实时预警：基于websocket-client监听行情，触发邮件/短信通知（需集成requests调用第三方API）。
扩展多数据源：若sina/腾讯接口受限，可接入tushare或Wind（需额外安装）。
报刊采集系统-数据采集
主导报刊采集项目，成功采集了162种报刊的内容及PDF。负责数据处理，采用Scrapy和BS4技术栈，设计并实施了三通道架构以优化分布式数据采集。有效应对反爬机制，通过登录验证和cookie验证确保数据的准确性和完整性。利用pandas进行数据分析，结合正则表达式、机器学习（数据标注）和AI大模型进行深入解析，提升了数据处理的效率和准确性。
帮助文档
Copyright @ 2021-2024 程聚宝 | 浙ICP备2021014372号
人工客服