程序聚合 软件案例 企业用本地AI全栈搭建-Enterprise on prem AI stack

企业用本地AI全栈搭建-Enterprise on prem AI stack

2025-10-01 11:34:37
行业:企业内部管理、人工智能
载体:网站、框架或代码包
技术:JavaScript、Python、Docker Compose、Linux

业务和功能介绍

1. 为了确保企业数据合规和防泄漏以及符合法律规范,需本地搭建企业用AI并且落地企业相关可使用功能
2. 功能包括前端统一入口,后端大语言推理基座并且运行大语言模型
3. 企业级用AI应用 包括知识库智能问答,翻译,数据智能分析,企业应用对接等
4. 安全和合规 - 敏感词过滤法律合规 并且 须考虑API安全等网络安全问题

项目实现

利用开源AI项目,提供AI本地化技术,包括已实现但不限于
1. Ollama 部署LLM(gpt-oss, Gemma, deepseek, qwen)推理 和参数调优
2. 前端Open Webui 和 Open Webui mcpo本地化部署(含企业AD集成)和调优
3. RAG知识库:
(1) RAGFlow套件部署调优。已实现知识库 80%+ 精度本地知识问答
(2) Haystack + 向量数据库Qdrant自开发(实现知识库文档向量化切割和问答)以弥补RAGFlow自带功能不足的问题和需求。
4. MCP Server自建,gradio开发,部署相关AI Agent
5. 利用PandasAI建立ChatBI,实现Excel和相关数据库数据AI分析
6. 大模型提示词安全守护:为Open Webui和Ollama建立中间提示词过滤服务 prompt filter service 包含过滤或阻止敏感词的提示词输入和大模型输出 (含json输出或流输出两种功能) 并且实现统计token和优化大模型输出。
7. 利用FastAPI自建本地OpenAI compatible API server 转换ollama API已适配本地AI可扩展通用AI agent,并且对Ollama API无法设置key问题的安全性增强。
8. AI流程自动化n8n 的部署和低代码工作流实现
9. 大模型fine-tuning LoRA以适配企业内部词汇
10. 自建统一入口

此项目难点在于所有项目开源部分都非企业级可用,将它们整合后实现企业级安全标准,以及各组件对接并没有好的官方文档,最终在集合所有信息以及自己开发测试后实现所有功能

本人单独实现以上所有功能开发测试部署和运维。

示例图片视频


奥圣
30天前活跃
方向: 人工智能-大模型和多模态、运维-运维、
交付率:100.00%
相似推荐
审计工作底稿 AI 辅助复核系统
1、立项原因 / 旨在解决什么产品问题 会计师事务所年报审计、IPO 审计通常涉及数百份 PDF 报告、Excel 台账与 Word 说明。人工复核存在耗时长、易漏检、证据难追溯等问题:复核人员需逐页核对审计意见类型、关键审计事项、强调事项段等要素,同时要在多份文档之间验证同一会计科目的数据一致性,工作重复且容易出错。本项目旨在用 AI Agent 替代重复性人工复核,将「上传 → 解析 → 复核 → 结论 → 证据引用」全流程自动化,降低漏检率并提升复核结论的可追溯性。 2、行业场景 / 业务背景 本项目面向审计/金融行业,适用于会计师事务所质控复核、审计项目经理终审、企业内审等场景。用户上传审计报告及工作底稿后,系统可自动完成两类复核:场景 A 针对最终审计报告要素完整性进行复核;场景 B 针对具体会计科目在 Excel 台账与报告描述之间做交叉勾稽验证。复核结果以「通过 / 不通过 / 需复核」形式呈现,并附带原始文档页码、单元格、原文摘录等证据链。 1、具体功能模块 - 项目管理模块**:创建项目、查看项目列表、集中管理项目下的全部工作底稿。 - 文档上传模块**:支持 PDF、Word、Excel、ZIP 批量上传,单文件上限 2GB。 - 文档解析模块**:Excel 用 SheetJS 读取缓存计算值;PDF 用 pdfjs-dist 按页提取文本;Word 用 mammoth.js 提取段落;ZIP 用 jszip 解压。 - AI 复核模块**: - 场景 A:最终报告要素完整性复核,检查审计意见类型、关键审计事项、强调事项段等; - 场景 B:具体科目证据链检查,对指定科目在 Excel 与报告之间做数值、描述交叉验证。 - 证据引用模块**:每条结论关联原始文档证据,支持页码、单元格、原文摘录。 - 任务跟踪模块**:pending → running → completed / failed 状态流转,前端轮询实时展示进度。 2、主要功能描述 用户进入项目后上传待复核文档,选择复核场景并勾选文件,点击「开始复核」即可提交任务。系统后台使用 LangGraph.js 编排 Agent 工作流,调用 Dify Cloud 完成大模型推理与审计准则知识库检索,最终生成结构化复核结论。结果页展示总体结论、统计摘要、详细结论列表及证据引用,方便复核人员快速定位问题并追溯到原始文档出处。
某日资银行大陆企业网银项目开发
国际贸易金融:实现进出口信用证开立、修改、交单、承兑、回款全线上办理,支持收/付汇单据上传、校验、审核与归档,对接外管申报与贸易背景核查,适配国内报关、退税、核销合规流程,全程留痕可追溯。 外汇资金管理:适配国内监管规则,提供即期结售汇、多币种外汇买卖、汇率对冲服务,支持自主交易、预约交易与批量操作,自动校验外汇额度、完成监管数据备案,助力企业管控汇率风险、优化外汇资金配置。 境内外支付结算:全面对接国内央行支付系统,覆盖各类境内对公转账、批量结算、缴费业务;优化国际汇出汇款流程,适配多场景跨境支付,集成合规校验与反洗钱筛查,实时同步交易进度。 本土便民财务与工具支撑:新增适配国内薪资体系的批量工资代发功能,满足企业薪资核算、对账、做账需求;搭建合规文件归档系统,配套本土化密码控件、网银助手,解决国内终端适配、环境兼容、交易安全等问题。 审批授权与国际化兼容:搭建可自定义的多级审批中台,支持双人授权、临时授权等多元模式,适配企业内控体系;保留多语种、多币种、跨时区能力,实现国际化业务与本土合规双向兼容。 银行后台运维管理:支持企业网银签约注册、客户权限、交易风控全流程管理,适配银行总分行行员分级管控体系,覆盖Token设备全生命周期安全管理,保障系统合规运维。
动态网页数据抓取爬虫/工具-企业股票行情数据
立项背景与目标: 金融分析用户常需获取股市热门标的名单,但东方财富网数据为动态加载,手动复制效率极低。本项目目标是实现热门股吧榜单的自动化采集,输出结构化数据供后续分析使用。 软件功能: 输入目标接口地址,一键运行即可获取企业名称、股吧代码、行情代码三项核心信息,输出为UTF-8编码的纯文本表格。 核心功能模块: · 请求模块:模拟浏览器访问API接口 · 解析模块:提取JSON中指定字段 · 存储模块:写入本地TXT文件 业务流程: 用户双击运行脚本→程序自动请求接口→解析返回数据→提取三个字段→生成结果文件到当前目录。 功能路径: 下载脚本→确认网络通畅→双击运行→打开同目录下生成的文本文件查看结果
A股选股评分工具-A股选股评分系统
本项目是面向个人投资者的A股选股评分工具。立项背景:普通投资者面对全市场5000多只股票难以有效筛选,且AKShare等数据接口新版列名变化常导致程序失效。本工具通过AKShare自动获取全市场实时行情(自动兼容中英文列名),过滤停牌股后,对量价配合、换手活跃度、流动性、估值四个维度进行快照评分初筛,再对初筛股票拉取历史日线计算MA5/MA10/MA20均线多头排列得分,综合输出每日TOP30选股排行榜,并自动生成可视化图表与CSV数据文件,帮助投资者快速定位值得关注的标的。
保险公司项目
保险公司理赔模块的新增功能点的开发,旧系统维护,以及移动端app内嵌h5的页面功能维护以及新功能的开发: 核心系统网页的开发:涉及理赔业务的赔付,以及对于赔案的各类处理 移动端移动理赔/理赔服务页面设计与开发
帮助文档   Copyright @ 2021-2024 程聚宝 | 浙ICP备2021014372号
人工客服