程序聚合 软件案例 企业用本地AI全栈搭建-Enterprise on prem AI stack

企业用本地AI全栈搭建-Enterprise on prem AI stack

2025-10-01 11:34:37
行业:企业内部管理、人工智能
载体:网站、框架或代码包
技术:JavaScript、Python、Docker Compose、Linux

业务和功能介绍

1. 为了确保企业数据合规和防泄漏以及符合法律规范,需本地搭建企业用AI并且落地企业相关可使用功能
2. 功能包括前端统一入口,后端大语言推理基座并且运行大语言模型
3. 企业级用AI应用 包括知识库智能问答,翻译,数据智能分析,企业应用对接等
4. 安全和合规 - 敏感词过滤法律合规 并且 须考虑API安全等网络安全问题

项目实现

利用开源AI项目,提供AI本地化技术,包括已实现但不限于
1. Ollama 部署LLM(gpt-oss, Gemma, deepseek, qwen)推理 和参数调优
2. 前端Open Webui 和 Open Webui mcpo本地化部署(含企业AD集成)和调优
3. RAG知识库:
(1) RAGFlow套件部署调优。已实现知识库 80%+ 精度本地知识问答
(2) Haystack + 向量数据库Qdrant自开发(实现知识库文档向量化切割和问答)以弥补RAGFlow自带功能不足的问题和需求。
4. MCP Server自建,gradio开发,部署相关AI Agent
5. 利用PandasAI建立ChatBI,实现Excel和相关数据库数据AI分析
6. 大模型提示词安全守护:为Open Webui和Ollama建立中间提示词过滤服务 prompt filter service 包含过滤或阻止敏感词的提示词输入和大模型输出 (含json输出或流输出两种功能) 并且实现统计token和优化大模型输出。
7. 利用FastAPI自建本地OpenAI compatible API server 转换ollama API已适配本地AI可扩展通用AI agent,并且对Ollama API无法设置key问题的安全性增强。
8. AI流程自动化n8n 的部署和低代码工作流实现
9. 大模型fine-tuning LoRA以适配企业内部词汇
10. 自建统一入口

此项目难点在于所有项目开源部分都非企业级可用,将它们整合后实现企业级安全标准,以及各组件对接并没有好的官方文档,最终在集合所有信息以及自己开发测试后实现所有功能

本人单独实现以上所有功能开发测试部署和运维。

示例图片视频


奥圣
30天前活跃
方向: 人工智能-大模型和多模态、运维-运维、
交付率:100.00%
相似推荐
聚合支付平台-聚合支付
商户只需对接我这一套系统,就能实现全渠道收款,不用单独对接每家支付官方接口。 主要功能 多渠道收款:微信、支付宝、银联、扫码、H5、小程序支付统一接入 订单管理:创建订单、查询支付状态、超时关闭订单 统一回调:所有支付结果统一异步通知业务系统 退款功能:全额 / 部分退款、原路退回 费率管理:不同商户、不同代理设置不同手续费 自动对账:平台流水与官方支付流水自动核对 分润结算:平台、代理、商户自动分账、提现、T+1/D0 结算 风控安全:防重复支付、异常拦截、IP 白名单、签名校验
链信通供应链金融平台
链信通供应链金融平台是面向中小制造企业的融资服务平台,以核心企业信用为依托,提供应收账款融资、订单融资、存货质押融资、票据贴现等金融产品,实现从融资申请、信用评估、风控审核、合同签署、放款到贷后监控的全流程线上化管理,帮助中小微企业解决融资难、融资贵问题。 主要功能模块: 1. 融资申请与进度跟踪(小程序端全流程办理) 2. 授信额度管理(额度测算、占用、释放) 3. 信用评估模型(企业征信、经营数据、行业评分) 4. 风控审核中心(规则引擎 + 人工复核双通道) 5. 电子合同签署(e签宝对接) 6. 放款与还款计划管理(等额本息/先息后本) 7. 应收账款转让与票据管理 8. 逾期预警与贷后监控 9. 经营数据看板与报表导出
基于通知监听的智能记账APP-记花
立项背景: 日常消费频繁但记账习惯难养成,手动逐笔输入效率低且容易遗漏。大多数人的消费信息已经通过支付宝、微信、银行卡的推送通知触达手机,但这些通知阅后即焚,没有结构化沉淀。记花的核心思路是"被动记账"——监听系统通知,自动识别收付款信息并提取金额、商户、分类,用户只需确认即可完成记账,将记账操作从 30 秒缩短到 3 秒。 核心功能模块: 1. 通知自动记账:Android 端通过系统 NotificationListenerService 监听支付宝、微信、银行等 App 的支付推送,利用正则模板引擎(6 类模板、20+ 条规则覆盖支付宝/微信/银行/美团等场景)自动解析金额、类型(收入/支出)、商户名称,弹窗预填确认。去重机制(5 秒窗口 + 复合 key)避免同条通知重复记账。关键词过滤排除非支付通知(B站推送、充值成功等 20+ 条忽略规则)。 2. 手动记账:支持支出/收入切换,15 个支出分类 + 6 个收入分类(带图标和颜色标识),输入金额、商户、备注即可快速完成,防连点重复插入。 3. 预算管理:支持总预算和分类预算设置,进度条实时展示已用/剩余,达 80% 自动预警、超 100% 标红提醒。预警通知栏推送(每分类每 3 天最多 1 次,避免骚扰)。 4. 周期记账:支持每天/每周/每月/每季度等多种周期,App 打开时自动补记漏掉的历史周期,可单独启用/禁用。 5. 数据可视化:首页展示今日/本月收支卡片(横向滑动切换支出/收入)、分类占比环形图(Skia 自绘)、近 7 天趋势折线图(Victory Native);月度报告页支持历史月份切换,展示环比变化、Top3 支出分类、日均消费、记账天数等。 6. 数据导出导入:支持 CSV(含 BOM 兼容 Excel 中文)和 JSON 格式导出/导入,方便数据迁移和备份。 7. 深色模式与主题:支持亮色/暗色/跟随系统三种主题,全组件自适应配色。 8. 通知与保活:每日记账提醒(默认 21:00)、晚间支出汇总(默认 23:00);适配华为/小米/OPPO/vivo 等厂商的自启动设置引导;前台服务保活、电池优化白名单引导、悬浮窗速记(System Alert Window 权限)。 业务流程:用户安装 → 授权通知监听 → 支付时 App 自动弹窗预填 → 用户确认/编辑 → 记录存入 SQLite → 首页仪表盘/报告页实时刷新 → 月底查看月度报告和预算达成 → 导出数据备份。
安全软硬件系统研发-存储加密
1、近年来各种信息安全事件频发,促使各类用户亟需构建完善的安全防护体系保障自身数据安全,但在存储领域,相关产品和方案难以满足用户的安全需求。针对用户存储网络系统的应用环境、协议特点和高可用性等需求,如何稳定可靠、安全可控、快速高效地解决用户存储网络数据的保密问题以及密钥管理问题,正是开展本项目研制的背景和意义所在。安全存储系统作为存储网络中的存储数据进行安全防护和加固而开发的一套软硬件系统,串联在存储设备和应用服务器之间,整个加解密系统通过对全量数据帧的解析,完成对全量存储数据的安全防护。 2、安全存储系统包含存储数据加解密、存储设备调度管理、策略管理、接口管理、身份验证、安全审计等。存储数据加解密作为系统核心模块,支持常用国密算法、国际密码算法和存储协议,相关算法和协议经国密局检测,获得国密局认证,满足国家安全要求的同时,对原有系统的影响控制在毫秒级 3、安全存储系统串联在存储设备与应用服务器之间,通过对协议数据帧的解析,完成对存储数据的加解密。
合规检测平台
本系统为 AI合规检测平台 ,面向企业合规管理场景,对合同协议、业务流程、数据行为及供应商等对象进行自动化合规审查,帮助企业在签订合同、开展业务前提前识别合规风险。 核心功能 :系统支持从合法性、合规性、内部制度、风险4大维度进行检测,严格度1-5级可调,覆盖合同条款违规、业务流程缺失、数据行为不合规、供应商资质不达标等典型场景。检测完成后自动生成结论(通过/有条件通过/不通过)、风险等级(高/中/低)、逐项检测明细、违规条款定位、匹配法规依据及修改建议。 软件功能 :用户可上传合同文件或粘贴文本创建检测任务;检测过程实时展示进度、当前节点及已耗时;完成后生成结构化报告,支持PDF和JSON导出;历史记录支持按合同名称模糊搜索和状态筛选;提供完整审计日志追溯全流程。 业务流程 :用户登录后选择检测对象类型,输入待检测内容并设定检测维度与严格度,系统自动启动多阶段合规审查流程,依次完成任务初始化、检测策略制定、内容解析、法规检索、逐项判定、高风险复核和报告生成,全过程实时反馈进度,最终输出可导出的合规检测报告,辅助业务人员快速决策。
帮助文档   Copyright @ 2021-2024 程聚宝 | 浙ICP备2021014372号
人工客服