当下中小实体商户普遍缺少专职运营人员,存在活动策划耗时长、多平台营销文案编写效率低、宣传海报外包成本高的痛点;通用闭源大模型 API 调用资费不可控、数据外泄风险高,传统私有部署又面临 GPU 部署资费昂贵、难以适配细分行业规则的落地难题。
本项目基于阿里 Qwen2 全系列通用开源大模型做轻量化私有化落地,Qwen2 模型通用性极强,原生适配零售、餐饮、美业、教培、本地服务、企业服务全品类行业场景,支持行业微调与 4bit 量化压缩;项目搭建多智能体协同 AI 营销 SaaS 平台,采用 CPU 轻量化私有化大模型方案,大幅压低商家 AI 接入成本,全品类实体商户开箱即用。平台内置营销策划 Agent、文案生成 Agent、海报设计 Agent 三大智能体,可自动生成完整活动方案、适配朋友圈 / 抖音 / 小红书多平台文案、一键生成各类尺寸宣传海报;同时提供私有化部署服务,支持连锁品牌、政企服务商本地化部署,自定义行业知识库与专属素材模板,产品商业模式可全行业快速复制拓展。
项目采用分层化架构:底层选用通用开源 Qwen2 系列大模型作为基座,依托 PyTorch+Transformers 完成模型权重加载、文本分词与预处理,搭配 4bit 对称量化压缩模型体积,基于 IPEX‑LLM 实现普通 CPU 服务器低成本推理部署,无需高价 GPU 硬件,一套基座模型可适配数十个细分行业业务需求;
后端以 FastAPI 搭建整套接口服务,使用 Docker 做容器化运维,实现环境一键部署、版本快速回滚;
前端基于 UniApp 开发小程序,借助原生 Canvas 在客户端动态拼接渲染海报,无需后端生成图片。
本人独立负责项目全链路架构设计、Qwen2 大模型性能调优、多 Agent 工作流开发、配置化模板引擎落地;自研配置驱动模板系统,运营通过 Excel 批量维护全行业海报模板,新增模板无需改动代码。项目落地阶段攻克 CPU 大模型内存溢出、小程序 OSS 图片跨域渲染、海量模板管理繁琐等痛点,通过量化压缩模型内存、配置 OSS 跨域白名单、模板配置和业务代码解耦逐个优化。产品提供全自动一键生成、自定义手动修改双使用路径,生成的宣传物料可保存本地相册、一键分发全社交平台,打通营销策划 - 内容制作 - 线上推广完整业务闭环。