vivhuang

【立项背景与目标】 随着电商平台竞争加剧，企业对竞品价格监控、市场趋势分析和用户评论洞察的需求日益迫切。传统人工采集方式效率低下、覆盖不全、数据滞后。本系统旨在构建一套自动化、分布式的电商数据采集与分析平台，实现对主流电商平台（淘宝、京东、拼多多、抖音）商品数据的全天候自动采集与智能分析，为企业提供实时、准确的市场情报和决策支持。 【核心功能模块】 1. 分布式采集引擎：基于Scrapy+Redis构建，支持多节点并行采集，内置代理IP池自动切换、Cookie管理、验证码识别等反爬对抗模块，日均采集能力超过120万条商品数据。 2. 任务调度中心：提供可视化任务配置界面，支持Cron定时调度、实时流式采集与手动触发三种模式，可自定义目标平台、商品品类、采集字段（标题、价格、销量、评价、店铺信息等）。 3. 数据清洗与存储管道：自动完成数据去重、格式标准化、异常值过滤，结构化存入MySQL集群，同时同步至Elasticsearch实现毫秒级全文检索。 4. 智能分析模块：提供价格波动趋势分析、竞品销量排名、用户评论情感分析（好评/中评/差评自动分类），通过ECharts大屏实时可视化呈现。 5. 异常告警系统：支持价格突变、商品下架、评论异常等场景的阈值告警，通过钉钉/邮件/飞书实时推送。 【业务流程】 用户配置采集任务（选择平台→品类→字段→调度策略）→系统自动分发至Celery任务队列→Redis去重后分配给各Worker节点→Scrapy/Playwright执行页面抓取→数据经清洗管道处理后入库→前端Dashboard实时展示采集进度与数据分析结果→异常数据触发告警通知。