票房数据全量采集工具 V1.0

业务和功能介绍
项目背景和目标针对电影行业数据分析中 “历史票房数据分散、手动收集效率低（单年数据整理需 2 小时 +）” 的痛点，开发自动化工具实现 1994-2024 年中国内地电影票房数据的全量采集，为行业趋势分析、票房预测提供结构化基础数据。
软件功能和核心模块
全量爬取模块：按年份批量抓取票房数据，包含影片排名、上映年份、电影名称、票房金额等核心字段；
反爬处理模块：通过随机切换 User-Agent（模拟多浏览器）、2-4 秒动态延时（模拟人类浏览间隔），规避目标网站的频率限制；
数据清洗模块：自动去除文本空白字符（空格、换行），过滤无效数据行（如无排名的空记录）；
存储模块：按年份结构化保存为本地文件（./aba/ 年份），支持后续 Excel / 数据库导入。
业务流程目标网站分析→反爬策略设计→爬虫脚本开发→全量数据爬取（1994-2024）→数据清洗→结构化存储→支持下游数据分析应用。

项目实现
整体架构和技术选型采用 “请求层 - 解析层 - 存储层” 三层架构：
请求层：基于 requests 库构建 HTTP 请求，集成随机 User-Agent 池和动态延时策略，解决反爬限制；
解析层：使用 lxml+XPath 定位 HTML 表格数据（//table/tbody/tr），精准提取标签内的文本内容；
存储层：通过 Path 路径处理工具管理文件目录，自动创建存储文件夹（./aba），按年份分文件保存为 CSV 格式。
核心技术实现和成果
反爬突破：设计 User-Agent 池（3 种主流浏览器标识）+ 随机延时（2-4 秒），爬取成功率提升至 98%，无 IP 封禁记录；
鲁棒性保障：添加请求超时（10 秒）和异常捕获机制，单个年份爬取失败时自动记录日志（logging），不影响整体流程；
效率优化：批量爬取 30 年数据（1994-2024）仅需 15 分钟，相比手动收集效率提升 240 倍。
遇到的难点和解决方案
难点 1：部分年份页面表格结构不一致，导致 XPath 解析失败→解决方案：通过 “排名非空” 过滤无效行（if not num: continue），确保数据有效性；
难点 2：网站 SSL 证书问题导致请求报错→解决方案：添加 verify=False 跳过证书验证，并通过 urllib3.disable_warnings () 消除冗余警告；
难点 3：大量请求导致程序卡顿→解决方案：设置请求超时（timeout=10），避免无限等待，提升脚本稳定性。