程序聚合 程序员 不穿花秋裤
24小时内活跃

不穿花秋裤

• UID:31950
综合评分 38
方向: 爬虫/脚本-爬虫/脚本
威海市
100元/8h
1年经验
求职意愿:接单·不求职(1天前更新)

个人简介

会python语言,爬取合法网页,会数据分析

技能

核心技能: Python
其他技能: JavaScript
交流语言: 普通话( 母语水平 )
行业经验: 大数据

项目案例

五矿集团网页爬取
1、立项背景和目标 五矿集团电子采购平台会持续发布大量招标、采购项目公告,采购信息分散在多页列表中,人工逐条复制项目名称、采购单位、预计采购时间等信息录入 Excel 表格工作量大、容易出错,且分页翻阅统计效率低下。本项目立项目标:基于 Playwright 自动化浏览器抓取五矿集团电子采购网多页采购公示数据,自动解析字段并写入 Excel 文件,实现采购数据批量结构化导出,方便后续数据整理、统计与归档,同时掌握动态网页分页爬取、XPath 层级定位、openpyxl 表格持久化存储的完整爬虫开发流程。 2、软件功能、核心功能模块介绍 三大核心功能模块 (1)Excel 表格初始化模块:使用 openpyxl 库新建工作簿,创建名为 “五矿集团” 工作表,预先写入表头【项目名称、采购单位、预计采购时间】,定义全局列表用于临时存储抓取到的结构化数据,为后续数据落地做准备。 (2)浏览器自动化页面交互模块:调用 Playwright 启动本地 Edge 浏览器,配置可视化运行窗口、操作减速防反爬;自动访问五矿集团采购官网首页,定位导航栏采购栏目完成点击跳转,循环 5 次执行分页加载逻辑,每页设置长时间强制等待,保证后端动态渲染的采购列表完整加载。 (3)数据解析与表格写入模块:通过层级 XPath 定位每一条采购项目 DOM 容器,循环提取项目标题、采购单位、两段拼接而成的预计采购时间;增加单页最多抓取 50 条数据限制,逐条将字段追加写入 Excel 工作表,最终完整保存为本地表格文件。 3、业务流程、功能路径描述 (1)程序初始化:创建 Excel 文件、新建工作表并设置表头;配置本地 Edge 浏览器启动路径与反爬兼容参数; (2)自动化访问目标网站:打开五矿集团电子采购平台首页,等待页面完全加载后,通过 XPath 定位导航栏 “采购” 菜单并模拟鼠标点击进入采购公告列表页; (3)分页循环抓取:执行 5 轮分页爬取,每一页等待 10 秒确保列表数据 JS 渲染完成;定位所有采购条目父级容器; (4)逐条解析字段:遍历每条条目 DOM 节点,分别提取项目名称、采购单位,拼接两个时间节点作为预计采购时间,限制单页最大抓取 50 条避免数据冗余; (5)数据入库存储:每解析一条数据立即 append 追加写入 Excel 对应行;5 页全部抓取完成后保存 Excel 文件,关闭浏览器,程序执行结束。
物流仓储
百度图片爬取
1. 立项背景和目标 手动批量下载百度图片效率低下,为快速收集配图素材,基于 Playwright 开发关键词图片自动爬取工具,输入关键词即可批量下载图片到本地文件夹,提升素材收集效率,掌握动态页面爬虫技术。 2. 核心功能模块 环境初始化:自动创建 imgs 存储文件夹,配置 Edge 浏览器路径与 UA 请求头,规避基础反爬; 浏览器自动化:启动 Edge 浏览器访问百度图片搜索页,循环滚动模拟下拉加载全部懒加载图片; 图片下载解析:通过 XPath 提取图片真实地址,过滤无效链接,用 requests 下载图片并本地保存,异常捕获防止单张失败导致程序崩溃。 3. 业务流程 输入搜索关键词→自动创建保存文件夹→浏览器打开对应搜索页面→多次下滑加载完整图片→提取图片有效链接→批量下载存入本地 imgs 文件夹→关闭浏览器结束程序。
音视频
2015世界幸福报告
1、立项背景和目标 世界幸福报告包含各国幸福指数、人均寿命、GDP、区域健康得分等多维度海量数据,纯表格数据可读性差,难以直观对比不同国家、大洲之间的差异。本项目目标:基于 BI 工具搭建可视化分析看板,将 2015 年度幸福数据拆解为排名表格、柱状图、地图热力图等多类图表,直观展示全球幸福度分布、寿命与幸福度关联、区域得分差异,实现数据可视化解读与多维对比分析。 2、软件功能、核心功能模块介绍 数据基础展示模块:搭建两个排名数据表,分别展示全球国家幸福分数排行榜、各国健康预期寿命排行榜,支持排序查看 TOP 榜单; 地理分布可视化模块:通过世界地图气泡图展示各国 GDP 数值,以气泡大小直观体现经济体量地域分布; 区域维度对比模块:两组柱状图分别展示全球各大区域健康预期寿命得分、区域平均幸福分数,横向对比大洲间整体差距; 筛选交互模块:顶部配置地区、国家下拉筛选器,可单独查看指定区域、指定国家的全部指标数据,实现钻取分析。 3、业务流程、功能路径描述 导入 2015 世界幸福报告原始数据集,完成数据清洗、字段拆分(国家、地区、幸福分数、预期寿命、GDP、大洲分类); 按需创建 5 类可视化组件:排名表格、世界地图、两组区域柱状图; 将图表布局整合为完整可视化大屏,绑定顶部地区、国家全局筛选控件; 使用者可直接查看整体数据,也可下拉筛选指定地区,联动所有图表刷新对应数据,完成幸福度、寿命、经济的多维度分析。
大数据
优衣库销售分析
1、立项背景和目标 线下与线上多渠道服装销售产生海量订单、客群、地域、品类数据,原始 Excel 表格数据零散,无法直观定位销售高峰、热销品类、核心消费人群及区域差异。本项目目标:通过 BI 工具搭建一站式销售可视化驾驶舱,对优衣库全年销售数据进行多维度拆解分析,定位经营优势与薄弱板块,为库存备货、营销投放、产品选品提供数据支撑。 2、核心功能模块介绍 核心指标卡片模块:汇总展示销售总额、客户总数、订单总数、总利润 4 项关键经营指标,直观呈现整体营收规模; 时间维度分析模块:包含月度每日销售折线趋势图、星期维度销售额柱状图,分析淡旺季、周度消费波动规律; 地域销售分析模块:中国地图气泡分布图,以气泡大小和数值展示不同地区销售额贡献,识别高营收核心区域; 客群分层分析模块:环形图展示各年龄群体消费占比、柱状图区分男女客户销售额,精准刻画目标消费人群画像; 产品结构分析模块:横向条形图展示全品类产品销售额排名,明确爆款品类与滞销品类; 联动筛选模块:顶部设置日期区间、产品类别、年龄群体下拉筛选器,可一键钻取指定条件下全图表联动数据。 3、业务流程描述 整理清洗全年销售原始数据,梳理订单日期、下单地区、产品品类、客户年龄性别、营收利润等字段; 在 BI 工具中搭建数据集,分别配置指标卡、折线图、地图、环形图、条形图等可视化组件; 完成大屏整体布局排版,绑定全局筛选器实现所有图表数据联动; 运营人员可直接查看整体经营概况,也可通过筛选条件缩小分析范围,完成销量、客群、区域、品类多维经营分析。
大数据

工作经历

教育经历

武汉东湖学院
2025.09 - 2029.06
机械设计制造及其自动化
本科
相似推荐
武汉市
后端-Python、爬虫/脚本-爬虫/脚本
技能:C、Python
肇庆市
爬虫/脚本-爬虫/脚本
技能:Python、Scrapy
广州市
爬虫/脚本-爬虫/脚本
技能:Python、Node.js、JavaScript、Scrapy、Selenium、Selenium WebDriver
武汉市
爬虫/脚本-爬虫/脚本
技能:Python
厦门市
后端-C#、爬虫/脚本-爬虫/脚本
技能:C#、Python、ASP.NET、Windows Forms
帮助文档   Copyright @ 2021-2024 程聚宝 | 浙ICP备2021014372号
人工客服