30天前活跃

leo

• UID:31760
综合评分 33
方向: 爬虫/脚本-爬虫/脚本
温州市
100元/8h
1-3年经验
求职意愿:接单·不求职(30天前更新)

个人简介

资深爬虫/脚本程序员,擅长 Python 异步爬虫开发、数据采集与处理。 核心技能: 爬虫技术:aiohttp 异步并发、Scrapy 框架、Playwright/Selenium 自动化、UA轮换/请求节流/重试退避等反爬策略 数据处理:pandas 数据分析、SQLite/MySQL 数据库操作、CSV/JSON/Excel 数据格式转换 脚本开发:自动化脚本编写、定时任务调度(APScheduler)、CLI 工具开发(click) 技术栈:Python、aiohttp、requests、BeautifulSoup、pandas、SQLite、Git 项目经验: 异步多源招聘信息聚合爬虫:集成 Remotive API 和 Hacker News 两个公开数据源,异步并发抓取,SQLite UPSERT 去重,自动生成薪资分布、技能词频、地区公司 Top-N 分析报告,支持 CSV/JSON 导出和 cron 定时任务 企业级数据采集系统:针对多个电商平台的商品数据采集,支持分布式部署、增量更新、IP代理池轮换、验证码识别集成 擅长解决复杂反爬问题,能够快速定位并绕过目标网站的限制,保证数据采集的稳定性和完整性。注重代码质量和工程化实践,项目代码结构清晰、可维护性强。

技能

核心技能:
其他技能: Scrapy、Selenium
交流语言: 普通话( 母语水平 )
行业经验: 内容平台

项目案例

异步多源招聘信息聚合爬虫(job-scraper)
多源数据采集:集成 Remotive 公开 API 和 Hacker News 招聘帖两个数据源,异步并发抓取,单源失败不影响其他源 数据标准化:将不同格式的招聘信息统一映射为标准结构,支持职位标题、公司、地点、薪资、标签等字段 智能去重:基于数据源+ID 主键去重,重复抓取自动更新而非重复插入 数据导出:一键导出 CSV/JSON 格式,支持 Excel 直接打开(UTF-8-SIG 编码) 数据分析报告:自动生成薪资分布(分桶统计)、技能词频、地区/公司 Top-N 排名等分析报告 定时任务:支持 cron 表达式配置,定时自动抓取(默认每天 09:00)
搜索

工作经历

小花科技
  
50-200人
数据工程师
2023.10 - 2026.07
负责数据采集系统开发与维护,包括:多源异步爬虫架构设计、反爬策略(UA轮换/请求节流/重试退避)、数据清洗与标准化、SQLite/MySQL数据存储、pandas数据分析与可视化、定时任务调度

教育经历

浙江科技大学
2019.09 - 2023.06
计算机科学与技术
本科
相似推荐
深圳市
桌面端-.NET、爬虫/脚本-爬虫/脚本
技能:Python
上海市
爬虫/脚本-爬虫/脚本、后端-Java
技能:Apache Cassandra、Selenium WebDriver
长春市
Rpa-Rpa、爬虫/脚本-爬虫/脚本
技能:Python、PyAutoGUI、Transformers、Robot Framework、SQLite、Selenium WebDriver、Tesseract
深圳市
爬虫/脚本-爬虫/脚本、嵌入式-嵌入式应用开发
技能:C#、C、C++、Java、Python
保定市
爬虫/脚本-爬虫/脚本、桌面端-桌面端其他
技能:Python
帮助文档   Copyright @ 2021-2024 程聚宝 | 浙ICP备2021014372号
人工客服