异步多源招聘信息聚合爬虫(job-scraper)
多源数据采集:集成 Remotive 公开 API 和 Hacker News 招聘帖两个数据源,异步并发抓取,单源失败不影响其他源
数据标准化:将不同格式的招聘信息统一映射为标准结构,支持职位标题、公司、地点、薪资、标签等字段
智能去重:基于数据源+ID 主键去重,重复抓取自动更新而非重复插入
数据导出:一键导出 CSV/JSON 格式,支持 Excel 直接打开(UTF-8-SIG 编码)
数据分析报告:自动生成薪资分布(分桶统计)、技能词频、地区/公司 Top-N 排名等分析报告
定时任务:支持 cron 表达式配置,定时自动抓取(默认每天 09:00)
搜索