程序聚合 软件案例 自动化脚本

自动化脚本

2026-03-17 14:21:39
行业:内容平台
载体:爬虫/脚本
技术:Python

业务和功能介绍

这是一个专业的AI大模型价格数据获取项目,致力于实时采集全球主流大模型供应商的定价信息。项目覆盖OpenAI(GPT系列)、Google(Gemini)、Anthropic(Claude)、DeepSeek、百度(文心一言)、阿里(通义千问)、字节跳动(豆包)等国内外知名厂商的API价格数据。系统通过自动化手段获取取各平台的模型名称、输入/输出单价、计费单位、货币类型、模型层级等关键字段,并支持按文本、图像、音频、视频等多模态类型分类采集。采集数据经过清洗、标准化处理后,存储至结构化数据库,为下游的价格比对分析、成本优化推荐、动态定价策略等应用场景提供实时、准确的数据支撑。

项目实现

本项目基于 Python + Selenium + FastAPI 技术栈构建,采用模块化爬虫架构实现主流大模型价格数据的自动化采集。核心框架包含以下关键组件:
1. 浏览器自动化层
使用 Selenium WebDriver 模拟真实用户操作,支持无头模式(Headless)运行
集成 WebDriver Manager 自动管理 ChromeDriver 版本兼容性
实现智能下载监听机制,通过文件完整性校验确保数据下载成功
2. 数据处理管道
基于 Pandas 构建多阶段 ETL 流程,支持堆叠式 CSV 的智能解析
实现跨平台编码检测(UTF-8/GBK),确保中文数据正确读取
统一价格单位转换逻辑(千 tokens → 百万 tokens),标准化输出格式
3. 日志与异常处理
采用集中式日志配置,支持按模块分类记录与日志轮转
虚拟显示适配 Linux/Windows 双平台部署场景
4. 可扩展架构设计
各云厂商爬虫模块独立封装(如 doubao、qwen、claude 等),遵循统一接口规范
输出数据标准化为 CSV 格式,便于后续 API 服务集成与前端展示

示例图片视频


falcon
30天前活跃
方向: 后端-Java、爬虫/脚本-爬虫/脚本、
交付率:100.00%
相似推荐
校园综合服务小程序
立项背景和目标 当前高校学生校园信息分散,资讯、二手、失物、活动、外卖等需求分散在多个社交群,信息流转低效、无统一查询渠道。本项目目标搭建轻量化微信小程序,无需下载 APP,统一聚合校园全场景服务,降低师生信息获取成本,搭建校内安全交易、信息发布渠道。 软件核心功能模块 1. 用户登录模块:对接微信官方登录接口,自动获取用户 OpenID 完成注册、身份识别; 2. 校园资讯模块:分类展示校园新闻、通知、学习资料,支持搜索、点赞、收藏、详情预览; 3. 闲置二手模块:学生发布闲置商品、浏览商品列表、查看商品详情; 4. 失物招领模块:发布遗失 / 捡拾物品信息,检索公告; 5. 校园活动模块:展示校内文体、志愿活动,点击查看活动详情; 6. 快捷外卖服务:校内商家点餐、购物车、订单管理、收货地址管理; 7. 个人中心:用户信息、我的发布、我的收藏、订单记录、系统设置。 业务流程 用户打开小程序后自动触发微信授权登录,登录后进入首页,首页提供各功能入口;点击对应图标跳转资讯 / 二手 / 活动 / 外卖页面,列表页支持下拉刷新、上拉加载更多,点击条目跳转详情页,可完成点赞、收藏、发布、下单等操作;全部数据由后端接口统一提供存储与校验。
短剧出海项目
1、海外短剧市场处于高速增长期,TikTok/Reels 等内容消费习惯催生了用户对"短平快"剧集的需求。平台面向东南亚、北美、拉美等海外市场,通过 Facebook 广告投放获客,以 H5 网页形 式提供服务——无需下载 App,打开链接即看。 2、业务目标 内容变现 通过会员订阅 + 金币单集购买两种模式实现付费 广告归因 完整追踪从广告点击到付费的全链路转化数据 多支付商 支持 Stripe(信用卡)和 PayPal 两种主流支付方式 多站点 一套代码支持多个品牌站独立部署(通过 settings.yaml 配置) iOS 友好 通过服务端 CAPI 规避 iOS 14.5+ ATT 事件拦截 3、业务流程
华为云控制台-智果AgentArts智能体平台
华为云AI智能体应用管理平台,为企业提供智能体的创建、配置、监控及技能管理的一站式解决方案。本项目全程采用AI驱动开发模式,基于GLM-5.1+miniMax2.7完成从架构设计到代码实现的全流程,手写代码占比不足5%,交付效率较 传统模式提升3以上。
模型部署优化
为应对 DeepSeek-V4-Pro 模型在长上下文、高并发推理场景下的性能瓶颈,我们启动了 H20 集群推理服务优化项目。原单机部署方案在解码阶段依赖 DSpark 投机解码(num_speculative_tokens=3)进行加速,但在实际业务流量(高峰约 100 req/min)下,KV Cache 显存占用成为主要限制,导致请求承载能力仅约 10% 的流量比例,大量请求因资源不足被拒绝或排队,严重影响服务可用性和用户体验。 本次项目旨在通过架构升级,将部署规模从单机扩展至双 H20 集群,并引入 LMCache KVCache Pool 池化技术,实现 KV Cache 跨实例复用,显著降低长上下文场景下重复 Prefill 计算开销,最终目标是将业务承载能力提升至 25% 以上,保障高峰流量下的服务稳定性与低延迟响应。
鲜速达生鲜配送平台(FreshExpress)
鲜速达是一家面向社区的生鲜电商平台,用户可通过微信小程序和Web端下单购买果蔬、肉禽、海鲜等商品,平台提供智能分拣和30分钟极速达配送服务。该项目旨在重构原有单体系统,解决高并发下订单超时、库存不准确等问题。
帮助文档   Copyright @ 2021-2024 程聚宝 | 浙ICP备2021014372号
人工客服