1、立项背景和目标:研究院需要对猫咪排泄物照片做规模化健康筛查,人工判读效率低、判读经验难沉淀。目标是构建"上传照片→AI自动分析→出报告→可疑样本人工复核"的智能分析服务:AI自动输出六分类异常结果(异物便/异色便/结晶/软便/颜色异常/正常)、Bristol粪便分型、血液/结晶/寄生虫等健康标志与健康建议,辅助兽医批量初筛,已完成商业交付上线。
2、核心功能模块:①图像预处理——EXIF信息剥离、方向修正、图片质量评估;②AI识别服务——多模态大模型结合兽医知识库RAG检索,输出结构化JSON(分类、Bristol分型、健康标志、业务推导结果);③医学规则引擎——出血/结晶与颜色字段交叉一致性校验,Bristol≤2自动标记复核建议,不让大模型独自承担医疗判断责任;④人工复核队列——低置信或字段不一致样本自动进入队列,审核确认后回流知识库;⑤数据飞轮——复核确认样本经Kappa一致性仲裁后增量入库,含类别平衡与版本化管理,服务越用越准;⑥运行保障——背压熔断、请求队列分级限流、Prometheus指标埋点与MLflow实验追踪。
3、业务流程:上游系统上传排泄物照片→质量检查与隐私脱敏→多模态模型结合检索到的兽医知识生成结构化结论→规则引擎交叉校验→高置信样本直接出报告,低置信/不一致样本进入人工复核队列→复核确认后经一致性仲裁增量回流知识库→随数据积累识别质量持续提升。
1、整体架构:FastAPI服务+vLLM推理引擎(Qwen3-VL-30B-A3B经AWQ 4-bit量化,单卡承载生产流量,提供OpenAI兼容接口)+FAISS/BGE向量库与BM25组成的检索层+PostgreSQL/Redis。检索层采用双轨灰度设计:FAISS+BGE主路径在线服务,Qdrant+新一代Embedding/Reranker链路按四档灰度比例(5%/20%/50%/100%)设计平滑切换,检索升级不停服。
2、本人负责排泄物AI识别模块后端,量化结果:①输出可靠性三道防线——XGrammar约束解码(三级回退兜底)+RICES动态Few-shot选样+四级JSON解析降级,37样本黄金评测集解析降级率0%、格式合规满足≥98%的SLO、关键异常类precision 100%(加权F1 89.08%);②检索优化——BM25+向量双路召回、RRF融合、可插拔精排,评测集P@K/MRR/NDCG 100%、检索耗时约50ms;③隐私合规——EXIF剥离+结果级签名水印(trace_id+HMAC)便于溯源;④质量与性能——累计735项自动化测试(覆盖率83.29%),端到端测试1.44s(生产RAG+Few-shot全开路径1.8s/P95 2.9s)。
3、难点与解决:一是多模态模型输出格式不稳定、字段漂移频发——以约束解码强制Schema、三级回退兜底、四级解析降级,黄金评测集解析降级率压到0%;二是兽医专业术语(病名/成分/指标)在通用向量检索中命中弱——改为BM25关键词+向量双路召回、RRF融合、精排重排序,检索指标拉满;三是30B模型单卡显存吃紧——采用AWQ 4-bit量化+vLLM显存预分配完成单卡部署;四是高峰期并发冲击——设计背压熔断与请求队列分级限流,保障核心识别链路稳定。