空念远

日期：2026-09-29 项目：推荐系统 / 实时特征管道 工时：8h 今日目标：解决 Flink 作业反压与特征延迟升高问题。 09:30-10:40 通过 Flink UI、Prometheus 和 Kafka Lag 看板定位：user_embedding 流按 user_id keyBy 后分区倾斜，单分区吞吐占 43%，RocksDB 状态超 12GB，checkpoint 偶发超时。 10:40-12:30 将 key 改为 user_id + bucket 两阶段聚合，盐化 16 桶后二次聚合；状态 TTL 从 7d 调为 3d，开启增量 checkpoint 与本地恢复。 14:00-16:30 重构维表关联：同步 Redis 查询改为 Guava Cache + 异步刷新，增加熔断与空值缓存；补充迟到数据侧输出流。压测 20k QPS 下，端到端 P95 从 4.2s 降至 780ms，Kafka Lag 从 120 万降至 3 万。 16:30-18:00 补单元测试与 DQ 校验，新增指标 feature_latency_ms、flink_backpressure_total，提交：perf(feature): optimize realtime pipeline (#5173)。 遗留问题：历史 savepoint 状态 schema 不兼容，需写迁移作业；维表缓存版本一致性待加。 明日计划：灰度 10% 流量观察 2h，再全量；补状态迁移脚本并更新运维手册。