背景:该项目是对客户产品的 Metrics 进行分析,检测,实验的一个管理系统。
功能和业务:
1. 集成 AI agent 的只能问答,客户只需要输入 Metrics 的常用语句问题,就能自动分析回答并生成图表展示。进一步的目标是,让客户自助可控 steps 运行流程,以及多 agent 选择。(并开发适配于 Chromium内核的 AI 插件)
2. 实验检测,针对公司内部实验的全方位检测,自动生成report,显示dashboard统计,以及一下其他功能。
项目主要围绕React, MaterialUI 搭建的前端界面,以及 C 和 python 混合搭建的后端系统。
我主要负责的是前端页面的搭建,以及在 python 的 flask 框架上写 API交互逻辑,以及对大模型的处理。
难点:
1. 针对 AI 对特定的网页捕获数据的重定向问题;
2. 针对 AI 流式数据处理,生成类似对话流程,以及 插入图表的渲染;
3. 优化数据过大时,虚拟化的问题;
4. 对调用大模型封装调用,以及处理队列数据的问题。