在人工智能浪潮下,帮助企业用户方便快捷使用ai实现智能客服,私有知识库问答,ai ppt功能助力企业在ai的赋能下提高企业的生产效率
负责agent搭建以及RAG处理接入网关(模型聚合平台),同时打造边缘计算产品(搭载离线算立卡,docker部署),产品包含AI助手,知识库,机器人,AIPPT等功能。同时上线SAAS端饭方便用户进行体验各种功能负责agent搭建以及RAG处理接入网关(模型聚合平台),同时打造边缘计算产品(搭载离线算立卡,docker部署),产品包含AI助手,知识库,机器人,AIPPT等功能。同时上线SAAS端饭方便用户进行体验各种功能
在过程中深入学习了 go-openai 协议和向量数据库以及 agent 架构流程,对接入各种模型有了清晰的认识以及搭建向量数据库中可以调整相似度以及检索 chunk 的多少进行控制,深入了解向量数据库以及检索数据的流程。比较透彻.关于 docker 方面,制作 docker image(程序的 arm64 版本),另外寻找到 arm64 平台架构下支持 pgvector 的 postgres docker image,编写 docker- compose.yml 文件 将程序和支持向量化的 postgres,nginx 编排在一起,使用独立网络,数据库卷采用挂载的方式,期间
docker hub 访问受阻,采用 harbor 自建 docker 分发仓库,受限网络带宽的限制将镜像 push 到阿里云个人免费仓库,方便用户快速下载。