结合前后端和人工智能技术完成小说创作系统:
尽管大模型上下文已经堆积到 1M 大小,但是小说系统过于复杂,需要强烈的上下文链接以及关系梳理等,同时大模型并不能一次就完成整本小说的创作,往往需要不停的审查重写、润色等。合理的框架才是成功的根本。
1.前端使用 react+tailwindcss 快速迭代
2.后端使用langgraph 、llamaindex 做 agent,flask 做api
3.记忆系统使用 pg 做数据存储,pgvector 做向量搜索,neo4j 做知识图谱
4.redis 缓存
该系统通过合理的记忆以及知识图谱帮助大模型完成小说创作,避免因为大模型上下文限制导致的小说不连贯,前后矛盾等