一、立项背景与目标
本项目研究小参数语言模型能否同时驱动对话内容与角色行为。
现有 AI 角色产品中,对话通常由模型生成,而动作由预设脚本或状态机控制,两者相互独立。本项目尝试让模型在生成回复的同时给出行为意图,由意图驱动角色动作,使语言与行为出自同一判断。
二、功能模块
1. 角色渲染模块
以 CSS 绘制角色,不依赖图片资源。实现呼吸浮动、靠近、后退、转身、跳跃、入睡共六种状态。
2. 对话模块
接入本地 Ollama 服务,用户在输入框提交文本后,模型生成回复内容。
3. 意图生成模块
模型在返回回复文本的同时返回一个意图词,取值范围为 approach、retreat、turn、hop、sleep、stay。
4. 动作映射模块
将意图词映射为对应的角色动画,并在界面下方显示当前状态文字。
三、业务流程
输入文本 → 本地模型推理 → 返回回复与意图 → 意图映射为动作 → 角色同时呈现语言与动作。全流程离线运行。
一、整体架构
后端为 Python HTTP 服务,前端为 HTML、CSS、JavaScript,经 pywebview 封装为桌面窗口。模型运行于本地 Ollama,角色动画使用 CSS 实现,不依赖游戏引擎。
早期版本基于 Godot 4.6 制作 2D 场景原型,因引擎部署成本较高,改为 Web 实现。
二、负责模块与量化结果
1. 角色渲染。使用 CSS 变换与过渡实现六种状态动画,无图片资源。
2. 模型接入。通过 Ollama 接口调用本地 qwen2.5 模型,不产生外部网络请求。
3. 意图到动作的映射。模型返回结构化结果,其中 dialogue 字段用于气泡文本,intent 字段映射为动画类名。
三、难点与解决方案
1. 结构化输出不稳定。1.5B 参数模型在同时输出对话与动作字段时,返回空对象或固定值的比例较高,经测试约六成请求不符合预期。
2. 解决方式。将输出拆分为两段:先由模型生成回复文本,再单独输出一个意图词。拆分后输出空间收窄,稳定性提升。关键约束是意图必须由模型判断,不采用对用户输入做关键词匹配的方式,否则行为将脱离模型控制。
3. 意图校验。服务端对返回的意图词做白名单校验,不在取值范围内时回退至 stay,避免前端收到无法映射的值。