程序聚合软件案例 Anti-Prompt Injector -AstrBot 提示词安全插件

Anti-Prompt Injector -AstrBot 提示词安全插件

2025-12-14 19:10:17

行业：安全、社交

载体：插件、网站

技术：Python

业务和功能介绍

“Anti-Prompt Injector · AstrBot 提示词安全插件”的业务核心是为大型语言模型（LLM）应用提供高阶提示词注入（Prompt Injection）防护方案，旨在抵御越狱、系统覆盖和人设调教等恶意攻击，确保LLM的系统稳定性和行为合规性。其主要功能包括：基于 Prompt Threat Detector (PTD) 进行多模特征权重评分和威胁信号检测；集成了人设冲突检测机制以保护系统预设角色；提供四象防御模式（哨兵、神盾、焦土、拦截）供管理员根据安全需求灵活选择拦截策略（如自动加固、LLM复核、改写或直接阻止）；此外，还配备了自动封禁链路和功能强大的 WebUI，用于实时状态监控、黑白名单管理及详细的事件审计与日志导出。

项目实现

该插件的核心实现是一个多阶段防御协调器，通过 main.py 监听 AstrBot 消息事件，并在发送给 LLM 前进行拦截处理：首先，它使用 ptd_core.py 中基于多模特征加权评分的 Prompt Threat Detector (PTD) 引擎，通过正则匹配、恶意关键词和复杂编码载荷解码（如 Base64/Gzip）来计算提示词的风险级别；同时，persona_core.py 中的人设匹配器会检测用户输入是否与预设的系统角色发生冲突；随后，主控逻辑根据管理员配置的四象防御模式（哨兵、神盾、焦土、拦截）以及双核分析结果，决定采取最终动作，包括在“神盾模式”下触发LLM复核、在“焦土模式”下强制改写提示词，或在“拦截模式”下直接中止事件；此外，它还通过持久化存储实现了自动封禁用户ID和WebUI审计服务，共同构成了 LLM 消息流的全面安全网关。

示例图片视频

桐谷霁屿（南京）科技发展有限公司

30天前活跃

交付率：100.00%

查看主页

相似推荐

超医助手

超医助手是由e转诊全新迭代升级的产品，产品定位为移动化医生执业平台。可以让医生进行在线医疗学术的交流和推广，使不同级别的医生获取如个人品牌推广、学术收益等需求满足医疗学术知识的传播以及实现了病人、医疗技术、医疗资源信息的实时互动。

B2B2C 多端宠物医生（源码不开放）

**解决方案：B2B2C平台 + AI赋能** 构建三端分离的SaaS平台，通过AI技术连接三方角色，形成商业闭环： **B端（医院/医生）**：提供AI诊疗助手降低误诊率30%，智能记忆系统自动记录病历，预约管理系统提升运营效率50%，客户管理系统提高留存率。 **C端（宠物主人）**：提供24小时AI健康咨询，解决80%的常见问题，降低就医成本。在线预约挂号，避免排队等待。社区互动增强用户粘性，提升平台活跃度。 **推广端（KOL/博主）**：提供分销工具和佣金系统（首次消费15%，复购5%），实现流量变现。

医院系统-潍坊市妇幼保健院

参与开发潍坊市妇幼保健院公众号、小程序、后台管理等开发工作，该项目旨在服务就医人群，提高患者使用体验，方便患者就医，目前项目正在使用中，可以搜索潍坊市妇幼保健院公众号或小程序查看。

基层医疗公卫智能AI助手-乐联AI

行业痛点： 1.业务操作繁琐,工作效率低下 2.多系统数据割裂,协同对接困难 3.数据录入依赖人工,准确、完整性难保障 4.基层服务资源紧张,专业能力承压系统简介：乐联AI是一款面向基层医疗的智能助理产品，深度对接乐康体检(老年体检)、乐豆体检（中小学生体检）、乐童体检（婴幼儿体检）、家庭医生签约服务平台、慢病随访服务平台等多类医疗业务系统，以“打破数据孤岛、简化操作流程”为核心目标，构建覆盖全场景的基层医疗服务智能解决方案。依托语音交互与语义理解、数据校验融合、数据智能校验与融合分析、个性化智能推荐与生成、数据可视化与自动化报表、批量数据处理与模板生成六大核心技术，乐联AI创新采用自然语言对话交互模式，实现“说话即办事”。

定边县区域老年人体检平台-乐康体检

背景：由于现有公共卫生服务平台与体检业务不匹配，导致医生需要手工填表并再次录入系统，增加了工作量并容易引起错误；基于以上问题建设的一款适合基层使用场景的体检业务软件系统，系统实现了基层医疗机构下乡体检全流程的信息化，包括老年人体检、健康体检等多个模块，解决了手工填表再录入系统、专业体检医生数量匮乏、信息不互通等痛点问题，以提高服务效率和质量。 APP端：目标用户为体检医生和责任医生； 体检医生主要用于下乡体检时使用APP登记体检、打印引导单、扫码体检、打印采样条码、建档、修改档案； 责任医生主要查看体检概况，调度体检、查看基本统计是数据等基本操作； PC客户端：目标用户为体检医生、责任医生和机构管理员； 体检医生用于院内体检时登记体检、打印引导单、扫码体检、打印采样条码、建档、修改档案； 责任医生主要批量诊断、查看体检概况，调度体检、查看基本统计数据、导出体检明细、生成汇报资料等基本操作； 机构管理员主要配置机构内给类型体检项目、体检项目分工、诊断标准、其它体检套餐、打印模板、预设模板管理、账号信息等；数据驾驶舱：目标用户为各机构领导，省市区县各级部门领导 主要用于查看辖区内各个机构的体检统计数据，包含体检趋势、病情占比、体检工作量、体检反馈报告数量等自助医疗机：目标用户是居民 居民在体检时，可在自医疗机上轻松查询/创建中医体质辨识、中医药保健指导、自理能力评估及肺结核筛查。此举既省时又便捷，让居民随时掌握自身健康状况。