程序聚合软件案例 Anti-Prompt Injector -AstrBot 提示词安全插件

Anti-Prompt Injector -AstrBot 提示词安全插件

2025-12-14 19:10:17

行业：安全、社交

载体：插件、网站

技术：Python

业务和功能介绍

“Anti-Prompt Injector · AstrBot 提示词安全插件”的业务核心是为大型语言模型（LLM）应用提供高阶提示词注入（Prompt Injection）防护方案，旨在抵御越狱、系统覆盖和人设调教等恶意攻击，确保LLM的系统稳定性和行为合规性。其主要功能包括：基于 Prompt Threat Detector (PTD) 进行多模特征权重评分和威胁信号检测；集成了人设冲突检测机制以保护系统预设角色；提供四象防御模式（哨兵、神盾、焦土、拦截）供管理员根据安全需求灵活选择拦截策略（如自动加固、LLM复核、改写或直接阻止）；此外，还配备了自动封禁链路和功能强大的 WebUI，用于实时状态监控、黑白名单管理及详细的事件审计与日志导出。

项目实现

该插件的核心实现是一个多阶段防御协调器，通过 main.py 监听 AstrBot 消息事件，并在发送给 LLM 前进行拦截处理：首先，它使用 ptd_core.py 中基于多模特征加权评分的 Prompt Threat Detector (PTD) 引擎，通过正则匹配、恶意关键词和复杂编码载荷解码（如 Base64/Gzip）来计算提示词的风险级别；同时，persona_core.py 中的人设匹配器会检测用户输入是否与预设的系统角色发生冲突；随后，主控逻辑根据管理员配置的四象防御模式（哨兵、神盾、焦土、拦截）以及双核分析结果，决定采取最终动作，包括在“神盾模式”下触发LLM复核、在“焦土模式”下强制改写提示词，或在“拦截模式”下直接中止事件；此外，它还通过持久化存储实现了自动封禁用户ID和WebUI审计服务，共同构成了 LLM 消息流的全面安全网关。

示例图片视频

桐谷霁屿（南京）科技发展有限公司

30天前活跃

交付率：100.00%

查看主页

相似推荐

自行开发监控软件-监控软件

1，立项背景：在医院信息部门工作，负责医院系统开发和运维工作，传统的监控软件很难实现全范围监控，如网络，接口，业务系统，服务器cpu、内存、存储，院内核心业务，数据库等，并且出现问题不能及时预警，漏报误报占比太高，就从核心业务开始自己写监控，逐步扩展到数据库，接口，总线平台，数据中心等其他模块，现在院内运维基本依赖这套监控系统，运行很多年，功能也比较完善。 2，核心功能：实现网络，接口，业务系统，服务器cpu、内存、存储，院内核心业务，数据库，通过钉钉，小程序，短信，电话，工单系统等方式，及时把预警消息推送到个人和群，督促系统管理员及时处理。 3，业务流程：任务监控，没隔三分钟跑一次所有监控列表，记录数据到数据库了日志，有问题节点间隔30秒再跑一次监控，自定义每个节点监控次数，达到设定上限开始推送预警消息到个人和运维群，防止误报，个人未处理第二次预警时推送工单，拨打电话。

智慧医生

•患者信息全景查看：支持医生一键调取患者完整就诊数据，涵盖门诊 / 住院就诊记录、检验检查报告、医学影像、住院生命体征数据、门诊开药记录、手术记录、住院病程记录、护理记录等多类型医疗信息，实现患者诊疗数据一站式整合查看 •跨端医疗协作会诊：深度对接钉钉、浙政钉、企业微信生态，医生可通过系统快速发起患者会诊，通过建立专属群组开展线上多学科 / 跨机构会诊业务；同时与院内核心系统打通，会诊结论、处理意见等关键数据可实时回流至院内会诊系统，保障医疗数据闭环与院内业务衔接 •影像调阅系统：支持调阅Jpg、Dicom格式的影像文件，同时支持对影像数据进行反相、文字标注、测量、基础标注等功能 •基于阿里云视觉智能开放平台的痤疮等级检测 •基于PaddleOCR的图片文字OCR识别功能，从骨密度报告中提取关键信息

省级疾控健康管理平台-老年疾病信息管理系统大框架（认知筛查子系统）

服务于省级疾控中心，面向全省基层医疗机构，用于老年人群的认知障碍筛查与健康管理。核心业务流程包括：基层医护人员通过系统对辖区内老年居民进行认知功能评估，填写标准化认知筛查量表（如MMSE、MoCA等国际通用量表及本土化量表）；系统根据量表得分自动判定认知障碍风险等级（正常/轻度/中重度），生成个性化随访建议；省级疾控中心汇总全省筛查数据，进行认知障碍患病率统计、流行病学分析和资源调配决策。系统涉及多种认知筛查量表，每种量表包含数十个评估条目，且条目间存在复杂的联动规则：如某个条目得分异常时，需自动触发补充评估模块；不同年龄段、教育程度的受试者，其评分标准和风险阈值不同；量表填写过程中需实时校验数据的完整性和逻辑合理性。

医疗级复杂表单解决方案-DynamicFormEngine

为解决医疗场景下复杂量表的填报、校验与数据管理难题，独立设计并开源了一套规则驱动的动态表单引擎。该系统可广泛应用于医院HIS系统、公共卫生数据采集、临床试验数据管理等场景，能处理多量表联级、复杂逻辑校验、大数据量渲染等高难度需求。

透析管理系统

目前大部分医院血液净化中心都是采取传统手工作业方式，每天需要收集大量数据，导致工作效率低下。日常的血透管理过程繁琐且复杂，中间不能出现任何差错，对于医院透析中心来说，数字化管理是必然趋势，传统的血透管理不仅不利于持续追踪患者的透析质量情况，也不利于全科的医疗质量安全管理。透析管理系统能彻底提高了各大医院血液透析工作效率 1.设备管理记录,透析记录,设备档案记录 2.人脸识别患者身份 2.读卡身份验证 3.串口读取体重秤数据解释显示 4.扫码核对信息 5.耗材扫码出库入库 6.语音播报 7.图表可视化展示数据 8.websocket监听消息推送 9.上传文件,下载文件,安装更新