工程问题
用户提示、检索文档和工具响应都可能将不可信指令带入 LLM 应用。有效的安全边界需要评估这些输入，同时尽量避免影响正常使用。
在 Constellation Network，我从零设计并构建 Gate，随后带领工程团队，负责应用、基础设施和数据库。本案例仅介绍公开能力，不披露检测器内部实现或私有部署信息。
架构与决策
Gate 包含多租户请求处理、提示注入检测、敏感数据扫描、提示压缩、响应缓存、供应商集成和可验证审计记录。上方示意图用于说明职责，并不代表内部拓扑或实际执行顺序。
缓存减少重复工作，压缩减少提示大小。两者都必须维护租户隔离和必要上下文，也都不能替代安全评估。可观测性与审计信息使请求完成后的决策检查成为可能。
公开评估
我与 Ryle Goehausen 共同撰写了 Gate AI: LLM Security Benchmark — Evaluation Methodology & Results。2026 年 5 月 27 日的预印本报告：在 16 个公开数据集、12,111 个样本上，微平均 F1 为 97.4%，总体误报率为 1.0%。
主要评估采用五折分层交叉验证和统一操作点，并辅以近重复分组诊断及泛化检查。这些是公开语料上的基准结果，并不保证所有生产任务均能达到同样表现。完整方法、局限与后续修订以链接论文为准。
工程视角
可靠的 AI 安全服务不仅需要检测准确率，还需要考虑正常用户受到的干扰、隔离、可观测性与故障恢复。这些共同构成可运行的安全边界。