面向智能体AI的
生产级治理
运行时执行、证据链和人工控制，让团队上线自主工作流时，不必把“但愿它别出事”当成安全模型。
Jesse C
Veilfire创始人
Jesse C
Veilfire创始人
我的工作处在安全工程、分布式系统与应用AI的交叉点。我为这样的团队构建系统：他们想要自主智能体带来的收益，却不想承受日后才悄然显现的失效模式——漂移、权限蔓延、不安全的工具调用，以及合规上的模糊地带。
我的立场很简单：治理必须落在动作边界上，而不是事后的仪表盘，也不是翻查会话记录做考古。执行、证据与升级都应是默认项。智能体AI正是这样才能在生产环境中变得可信。
背景
- 安全与分布式系统背景，专注于生产环境的控制手段，而不只是原型。
- 应用AI与智能体工作流，让自治直面真实的运营约束。
- 构建了Veilfire治理技术栈：Ember、FireDeck、Lens和Insight。
- 持续发表实用的实践笔记，涵盖威胁建模、漂移与运行时治理模式。
我的构建方式
生产级治理意味着安全模型存在于运行时执行之中，而不是一份检查清单。策略在动作发生之处得到执行，证据在运行过程中自然生成，升级机制在事件发生之前就已就位。
我对你的承诺
可解释的决策、对高风险操作的显式控制，以及隐私保护的可观测性——这些是默认设置，不是口号。
隐私
- 默认采用元数据优先的可观测性。
- 原始提示词与敏感内容留在你的环境中。
- 数据最小化是设计约束，不是一个功能开关。
安全立场
- 为每个智能体施加最小权限与有界自主。
- 在工具与动作边界上执行策略。
- 高风险操作升级至审批或HITL。
证据与留存
- 以证据为准，而不是囤积会话记录。
- 与策略版本绑定的防篡改审计轨迹。
- 留存周期遵循风险与合规意图。
公开可验证的证明
我们的价值观不是一份路演稿——它以软件的形式交付。两款免费开源的工具，证明治理与能力可以兼得。
Pyromancer
操作员优先的AI终端
Veilfire价值观的具体呈现。它不是演示或原型，而是一款免费、托管在GitHub上的生产级工具，构建在安全、可靠、合乎伦理的AI之上，证明治理与能力并不矛盾。
操作员掌控
默认人在回路。三种执行模式，从逐步审批到有界自主——边界由你设定，智能体在边界内运行。
隐私与安全
无遥测、无云依赖。密钥存放在你所在平台的安全保管库中，终端输出在AI看到之前先行脱敏，审计轨迹防篡改。
开放且可审计
在GitHub上免费提供macOS与Windows版本。加密审计日志让每一次AI操作、权限决策和命令都可在本地验证。
EmberSpark
人人可用的开源智能体AI
支撑Veilfire平台的同一套安全、可靠、合乎伦理的AI原则，以开源形式交给开发者社区。Apache 2.0、Python、可用Docker部署——有界自主与操作员掌控是默认设置，而不是企业版专属特权。
默认有界自主
默认关闭的工具权限、声明式的输入输出，以及BudgetGuard对迭代次数、调用次数和成本的上限。安全存在于设计层，而不是外挂补丁。
本地优先且私密
借助Ollama完全离线运行智能体。无遥测、无云依赖、数据不出本机。隐私是默认设置，而不是升级套餐。
永远Apache 2.0
默认开放，任何用途均免费，可自托管于任何位置。EmberSpark将始终保持开源。
公开的思考
关于智能体威胁建模、漂移检测与生产级治理的持续实践笔记。如果你想了解背后的实现思路，答案就在这里。
Glass Protocol
关于保障缺口的七篇系列：为什么智能体会打破旧有的保障模型，以及当安全、可靠、合乎伦理被视为结果而非功能时，保障架构应当是什么样子。
评估本身就是攻击
OpenAI与Hugging Face事件，以及它揭示的问题：信任一条你无法掌控的评估流水线意味着什么。
你的写作风格是一个跨网追踪信号
文体计量学把文字变成了身份标识。当你写下的一切都是指纹时，化名还剩下什么。
EmberSpark：开源自治，而非无限行动权
我们为什么要构建一个把有界自主作为默认、而非事后补丁的开源智能体运行时。
AI的边界已经移到了动作边界
网络防火墙拦不住智能体做了什么。AI的边界如今就是动作边界——每一次工具调用、记忆访问和对外请求。
Pyromancer：操作员优先的AI终端
构建在安全、可靠、合乎伦理的AI之上。一款以操作员掌控与治理为核心设计的AI终端。
EU AI Act合规与AI智能体
在EU AI Act之下，关于AI智能体合规你需要了解的内容。
人在回路是一个隐私陷阱
为什么HITL监督默认走向完全暴露，以及分级披露如何把监控挡在安全流程之外。
为AI智能体做威胁建模
以一个酒店客服智能体为例的实用威胁建模演练。
从威胁模型到运行时控制
继续酒店客服智能体的故事——用Veilfire Lens实地演示HITL升级与策略拦截。
追踪漂移
自治蔓延是如何发生的，又该如何检测。