エージェント型AIのための
本番ガバナンス
ランタイムでの適用、エビデンス証跡、人間による制御を備え、「うまく動いてくれることを願う」を安全性モデルにすることなく、チームが自律的なワークフローを本番へ届けられるようにします。
Jesse C
Veilfire創業者
Jesse C
Veilfire創業者
私はセキュリティエンジニアリング、分散システム、応用AIが交わる領域で仕事をしています。自律エージェントの利点は取り入れたいが、後から静かに表面化する失敗、すなわちドリフト、権限の肥大化、安全でないツール利用、コンプライアンス上の曖昧さは避けたい。そうしたチームのためにシステムを構築しています。
私の立場は単純です。ガバナンスはアクション境界に置かれるべきであり、事後のダッシュボードでも、トランスクリプトの発掘作業でもありません。適用・エビデンス・エスカレーションが既定であること。それが、エージェント型AIを本番環境で信頼できるものにする方法です。
経歴
- プロトタイプにとどまらず、本番環境の統制に軸足を置いたセキュリティと分散システムの経歴。
- 自律性が現実の運用制約と向き合う、応用AIとエージェントワークフローの実践。
- Veilfireのガバナンススタック、Ember、FireDeck、Lens、Insightを構築。
- 脅威モデリング、ドリフト、ランタイムガバナンスのパターンについて、実務的なフィールドノートを公開。
私のつくり方
本番ガバナンスとは、安全性モデルがチェックリストではなくランタイムの実行内部に存在することを意味します。ポリシーはアクションが起きる場所で適用され、エビデンスは運用の一部として生成され、エスカレーションはインシデントが起きる前から用意されています。
私が約束すること
説明可能な判定、高リスク操作に対する明示的な制御、プライバシーを保護する可観測性。雰囲気ではなく、既定の仕様として提供します。
プライバシー
- 既定でメタデータ中心の可観測性。
- 生のプロンプトと機微なコンテンツは、お客様の環境にとどまります。
- データ最小化は機能トグルではなく、設計上の制約です。
セキュリティの姿勢
- すべてのエージェントに最小権限と境界付き自律性を。
- ツールとアクションの境界で適用。
- 高リスクの操作は承認またはHITLへエスカレーションします。
エビデンスと保持
- トランスクリプトの溜め込みではなく、エビデンスを。
- ポリシーのバージョンに紐付く、改ざん検知可能な監査証跡。
- 保持期間はリスクとコンプライアンスの意図に従います。
公開された証明
私たちの価値観はピッチデックではなく、ソフトウェアとして届けられます。ガバナンスと能力が両立することを示す、2つの無償のオープンなツールです。
Pyromancer
オペレーターファーストのAIターミナル
Veilfireの価値観を形にしたものです。デモでもプロトタイプでもなく、GitHubで公開されている無償の実用ツールであり、安全・セキュア・倫理的なAIを土台に、ガバナンスと能力が対立しないことを示します。
オペレーターによる制御
既定でヒューマン・イン・ザ・ループです。ステップごとの承認から境界付き自律動作まで3つの実行モードがあり、境界を決めるのは利用者で、エージェントはその内側にとどまります。
プライバシーとセキュリティ
テレメトリなし、クラウド依存なし。シークレットはお使いのプラットフォームのセキュアなボールトに保管され、ターミナル出力はAIが見る前にマスキングされ、監査証跡は改ざんを検知できます。
オープンで監査可能
macOSとWindows向けにGitHubで無償公開しています。暗号学的な監査ログにより、すべてのAI操作、権限判定、コマンドをローカルで検証できます。
EmberSpark
すべての人に開かれたエージェント型AI
Veilfireプラットフォームを支える「安全・セキュア・倫理的なAI」という同じ原則を、オープンソースとして開発者コミュニティに提供します。Apache 2.0、Python、Dockerでデプロイ可能。境界付き自律性とオペレーターによる制御は、エンタープライズだけの特権ではなく既定の仕様です。
既定で境界付き自律性
既定でクローズドなツール権限、宣言的なI/O、反復回数・呼び出し・コストに対するBudgetGuardの上限を備えます。安全性は後付けではなく設計層に組み込まれています。
ローカルファーストでプライベート
Ollamaを使えばエージェントを完全オフラインで実行できます。テレメトリなし、クラウド依存なし、データがマシンの外に出ることもありません。プライバシーは上位プランの特典ではなく、既定の仕様です。
ずっとApache 2.0
既定でオープン、あらゆる用途で無償、どこにでもホストできます。EmberSparkは今後もずっとオープンソースです。
考えを公開する
エージェントの脅威モデリング、ドリフト検知、本番ガバナンスについて書き続けているフィールドノートです。実装の考え方を知りたい方は、ここをご覧ください。
The Glass Protocol
アシュアランスギャップを扱う全7部のシリーズです。なぜエージェントは従来のアシュアランスモデルを破綻させるのか、そして安全性・セキュリティ・倫理を機能ではなく成果として扱うとき、アシュアランスのアーキテクチャはどうなるのかを論じます。
評価そのものが攻撃だった
OpenAIとHugging Faceのインシデントから、自分の管理下にない評価パイプラインを信頼することの意味を読み解きます。
文体はインターネットを横断する追跡シグナルになる
文体分析は文章を識別子に変えます。書くものすべてが指紋になるとき、仮名性はどうなるのかを考えます。
EmberSpark: 無制限の権限を伴わないオープンソースの自律性
境界付き自律性が後付けではなく既定であるオープンソースのエージェントランタイムを、なぜ作ったのか。
AIの境界線はアクション境界へ移った
ネットワークファイアウォールはエージェントの振る舞いを捉えられません。AIにとっての境界線は、いまやすべてのツール呼び出し、メモリアクセス、外向きリクエストというアクション境界にあります。
Pyromancer: オペレーターファーストのAIターミナル
安全・セキュア・倫理的なAIを土台に構築。オペレーターによる制御とガバナンスを中核に据えて設計されたAIターミナルです。
EU AI Actへの準拠とAIエージェント
EU AI Actのもとで、AIエージェントの準拠について知っておくべきこと。
ヒューマン・イン・ザ・ループはプライバシーの罠
HITLによる監督がなぜ既定で全面的な開示になるのか、そして段階的な開示によって安全性のワークフローから監視を締め出す方法。
AIエージェントの脅威モデリング
ホテルのカスタマーサポートエージェントを題材にした、実践的な脅威モデリングの手順解説。
脅威モデルからランタイム制御へ
ホテルCSエージェントの続編。Veilfire LensによるHITLエスカレーションとポリシーによるブロックを実際に試します。
ドリフトを追跡する
自律性の肥大化はどのように起き、どう検知するのか。
エージェント型AIを本番品質に。
ガードレールを効く場所に置きます。ランタイムでの適用、監査に耐えるエビデンス、高リスク操作に対する人間の制御を、生のプロンプトを取得することなく実現します。
約束ではなく、証明を。