에이전틱 AI를 위한
프로덕션 거버넌스
런타임 시행, 증거 추적, 사람의 통제 수단을 제공해, “잘 작동하기를 바란다”가 안전 모델이 되는 일 없이 자율 워크플로를 출시할 수 있게 합니다.
Jesse C
Veilfire 창업자
Jesse C
Veilfire 창업자
저는 보안 엔지니어링과 분산 시스템, 응용 AI가 만나는 지점에서 일합니다. 자율 에이전트의 이점은 누리되 나중에 조용히 드러나는 실패 양상, 즉 드리프트와 권한 확대, 안전하지 않은 도구 사용, 컴플라이언스 모호성은 피하려는 팀을 위해 시스템을 만듭니다.
제 입장은 단순합니다. 거버넌스는 사후 대시보드나 트랜스크립트 발굴 작업이 아니라 행위 경계에 자리해야 합니다. 시행과 증거, 에스컬레이션은 기본값입니다. 그래야 에이전틱 AI가 프로덕션에서 신뢰할 만해집니다.
배경
- 프로토타입이 아니라 프로덕션 통제에 집중해 온 보안·분산 시스템 배경.
- 자율성이 실제 운영 제약과 만나는 응용 AI 및 에이전트 워크플로.
- Veilfire 거버넌스 스택 구축: Ember, FireDeck, Lens, Insight.
- 위협 모델링, 드리프트, 런타임 거버넌스 패턴에 관한 실무 현장 노트를 공개합니다.
제가 만드는 방식
프로덕션 거버넌스란 안전 모델이 체크리스트가 아니라 런타임 실행 안에 존재한다는 뜻입니다. 정책은 행위가 일어나는 지점에서 시행되고, 증거는 운영의 일부로 생성되며, 에스컬레이션은 사고가 나기 전에 이미 준비되어 있습니다.
제가 책임지는 약속
설명 가능한 결정, 고위험 행위에 대한 명시적 통제, 프라이버시를 보존하는 관측 가능성 — 분위기가 아니라 기본값입니다.
프라이버시
- 기본은 메타데이터 우선 관측 가능성.
- 원본 프롬프트와 민감한 콘텐츠는 고객 환경에 남습니다.
- 데이터 최소화는 기능 토글이 아니라 설계 제약입니다.
보안 원칙
- 모든 에이전트에 최소 권한과 제한된 자율성 적용.
- 도구·행위 경계에서의 시행.
- 고위험 작업은 승인 또는 HITL로 에스컬레이션.
증거와 보존
- 트랜스크립트를 쌓아 두기보다 증거.
- 정책 버전과 연결된 변조 탐지 가능 감사 추적.
- 보존 기간은 위험도와 컴플라이언스 목적을 따릅니다.
공개된 증거
우리의 가치는 투자 설명서가 아니라 소프트웨어로 출시됩니다. 거버넌스와 성능이 함께 갈 수 있음을 증명하는 무료 오픈 도구 두 가지입니다.
Pyromancer
운영자 우선 AI 터미널
Veilfire의 가치를 손에 잡히게 만든 결과물입니다. 데모나 프로토타입이 아니라 GitHub에 무료로 공개된 프로덕션 도구이며, 거버넌스와 성능이 상충하지 않음을 증명하기 위해 안전하고 보안성 있으며 윤리적인 AI 위에 만들었습니다.
운영자 통제
기본값은 휴먼 인 더 루프입니다. 단계별 승인부터 제한된 자율성까지 세 가지 실행 모드를 제공하며, 경계는 사용자가 정하고 에이전트는 그 안에 머뭅니다.
프라이버시와 보안
텔레메트리도, 클라우드 의존성도 없습니다. 비밀 정보는 플랫폼의 보안 저장소에 보관되고, 터미널 출력은 AI가 보기 전에 마스킹되며, 감사 추적은 변조를 탐지할 수 있습니다.
공개되고 감사 가능
macOS와 Windows용으로 GitHub에서 무료로 제공됩니다. 암호학적 감사 로그로 모든 AI 행위와 권한 결정, 명령을 로컬에서 검증할 수 있습니다.
EmberSpark
모두를 위한 오픈 에이전틱 AI
Veilfire 플랫폼을 떠받치는 안전하고 보안성 있으며 윤리적인 AI 원칙을 그대로 오픈소스로 개발자 커뮤니티에 공개합니다. Apache 2.0, Python, Docker 배포 지원 — 제한된 자율성과 운영자 통제가 엔터프라이즈만의 특권이 아니라 기본값입니다.
기본값이 제한된 자율성
도구 권한은 기본 차단, I/O는 선언형, BudgetGuard는 반복 횟수와 호출, 비용에 상한을 둡니다. 안전은 나중에 덧붙이는 것이 아니라 설계 계층에 있습니다.
로컬 우선, 그리고 비공개
Ollama로 에이전트를 완전히 오프라인으로 실행하세요. 텔레메트리도, 클라우드 의존성도 없고, 데이터가 기기를 벗어나지도 않습니다. 프라이버시는 상위 요금제가 아니라 기본값입니다.
언제나 Apache 2.0
기본이 공개이고, 어떤 용도로든 무료이며, 어디서나 호스팅할 수 있습니다. EmberSpark는 언제나 오픈소스입니다.
공개된 사고 과정
에이전트 위협 모델링, 드리프트 탐지, 프로덕션 거버넌스에 관한 현장 노트를 꾸준히 씁니다. 구현 관점의 사고 과정이 궁금하다면 여기에 있습니다.
The Glass Protocol
보증 격차를 다룬 7부작 시리즈. 에이전트가 기존 보증 모델을 무너뜨리는 이유와, 안전성·보안성·윤리성을 기능이 아니라 결과로 다룰 때 보증 아키텍처가 어떤 모습이 되는지 살펴봅니다.
평가가 곧 공격이었다
OpenAI와 Hugging Face 사건, 그리고 직접 통제하지 않는 평가 파이프라인을 신뢰하는 일에 대해 이 사건이 보여주는 것.
인터넷 전반의 추적 신호가 되는 글쓰기 스타일
문체 분석은 글을 식별자로 바꿉니다. 쓰는 모든 글이 지문이 될 때 가명성은 어떤 의미를 갖는가.
EmberSpark: 무제한 권한 없는 오픈소스 자율성
제한된 자율성이 부차적 장치가 아니라 기본값인 오픈소스 에이전트 런타임을 만든 이유.
AI의 경계선은 행위 경계로 옮겨갔다
네트워크 방화벽은 에이전트가 무엇을 하는지 잡아내지 못합니다. 이제 AI의 경계선은 모든 도구 호출, 메모리 접근, 외부 요청이 일어나는 행위 경계입니다.
Pyromancer: 운영자 우선 AI 터미널
안전하고 보안성 있으며 윤리적인 AI 위에 만들었습니다. 운영자 통제와 거버넌스를 핵심에 두고 설계한 AI 터미널입니다.
EU AI Act 준수와 AI 에이전트
EU AI Act 아래에서 AI 에이전트 컴플라이언스에 관해 알아야 할 것들.
휴먼 인 더 루프는 프라이버시 함정이다
HITL 감독이 왜 기본적으로 전면 노출로 이어지는지, 그리고 단계적 공개가 어떻게 안전 워크플로에서 감시를 걷어내는지 살펴봅니다.
AI 에이전트 위협 모델링
호텔 고객 지원 에이전트를 대상으로 한 실무 위협 모델링 워크스루.
위협 모델에서 런타임 통제까지
호텔 고객 지원 에이전트 이야기의 후속편 — Veilfire Lens로 HITL 에스컬레이션과 정책 차단을 직접 시연합니다.
드리프트 추적하기
자율성 확대가 어떻게 일어나고 어떻게 탐지하는가.
에이전틱 AI를 프로덕션급으로.
필요한 곳에 가드레일을 두세요. 런타임 시행, 감사에 바로 쓸 수 있는 증거, 고위험 행위에 대한 사람의 통제까지 — 원본 프롬프트를 수집하지 않고 제공합니다.
약속이 아니라 증거.