Gobernanza en producción para
IA agéntica
Aplicación de políticas en tiempo de ejecución, trazas de evidencia y controles humanos para que los equipos puedan publicar flujos autónomos sin convertir “espero que se porte bien” en el modelo de seguridad.
Jesse C
Fundador, Veilfire
Jesse C
Fundador, Veilfire
Trabajo en la intersección de la ingeniería de seguridad, los sistemas distribuidos y la IA aplicada. Construyo sistemas para equipos que quieren las ventajas de los agentes autónomos sin los fallos silenciosos que aparecen más tarde: deriva, acumulación de privilegios, uso inseguro de herramientas y ambigüedad normativa.
Mi postura es simple: la gobernanza tiene que vivir en el límite de la acción, no en un panel a posteriori ni en la arqueología de transcripciones. Aplicación, evidencia y escalado son los valores por defecto. Así es como la IA agéntica se vuelve confiable en producción.
Trayectoria
- Trayectoria en seguridad y sistemas distribuidos, centrada en controles de producción y no solo en prototipos.
- IA aplicada y flujos de agentes donde la autonomía se topa con restricciones operativas reales.
- Creador del stack de gobernanza de Veilfire: Ember, FireDeck, Lens e Insight.
- Publica notas de campo prácticas sobre modelado de amenazas, deriva y patrones de gobernanza en tiempo de ejecución.
Cómo construyo
Gobernanza en producción significa que el modelo de seguridad vive dentro de la ejecución en tiempo real, no en una lista de verificación. La política se aplica donde ocurren las acciones, la evidencia se genera como parte de la operación y el escalado existe antes que los incidentes.
A qué puede exigirme
Decisiones explicables, control explícito para acciones de alto riesgo y observabilidad que preserva la privacidad: valores por defecto, no buenas intenciones.
Privacidad
- Observabilidad basada en metadatos por defecto.
- Los prompts en bruto y el contenido sensible permanecen en su entorno.
- La minimización de datos es una restricción de diseño, no un interruptor de función.
Postura de seguridad
- Mínimo privilegio y autonomía acotada para cada agente.
- Aplicación en los límites de herramienta y acción.
- Las operaciones de alto riesgo escalan a aprobación o HITL.
Evidencia y retención
- Evidencia en lugar de acumular transcripciones.
- Trazas de auditoría a prueba de manipulación, vinculadas a versiones de política.
- La retención sigue el riesgo y la intención de cumplimiento.
Pruebas en público
Nuestros valores no son una presentación comercial: se entregan como software. Dos herramientas libres y abiertas que demuestran que la gobernanza y la capacidad van juntas.
Pyromancer
Una terminal de IA pensada para el operador
Los valores de Veilfire hechos tangibles. No es una demo ni un prototipo: es una herramienta de producción, gratuita y alojada en GitHub, construida sobre una IA segura, protegida y ética para demostrar que gobernanza y capacidad no están reñidas.
Control del operador
Human-in-the-loop por defecto. Tres modos de ejecución, desde la aprobación paso a paso hasta la autonomía acotada: usted define los límites y el agente se mantiene dentro de ellos.
Privacidad y seguridad
Sin telemetría ni dependencia de la nube. Los secretos se guardan en el almacén seguro de su plataforma, la salida de la terminal se oculta antes de que la IA la vea y las trazas de auditoría son a prueba de manipulación.
Abierto y auditable
Gratuito en GitHub para macOS y Windows. Los registros de auditoría criptográficos hacen que cada acción de la IA, decisión de permiso y comando sea verificable localmente.
EmberSpark
IA agéntica abierta para todos
Los mismos principios de IA segura, protegida y ética que sustentan la plataforma Veilfire, entregados a la comunidad de desarrolladores como código abierto. Apache 2.0, Python, desplegable con Docker: autonomía acotada y control del operador por defecto, no un privilegio exclusivo de la empresa.
Autonomía acotada por defecto
Permisos de herramientas cerrados por defecto, E/S declarativa y límites de BudgetGuard sobre iteraciones, llamadas y coste. La seguridad vive en la capa de diseño, no como un añadido.
Local-first y privado
Ejecute agentes totalmente sin conexión con Ollama. Sin telemetría, sin dependencia de la nube y sin datos que salgan de su máquina. La privacidad es el valor por defecto, no un nivel de pago.
Apache 2.0 para siempre
Abierto por defecto, gratuito para cualquier uso y alojable en cualquier lugar. EmberSpark seguirá siendo código abierto, siempre.
Pensar en abierto
Notas de campo continuas sobre modelado de amenazas en agentes, detección de deriva y gobernanza en producción. Si busca el razonamiento de implementación, está aquí.
Glass Protocol
Una serie en siete partes sobre la brecha de aseguramiento: por qué los agentes rompen los modelos de aseguramiento antiguos y cómo es una arquitectura de aseguramiento cuando lo seguro, lo protegido y lo ético se tratan como resultados y no como funciones.
La evaluación era el ataque
El incidente de OpenAI y Hugging Face, y lo que revela sobre confiar en canalizaciones de evaluación que no se controlan.
Su estilo de escritura como señal de rastreo en toda la red
La estilometría convierte la prosa en un identificador. Qué significa eso para el seudonimato cuando todo lo que escribe es una huella.
EmberSpark: autonomía de código abierto sin capacidad de acción ilimitada
Por qué creamos un runtime de agentes de código abierto en el que la autonomía acotada es el valor por defecto, no un añadido.
El perímetro de la IA se ha trasladado al límite de la acción
Los cortafuegos de red no detectan lo que hace un agente. El perímetro de la IA es ahora el límite de la acción: cada llamada a herramienta, acceso a memoria y petición saliente.
Pyromancer: una terminal de IA pensada para el operador
Construida sobre una IA segura, protegida y ética. Una terminal de IA diseñada con el control del operador y la gobernanza en su núcleo.
Cumplimiento del EU AI Act y agentes de IA
Lo que hay que saber sobre el cumplimiento de los agentes de IA bajo el EU AI Act.
Human-in-the-Loop es una trampa de privacidad
Por qué la supervisión HITL tiende a la exposición total y cómo la divulgación graduada mantiene la vigilancia fuera de los flujos de seguridad.
Modelado de amenazas para agentes de IA
Un recorrido práctico de modelado de amenazas sobre un agente de atención al cliente de un hotel.
Del modelo de amenazas al control en tiempo de ejecución
Continuación del caso del agente de atención al cliente hotelero: una demostración práctica de escalado HITL y bloqueo por política con Veilfire Lens.
Seguimiento de la deriva
Cómo se produce la expansión de la autonomía y cómo detectarla.
Lleve la IA agéntica a nivel de producción.
Coloque las barreras donde importan: aplicación en tiempo de ejecución, evidencia lista para auditoría y control humano para acciones de alto riesgo, todo sin capturar prompts en bruto.
Pruebas, no promesas.