Aaron Fulkerson, CEO de OPAQUE – Serie de entrevistas

Aaron Fulkerson, CEO de OPAQUE, es un emprendedor de software empresarial y pionero de código abierto con una carrera que abarca más de dos décadas de construcción y escalado de plataformas tecnológicas centradas en la confianza, los datos y la transformación digital. Antes de unirse a OPAQUE en 2023, fundó MindTouch, ayudando a crecer hasta convertirse en una plataforma de conocimiento empresarial ampliamente adoptada antes de su adquisición por NICE Systems, y posteriormente lideró el lanzamiento de ServiceNow (NOW ) Impact, una de las unidades de negocio de más rápido crecimiento en la historia de ServiceNow. A lo largo de su carrera, Fulkerson ha trabajado en la intersección de tecnologías emergentes, software empresarial y ecosistemas abiertos, mientras también asesoraba a múltiples startups y organizaciones tecnológicas. Más recientemente, se ha convertido en un defensor destacado de la Inteligencia Artificial Confidencial, argumentando que la privacidad, el gobierno y la confianza verificable serán requisitos fundamentales a medida que los sistemas de IA se integren en flujos de trabajo empresariales críticos.

OPAQUE es una empresa de Inteligencia Artificial Confidencial que surgió del renombrado laboratorio RISELab de la Universidad de California en Berkeley, el mismo ecosistema de investigación que ayudó a crear tecnologías como Apache Spark y Databricks. La empresa ha desarrollado una plataforma que permite a las empresas ejecutar modelos de IA, agentes y flujos de trabajo en datos altamente sensibles mientras mantiene garantías de privacidad y cumplimiento criptográficamente verificables. En lugar de obligar a las organizaciones a elegir entre la innovación de IA y la seguridad de los datos, OPAQUE utiliza computación confidencial, entornos de tiempo de ejecución cifrados y ejecución atestiguada por hardware para garantizar que la información sensible permanezca protegida antes, durante y después del procesamiento de IA. Su tecnología está diseñada para industrias altamente reguladas, incluyendo finanzas, seguros, atención médica y tecnología, con clientes y socios que incluyen ServiceNow, Anthropic, Accenture y otras organizaciones empresariales que buscan mover proyectos de IA desde programas piloto a producción sin exponer datos propietarios o regulados.

¿Qué te llevó a asumir el papel de CEO en OPAQUE y a centrarte en la confianza, la privacidad y el gobierno de la IA en tu próximo capítulo?

He pasado casi dos décadas construyendo plataformas empresariales, primero en MindTouch, que todavía es utilizada por mil millones de usuarios al año, y luego en ServiceNow, donde creé su producto de más rápido crecimiento. Ambas me enseñaron la misma lección: la tecnología más poderosa solo gana cuando la gente confía en ella.

Cuando conocí a los cofundadores de OPAQUE, Raluca Ada Popa, Ion Stoica y Rishabh Poddar, vi una combinación rara de talento y visión. Raluca es una de las investigadoras más destacadas en privacidad y seguridad del mundo. Ion cofundó Databricks. Rishabh construyó los sistemas criptográficos básicos que se convirtieron en la base de OPAQUE.

En el laboratorio RISELab de la Universidad de California en Berkeley, habían creado algo que reconocí de inmediato como generacional. Prueba criptográfica de que los datos permanecen privados a lo largo de todos los flujos de trabajo de IA. No promesas. No políticas. Prueba.

Miré hacia dónde se dirigía la IA, con agentes que actúan de forma autónoma en sistemas empresariales a velocidad de máquina, y vi la misma brecha que Vint Cerf ha advertido durante 30 años: no hay capa de confianza. Internet sobrevivió sin ella porque los humanos eran el guardrail. La web agente no tendrá ese lujo. Eso es lo que me atrajo.

Con el protocolo de contexto de modelo (MCP) emergiendo como una base común, ¿cómo ves que esto cambiará la forma en que las empresas despliegan y escalan la IA agente?

MCP es un paso importante en la forma en que las empresas despliegan y escalan la IA agente. Piensa en ello como un conector universal para flujos de trabajo de IA. Establece un estándar para cómo los agentes se conectan a herramientas, aplicaciones y datos, reduciendo la fricción real y acelerando la experimentación.

Pero estandarizar el acceso solo no hace que la IA agente sea segura o escalable. A medida que estas conexiones se multiplican, con más agentes, más herramientas y más fuentes de datos, la superficie de exposición de los datos aumenta con cada nueva integración. Cada punto de conexión que carece de aplicación en tiempo de ejecución es un vector de exposición potencial. Cuando los agentes de IA interactúan con sistemas y lógica propietaria sensibles, el cifrado en reposo y los controles de red no son suficientes. El límite de seguridad se ha desplazado a la ejecución en tiempo de ejecución, y ese desplazamiento se vuelve más urgente a medida que el ecosistema se escala.

Tener verificabilidad en estos puntos de conexión esenciales será fundamental para la empresa. Las empresas pueden escalar la IA agente cuando el acceso estilo MCP se combina con prueba criptográfica de qué código se ejecutó, dónde se ejecutó y bajo qué política, antes, durante y después de la ejecución. Acceso más verificabilidad. Esa es la combinación que desbloquea la producción.

¿Dónde ves las brechas más grandes hoy en día en cuanto a seguridad, aplicación de políticas y confianza en sistemas impulsados por agentes?

Completamos nuestra investigación sobre la superficie de exposición de IA de 2026 y publicamos un resumen de nuestros hallazgos, “Una docena de formas en que su pila de IA está filtrando datos”, que aborda esto. Identificamos 46 vectores de exposición en 8 categorías que abarcan toda la frontera de confianza de IA: cómputo, control, aplicación y las entregas entre ellos. Eso es sin considerar actores maliciosos. Estos son escenarios en los que nada está roto, los registros parecen limpios y su sistema todavía está filtrando datos.

Las brechas más grandes no están en la conectividad; MCP está resolviendo eso. Las brechas están en lo que sucede después de que un agente se conecta. La mayoría de las organizaciones no pueden responder a tres preguntas básicas: ¿Cómo se comporta realmente nuestra IA? ¿Quién la controla? ¿Y cómo probamos que las políticas se aplicaron?

Nuestra investigación mostró que los límites están configurados pero nunca se aplican. Una política existe en un documento, un archivo de configuración o una configuración de implementación, pero el sistema en ejecución no está limitado por ella. Un asistente ejecutivo de IA coloca información no pública material en una invitación de calendario. Un copiloto de RAG sirve financieros de nivel de junta a un analista junior. Un SDK de proveedor exfiltra silenciosamente 10 millones de consultas durante 12 meses. En cada caso, los controles de acceso estaban en su lugar. Los datos se filtraron de todos modos.

Hasta que las empresas cierren la brecha entre la política configurada y la política aplicada, MCP estandariza la puerta principal. Pero la casa todavía no está guardada.

Cuando los agentes de IA tienen acceso a sistemas y datos sensibles, ¿qué nuevos riesgos de privacidad y cumplimiento tienden a surgir que las empresas a menudo no están preparadas para enfrentar?

La mayoría de las empresas piensan en la privacidad en términos de datos en reposo o en tránsito. Ese modelo se rompe en flujos de trabajo de IA agente porque el mayor riesgo es la exposición de datos mientras se utilizan.

Lo que quiero decir es que un fabricante de automóviles de alto rendimiento ejecuta IA a lo largo de su línea de montaje. Los datos brutos parecen inofensivos: lecturas de sensores, secuencias de temporización, controles de calidad. Pero un LLM puede reconstruir ahora los procesos de fabricación propietarios a partir de esos datos de agotamiento. Lo que era ruido hace cinco años es ahora un plano para un competidor.

Nuestra investigación sobre la superficie de exposición de IA documenta este patrón en decenas de escenarios. Las herramientas de telemetría operativa capturan la carga útil completa de IA por defecto, y un banco europeo tenía 2,1 millones de solicitudes que contenían información de identificación personal fluyendo a una instancia de SaaS en EE. UU. porque nadie cambió los valores predeterminados de APM. La memoria del agente se filtra entre sesiones. Las trazas de razonamiento en cadena exponen registros de investigación completos a plataformas de observabilidad accesibles para contratistas. Los marcos de cumplimiento tradicionales no estaban diseñados para detectar este tipo de filtración. Asumieron que los humanos estaban moviendo datos a velocidad humana.

¿Por qué la Inteligencia Artificial Confidencial se está convirtiendo en un contrapunto necesario para MCP, y cómo aborda desafíos que los estándares de acceso solos no pueden resolver?

MCP resuelve quién puede acceder a qué y cómo, mientras que la Inteligencia Artificial Confidencial resuelve qué sucede una vez que se otorga el acceso. Son capas complementarias.

Los estándares de acceso solos no pueden prevenir la compromisión en tiempo de ejecución, el deslizamiento de políticas o el uso no autorizado de datos. Piensa en ello de esta manera: MCP te da una forma estandarizada de conectar agentes a tus sistemas. La Inteligencia Artificial Confidencial te da garantías criptográficas de que, una vez conectados, esos agentes solo pueden hacer lo que están autorizados a hacer, y puedes probarlo.

La Inteligencia Artificial Confidencial ofrece esas garantías en tiempo de ejecución en datos, identidad, código y comunicación. Proporciona prueba verificable de ejecución y garantiza que la privacidad y la aplicación de políticas no se detengan en el límite de acceso, sino que persistan mientras la IA razona, genera y actúa activamente. Sin ella, MCP es una base sólida. Pero las bases solas no hacen que un edificio sea seguro.

En términos prácticos, ¿cómo se ve la confianza verificable para una empresa que ejecuta agentes de IA autónomos en flujos de trabajo críticos?

La confianza verificable significa que puedo probar qué código se ejecutó, dónde se ejecutó, bajo qué políticas, qué datos se accedieron y cómo se comportó el sistema con el tiempo.

En la práctica, considera a una compañía de seguros que utiliza agentes de IA para procesar cartas de demanda. Antes de la ejecución, la verificación de hardware verifica la identidad del agente y la integridad del entorno. Durante la ejecución, la vinculación de políticas criptográficas dentro de un entorno de ejecución de confianza (TEE) con respaldo de hardware garantiza que los datos permanezcan protegidos y que las políticas se apliquen. Después de la ejecución, un registro de auditoría a prueba de manipulaciones registra exactamente lo que sucedió.

El riesgo en los flujos de trabajo de IA agente no es que un agente se vuelva renegado. El verdadero riesgo es que no puedas demostrar si una política se aplicó o si los datos sensibles estuvieron protegidos mientras los agentes estaban operativos, antes, durante y después. Eso es lo que se ve la confianza verificable.

¿Por qué la supervisión tradicional humana se rompe cuando los sistemas agente operan a velocidad de máquina, y cómo deberían las organizaciones replantear el gobierno en este nuevo entorno?

Durante décadas, Internet tuvo un guardrail invisible: nosotros. Los humanos leían contenido, hacían clic intencionalmente y no actuaban silenciosamente en cien sistemas simultáneamente.

La IA agente borra esas suposiciones de la noche a la mañana. Los agentes operan continuamente, toman decisiones a velocidad de máquina y pueden ser manipulados por entornos diseñados para humanos pero explotables por máquinas. Una página web maliciosa no necesita engañar a una IA como engaña a una persona; simplemente puede instruirla.

Con solo un 1% de riesgo por agente, una red de 100 agentes enfrenta una probabilidad del 63% de una violación. Escalar a mil y estás en un 99,99%. La gobernanza humana en el bucle no puede seguir el ritmo de esas cifras. La supervisión tiene que cambiar de revisión reactiva a garantías en tiempo de ejecución. Eso significa flujos de trabajo de confianza cero, aplicación de políticas por defecto y ejecución verificable que no depende de que un humano atrape el fallo después del hecho.

¿Cuáles son los fallos de seguridad más comunes que ves cuando las empresas experimentan con IA agente sin una capa de confianza integrada?

El patrón que veo con más frecuencia es que las empresas permiten que los agentes actúen y se coordinen sin ninguna garantía criptográfica sobre su comportamiento. Están procesando propiedad intelectual sensible basándose en la esperanza.

Lo que sigue es predecible, y hemos documentado los patrones específicos en nuestra investigación sobre la superficie de exposición de IA. Las compromisiones en tiempo de ejecución evaden las defensas perimetrales tradicionales porque el agente ya está dentro de la red. Las cadenas de agentes autónomos crean fallos en cascada. Un agente explotado desencadena un efecto dominó en sistemas conectados. La lógica propietaria se filtra a través del agotamiento de datos que nadie pensó en monitorear. Los agentes pierden la capacidad de distinguir la intención empresarial de la entrada maliciosa porque no hay identidad verificable ni vinculación de políticas en tiempo de ejecución.

Estos no son hipotéticos. Mapeamos 46 vectores donde los datos escapan de sus controles previstos, incluso cuando nada parece roto. Los agentes de IA generan y comparten datos a velocidad de máquina. Sin salvaguardias de tiempo de ejecución verificables integradas en el flujo de trabajo, los fallos se propagan más rápido de lo que cualquier equipo de seguridad puede detectar o responder.

¿Cómo están equilibrando las empresas líderes la necesidad de desbloquear capacidades de IA avanzadas y, al mismo tiempo, proteger sus activos de datos más sensibles?

Las organizaciones que lo están haciendo bien tratan la privacidad y el gobierno como aceleradores, no como frenos. Esa es la idea clave.

Lo que estoy viendo en el campo es que las empresas líderes emparejan capacidades de IA avanzadas con plataformas de Inteligencia Artificial Confidencial que ofrecen garantías verificables, no solo listas de verificación de cumplimiento. Están desbloqueando datos sensibles para la innovación de IA mientras garantizan que la información propietaria permanece protegida, incluso cuando los flujos de trabajo se ejecutan de forma autónoma.

El marco anterior era capacidad versus seguridad. Las organizaciones que se mueven más rápido han rechazado completamente esa compensación. Están integrando la confianza verificable en la base de su estrategia de IA, lo que les permite poner sus datos más valiosos a trabajar. Mientras tanto, los competidores todavía están atascados en el modo de prueba, ejecutando IA en conjuntos de datos sanitizados que no mueven la aguja.

Basándote en lo que estás viendo hoy, ¿cómo esperas que los modelos de gobernanza de IA empresarial evolucionen en los próximos años a medida que los sistemas agente pasan de los pilotos a la producción completa?

La gobernanza va a evolucionar de papeleo a prueba. Esa es la forma más simple de expresarlo. Los primeros modelos de gobernanza se construyeron para software con ritmo humano: políticas en papel, aprobaciones antes de la implementación, revisiones después de que algo salió mal. Los sistemas agente rompen cada uno de esos supuestos. Operan continuamente, actúan de forma autónoma y generan efectos en cascada a velocidad de máquina.

Lo que estamos viendo es que la gobernanza se mueve hacia la verificabilidad en tiempo de ejecución como el nuevo límite de seguridad, respaldada por garantías criptográficas que prueban el comportamiento en cada etapa del ciclo de vida de un agente, antes, durante y después. El mismo patrón que vimos con HTTPS se está convirtiendo en el estándar para el tráfico web. Nadie discute ya si cifrar las conexiones web. Dentro de unos pocos años, nadie discutirá si verificar la ejecución de IA en tiempo de ejecución. Será la norma.

Gracias por la gran entrevista, los lectores que deseen aprender más pueden visitar OPAQUE.