Jonathan Dambrot, CEO y Co-Fundador de Cranium AI – Serie de Entrevistas

Jonathan Dambrot es el CEO y Co-Fundador de Cranium AI, una empresa que ayuda a los equipos de ciberseguridad y ciencia de datos a entender en todos los lugares donde el IA está impactando sus sistemas, datos o servicios.

Jonathan es un ex socio de KPMG, líder en la industria de la ciberseguridad y visionario. Antes de KPMG, lideró a Prevalent para convertirse en un líder de la industria en gestión de riesgos de terceros según Gartner y Forrester antes de su venta a Insight Venture Partners a finales de 2016. En 2019, Jonathan transfirió el rol de CEO de Prevalent mientras la empresa buscaba continuar su crecimiento bajo un nuevo liderazgo. Ha sido citado en varias publicaciones y habla regularmente con grupos de clientes sobre tendencias en TI, seguridad de la información y cumplimiento.

¿Podría compartir la historia de origen detrás de Cranium AI?

Tuve la idea de Cranium alrededor de junio de 2021 cuando era socio de KPMG liderando los servicios de seguridad de terceros a nivel global. Estábamos construyendo y entregando soluciones impulsadas por IA para algunos de nuestros clientes más grandes, y me di cuenta de que no estábamos haciendo nada para protegerlos contra amenazas adversas. Así que, hice la misma pregunta a los líderes de ciberseguridad de nuestros clientes más grandes, y las respuestas que obtuve fueron igualmente horribles. Muchos de los equipos de seguridad nunca habían hablado con los científicos de datos – hablaban idiomas completamente diferentes cuando se trataba de tecnología y, en última instancia, tenían cero visibilidad en el IA que se ejecutaba en toda la empresa. Todo esto, combinado con el desarrollo constante de regulaciones, fue el desencadenante para construir una plataforma que pudiera brindar seguridad al IA. Empezamos a trabajar con el incubador de KPMG Studio y trajimos a algunos de nuestros clientes más grandes como socios de diseño para guiar el desarrollo y satisfacer las necesidades de estas grandes empresas. En enero de este año, Syn Ventures se unió para completar la financiación de semilla, y nos independizamos de KPMG en marzo y salimos de la clandestinidad en abril de 2023.

¿Qué es la Tarjeta de Cranium AI y qué información clave revela?

La Tarjeta de Cranium AI permite a las organizaciones recopilar y compartir información sobre la confiabilidad y el cumplimiento de sus modelos de IA con clientes y reguladores, y obtener visibilidad en la seguridad de los sistemas de IA de sus proveedores. En última instancia, buscamos brindar a los equipos de seguridad y cumplimiento la capacidad de visualizar y monitorear la seguridad del IA en su cadena de suministro, alinear sus propios sistemas de IA con los requisitos y marcos de cumplimiento actuales y futuros, y compartir fácilmente que sus sistemas de IA son seguros y confiables.

¿Cuáles son algunos de los problemas de confianza que la gente tiene con el IA que se están resolviendo con esta solución?

En general, la gente quiere saber qué hay detrás del IA que están utilizando, especialmente a medida que más y más de sus flujos de trabajo diarios se ven afectados de alguna manera por el IA. Buscamos brindar a nuestros clientes la capacidad de responder a preguntas que pronto recibirán de sus propios clientes, como “¿Cómo se gobierna esto?”, “¿Qué se está haciendo para proteger los datos y los modelos?” y “¿Se ha validado esta información?”. La Tarjeta de IA da a las organizaciones una forma rápida de abordar estas preguntas y demostrar la transparencia y la confiabilidad de sus sistemas de IA.

En octubre de 2022, la Oficina de Ciencia y Tecnología de la Casa Blanca (OSTP) publicó un Plan para un Bill de Derechos del IA, que compartió una hoja de ruta no vinculante para el uso responsable del IA. ¿Podría discutir sus puntos de vista personales sobre los pros y los contras de este proyecto de ley?

Aunque es increíblemente importante que la Casa Blanca diera este primer paso para definir los principios rectores para un IA responsable, no creemos que haya ido lo suficientemente lejos para brindar orientación a las organizaciones y no solo a los individuos preocupados por apelar una decisión basada en IA. La orientación regulatoria futura no debe ser solo para los proveedores de sistemas de IA, sino también para los usuarios, para que puedan entender y aprovechar esta tecnología de manera segura y segura. En última instancia, el beneficio principal es que los sistemas de IA serán más seguros, más inclusivos y más transparentes. Sin embargo, sin un marco de riesgo basado para que las organizaciones se preparen para la regulación futura, existe el potencial de frenar el ritmo de la innovación, especialmente en circunstancias en las que cumplir con los requisitos de transparencia y explicabilidad es técnicamente inviable.

¿Cómo ayuda Cranium AI a las empresas a cumplir con este Bill de Derechos?

Cranium Enterprise ayuda a las empresas a desarrollar y entregar sistemas seguros y seguros, que es el primer principio clave dentro del Bill de Derechos. Además, la Tarjeta de IA ayuda a las organizaciones a cumplir con el principio de notificación y explicación, permitiéndoles compartir detalles sobre cómo funcionan realmente sus sistemas de IA y qué datos están utilizando.

¿Qué es el Marco de Gestión de Riesgos del IA de NIST, y cómo ayudará Cranium AI a las empresas a cumplir con sus obligaciones de cumplimiento del IA para este marco?

El Marco de Gestión de Riesgos del IA de NIST es un marco para que las organizaciones gestionen mejor los riesgos para las personas, las organizaciones y la sociedad asociados con el IA. Sigue una estructura muy similar a sus otros marcos, al describir los resultados de un programa de gestión de riesgos exitoso para el IA. Hemos mapeado nuestra Tarjeta de IA con los objetivos descritos en el marco para apoyar a las organizaciones en el seguimiento de cómo sus sistemas de IA se alinean con el marco, y dado que nuestra plataforma empresarial ya recopila mucha de esta información, podemos poblar y validar automáticamente algunos de los campos.

El Acta del IA de la UE es una de las legislaciones del IA más monumentales que hemos visto en la historia reciente, ¿por qué las empresas no pertenecientes a la UE deberían cumplir con ella?

Al igual que el GDPR para la privacidad de los datos, el Acta del IA cambiará fundamentalmente la forma en que las empresas globales desarrollan y operan sus sistemas de IA. Las organizaciones con sede fuera de la UE aún deben prestar atención y cumplir con los requisitos, ya que cualquier sistema de IA que utilice o afecte a ciudadanos europeos estará sujeto a los requisitos, independientemente de la jurisdicción de la empresa.

¿Cómo se está preparando Cranium AI para el Acta del IA de la UE?

En Cranium, hemos seguido el desarrollo del Acta del IA desde el principio y hemos adaptado el diseño de nuestra oferta de producto Tarjeta de IA para apoyar a las empresas a cumplir con los requisitos de cumplimiento. Sentimos que tenemos una gran ventaja inicial, dado nuestro conocimiento temprano del Acta del IA y cómo ha evolucionado con el tiempo.

¿Por qué el IA responsable debería convertirse en una prioridad para las empresas?

La velocidad a la que el IA se está integrando en cada proceso y función empresarial significa que las cosas pueden descontrolarse rápidamente si no se hace de manera responsable. Priorizar el IA responsable ahora, al comienzo de la revolución del IA, permitirá a las empresas escalar de manera más efectiva y no enfrentar obstáculos y problemas de cumplimiento importantes más adelante.

¿Cuál es su visión para el futuro de Cranium AI?

Vemos a Cranium convirtiéndose en el verdadero rey de la categoría para el IA seguro y confiable. Aunque no podemos resolver todo, como los desafíos complejos del uso ético y la explicabilidad, buscamos asociarnos con líderes en otras áreas del IA responsable para impulsar un ecosistema que haga que sea simple para nuestros clientes cubrir todas las áreas del IA responsable. También buscamos trabajar con los desarrolladores de soluciones de IA generativa innovadoras para apoyar la seguridad y la confianza de estas capacidades. Queremos que Cranium permita a las empresas de todo el mundo seguir innovando de manera segura y confiable.

Gracias por la gran entrevista, los lectores que deseen aprender más pueden visitar Cranium AI.