Mike Capps, Co-Fundador y CEO de Diveplane – Serie de Entrevistas

El Dr. Michael Capps es un conocido tecnólogo y CEO de Diveplane Corporation. Antes de co-fundar Diveplane, Mike tuvo una carrera legendaria en la industria de los videojuegos como presidente de Epic Games, creadores de éxitos como Fortnite y Gears of War. Su mandato incluyó cien premios de juego del año, decenas de conferencias magistrales, un premio a la trayectoria y una defensa exitosa de la libertad de expresión de los videojuegos en la Corte Suprema de los EE. UU.

Diveplane ofrece soluciones empresariales impulsadas por IA en múltiples industrias. Con seis patentes aprobadas y múltiples pendientes, la IA Comprensible de Diveplane ofrece una comprensión y transparencia de decisión completa en apoyo de políticas de IA éticas y estrategias de privacidad de datos.

Usted se retiró con éxito de una carrera exitosa en la industria de los videojuegos en Epic Games, ¿qué lo inspiró a salir de la jubilación para centrarse en la IA?

Hacer juegos fue divertido, pero – al menos en ese momento – no era una carrera ideal cuando se tiene una nueva familia. Me mantuve ocupado con puestos en juntas directivas y roles asesores, pero no era gratificante. Así que hice una lista de tres problemas importantes que enfrenta el mundo que podría impactar – y que incluían la proliferación de sistemas de IA de caja negra. Mi plan era pasar un año en cada uno investigando, pero unas semanas después, mi brillante amigo Chris Hazard me dijo que había estado trabajando en secreto en una plataforma de IA transparente y completamente explicable. Y aquí estamos.

Diveplane se inició con la misión de llevar humanidad a la IA, ¿puede elaborar sobre lo que esto significa específicamente?

Claro. Aquí estamos utilizando humanidad para significar “humanidad” o “compasión”. Para asegurarnos de que lo mejor de la humanidad esté en su modelo de IA, no puede simplemente entrenar, probar un poco y esperar que esté bien.

Necesitamos revisar cuidadosamente los datos de entrada, el modelo en sí y la salida de ese modelo, y asegurarnos de que refleje lo mejor de nuestra humanidad. La mayoría de los sistemas entrenados con datos históricos o del mundo real no serán correctos la primera vez, y no son necesariamente imparciales. Creemos que la única forma de erradicar el sesgo en un modelo – es decir, tanto errores estadísticos como prejuicios – es la combinación de transparencia, auditoría y explicación comprensible para los humanos.

La tecnología principal en Diveplane se llama REACTOR, ¿qué hace que este sea un enfoque novedoso para hacer que el aprendizaje automático sea explicable?

El aprendizaje automático suele implicar el uso de datos para construir un modelo que toma una decisión particular. Las decisiones pueden incluir el ángulo para girar las ruedas de un vehículo, si aprobar o denegar una compra o marcarla como fraude, o qué producto recomendar a alguien. Si desea aprender cómo el modelo tomó la decisión, normalmente tiene que hacerle muchas decisiones similares y luego intentar predecir qué haría el modelo.

Trabajar con REACTOR es bastante diferente. REACTOR caracteriza la incertidumbre de sus datos, y sus datos se convierten en el modelo. En lugar de construir un modelo por cada tipo de decisión, simplemente le pide a REACTOR qué decisión desea que tome – puede ser cualquier cosa relacionada con los datos – y REACTOR consulta qué datos se necesitan para una decisión determinada. REACTOR siempre puede mostrarle los datos que utilizó, cómo se relacionan con la respuesta, cada aspecto de la incertidumbre, el razonamiento contrafáctico y prácticamente cualquier otra pregunta que desee hacer. Como los datos son el modelo, puede editar los datos y REACTOR se actualizará instantáneamente. Puede mostrarle si había algún dato que parecía anómalo que se utilizó en la decisión, y rastrear cada edición a los datos y su fuente. REACTOR utiliza la teoría de la probabilidad en todos los niveles, lo que significa que podemos decirle las unidades de medición de cada parte de su operación. Y, finalmente, puede reproducir y validar cualquier decisión utilizando solo los datos que condujeron a la decisión y las incertidumbres, utilizando matemáticas relativamente sencillas sin necesidad de REACTOR.

REACTOR puede hacer todo esto mientras mantiene una precisión altamente competitiva, especialmente para conjuntos de datos pequeños y dispersos.

GEMINAI es un producto que crea un gemelo digital de un conjunto de datos, ¿qué significa esto específicamente y cómo garantiza la privacidad de los datos?

Cuando alimenta a GEMINAI con un conjunto de datos, obtiene un conocimiento profundo de la forma estadística de esos datos. Puede usarlo para crear un gemelo sintético que se asemeja a la estructura de los datos originales, pero todos los registros son nuevos. Pero la forma estadística es la misma. Así, por ejemplo, el ritmo cardíaco promedio de los pacientes en ambos conjuntos sería casi el mismo, al igual que todas las demás estadísticas. Por lo tanto, cualquier análisis de datos que utilice el gemelo daría la misma respuesta que los originales, incluido el entrenamiento de modelos de aprendizaje automático.

Y si alguien tiene un registro en los datos originales, no habría ningún registro para ellos en el gemelo sintético. No solo estamos eliminando el nombre, sino que nos aseguramos de que no haya ningún registro que esté “cerca” de su registro (y de todos los demás) en el espacio de información. Es decir, no hay ningún registro que sea reconocible en ambos conjuntos originales y sintéticos.

Y eso significa que el conjunto de datos sintético se puede compartir con mucha más libertad sin riesgo de compartir información confidencial de manera inapropiada. No importa si se trata de transacciones financieras personales, información de salud del paciente, datos clasificados – siempre que las estadísticas de los datos no sean confidenciales, el gemelo sintético no es confidencial.

¿Por qué GEMINAI es una solución mejor que utilizar la privacidad diferencial?

La privacidad diferencial es un conjunto de técnicas que mantienen la probabilidad de que cualquier individuo influya en las estadísticas más de una cantidad marginal, y es una pieza fundamental en casi cualquier solución de privacidad de datos. Sin embargo, cuando se utiliza la privacidad diferencial sola, se necesita administrar un presupuesto de privacidad para los datos, con suficiente ruido agregado a cada consulta. Una vez que se agota este presupuesto, los datos no se pueden utilizar nuevamente sin incurrir en riesgos de privacidad.

Una forma de superar este presupuesto es aplicar el presupuesto de privacidad completo de una vez para entrenar un modelo de aprendizaje automático para generar datos sintéticos. La idea es que este modelo, entrenado utilizando la privacidad diferencial, se puede utilizar de manera relativamente segura. Sin embargo, la aplicación adecuada de la privacidad diferencial puede ser complicada, especialmente si hay diferentes volúmenes de datos para diferentes individuos y relaciones más complejas, como personas que viven en la misma casa. Y los datos sintéticos producidos por este modelo a menudo incluyen, por casualidad, datos reales que un individuo podría reclamar como suyos porque son demasiado similares.

GEMINAI resuelve estos problemas y más al combinar múltiples técnicas de privacidad al sintetizar los datos. Utiliza una forma práctica de privacidad diferencial que puede adaptarse a una amplia variedad de tipos de datos. Está construido sobre nuestro motor REACTOR, por lo que también conoce la probabilidad de que cualquier pieza de datos pueda confundirse con otra, y sintetiza los datos asegurándose de que siempre sean lo suficientemente diferentes de los datos originales más similares. Además, trata cada campo, cada pieza de datos, como potencialmente sensible o identificadora, por lo que aplica formas prácticas de privacidad diferencial para campos que no se consideran tradicionalmente sensibles pero que podrían identificar de manera única a un individuo, como la única transacción en una tienda de 24 horas entre las 2 y las 3 de la mañana. A menudo nos referimos a esto como “privacidad cruzada”.

GEMINAI puede lograr todo esto mientras mantiene una alta precisión para casi cualquier propósito, que se asemeja a los datos originales, pero evita que nadie encuentre datos sintéticos demasiado similares a los datos sintéticos.

Diveplane fue fundamental en la cofundación de la Alianza de Datos y Confianza, ¿qué es esta alianza?

Es un grupo absolutamente fantástico de CEOs de tecnología, colaborando para desarrollar y adoptar prácticas de datos y IA responsables. Organizaciones de clase mundial como IBM, Johnson&Johnson, Mastercard, UPS, Walmart y Diveplane. Estamos muy orgullosos de haber sido parte de las primeras etapas, y también orgullosos del trabajo que hemos realizado colectivamente en nuestras iniciativas.

Diveplane recientemente recaudó una ronda de financiación Serie A exitosa, ¿qué significará esto para el futuro de la empresa?

Hemos tenido la suerte de tener éxito con nuestros proyectos empresariales, pero es difícil cambiar el mundo una empresa a la vez. Utilizaremos este apoyo para construir nuestro equipo, compartir nuestro mensaje y llevar la IA Comprensible a tantos lugares como podamos.

¿Hay algo más que le gustaría compartir sobre Diveplane?

Diveplane se trata de asegurarse de que la IA se haga correctamente a medida que se propaga. Estamos a favor de una IA justa, transparente y comprensible, que muestra proactivamente qué impulsa las decisiones, y que se aleja de la mentalidad de “caja negra” en la IA que tiene el potencial de ser injusta, poco ética y sesgada. Creemos que la Explicabilidad es el futuro de la IA, y estamos emocionados de desempeñar un papel fundamental en impulsarla hacia adelante.

Gracias por la gran entrevista, los lectores que deseen aprender más deben visitar Diveplane.