Mike Capps, Co-Fundador y CEO de Diveplane – Serie de Entrevistas

El Dr. Michael Capps es un conocido tecnólogo y CEO de Diveplane Corporation. Antes de co-fundar Diveplane, Mike tuvo una carrera legendaria en la industria de los videojuegos como presidente de Epic Games, creadores de éxitos como Fortnite y Gears of War. Su mandato incluyó más de cien premios al juego del año, decenas de conferencias magistrales, un premio a la trayectoria y una exitosa defensa de la libertad de expresión de los videojuegos en la Corte Suprema de los Estados Unidos.

Diveplane ofrece soluciones empresariales impulsadas por inteligencia artificial en múltiples industrias. Con seis patentes aprobadas y varias pendientes, la inteligencia artificial comprensible de Diveplane proporciona una comprensión y transparencia de las decisiones totales en apoyo de políticas de inteligencia artificial éticas y estrategias de privacidad de datos.

Usted se retiró con éxito de una carrera exitosa en la industria de los videojuegos en Epic Games, ¿qué lo inspiró a salir de la jubilación para centrarse en la inteligencia artificial?

Hacer juegos fue divertido, pero – al menos en ese momento – no era una carrera ideal cuando se tiene una nueva familia. Me mantuve ocupado con puestos en juntas directivas y roles asesores, pero no era gratificante. Así que hice una lista de tres problemas importantes que enfrenta el mundo y que podría impactar – y que incluían la proliferación de sistemas de inteligencia artificial de “caja negra”. Mi plan era pasar un año en cada uno de ellos, pero unas semanas después, mi brillante amigo Chris Hazard me dijo que había estado trabajando en secreto en una plataforma de inteligencia artificial transparente y completamente explicable. Y aquí estamos.

Diveplane se inició con la misión de llevar humanidad a la inteligencia artificial, ¿puede explicar qué significa esto específicamente?

Claro. Aquí estamos utilizando humanidad para significar “humanidad” o “compasión”. Para asegurarnos de que lo mejor de la humanidad esté en su modelo de inteligencia artificial, no puede simplemente entrenar, probar un poco y esperar que esté bien.

Necesitamos revisar cuidadosamente los datos de entrada, el modelo en sí y la salida de ese modelo, y asegurarnos de que refleje lo mejor de nuestra humanidad. La mayoría de los sistemas entrenados con datos históricos o del mundo real no serán correctos la primera vez, y no son necesariamente imparciales. Creemos que la única forma de erradicar los prejuicios en un modelo – es decir, tanto errores estadísticos como prejuicios – es la combinación de transparencia, auditoría y explicación comprensible para los humanos.

La tecnología central en Diveplane se llama REACTOR, ¿qué hace que este sea un enfoque novedoso para hacer que el aprendizaje automático sea explicable?

El aprendizaje automático suele implicar el uso de datos para construir un modelo que toma una decisión particular. Las decisiones pueden incluir el ángulo para girar las ruedas de un vehículo, si aprobar o rechazar una compra o marcarla como fraude, o qué producto recomendar a alguien. Si desea aprender cómo el modelo tomó la decisión, normalmente tiene que hacerle muchas decisiones similares y luego intentar predecir qué haría el modelo.

Trabajar con REACTOR es bastante diferente. REACTOR caracteriza la incertidumbre de sus datos, y sus datos se convierten en el modelo. En lugar de construir un modelo por cada tipo de decisión, simplemente le pide a REACTOR qué decisión desea que tome – puede ser cualquier cosa relacionada con los datos – y REACTOR consulta qué datos se necesitan para una decisión determinada. REACTOR siempre puede mostrarle los datos que utilizó, cómo se relacionan con la respuesta, cada aspecto de la incertidumbre, el razonamiento contrafactual y prácticamente cualquier otra pregunta que desee hacer. Como los datos son el modelo, puede editar los datos y REACTOR se actualizará instantáneamente. Puede mostrar si había algún dato que parecía anómalo que se utilizó en la decisión y rastrear cada edición hasta los datos y su fuente. REACTOR utiliza la teoría de la probabilidad en todos los niveles, lo que significa que podemos decirle las unidades de medición de cada parte de su funcionamiento. Y finalmente, puede reproducir y validar cualquier decisión utilizando solo los datos que llevaron a la decisión y las incertidumbres, utilizando matemáticas relativamente sencillas sin necesidad de REACTOR.

REACTOR puede hacer todo esto mientras mantiene una precisión muy competitiva, especialmente para conjuntos de datos pequeños y dispersos.

GEMINAI es un producto que crea un gemelo digital de un conjunto de datos, ¿qué significa esto específicamente y cómo garantiza la privacidad de los datos?

Cuando alimenta GEMINAI con un conjunto de datos, construye un conocimiento profundo de la forma estadística de esos datos. Puede utilizarlo para crear un gemelo sintético que se asemeja a la estructura de los datos originales, pero todos los registros son nuevos. Pero la forma estadística es la misma. Así, por ejemplo, la frecuencia cardíaca promedio de los pacientes en ambos conjuntos sería casi la misma, al igual que todas las demás estadísticas. Por lo tanto, cualquier análisis de datos que utilice el gemelo daría la misma respuesta que los originales, incluido el entrenamiento de modelos de aprendizaje automático.

Y si alguien tiene un registro en los datos originales, no habría un registro para ellos en el gemelo sintético. No solo estamos eliminando el nombre, sino que nos aseguramos de que no haya un nuevo registro que esté “cerca” de su registro (y de todos los demás) en el espacio de información. Es decir, no hay un registro que sea reconocible en ambos conjuntos originales y sintéticos.

Y eso significa que el conjunto de datos sintéticos se puede compartir mucho más libremente sin riesgo de compartir información confidencial de manera incorrecta. No importa si se trata de transacciones financieras personales, información de salud del paciente, datos clasificados – siempre que las estadísticas de los datos no sean confidenciales, el gemelo sintético no es confidencial.

¿Por qué GEMINAI es una solución mejor que utilizar la privacidad diferencial?

La privacidad diferencial es un conjunto de técnicas que mantienen la probabilidad de que cualquier individuo influya en las estadísticas más que una cantidad marginal, y es una pieza fundamental en casi cualquier solución de privacidad de datos. Sin embargo, cuando la privacidad diferencial se utiliza sola, se necesita administrar un presupuesto de privacidad para los datos, con suficiente ruido agregado a cada consulta. Una vez que se agota ese presupuesto, los datos no se pueden utilizar nuevamente sin incurrir en riesgos para la privacidad.

Una forma de superar este presupuesto es aplicar el presupuesto de privacidad completo de una vez para entrenar un modelo de aprendizaje automático para generar datos sintéticos. La idea es que este modelo, entrenado utilizando la privacidad diferencial, se puede utilizar de manera relativamente segura. Sin embargo, la aplicación adecuada de la privacidad diferencial puede ser complicada, especialmente si hay volúmenes de datos diferentes para diferentes individuos y relaciones más complejas, como personas que viven en la misma casa. Y los datos sintéticos producidos por este modelo probablemente incluirán, por casualidad, datos reales que un individuo podría reclamar como suyos porque son demasiado similares.

GEMINAI resuelve estos problemas y más al combinar múltiples técnicas de privacidad al sintetizar los datos. Utiliza una forma práctica de privacidad diferencial que puede acomodar una amplia variedad de tipos de datos. Está construido sobre nuestro motor REACTOR, por lo que también conoce la probabilidad de que cualquier pieza de datos pueda confundirse con otra, y sintetiza los datos asegurándose de que siempre sean lo suficientemente diferentes de los datos originales más similares. Además, trata cada campo, cada pieza de datos, como potencialmente sensible o identificadora, por lo que aplica formas prácticas de privacidad diferencial para campos que no se consideran tradicionalmente sensibles pero que podrían identificar de manera única a un individuo, como la única transacción en una tienda de 24 horas entre las 2 y las 3 de la mañana. A menudo nos referimos a esto como “privacidad de corte transversal”.

GEMINAI puede lograr una alta precisión para casi cualquier propósito, que se parece a los datos originales, pero evita que nadie encuentre datos sintéticos demasiado similares a los datos sintéticos.

Diveplane fue fundamental en la cofundación de la Alianza de Datos y Confianza, ¿qué es esta alianza?

Es un grupo absolutamente fantástico de CEOs de tecnología, colaborando para desarrollar y adoptar prácticas de datos y inteligencia artificial responsables. Organizaciones de clase mundial como IBM, Johnson&Johnson, Mastercard (MA ), UPS, Walmart (WMT ) y Diveplane. Estamos muy orgullosos de haber sido parte de las primeras etapas y también orgullosos del trabajo que hemos realizado colectivamente en nuestras iniciativas.

Diveplane acaba de recaudar una ronda de financiación Serie A exitosa, ¿qué significará esto para el futuro de la empresa?

Hemos tenido suerte de ser exitosos con nuestros proyectos empresariales, pero es difícil cambiar el mundo un proyecto empresarial a la vez. Utilizaremos este apoyo para construir nuestro equipo, compartir nuestro mensaje y llevar la inteligencia artificial comprensible a tantos lugares como podamos.

¿Hay algo más que le gustaría compartir sobre Diveplane?

Diveplane se trata de asegurarse de que la inteligencia artificial se haga correctamente a medida que se propaga. Estamos a favor de una inteligencia artificial justa, transparente y comprensible, que muestra proactivamente qué impulsa las decisiones y se aleja de la mentalidad de “caja negra” en la inteligencia artificial que tiene el potencial de ser injusta, poco ética y sesgada. Creemos que la explicabilidad es el futuro de la inteligencia artificial y estamos emocionados de desempeñar un papel fundamental en impulsarla hacia adelante.

Gracias por la gran entrevista, los lectores que deseen aprender más pueden visitar Diveplane.