Brian Sathianathan, Director de Tecnología y Co-Fundador de Iterate.ai – Serie de Entrevistas

Brian Sathianathan es el Director de Tecnología y co-fundador de Iterate.ai, creador de la plataforma de código bajo Interplay para construir aplicaciones basadas en inteligencia artificial de manera rápida en diversas industrias. Anteriormente, Sathianathan trabajó en Apple (AAPL ) en varios proyectos de tecnología emergente que incluyeron el sistema operativo Mac y el primer iPhone.

¿Qué te atrajo inicialmente a trabajar con tecnologías de inteligencia artificial?

Siempre tuve interés en el aprendizaje basado en algoritmos, y comencé a trabajar con sistemas de inteligencia artificial durante mis días universitarios. Además, pasé mucho tiempo al comienzo de mi carrera construyendo tecnologías de criptografía y seguridad para Apple, y tecnologías de compresión de video para una empresa que co-fundé anteriormente. Tanto la tecnología de video como la de criptografía son muy intensivas en algoritmos, y eso realmente hizo que mi curva de aprendizaje en inteligencia artificial y aprendizaje automático fuera más rápida. Alrededor de 2016, comencé a experimentar con frameworks de inteligencia artificial de código abierto y GPU, y me di cuenta de lo lejos que habían llegado en los últimos cinco años, tanto desde la perspectiva de los algoritmos como de su capacidad para realizar una amplia gama de clasificaciones. Luego me di cuenta de la necesidad de hacer que esto fuera más fácil y sencillo para que todos lo utilicen.

Tienes puntos de vista fuertes sobre el sesgo cognitivo y el sesgo de datos en la inteligencia artificial, ¿podrías compartir estas preocupaciones?

El sesgo de la inteligencia artificial ocurre cuando los ingenieros permiten que sus propias perspectivas y preconcepciones moldeen sus conjuntos de datos de entrenamiento de inteligencia artificial. Esto socava rápidamente lo que están tratando de lograr con la inteligencia artificial. Con mucha frecuencia, esta influencia es subconsciente, por lo que es posible que no sean conscientes de que el sesgo ha penetrado en sus conjuntos de datos. Sin controles y equilibrios efectivos, los datos pueden estar limitados a solo aquellos puntos de enfoque o demografías que los ingenieros están propensos a considerar. Incluso cuando los ingenieros tienen una alta calidad y volumen de datos para trabajar, los sesgos en los conjuntos de datos pueden hacer que los resultados entregados por las aplicaciones de inteligencia artificial sean incorrectos y, en muchos casos, en gran medida inútiles.

Un informe de Gartner estimó que hasta 2030, el 85% de los proyectos de inteligencia artificial proporcionarán resultados falsos debido al sesgo. Esa es una brecha importante que superar. Las empresas que invierten en, confían en y toman decisiones estratégicas basadas en la inteligencia artificial, solo para ser engañadas por conclusiones falsas arraigadas en el sesgo, corren el riesgo de fracasos costosos y daños a su reputación. Con la inteligencia artificial pasando rápidamente de una tecnología emergente a una piedra angular omnipresente en aplicaciones orientadas al cliente y procesos internos, eliminar el sesgo es esencial para realizar el verdadero potencial de la inteligencia artificial en el futuro.

¿Cuáles son algunas formas de prevenir que estos tipos de sesgos aparezcan?

El sesgo de la inteligencia artificial debe ser detectado y eliminado de manera sistemática y proactiva. Los sesgos pueden estar codificados en los algoritmos. Las inexactitudes pueden ser introducidas a través de sesgos cognitivos que simplemente omiten los datos necesarios. El sesgo de agregación es otro riesgo aquí, donde una serie de pequeñas decisiones se suman para producir resultados sesgados de la inteligencia artificial.

Detectar y eliminar el sesgo de la inteligencia artificial en todas sus formas requiere que las organizaciones utilicen marcos, herramientas, procesos y políticas diseñados para mitigar efectivamente estos problemas. Por ejemplo, marcos de inteligencia artificial como el Marco Aletheia de Rolls Royce y el Marco de Inteligencia Artificial de Deloitte – suplementado por benchmarks automatizados – pueden promover prácticas libres de sesgo en el desarrollo y la implementación de aplicaciones de inteligencia artificial. Las herramientas como AI Fairness 360 y IBM Watson OpenScale pueden reconocer y eliminar el sesgo y los patrones de sesgo en los modelos y pipelines de aprendizaje automático. Finalmente, los procesos que prueban los datos contra métricas de sesgo definidas, combinados con políticas que brindan gobernanza para disuadir el sesgo a través de prácticas obligatorias, permiten a las organizaciones ser sistemáticas al verificar sus puntos ciegos y limitar el sesgo de la inteligencia artificial.

Eres director de tecnología y cofundador de Iterate.ai, ¿cómo se inició la empresa?

La historia comienza en 2013 cuando el co-fundador Jon Nordmark (nuestro CEO) y yo servíamos como miembros de la junta de un acelerador de Europa del Este con sede en Ucrania, diseñado para ayudar a los empresarios a construir y operar startups al estilo de Silicon Valley. Esas experiencias con empresas nuevas innovadoras nos llevaron a la idea de emparejar startups prometedoras (pero quizás menos conocidas) con grandes empresas que necesitan apoyo de innovación. Lanzamos lo que entonces se llamaba Iterate Studio, que ofrecía un motor de búsqueda especializado para que las empresas encuentren socios startups basados en las capacidades innovadoras que esas organizaciones más grandes estaban buscando. En 2015, la empresa se convirtió en Iterate.ai para destacar nuestra curación de startups impulsada por inteligencia artificial. Hoy en día, nuestra base de datos Signals indexa más de 15,7 millones de tecnologías de startups basadas en una multitud de factores (y utilizando inteligencia artificial propietaria para hacerlo a esa escala).

Expandimos en 2017 y lanzamos la primera versión de nuestra plataforma de desarrollo de aplicaciones de código bajo Interplay. Interplay proporciona una capa de software impulsada por inteligencia artificial que moderniza los stacks de legado de las empresas al permitir la utilización de tecnologías innovadoras de manera de arrastrar y soltar, mientras que acelera el desarrollo de software en diez veces. La plataforma de código bajo tiene 475 componentes preconstruidos, por lo que los usuarios pueden combinar y mezclar las tecnologías que necesitan para configurar rápidamente aplicaciones. La capacidad de la inteligencia artificial está en el núcleo de la plataforma, así como otros componentes de código bajo para IoT, integración de datos y incluso blockchain.

Iterate es una plataforma de código bajo para desarrollar aplicaciones impulsadas por inteligencia artificial; ¿cuáles son algunas de las aplicaciones de inteligencia artificial que se pueden construir?

Nuestra plataforma de código bajo ha permitido aplicaciones de inteligencia artificial para una variedad de casos de uso realmente interesantes – el alcance de la implementación es algo de lo que estamos realmente orgullosos. Ulta Beauty (ULTA ), el minorista de belleza global de mil millones de dólares, utilizó nuestra plataforma para construir un chatbot de retail inteligente para invitados en solo dos semanas. En contraste, los chatbots primitivos son centrados en palabras clave, y la mayoría de las aplicaciones de chatbot de los vendedores no pueden integrarse sin problemas con sistemas de legado para acceder a la información del cliente o permitir transiciones suaves a un soporte asistido por humanos. El chatbot inteligente de Ulta eliminó esos problemas con funcionalidad de procesamiento de lenguaje natural y la capacidad de reconocer las “intenciones” de los clientes para proporcionar respuestas realmente precisas. Nuestra plataforma hizo que fuera simple para Ulta construir el motor de inteligencia artificial del chatbot en solo unas horas, y configurar, refinar y mejorar el entrenamiento y las respuestas del chatbot de manera extremadamente rápida.

En otro ejemplo, Jockey utilizó nuestra plataforma para ofrecer preguntas frecuentes basadas en IA capaces de responder automáticamente, y con éxito, a situaciones de atención al cliente bastante complejas y subjetivas. Nuestra plataforma también permitió a una red mundial de tiendas de conveniencia y gasolineras responder a la pandemia con surtidores sin contacto, mediante el reconocimiento de las matrículas de los clientes basado en IA. Nuestras capacidades de IA también se están utilizando para reforzar las estrategias de seguridad centradas en cámaras en los comercios. Mediante el reconocimiento de imágenes, las aplicaciones de IA entrenadas pueden identificar amenazas y la presencia de armas fuera de los establecimientos, activar su cierre para proteger a los clientes y contactar con las autoridades.

¿Hasta qué punto se reduce la necesidad real de programar? ¿Qué conocimientos de desarrollo necesitan los usuarios?

En mi opinión, la regla del 80/20 se aplica. El 80% de los casos de uso de inteligencia artificial ya están construidos y tienen modelos y datos de entrenamiento establecidos alrededor de ellos. Una organización tradicional puede utilizar fácilmente una plataforma de código bajo (nuestra, Interplay, es una de esas plataformas) e implementar estos casos. Aquí hay algunos ejemplos:

• Preguntas y respuestas impulsadas por inteligencia artificial
• Encontradores de productos impulsados por inteligencia artificial
• Recomendaciones de productos y agrupaciones
• OCR
• Identificación visual de productos
• Análisis de datos tabulares: cosas como AOV, análisis de canasta, predicciones de abandono, etc.
• Extracción/detección de objetos
• Permanencia de objetos

Los casos anteriores podrían ser implementados por un ingeniero con conocimientos de programación de servidor y algún conocimiento básico de APIs de aprendizaje automático. Es muy similar a las técnicas de transmisión de video, criptografía y administración de claves que se utilizan ampliamente a través de APIs hoy en día. La mayoría de los ingenieros que utilizan estas APIs a menudo no saben cómo funcionan debajo.

¿Por qué es importante el código bajo para la escalabilidad de la tecnología de inteligencia artificial?

Las empresas que buscan capacidades de inteligencia artificial en su desarrollo de aplicaciones pueden enfrentar rápidamente desafíos importantes cuando no utilizan código bajo. En el mundo de hoy, solo hay 300.000 ingenieros de inteligencia artificial, y solo 60.000 de ellos son científicos de datos. Debido a esto, el talento necesario para desarrollar y escalar soluciones de inteligencia artificial es caro y está aumentando. En contraste, el desarrollo de código bajo realmente democratiza el acceso a la inteligencia artificial. Con el código bajo, cualquier uno de los 25 millones de desarrolladores de software del mundo, e incluso aquellos sin capacitación, pueden implementar fácilmente motores de inteligencia artificial, refinar sus capacidades y producir y escalar soluciones efectivas.

Volviendo a la plataforma Signals de Iterate.ai, impulsada por IA, ¿cuáles son algunas de las tendencias más interesantes que surgen?

Estamos viendo un crecimiento rápido en cinco fuerzas de innovación: inteligencia artificial, IoT, blockchain, datos y soluciones de startups emergentes. Estos son todos mercados muy grandes. Estamos viendo miles de puntos de datos sobre noticias, patentes y nuevos productos de startups todos los días. Interplay está diseñado para aprovechar estas fuerzas, incluyendo componentes preconstruidos para aprovechar estas fuerzas en crecimiento.

¿Hay algo más que te gustaría compartir sobre Iterate.ai?

Creo que todavía hay malentendidos sobre el código bajo y su papel en la construcción de aplicaciones de inteligencia artificial. No es inusual ver a profesionales de TI cuestionando si una estrategia de código bajo puede cumplir con sus requisitos de escalabilidad, extensibilidad y seguridad a nivel empresarial. Creo que las opciones de código bajo destinadas a la prototipación, pero mal aplicadas como herramientas para aplicaciones de producción, han contribuido a estas reservas. Dicho esto, las plataformas de código bajo adecuadas están absolutamente a la altura de la tarea de construir y respaldar aplicaciones de inteligencia artificial listas para la producción. Las empresas deben realizar su debida diligencia al seleccionar herramientas de código bajo, asegurándose de que esas herramientas tengan una capa de seguridad transparente y completa, y un historial comprobado de entrega de aplicaciones a escala empresarial.

Gracias por la gran entrevista, los lectores que deseen aprender más pueden visitar Iterate.ai.