Reid Blackman, Ph.D, Fundador y CEO de Virtue Consultants – Serie de Entrevistas

Reid Blackman es el Fundador y CEO de Virtue Consultants. En esa capacidad, ha trabajado con empresas para integrar la ética y la mitigación de riesgos éticos en la cultura de la empresa y el desarrollo, despliegue y adquisición de productos de tecnología emergente. También es Asesor Senior de Ernst & Young y forma parte de su Junta Asesora de Inteligencia Artificial, y es miembro de la Iniciativa de Diseño Éticamente Alineado de IEEE.

El trabajo de Reid ha sido presentado en The Wall Street Journal y Dell Perspectives, y ha contribuido con artículos en The Harvard Business Review, TechCrunch, VentureBeat y Risk & Compliance Magazine. Ha sido citado en numerosos artículos de noticias y habla regularmente en diversos lugares, incluyendo el Foro Económico Mundial, SAP, Cannes Lions, Forbes, la Escuela de Negocios NYU Stern, la Universidad de Columbia y AIG.

Usted fue profesor de Filosofía en la Universidad de Colgate desde 2009 hasta 2018. ¿En qué momento comenzó a incorporar la ética de la IA en sus clases?

A menudo enseñaba un curso sobre Filosofía Social y Política, donde cubría a Marx. Una de las afirmaciones centrales de Marx es que el capitalismo eventualmente dará paso al comunismo, debido a un aumento masivo en los “medios de producción”. En otras palabras, el capitalismo impulsa una mayor y mayor eficiencia en nombre de la competencia y la apertura de nuevos mercados, lo que significa un aumento en la creación de tecnologías que pueden producir más y más en menos y menos tiempo. Marx también predijo que esto pondría cada vez más dinero en manos de unos pocos y empujaría a más y más personas a la pobreza, en cuyo punto las estructuras capitalistas serían derrocadas por una revolución liderada por las crecientes multitudes de masas destituidas. Todo esto conduce a una discusión en torno a la ética de la tecnología que obvia la necesidad de trabajo humano, que es un elemento central de la ética de la IA.

Pequeña historia lateral si estás interesado: En 2002, era un estudiante de posgrado que lideraba una discusión sobre Marx con estudiantes de pregrado en la Universidad Northwestern. En algún momento, un estudiante levantó la mano y dijo: “Eventualmente no necesitaremos que los humanos hagan ningún trabajo”. La clase estaba confundida. Yo estaba confundido. Así que dije: “Bueno, entonces, ¿quién hará el trabajo?” Él respondió de una manera muy matter of fact: “Robots”. La clase estalló en risas. Yo reprimí las mías. Pero es bastante obvio quién tuvo la última risa.

En 2018, lanzó Virtue Consultants, una consultoría de ética que capacita a los líderes de datos y IA para identificar y mitigar los riesgos éticos de sus productos. ¿Qué lo inspiró a comenzar este viaje empresarial?

Celos. Bueno, más o menos. Comencé una empresa de venta al por mayor de fuegos artificiales cuando era estudiante de posgrado, creo que alrededor de 2003 o 2004. Eso funcionó mejor de lo que esperaba, y la empresa todavía existe, aunque ahora soy asesor y ya no me ocupo de las operaciones diarias. De todos modos, es relevante porque explica cómo llegué a ser mentor de startups en el programa de emprendimiento de Colgate (llamado TIA, Pensamiento en Acción, dirigido por dos VCs geniales, Andy Greenfield y Wills Hapworth, que dirigen TIA Ventures). Como mentor, vi a los estudiantes embarcados en proyectos emocionantes mientras trataban de figurar cómo establecer y escalar sus startups de beneficio o sin fines de lucro, y pensé: “¡Quiero eso!” Pero, ¿qué sería mi nueva aventura? Tenía que hablar de mi amor por la filosofía y la ética, y lo primero que tenía sentido era una consultoría de ética. No veía el mercado para esos servicios en ese momento, porque no había ninguno que ver, así que esperé. Y luego Cambridge Analytica, y BLM, y #MeToo hicieron titulares nacionales, y de repente hubo una mayor conciencia de la necesidad.

¿Qué tan importante es que las empresas introduzcan una Declaración de Ética de IA?

Una Declaración de Ética de IA no es esencial, pero es una herramienta muy útil para establecer sus objetivos. Cuando estás introduciendo un programa de ética de IA en tu organización, quieres que identifique y mitigue y gestione varios riesgos éticos, reputacionales, regulatorios y legales. Esa es su función principal. Una declaración de ética ayuda a articular cómo serán las cosas una vez que tengas la infraestructura, el proceso y las prácticas en su lugar para lograr esa función. En la medida en que una estrategia necesita un objetivo, lo cual siempre es así, una Declaración de Ética de IA es una buena manera de articular esos objetivos, aunque no es la única manera.

¿Cómo pueden las empresas asegurarse de que la declaración de ética se transfiera a procesos y prácticas?
Una declaración de ética es solo un pequeño paso en la dirección correcta. Si quieres seguir adelante, el siguiente paso natural es hacer una evaluación de dónde estás en relación con los objetivos articulados en esa declaración. Una vez que sepas dónde están las brechas más grandes y riesgosas, es decir, dónde estás más en riesgo de no alcanzar tus objetivos, entonces puedes comenzar a idear soluciones para reducir esas brechas. Tal vez sea un comité de ética. Tal vez sea un proceso de debida diligencia durante el desarrollo de productos. Tal vez sea mejorar la forma en que manejas los datos en departamentos no productivos, como marketing y recursos humanos. Probablemente sea todo eso y más.

¿Cuáles son algunas soluciones que las empresas deben implementar para evitar el sesgo en el algoritmo de IA real?

Hay un montón de herramientas técnicas allí para identificar el sesgo, pero están limitadas. Te permitirán comparar las salidas de tu modelo con las decenas de métricas cuantitativas que se han ofrecido en la literatura académica de ética de ML, pero debes tener cuidado porque esas métricas no son mutuamente compatibles. Así que una decisión ética sustantiva necesita ser tomada: ¿cuál, si alguna de estas métricas, es la apropiada en este contexto?

Aparte de usar una herramienta como esa, complementada con una forma responsable de responder a esa pregunta, los equipos de productos harían bien en pensar en dónde puede infiltrarse el sesgo antes de que comiencen a construir. ¿Cómo podría contenerse o reflejarse en los conjuntos de datos de entrenamiento? ¿Qué hay de determinar la función objetiva? ¿Qué hay de determinar el umbral? Hay muchos lugares donde el sesgo puede infiltrarse. La previsión sobre dónde podría estar en el proyecto actual y cómo podría entrar allí es esencial para identificar y mitigar el sesgo.

Las empresas de IA son notorias por estar dominadas por hombres blancos que pueden programar involuntariamente algunos sesgos en el sistema de IA. Para evitar esto, ¿qué tipo de rasgos deben buscar los departamentos de recursos humanos?

Estoy a favor de una mayor oportunidad y una mayor diversidad entre los ingenieros y los equipos de productos en general. Dicho esto, creo que esto está mirando las cosas a través de la lente equivocada. El problema principal cuando se trata de algoritmos sesgados no es que los sesgos de algún hombre blanco conduzcan a un código sesgado. Es que los conjuntos de datos de entrenamiento están sesgados. De hecho, un artículo reciente de Columbia – “Programadores sesgados? ¿O datos sesgados? Un experimento de campo en la operacionalización de la ética de la IA” – concluyó que “[l]os programadores que entienden la orientación técnica reducen con éxito el sesgo”, y que “[l]as predicciones algorítmicas de los programadores de IA femeninos y minoritarios no exhiben menos sesgo algorítmico o discriminación”. Así que, si bien los RRHH deben prestar atención a los problemas de diversidad, no está nada claro que las estrategias para reducir las salidas de IA sesgadas deban centrarse principalmente, o exclusivamente, en las decisiones de contratación en relación con los esfuerzos de diversidad.

¿Podría discutir qué es la debida diligencia de riesgo ético y por qué las empresas deben implementarla?

La debida diligencia de riesgo ético es un intento de detectar los varios riesgos éticos que pueden realizarse con el producto que estás creando, incluyendo cómo se despliega, cómo se puede usar y malusar, etc. Quieres centrarte en las características del producto, tanto las que tiene como las que le faltan, y las formas en que esas pueden conducir, cuando se despliegan en varios contextos, a mala conducta ética. Cuando se hace bien, es una inspección sistemática y exhaustiva. Por supuesto, mientras que puedes tratar de mirar por la esquina, es posible que te pierdas algunas cosas, lo que es por qué la supervisión continua es importante.

En cuanto a por qué las empresas deben implementarla: solo necesitan considerar los riesgos éticos, reputacionales, regulatorios y legales por no hacerlo. Piensa en Optum en las noticias y bajo investigación regulatoria por un algoritmo sesgado (presuntamente) que recomendó a los profesionales de la salud prestar más atención a los pacientes blancos que a los pacientes negros más enfermos. O a Goldman Sachs, bajo investigación por los límites de crédito para la tarjeta Apple, que presuntamente discriminan a las mujeres. O al software de contratación de Amazon, que se desechó debido a preocupaciones sobre el sesgo antes de que se desplegara. O a IBM, demandada por Los Ángeles por presuntamente apropiarse de datos recopilados de su aplicación del clima. O Facebook…

¿Hay algo más que le gustaría compartir sobre Virtue Consultants?

Virtue ayuda a los líderes senior a poner la ética de la IA en práctica, ya sea ayudando a educar y capacitar a las personas sobre el tema, escribiendo una Declaración de Ética de IA, creando e implementando un marco de riesgo ético de IA accionable, o simplemente sirviendo como asesores en ética de IA. Si eso suena interesante, la gente debe venir a saludar.

Gracias por la gran entrevista, los lectores que deseen aprender más sobre Reid pueden visitar Reid Blackman, o pueden visitar Virtue Consultants.