Reid Blackman, Ph.D, Fundador y CEO de Virtue Consultants – Serie de Entrevistas

Reid Blackman es el fundador y CEO de Virtue Consultants. En esa capacidad, ha trabajado con empresas para integrar la ética y la mitigación de riesgos éticos en la cultura de la empresa y en el desarrollo, despliegue y adquisición de productos de tecnología emergente. También es asesor senior de Ernst & Young y forma parte de su Junta Asesora de Inteligencia Artificial, y es miembro de la Iniciativa de Diseño Éticamente Alineado de la IEEE.

El trabajo de Reid ha sido perfilado en The Wall Street Journal y Dell Perspectives, y ha contribuido con artículos en The Harvard Business Review, TechCrunch, VentureBeat y Risk & Compliance Magazine. Ha sido citado en numerosos artículos de noticias y habla regularmente en diversos lugares, incluyendo el Foro Económico Mundial, SAP, Cannes Lions, Forbes, la Escuela de Negocios Stern de la Universidad de Nueva York, la Universidad de Columbia y AIG.

¿En qué momento comenzó a incorporar la ética de la IA en sus clases, mientras era profesor de Filosofía en la Universidad de Colgate desde 2009 hasta 2018?

Con frecuencia enseñaba un curso sobre Filosofía Social y Política, donde cubría a Marx. Una de las afirmaciones centrales de Marx es que el capitalismo eventualmente dará paso al comunismo, debido a un aumento masivo en los “medios de producción”. En otras palabras, el capitalismo impulsa una mayor y mayor eficiencia en nombre de la competencia y la apertura de nuevos mercados, lo que significa un aumento en la creación de tecnologías que pueden producir más y más en menos y menos tiempo. Marx también predijo que esto pondría cada vez más dinero en manos de unos pocos y empujaría a más y más personas a la pobreza, en cuyo punto las estructuras capitalistas serían derrocadas por una revolución liderada por el creciente número de masas destituidas. Todo esto conduce a una discusión sobre la ética de la tecnología que obvia la necesidad de trabajo humano, que es un elemento central de la ética de la IA.

Pequeña historia lateral si está interesado: en 2002, era un estudiante de posgrado que lideraba una discusión sobre Marx con estudiantes de pregrado en la Universidad Northwestern. En algún momento, un estudiante levantó la mano y dijo: “Eventualmente no necesitaremos que los humanos hagan ningún trabajo”. La clase estaba confundida. Yo estaba confundido. Así que dije: “Bueno, entonces, ¿quién hará el trabajo?” Respondió de una manera muy matter-of-fact: “Robots”. La clase estalló en risas. Yo reprimí las mías. Pero es bastante obvio quién se rió último.

En 2018, lanzó Virtue Consultants, una consultoría de ética que capacita a los líderes de Datos y IA para identificar y mitigar los riesgos éticos de sus productos. ¿Qué lo inspiró a emprender este viaje empresarial?

Celos. Bueno, más o menos. Comencé una empresa de venta al por mayor de fuegos artificiales cuando era estudiante de posgrado, creo que alrededor de 2003 o 2004. Eso salió mejor de lo que esperaba, y la empresa todavía existe, aunque ahora soy asesor y ya no me ocupo de las operaciones diarias. De todos modos, es relevante porque explica cómo llegué a ser mentor de startups en el programa de emprendimiento de Colgate (llamado TIA, Thought Into Action, liderado por dos excelentes VC, Andy Greenfield y Wills Hapworth, que dirigen TIA Ventures). Como mentor, vi a estudiantes embarcados en proyectos emocionantes mientras trataban de figurar cómo establecer y escalar sus startups con fines de lucro o sin fines de lucro, y pensé: “¡Quiero eso!” Pero ¿qué sería mi nueva aventura? Tenía que hablar de mi amor por la filosofía y la ética, y lo primero que tenía sentido era una consultoría de ética. No veía el mercado para esos servicios en ese momento, porque no había uno que ver, así que esperé. Y luego Cambridge Analytica, BLM y #MeToo hicieron titulares nacionales, y de repente hubo una mayor conciencia de la necesidad.

¿Cuán importante es para las empresas introducir una Declaración de Ética de IA?

Una Declaración de Ética de IA no es esencial, pero es una herramienta muy útil para establecer sus objetivos. Cuando estás introduciendo un programa de ética de IA en tu organización, quieres que identifique y mitigue y gestione varios riesgos éticos, reputacionales, regulatorios y legales. Esa es su función principal. Una declaración de ética ayuda a articular cómo serán las cosas una vez que tengas la infraestructura, el proceso y las prácticas en lugar para lograr esa función. En la medida en que una estrategia necesita un objetivo, lo cual siempre lo hace, una Declaración de Ética de IA es una buena manera de articular esos objetivos, aunque no es la única manera.

¿Cómo pueden las empresas garantizar que la declaración de ética se transfiera a procesos y prácticas?
Una declaración de ética es solo un pequeño paso en la dirección correcta. Si deseas seguir adelante, el siguiente paso natural es realizar una evaluación de dónde estás en relación con los objetivos articulados en esa declaración. Una vez que sepas dónde están las brechas más grandes y riesgosas, es decir, dónde estás más en riesgo de no cumplir con tus objetivos, entonces puedes comenzar a idear soluciones para reducir esas brechas. Tal vez sea un comité de ética. Tal vez sea un proceso de debida diligencia durante el desarrollo del producto. Tal vez sea mejorar la forma en que manejas los datos en departamentos no relacionados con el producto, como marketing y recursos humanos. Probablemente sea todo eso y más.

¿Cuáles son algunas soluciones que las empresas deben implementar para evitar el sesgo en el algoritmo de IA real?

Hay un montón de herramientas técnicas allí para identificar el sesgo, pero están limitadas. Les permitirán comparar las salidas de su modelo con las decenas de métricas cuantitativas que se han ofrecido en la literatura académica de ética de ML, pero debes tener cuidado porque esas métricas no son mutuamente compatibles. Entonces, una decisión ética sustantiva debe ser tomada: ¿cuál, si es que hay alguna, de estas métricas es la apropiada en este contexto?

Aparte de usar una herramienta como esa, complementada con una forma responsable de responder a esa pregunta, los equipos de productos harían bien en pensar en dónde puede filtrarse el sesgo antes de comenzar a construir. ¿Cómo podría contenerse o reflejarse en los conjuntos de datos de entrenamiento? ¿Qué hay de la determinación de la función objetiva? ¿Qué hay de la determinación del umbral? Hay muchos lugares donde el sesgo puede filtrarse. La previsión sobre dónde podría estar en el proyecto actual y cómo podría entrar allí es esencial para identificar y mitigar el sesgo.

Las empresas de IA son notorias por estar dominadas por hombres blancos que pueden programar involuntariamente algunos sesgos en el sistema de IA. Para evitar esto, ¿qué tipo de rasgos deben buscar los departamentos de recursos humanos?

Estoy a favor de una mayor oportunidad y una mayor diversidad entre los ingenieros y los equipos de productos en general. Dicho esto, creo que se está mirando las cosas a través del lente equivocado. El problema principal cuando se trata de algoritmos sesgados no es que los sesgos de algún hombre blanco conduzcan a un código sesgado. Es que los conjuntos de datos de entrenamiento están sesgados. De hecho, un artículo reciente de la Universidad de Columbia, “Programadores sesgados? ¿O datos sesgados? Un experimento de campo en la operacionalización de la ética de la IA”, concluyó que “[l]os programadores que entienden la orientación técnica reducen con éxito el sesgo”, y que “[l]as predicciones algorítmicas de los programadores de IA femeninos y minoritarios no exhiben menos sesgo algorítmico o discriminación”. Así que, si bien los departamentos de recursos humanos deben prestar atención a los problemas de diversidad, está lejos de ser claro que las estrategias para reducir las salidas de IA sesgadas deben centrarse principalmente, o incluso exclusivamente, en las decisiones de contratación en relación con los esfuerzos de diversidad.

¿Podría discutir qué es la debida diligencia de riesgo ético y por qué las empresas deben implementarla?

La debida diligencia de riesgo ético es un intento de detectar los varios riesgos éticos que pueden realizarse con el producto que estás creando, incluyendo cómo se despliega, cómo puede ser utilizado y mal utilizado, etc. Quieres centrarte en las características del producto, tanto las que tiene como las que le faltan, y las formas en que pueden conducir, cuando se despliegan en varios contextos, a una mala conducta ética. Cuando se hace bien, es una inspección sistemática y exhaustiva. Por supuesto, mientras puedes tratar de mirar alrededor de la esquina, es posible que te pierdas algunas cosas, por lo que la monitorización continua es importante.

En cuanto a por qué las empresas deben implementarla: solo necesitan considerar los riesgos éticos, reputacionales, regulatorios y legales por no hacerlo. Piensa en Optum en las noticias y bajo investigación regulatoria por un algoritmo supuestamente sesgado que recomendaba a los profesionales de la salud prestar más atención a los pacientes blancos que a los pacientes negros más enfermos. O a Goldman Sachs (GS ), bajo investigación por los límites de crédito para la tarjeta Apple (AAPL ), que supuestamente discriminan a las mujeres. O al software de contratación de Amazon (AMZN ), que fue descartado debido a preocupaciones sobre el sesgo antes de ser desplegado. O a IBM, que es demandada por Los Ángeles por presuntamente apropiarse de datos recopilados a través de su aplicación del clima. O Facebook (META ) …

¿Hay algo más que desee compartir sobre Virtue Consultants?

Virtue ayuda a los líderes senior a poner la ética de la IA en práctica, ya sea ayudando a educar y capacitar a las personas sobre el tema, escribiendo una Declaración de Ética de IA, creando y implementando un marco de riesgo ético de IA accionable, o simplemente sirviendo como asesores en ética de IA. Si eso suena interesante, la gente debería venir a saludar.

Gracias por la gran entrevista, los lectores que desean aprender más sobre Reid pueden visitar Reid Blackman, o pueden visitar Virtue Consultants.