Bradford Newman, Presidente de la Práctica de Secretos Comerciales de Norteamérica – Serie de Entrevistas

Bradford se especializa en asuntos relacionados con secretos comerciales y Inteligencia Artificial. Es el Presidente del Subcomité de Inteligencia Artificial de la ABA. Reconocido por el Daily Journal (DJCO ) en 2019 como uno de los 20 abogados de Inteligencia Artificial más destacados de California, Bradford ha sido fundamental en la propuesta de legislación federal sobre Inteligencia Artificial en el lugar de trabajo y propiedad intelectual que en 2018 se convirtió en un proyecto de ley de la Cámara de Representantes de los Estados Unidos. También ha desarrollado las mejores prácticas de supervisión y gobernanza corporativa de Inteligencia Artificial diseñadas para garantizar la equidad algorítmica.

¿Qué fue lo que inicialmente despertó su interés en la inteligencia artificial?

He representado a los principales innovadores y productores de productos y tecnología de Inteligencia Artificial durante muchos años. Mi interés siempre ha sido ir detrás de la cortina y entender los aspectos legales y técnicos del aprendizaje automático, y ver cómo evoluciona la Inteligencia Artificial. Me fascina lo que es posible para aplicaciones en diversos dominios.

Es un defensor feroz de la regulación racional de la inteligencia artificial, específicamente en la regulación que protege la salud pública, ¿puede discutir algunas de sus principales preocupaciones?

Creo que estamos en las primeras etapas de una de las revoluciones más profundas que la humanidad ha experimentado. La Inteligencia Artificial tiene el potencial de impactar en todos los aspectos de nuestras vidas, desde el momento en que nos despertamos por la mañana hasta el momento en que nos dormimos — y también, mientras dormimos. Muchas de las aplicaciones de la Inteligencia Artificial tendrán un impacto positivo en la calidad de nuestras vidas, y probablemente en nuestra longevidad como especie.

En este momento, desde una perspectiva de ciencias de la computación y aprendizaje automático, los humanos todavía están muy involucrados en el proceso, desde codificar los algoritmos, hasta entender los conjuntos de datos de entrenamiento, hasta procesar los resultados, reconocer las limitaciones y comercializar la tecnología.

Pero estamos en una carrera contra el tiempo en dos frentes importantes. Primero, lo que comúnmente se conoce como el “problema de la caja negra”: la participación humana y la comprensión de la Inteligencia Artificial disminuirán con el tiempo a medida que la sofisticación de la Inteligencia Artificial (piense en las redes neuronales) evolucione. Y segundo, el uso de la Inteligencia Artificial por parte de gobiernos y intereses privados aumentará.

Mi preocupación es que la Inteligencia Artificial se utilizará, tanto intencional como involuntariamente, de maneras que están en conflicto con los ideales democráticos occidentales de libertad y libertad individual.

¿Cómo abordamos estas preocupaciones?

La sociedad está en el punto en que debemos resolver no lo que es posible con respecto a la Inteligencia Artificial, sino lo que debería estar prohibido o parcialmente restringido.

Primero, debemos identificar específicamente las decisiones que nunca pueden ser tomadas en su totalidad o en parte por la salida algorítmica generada por la Inteligencia Artificial. Esto significa que incluso en situaciones en las que todos los expertos estén de acuerdo en que los datos de entrada y salida son completamente imparciales, transparentes y precisos, debe haber una prohibición legal para utilizarla para cualquier tipo de toma de decisiones predictivas o sustantivas.

Admito que esto es contraintuitivo en un mundo donde anhelamos la certeza matemática, pero establecer una “zona de exclusión” de la Inteligencia Artificial es esencial para preservar las libertades que todos valoramos y que sirven como base para nuestra sociedad.

Segundo, para otras decisiones identificadas basadas en análisis de Inteligencia Artificial que no están completamente prohibidas, necesitamos legislación que defina claramente aquellas en las que un ser humano debe estar involucrado en el proceso de toma de decisiones.

Ha sido fundamental en la propuesta de legislación federal sobre Inteligencia Artificial en el lugar de trabajo y propiedad intelectual que en 2018 se convirtió en un proyecto de ley de la Cámara de Representantes de los Estados Unidos. ¿Puede discutir algunas de estas propuestas?

La Ley de Protección de Datos de Inteligencia Artificial tiene como objetivo promover la innovación y está diseñada para (1) aumentar la transparencia en la naturaleza y el uso de, y para generar confianza pública en, la Inteligencia Artificial; (2) abordar el impacto de la Inteligencia Artificial en el mercado laboral y (3) proteger la salud y la seguridad públicas.

Tiene varios componentes clave. Por ejemplo, prohíbe que las empresas cubiertas dependan únicamente de la Inteligencia Artificial para tomar ciertas decisiones, incluida una decisión sobre el empleo de individuos o la denegación o limitación del tratamiento médico, y prohíbe a los emisores de seguros médicos tomar decisiones sobre la cobertura de un tratamiento médico únicamente en función de los análisis de Inteligencia Artificial. También establece la Junta de Inteligencia Artificial, una nueva agencia federal encargada de responsabilidades específicas para regular la Inteligencia Artificial en lo que respecta a la salud y la seguridad públicas. Y requiere que las entidades cubiertas nombren a un Oficial de Inteligencia Artificial.

También ha desarrollado las mejores prácticas de supervisión y gobernanza corporativa de Inteligencia Artificial diseñadas para garantizar la equidad algorítmica. ¿Puede discutir algunos de los problemas actuales que ve con la equidad o el sesgo en los sistemas de Inteligencia Artificial?

Este tema ha sido el foco de un escrutinio intenso por parte de académicos y ahora está recibiendo la atención de agencias gubernamentales de los Estados Unidos, como la Comisión para la Igualdad de Oportunidades en el Empleo (EEOC), y el bufete de abogados. La mayoría de las veces, la causalidad se debe a un error en los conjuntos de datos de entrenamiento o a la falta de comprensión y transparencia en el entorno de prueba. Esto se ve agravado por la falta de propiedad y supervisión centralizada de la Inteligencia Artificial por parte de la gerencia senior.

Esta falta de comprensión técnica y conciencia situacional es una preocupación significativa de responsabilidad. He hablado con varios abogados prominentes que están en busca de casos de sesgo de Inteligencia Artificial.

El aprendizaje profundo a menudo sufre del problema de la “caja negra”, por el cual ingresamos datos en una Red Neuronal Artificial (ANN) y luego recibimos una salida, sin medios para saber cómo se generó esa salida. ¿Cree que esto es un problema importante?

Sí. Y a medida que los algoritmos y las redes neuronales continúan evolucionando, y los humanos están cada vez menos “en el bucle”, hay un riesgo real de pasar el punto de inflexión en el que ya no podremos entender elementos críticos de función y salida.

Con el COVID-19, los países de todo el mundo han introducido sistemas de vigilancia estatal impulsados por Inteligencia Artificial. ¿Cuánto es el problema que tiene con el posible abuso de este tipo de vigilancia?

Es ingenuo, y francamente, irresponsable desde una perspectiva de derechos y libertades individuales, ignorar o restar importancia al riesgo de abuso. Mientras que el seguimiento de contactos parece prudente en medio de una pandemia global, y el reconocimiento facial basado en Inteligencia Artificial proporciona una medida efectiva para hacer lo que los humanos solos no podrían lograr, la sociedad debe instituir prohibiciones legales sobre el mal uso, junto con mecanismos de supervisión y aplicación efectivos. De lo contrario, estamos entregando al estado un elemento fundamental de nuestros derechos y libertades individuales. Una vez que se entrega de manera generalizada, este elemento básico de nuestra libertad y privacidad no se devolverá.

Anteriormente declaró que “Debemos establecer una ‘zona de exclusión’ de Inteligencia Artificial si queremos preservar las libertades que los estadounidenses valoran y que sirven como base para nuestra sociedad”. ¿Puede compartir algunas de estas preocupaciones que tiene?

Cuando se habla de Inteligencia Artificial, siempre debemos centrarnos en el propósito esencial de la Inteligencia Artificial: producir análisis predictivos precisos a partir de grandes conjuntos de datos que se utilizan para clasificar a los humanos y tomar decisiones. A continuación, debemos examinar quiénes son los tomadores de decisiones, qué están decidiendo y en qué se basan sus decisiones.

Si entendemos que los tomadores de decisiones son aquellos que tienen el mayor impacto en nuestra salud, medios de vida y libertades — empleadores, propietarios, médicos, aseguradores, fuerzas del orden y todas las empresas privadas, comerciales y gubernamentales que pueden generar, recopilar o comprar análisis de Inteligencia Artificial –, es fácil ver que en una democracia liberal occidental, a diferencia de un régimen totalitario, debería haber decisiones que no deben, y no deben, dejarse únicamente a la Inteligencia Artificial.

Mientras que muchas decisiones obvias vienen a la mente, como prohibir el encarcelamiento de alguien antes de que se cometa un delito, la adopción generalizada de la Inteligencia Artificial en todos los aspectos de nuestras vidas presenta muchas más instancias de dilemas éticos. Por ejemplo, si un algoritmo predice con precisión que los trabajadores que publican fotos en las redes sociales de vacaciones en la playa donde beben alcohol abandonan o son despedidos de sus trabajos en promedio 3,5 años antes que aquellos que publican fotos de sí mismos trabajando, ¿debería la primera categoría ser denegada una promoción o aumento basado únicamente en la salida algorítmica? Si un algoritmo determina que los adolescentes que juegan videojuegos en promedio más de 2 horas al día son menos propensos a graduarse de una universidad de cuatro años, ¿deberían estos estudiantes ser denegados la admisión? Si las mujeres asiáticas de 60 años ingresadas en la UCI por síntomas relacionados con el COVID-19 tienen una tasa de supervivencia más alta que los hombres afroamericanos de 70 años, ¿deberían las mujeres recibir un tratamiento médico preferencial?

Estos ejemplos simplificados son solo algunos de los numerosos casos en los que la confianza en la Inteligencia Artificial sola contradice nuestras visiones de lo que requieren los derechos humanos individuales.

¿Hay algo más que le gustaría compartir con respecto a la Inteligencia Artificial o Baker McKenzie?

Estoy extremadamente energizado para ayudar a liderar la práctica de Inteligencia Artificial verdaderamente internacional de Baker McKenzie en el panorama en evolución. Reconocemos que nuestros clientes están hambrientos de orientación sobre todo lo relacionado con la Inteligencia Artificial, desde la negociación de contratos hasta el establecimiento de una supervisión interna, hasta evitar reclamos de sesgo, hasta comprender el marco regulatorio nacional e internacional en desarrollo.

Las empresas quieren hacer lo correcto, pero hay muy pocos bufetes de abogados que tengan la experiencia y la comprensión necesarias de la Inteligencia Artificial y el aprendizaje automático para poder ayudarlos. Para aquellos de nosotros que somos adictos a la Inteligencia Artificial y abogados, este es un momento emocionante para agregar valor real a nuestros clientes.

Gracias por las fantásticas respuestas con respecto a algunas de estas preocupaciones sociales importantes que involucran a la Inteligencia Artificial. Los lectores que deseen obtener más información sobre Bradford Newman pueden hacer clic aquí.