Inicio de Startup Unbiased para Aumentar la Transparencia en los Datos a Través de la Cadena de Bloques, Luchar Contra el Sesgo de Datos

Los efectos del sesgo de datos en la inteligencia artificial están bien documentados, y a medida que los algoritmos de inteligencia artificial y aprendizaje automático se infiltran cada vez más en todos los rincones de la sociedad, las empresas de inteligencia artificial buscan nuevas formas de garantizar que los algoritmos que desarrollan no hereden sesgos humanos. Uno de los nuevos actores en el espacio de inteligencia artificial y aprendizaje automático que busca reducir el sesgo de datos es la startup transparentemente llamada Unbiased. Unbiased ha lanzado un nuevo mercado de datos en la plataforma de cadena de bloques activa Telos, con la esperanza de brindar a los clientes herramientas y aplicaciones descentralizadas y de privacidad para la ciencia de datos y la inteligencia artificial.

El mercado global de inteligencia artificial se prevé que continuará su crecimiento rápido durante la próxima década, alcanzando alrededor de 266 mil millones de dólares para 2027. En los próximos cuatro años, se espera que el gasto mundial en sistemas y componentes de inteligencia artificial se duplique, alcanzando aproximadamente 110 mil millones de dólares para 2024, según IDC. La adopción rápida de algoritmos de inteligencia artificial en más y más industrias ha llevado a una creciente preocupación sobre la transparencia, la privacidad, la equidad y la representatividad de los sistemas de inteligencia artificial.

Reducir el Sesgo a Través de la Transparencia

Según un informe reciente publicado por el Instituto de Investigación de CapGemini, titulado “Inteligencia Artificial y el Conundrum Ético: Cómo las organizaciones pueden construir sistemas de inteligencia artificial éticamente sólidos y ganar confianza”, el uso ético de la inteligencia artificial se ha convertido en una preocupación importante para los líderes de TI, con la mayoría de los líderes de TI expresando preocupación sobre el posible mal uso de los sistemas de inteligencia artificial. Aproximadamente 9 de cada 10 organizaciones de TI declararon que estaban al tanto de al menos un incidente en el que se crearon problemas éticos por la aplicación de un sistema de inteligencia artificial. Aproximadamente dos tercios de los ejecutivos de TI dijeron que estaban al tanto de posibles sesgos discriminatorios en los sistemas de inteligencia artificial, y aproximadamente la mitad de todas las organizaciones de TI tienen una carta ética destinada a dar forma al desarrollo de la inteligencia artificial, en lugar de solo el 5% de las empresas de TI en 2019.

Mientras continúa la investigación sobre cómo se pueden hacer que los algoritmos de inteligencia artificial sean más justos, muchos éticos y especialistas en inteligencia artificial están centrando su atención en los datos utilizados para entrenar a la inteligencia artificial. A medida que los algoritmos de inteligencia artificial se vuelven más ubicuos y estandarizados, la atención se está centrando en la adquisición de los datos necesarios para entrenar los modelos.

Hay muchas formas de reducir el sesgo de datos en los algoritmos de inteligencia artificial. Algunas técnicas implican hacer ajustes en el modelo o en los datos de entrenamiento mientras el modelo se entrena. Estas técnicas son técnicas de corrección de sesgo “en proceso”. Esto incluye el uso de técnicas de entrenamiento adversarial, que es donde se controla alguna característica/variable sensible (como el sexo o la raza) al penalizar la capacidad del modelo para hacer predicciones que involucran la característica en cuestión. Esto se hace al mismo tiempo que se intenta minimizar el error del modelo. En contraste, centrarse en eliminar el sesgo del conjunto de datos es una técnica de preprocesamiento. Los datos de entrenamiento para los modelos de aprendizaje automático a menudo se etiquetan manualmente, y la aplicación de la cadena de bloques podría ayudar a las empresas a rastrear el proceso de etiquetado de sus datos para garantizar que sus conjuntos de datos sean representativos.

Unbiased busca utilizar la cadena de bloques para fomentar una cultura de transparencia dentro de los conjuntos de datos y los mercados de datos. La mayoría de las herramientas utilizadas para generar conjuntos de datos para los sistemas de inteligencia artificial y los algoritmos de aprendizaje automático son centralizadas, y debido a esto, a menudo carecen de transparencia. Unbiased busca aprovechar la naturaleza de la cadena de bloques para registrar las acciones que ocurren en su mercado de datos, que incluye el intercambio de datos, la ecuación de tareas y proyectos, y las contribuciones de los trabajadores. El objetivo es que la naturaleza descentralizada de la cadena de bloques de Telos facilite la transparencia, lo que permite a los usuarios obtener información crítica sobre la naturaleza de su ciencia de datos. Los usuarios podrán validar sus conjuntos de datos y determinar si las anotaciones se han realizado con respecto a ciertos principios éticos, como la equidad y la privacidad.

Según el Arquitecto Jefe de la Cadena de Bloques de Telos, la intersección de la inteligencia artificial/aprendizaje automático con la cadena de bloques puede conducir a métodos de trabajo con datos transformadores. Como se citó a Horn en AIthority:

“Unbiased mostrará a estas industrias cómo registrar datos en una cadena de bloques de alto rendimiento y sin tarifas como Telos puede agregar transparencia, inmutabilidad, micropagos y gobernanza a sus productos para beneficio de todas las partes interesadas.”

Más allá de la transparencia de los datos de entrenamiento, algunos científicos y investigadores han abogado por una mayor transparencia en los algoritmos, los modelos y el código. Un equipo internacional de científicos pidió a las revistas científicas que hicieran que los investigadores de ciencias de la computación cumplan con estándares de transparencia más altos. Los investigadores argumentaron que una mayor transparencia con respecto a los modelos y el código de inteligencia artificial no solo ayudaría a la reproducibilidad de los estudios, sino que también ayudaría a la colaboración entre los grupos de investigación. Muchos estudios científicos no se pueden reproducir, y este es un problema aún mayor para los estudios centrados en la inteligencia artificial que dejan fuera materiales críticos. En el futuro, la cadena de bloques incluso podría utilizarse para mejorar el seguimiento y la evaluación de la investigación en el campo de la inteligencia artificial.