Transparencia de la IA y la necesidad de modelos de código abierto

Con el fin de proteger a las personas de los posibles daños de la IA, algunos reguladores en los Estados Unidos y la Unión Europea están abogando cada vez más por controles y equilibrios en el poder de los modelos de IA de código abierto. Esto está parcialmente motivado por el deseo de las grandes corporaciones de controlar el desarrollo de la IA y dar forma al desarrollo de la IA de una manera que les beneficie. Los reguladores también están preocupados por el ritmo del desarrollo de la IA, ya que temen que la IA esté desarrollándose demasiado rápido y que no haya suficiente tiempo para implementar salvaguardias para prevenir que se utilice para fines maliciosos.

El Proyecto de Ley de Derechos de la IA y el Marco de Gestión de Riesgos de la IA de la NIST en los EE. UU., junto con el Acta de la IA de la UE, apoyan varios principios como la precisión, la seguridad, la no discriminación, la seguridad, la transparencia, la responsabilidad, la explicabilidad, la interpretabilidad y la privacidad de los datos. Además, tanto la UE como los EE. UU. anticipan que las organizaciones de normalización, ya sean entidades gubernamentales o internacionales, desempeñarán un papel crucial en la establecimiento de pautas para la IA.

En vista de esta situación, es imperativo esforzarse por un futuro que abrace la transparencia y la capacidad de inspeccionar y monitorear los sistemas de IA. Esto permitiría a los desarrolladores de todo el mundo examinar, analizar y mejorar la IA, centrándose particularmente en los datos y procesos de entrenamiento.

Para llevar con éxito la transparencia a la IA, debemos entender los algoritmos de toma de decisiones que subyacen a ella, desentrañando así el enfoque de “caja negra” de la IA. Los modelos de código abierto y verificables desempeñan un papel integral en el logro de este objetivo, ya que proporcionan acceso al código subyacente, la arquitectura del sistema y los datos de entrenamiento para su examen y auditoría. Esta apertura fomenta la colaboración, impulsa la innovación y salvaguarda contra la monopolización.

Para presenciar la realización de esta visión, es esencial facilitar cambios en las políticas, iniciativas de base y fomentar la participación activa de todas las partes interesadas, incluidos desarrolladores, corporaciones, gobiernos y el público.

Estado actual de la IA: Concentración y control

Actualmente, el desarrollo de la IA, especialmente en lo que respecta a los modelos de lenguaje grande (LLM), es principalmente centralizado y controlado por grandes corporaciones. Esta concentración de poder plantea preocupaciones sobre el posible mal uso y plantea preguntas sobre el acceso equitativo y la distribución justa de los beneficios de los avances en la IA.

En particular, los modelos populares como los LLM carecen de alternativas de código abierto durante el proceso de entrenamiento debido a los extensos recursos informáticos requeridos, que generalmente solo están disponibles para las grandes empresas. Sin embargo, incluso si esta situación permanece sin cambios, es crucial garantizar la transparencia con respecto a los datos y procesos de entrenamiento para facilitar el escrutinio y la rendición de cuentas.

La reciente introducción de un sistema de licencia para ciertos tipos de IA por parte de OpenAI ha generado aprehensión y preocupaciones sobre la captura regulatoria, ya que podría influir no solo en la trayectoria de la IA, sino también en aspectos sociales, económicos y políticos más amplios.

La necesidad de una IA transparente

Imagina depender de una tecnología que toma decisiones impactantes sobre la vida humana/personal, pero no deja ningún rastro, ninguna comprensión de la razón detrás de esas conclusiones. Esto es donde la transparencia se vuelve indispensable.

En primer lugar, la transparencia es crucial y genera confianza. Cuando los modelos de IA se vuelven observables, inspiran confianza en su confiabilidad y precisión. Además, esta transparencia dejaría a los desarrolladores y organizaciones mucho más responsables de los resultados de sus algoritmos.

Otro aspecto crítico de la transparencia es la identificación y mitigación del sesgo algorítmico. El sesgo puede ser inyectado en los modelos de IA de varias maneras.

• Elemento humano: Los científicos de datos son vulnerables a perpetuar sus propios sesgos en los modelos.
• Aprendizaje automático: Incluso si los científicos crean una IA puramente objetiva, los modelos aún son muy susceptibles al sesgo. El aprendizaje automático comienza con un conjunto de datos definido, pero luego se libera para absorber nuevos datos y crear nuevos caminos de aprendizaje y nuevas conclusiones. Estos resultados pueden ser inesperados, sesgados o inexactos, ya que el modelo intenta evolucionar por sí solo en lo que se llama “deriva de datos”.

Es importante ser consciente de estas posibles fuentes de sesgo para que puedan ser identificadas y mitigadas. Una forma de identificar el sesgo es auditar los datos utilizados para entrenar el modelo. Esto incluye buscar patrones que puedan indicar discriminación o injusticia. Otra forma de mitigar el sesgo es utilizar técnicas de desviación. Estas técnicas pueden ayudar a eliminar o reducir el sesgo del modelo. Al ser transparentes sobre la posibilidad de sesgo y tomar medidas para mitigarlo, podemos ayudar a garantizar que la IA se utilice de manera justa y responsable.

Los modelos de IA transparentes permiten a los investigadores y usuarios examinar los datos de entrenamiento, identificar sesgos y tomar medidas correctivas para abordarlos. Al hacer que el proceso de toma de decisiones sea visible, la transparencia nos ayuda a aspirar a la equidad y prevenir la propagación de prácticas discriminatorias. Además, la transparencia es necesaria en toda la vida del modelo, como se explicó anteriormente, para prevenir la deriva de datos, el sesgo y las alucinaciones de la IA que producen información falsa. Estas alucinaciones son particularmente comunes en los Modelos de Lenguaje Grande, pero también existen en todos los productos de IA. La observabilidad de la IA también juega un papel importante para garantizar el rendimiento y la precisión de los modelos, lo que crea una IA más segura y confiable, menos propensa a errores o consecuencias no deseadas.

Sin embargo, lograr la transparencia en la IA no está exento de desafíos. Es necesario encontrar un equilibrio cuidadoso para abordar preocupaciones como la privacidad de los datos, la seguridad y la propiedad intelectual. Esto implica implementar técnicas de preservación de la privacidad, anonimizar datos sensibles y establecer normas y regulaciones industriales que promuevan prácticas de transparencia responsables.

Hacer que la IA transparente sea una realidad

Desarrollar herramientas y tecnologías que puedan habilitar la inspección en la IA es crucial para promover la transparencia y la responsabilidad en los modelos de IA.

Además de desarrollar herramientas y tecnologías que habiliten la inspección en la IA, el desarrollo tecnológico también puede promover la transparencia creando una cultura de ella alrededor de la IA. Animar a las empresas y organizaciones a ser transparentes sobre el uso de la IA también puede ayudar a generar confianza y confianza. Al hacer que sea más fácil inspeccionar los modelos de IA y al crear una cultura de transparencia alrededor de la IA, el desarrollo tecnológico puede ayudar a garantizar que la IA se utilice de manera justa y responsable.

Sin embargo, el desarrollo tecnológico también puede tener el efecto contrario. Por ejemplo, si las empresas tecnológicas desarrollan algoritmos propietarios que no están abiertos a la inspección pública, esto puede hacer que sea más difícil entender cómo funcionan estos algoritmos y identificar cualquier posible sesgo o riesgo. Garantizar que la IA beneficie a la sociedad en su conjunto en lugar de a unos pocos elegidos requiere un alto nivel de colaboración.

Los investigadores, los formuladores de políticas y los científicos de datos pueden establecer regulaciones y normas que equilibren la apertura, la privacidad y la seguridad sin sofocar la innovación. Estas regulaciones pueden crear marcos que fomenten el intercambio de conocimientos al tiempo que abordan los riesgos potenciales y definen expectativas para la transparencia y la explicabilidad en sistemas críticos.

Todas las partes relacionadas con el desarrollo y la implementación de la IA deben priorizar la transparencia documentando sus procesos de toma de decisiones, haciendo que el código fuente esté disponible y abrazando la transparencia como un principio fundamental en el desarrollo del sistema de IA. Esto permite a todos tener la oportunidad de desempeñar un papel vital en la exploración de métodos para hacer que los algoritmos de IA sean más interpretables y desarrollar técnicas que faciliten la comprensión y la explicación de modelos complejos.

Finalmente, la participación pública es crucial en este proceso. Al aumentar la conciencia y fomentar discusiones públicas sobre la transparencia de la IA, podemos garantizar que los valores de la sociedad se reflejen en el desarrollo y la implementación de los sistemas de IA.

Conclusión

A medida que la IA se integra cada vez más en varios aspectos de nuestras vidas, la transparencia de la IA y el uso de modelos de código abierto se convierten en consideraciones críticas. Aceptar la IA verificable no solo garantiza la equidad y la responsabilidad, sino que también estimula la innovación, evita la concentración del poder y promueve el acceso equitativo a los avances de la IA.

Al priorizar la transparencia, permitir el escrutinio de los modelos de IA y fomentar la colaboración, podemos colectivamente dar forma a un futuro de la IA que beneficie a todos, abordando los desafíos éticos, sociales y técnicos asociados con esta tecnología transformadora.