Ya no estamos alineando IA. Estamos alineando civilizaciones

Durante muchos años, la principal pregunta en inteligencia artificial (IA) era cómo alinear los modelos de IA con los valores humanos. Los investigadores intentaron definir reglas de seguridad, principios éticos y mecanismos de control que guiaran las decisiones de la IA. Este trabajo logró un progreso significativo. Pero ahora, a medida que estos sistemas de IA crecen en capacidad y se vuelven más generalizados, el enfoque de la alineación está comenzando a cambiar. Lo que comenzó como el desafío de alinear un solo modelo con un conjunto de instrucciones ahora se ha convertido en el desafío mucho mayor de alinear civilizaciones enteras que utilizan estos sistemas a escala global. La IA ya no es solo una herramienta. Está evolucionando hacia un entorno donde las sociedades trabajan, se comunican, negocian y compiten. Como resultado, la alineación ya no permanece como un problema técnico. Se ha convertido en un problema civilizacional. En este artículo, explico por qué la alineación ya no es solo sobre modelos y por qué debemos comenzar a pensar en términos de civilizaciones en lugar de máquinas. También discuto cómo este cambio afecta nuestras responsabilidades y qué significa para la cooperación global.

¿Qué valores representa realmente la IA?

Si le preguntas a una IA sobre un evento histórico sensible, su respuesta depende de los datos que ha estudiado. Si esos datos provienen principalmente de Internet occidental, la respuesta tendrá un sesgo occidental. Priorizará el individualismo, la libertad de expresión y los ideales democráticos. Estos son buenos valores para muchas personas. Pero no son los únicos valores en el mundo.

Un usuario en Singapur, un usuario en Riad y un usuario en San Francisco tienen definiciones diferentes de lo que es “útil” y lo que es “perjudicial”. En algunas culturas, la armonía social es más importante que la libertad de expresión absoluta. En otras, el respeto por la jerarquía es más importante que la disruptividad.

Cuando una empresa de Silicon Valley utiliza “Aprendizaje de Refuerzo desde la Retroalimentación Humana” (RLHF), contratan a humanos para calificar las respuestas de la IA. Pero ¿quiénes son estos humanos? ¿Cuáles son sus creencias? Si alinean el modelo con los estándares americanos, accidentalmente están construyendo una exportación cultural americana. Están construyendo un diplomático digital que hace cumplir las reglas de una civilización específica en el resto del mundo.

El auge de los bucles de retroalimentación

El desafío no es solo que la IA refleje las creencias de una cultura. Es cómo esas creencias pueden cambiarnos. Los sistemas de IA modernos tienen el potencial de moldear el comportamiento de individuos, organizaciones y sogar naciones. Pueden influir en cómo pensamos, trabajamos, confiamos y competimos. Esto crea bucles de retroalimentación entre los sistemas de IA y las sociedades humanas; entrenamos a la IA y la IA moldea cómo pensamos y actuamos. Estos bucles se están volviendo más fuertes a medida que la IA se vuelve más generalizada. Para ver cómo funciona este bucle de retroalimentación, aquí hay dos ejemplos:

• La implementación de IA a gran escala cambia el comportamiento social, y el comportamiento social cambia los datos que entrenan a los nuevos sistemas. Por ejemplo, un algoritmo de recomendación puede moldear lo que la gente ve, lee y cree. Las herramientas de productividad cambian la forma en que los equipos colaboran y los estudiantes aprenden. Estos cambios en el comportamiento cambian los patrones de datos en forma de diferentes hábitos de visualización, patrones de comunicación en el lugar de trabajo o estilos de escritura. Cuando estos datos fluyen hacia los conjuntos de datos de entrenamiento futuros, los modelos ajustan sus suposiciones y salidas en consecuencia. El comportamiento humano moldea los modelos, y los modelos, a su vez, moldean el comportamiento humano.
• Las herramientas de decisión automatizadas influyen en las políticas públicas, y las políticas públicas influyen en el entrenamiento de los modelos futuros. Por ejemplo, muchos gobiernos ahora utilizan la IA para sugerir dónde asignar recursos, como identificar qué vecindarios necesitan más apoyo de atención médica o qué áreas pueden tener un mayor riesgo de delincuencia. Cuando los formuladores de políticas actúan sobre estas recomendaciones, los resultados de esas decisiones más tarde se convierten en parte de nuevos conjuntos de datos. Con el tiempo, las decisiones de política moldeadas por la IA terminan moldeando la próxima generación de modelos de IA.

Una vez que reconoce este bucle de retroalimentación, queda claro que la IA está moldeando y alineando gradualmente las civilizaciones. Como resultado, las naciones están comenzando a preguntar: ¿Cómo pueden salvaguardar sus valores mientras integran la IA en sus sociedades e instituciones?

La emergencia de la IA soberana

Este desafío de alineación ha provocado una reacción significativa de los gobiernos de todo el mundo. Las naciones han reconocido que depender de la IA importada es un riesgo para su soberanía. No pueden permitirse tener a sus ciudadanos educados, informados y asesorados por una caja negra que piensa como un extranjero.

Esta comprensión ha llevado al surgimiento de la “IA soberana“. Francia está invirtiendo mucho para construir modelos que hablen francés y comprendan la ley y la cultura francesas. La India está construyendo modelos de IA indígenas para garantizar que sus valores culturales sean respetados. Los Emiratos Árabes Unidos y China están construyendo modelos de IA alineados con sus propias visiones nacionales.

Esta es la nueva carrera armamentista. Es una carrera por el control de la narrativa. Una civilización que no tiene su propia IA eventualmente perderá su propia memoria. Si tus hijos le hacen una pregunta a una máquina y la máquina responde con la lógica de una cultura diferente, tu cultura comienza a erosionarse. Esta comprensión, sin embargo, puede llevar a la formación de bloques digitales distintos. Podríamos terminar con una IA occidental, una IA china, una IA india, etc. Estos sistemas operarán con hechos y brújulas morales diferentes. Estos desarrollos hacen que quede claro que si queremos crear un modelo de IA verdaderamente alineado, debemos encontrar primero una forma de alinear las civilizaciones.

Necesidad de una IA diplomática

La alineación tradicional supone que un modelo puede alinearse mediante un entrenamiento cuidadoso, una llamada y guardias. Este pensamiento proviene de la mentalidad técnica de la investigación de seguridad de la IA temprana. Pero incluso la alineación perfecta del nivel del modelo no puede resolver los desafíos de alinear las civilizaciones. La alineación no puede permanecer estable cuando las sociedades tiran en direcciones opuestas. Si los países, las empresas y las comunidades tienen objetivos conflictivos, empujarán a los sistemas de IA para que reflejen esos conflictos. Estos límites muestran que la alineación no es solo un problema técnico. Es un problema de gobernanza, cultural y de coordinación. Y estos problemas requieren no solo expertos o desarrolladores. Involucran a civilizaciones enteras.

Entonces, ¿cómo seguimos adelante? Si aceptamos que la alineación universal es imposible, debemos cambiar nuestra estrategia. Necesitamos dejar de buscar una solución técnica para un problema filosófico. Necesitamos comenzar a pensar como diplomáticos. Necesitamos construir protocolos para la “Alineación Civilizacional”. Necesitamos averiguar cómo la IA puede respetar las creencias y los valores de una sociedad sin imponerle las creencias de otras culturas. En otras palabras, necesitamos una Organización de las Naciones Unidas digital para nuestros algoritmos.

Esto requiere transparencia. Actualmente, no sabemos realmente qué valores están ocultos en las capas profundas de una red neuronal. Solo vemos la salida. Para alinear las civilizaciones, necesitamos ser claros sobre la “Constitución” de cada modelo. Un modelo debe poder declarar su sesgo. Debe poder decir: “Estoy entrenado con estos datos, con estas reglas de seguridad, priorizando estos valores”. Solo cuando el sesgo es visible podemos confiar en el sistema. Un usuario debe poder cambiar entre perspectivas. Debes poder hacer una pregunta y ver cómo responde un modelo “occidental” en comparación con cómo responde un modelo “oriental”. Esto convertiría a la IA en una herramienta para la comprensión, en lugar de una herramienta para la indoctrinación.

En resumen

Hemos pasado demasiado tiempo preocupándonos por el Terminator. El verdadero riesgo no es que un robot nos destruya. El verdadero riesgo es que un robot nos haga olvidar quiénes somos. La alineación no es un código que podamos escribir una vez y olvidar. Es una negociación constante con los modelos de IA para mantenerlos alineados con nuestras creencias y valores. Es un acto político. A medida que avanzamos hacia esta próxima fase de la era de la inteligencia, debemos mirar más allá de la pantalla. Debemos considerar cómo la IA interpreta nuestra historia, nuestras fronteras y nuestras creencias. Estamos construyendo las mentes que nos ayudarán a gobernar el mundo. Debemos asegurarnos de que esas mentes respeten las diferencias entre las civilizaciones.