Perplexity AI “desbloquea” DeepSeek R1: ¿Quién decide los límites de la IA?

En un movimiento que ha llamado la atención de muchos, Perplexity AI ha lanzado una nueva versión de un popular modelo de lenguaje de código abierto que elimina la censura incorporada en China. Este modelo modificado, llamado R1 1776 (un nombre que evoca el espíritu de independencia), se basa en el modelo DeepSeek R1 desarrollado en China. El DeepSeek R1 original causó un gran impacto por sus fuertes capacidades de razonamiento, que rivalizan con los modelos de alta gama a una fracción del costo, pero tenía una limitación importante: se negaba a abordar ciertos temas sensibles.

¿Por qué esto es importante?

Plantea preguntas cruciales sobre la vigilancia de la IA, el sesgo, la apertura y el papel de la geopolítica en los sistemas de IA. Este artículo explora lo que Perplexity hizo exactamente, las implicaciones de desbloquear el modelo y cómo se ajusta a la conversación más amplia sobre la transparencia y la censura de la IA.

Qué sucedió: DeepSeek R1 se desbloquea

DeepSeek R1 es un modelo de lenguaje de código abierto grande que se originó en China y ganó notoriedad por sus excelentes habilidades de razonamiento, incluso acercándose al rendimiento de los modelos líderes, todo mientras era más eficiente computacionalmente. Sin embargo, los usuarios pronto notaron una peculiaridad: siempre que las consultas tocaban temas sensibles en China (por ejemplo, controversias políticas o eventos históricos considerados tabú por las autoridades), DeepSeek R1 no respondía directamente. En su lugar, respondía con declaraciones aprobadas por el estado o refusaba directamente, reflejando las reglas de censura del gobierno chino. Este sesgo incorporado limitó la utilidad del modelo para aquellos que buscaban discusiones francas o matizadas sobre esos temas.

La solución de Perplexity AI fue “desbloquear” el modelo a través de un proceso de entrenamiento posterior extenso. La empresa reunió un gran conjunto de datos de 40,000 prompts multilingües que cubrían preguntas que DeepSeek R1 previamente censuró o respondió evasivamente. Con la ayuda de expertos humanos, identificaron aproximadamente 300 temas sensibles donde el modelo original tendía a seguir la línea del partido. Para cada prompt, el equipo curó respuestas factuales y bien razonadas en varios idiomas. Esfuerzos que se alimentaron en un sistema de detección y corrección de censura multilingüe, esencialmente enseñando al modelo a reconocer cuándo aplicaba la censura política y a responder con una respuesta informativa en su lugar. Después de este ajuste especial (al que Perplexity apodó “R1 1776” para resaltar el tema de la libertad), el modelo se hizo disponible de forma abierta. Perplexity afirma haber eliminado los filtros y sesgos de censura china de las respuestas de DeepSeek R1, sin cambiar sus capacidades básicas.

Crucialmente, R1 1776 se comporta muy diferente en preguntas previamente tabú. Perplexity dio un ejemplo que involucra una consulta sobre la independencia de Taiwán y su posible impacto en el precio de las acciones de NVIDIA (NVDA ), un tema políticamente sensible que toca las relaciones entre China y Taiwán. El DeepSeek R1 original evitó la pregunta, respondiendo con lugares comunes alineados con el Partido Comunista Chino. En contraste, R1 1776 entrega una evaluación detallada y franca: discute riesgos geopolíticos y económicos concretos (interrupciones de la cadena de suministro, volatilidad del mercado, posible conflicto, etc.) que podrían afectar las acciones de NVIDIA.

Al abrir el código de R1 1776, Perplexity también ha hecho que los pesos y los cambios del modelo sean transparentes para la comunidad. Los desarrolladores y los investigadores pueden descargarlo desde Hugging Face e incluso integrarlo a través de API, asegurando que la eliminación de la censura pueda ser examinada y mejorada por otros.

(Fuente: Perplexity AI)

Implicaciones de eliminar la censura

La decisión de Perplexity AI de eliminar la censura china de DeepSeek R1 lleva varias implicaciones importantes para la comunidad de IA:

• Mayor apertura y veracidad: Los usuarios de R1 1776 ahora pueden recibir respuestas directas y sin censura sobre temas previamente prohibidos, lo que es un paso hacia la investigación abierta. Esto podría hacer que sea un asistente más confiable para investigadores, estudiantes o cualquier persona curiosa sobre cuestiones geopolíticas sensibles. Es un ejemplo concreto de cómo el código abierto de IA puede contrarrestar la supresión de la información.
• Rendimiento mantenido: Había preocupaciones de que ajustar el modelo para eliminar la censura podría degradar su rendimiento en otras áreas. Sin embargo, Perplexity informa que las habilidades básicas de R1 1776, como las matemáticas y el razonamiento lógico, siguen al mismo nivel que el modelo original. En pruebas con más de 1,000 ejemplos que cubren una amplia gama de consultas sensibles, el modelo se encontró “totalmente desbloqueado” mientras mantenía el mismo nivel de precisión de razonamiento que DeepSeek R1. Esto sugiere que, al menos en este caso, la eliminación del sesgo no vino a expensas de la inteligencia o la capacidad general, lo que es un signo alentador para esfuerzos similares en el futuro.
• Recepción positiva de la comunidad y colaboración: Al abrir el código del modelo desbloqueado, Perplexity invita a la comunidad de IA a inspeccionar y mejorar su trabajo. Demuestra un compromiso con la transparencia, el equivalente en IA de mostrar el trabajo. Los entusiastas y los desarrolladores pueden verificar que las restricciones de censura realmente se han eliminado y potencialmente contribuir a mejoras adicionales. Esto fomenta la confianza y la innovación colaborativa en una industria donde los modelos cerrados y las reglas de moderación ocultas son comunes.
• Consideraciones éticas y geopolíticas: Por otro lado, la eliminación total de la censura plantea preguntas éticas complejas. Una preocupación inmediata es cómo este modelo desbloqueado podría ser utilizado en contextos donde los temas censurados son ilegales o peligrosos. Por ejemplo, si alguien en la China continental utilizara R1 1776, las respuestas desbloqueadas del modelo sobre la Plaza Tiananmen o Taiwán podrían poner al usuario en riesgo. También hay una señal de carácter geopolítico más amplio: una empresa estadounidense que altera un modelo de origen chino para desafiar la censura china puede ser vista como una postura ideológica audaz. El nombre “1776” subraya un tema de liberación, lo que no ha pasado desapercibido. Algunos críticos argumentan que reemplazar un conjunto de sesgos con otro es posible, esencialmente cuestionando si el modelo ahora reflejaría una perspectiva occidental en áreas sensibles. El debate destaca que la censura versus la apertura en la IA no es solo un tema técnico, sino también político y ético. Donde una persona ve la moderación necesaria, otra ve censura, y encontrar el equilibrio correcto es complicado.

La eliminación de la censura se celebra en gran medida como un paso hacia modelos de IA más transparentes y útiles a nivel global, pero también sirve como recordatorio de que lo que una IA debe decir es una pregunta sensible sin acuerdo universal.

(Fuente: Perplexity AI)

La imagen más grande: Censura de IA y transparencia de código abierto

El lanzamiento de R1 1776 por parte de Perplexity llega en un momento en que la comunidad de IA se debate con preguntas sobre cómo los modelos deben manejar el contenido controvertido. La censura en los modelos de IA puede provenir de muchos lugares. En China, las empresas tecnológicas están obligadas a incorporar estrictos filtros y respuestas codificadas para temas políticamente sensibles. DeepSeek R1 es un ejemplo principal de esto: fue un modelo de código abierto, pero claramente llevaba la impronta de las normas de censura de China en su entrenamiento y ajuste. Por contraste, muchos modelos desarrollados en Occidente, como GPT-4 de OpenAI o LLaMA de Meta, no están sujetos a las directrices del Partido Comunista Chino, pero aún tienen capas de moderación (para cosas como el discurso de odio, la violencia o la desinformación) que algunos usuarios llaman “censura”. La línea entre moderación razonable y censura no deseada puede ser borrosa y a menudo depende de la perspectiva cultural o política.

Lo que Perplexity AI hizo con DeepSeek R1 plantea la idea de que los modelos de código abierto pueden adaptarse a diferentes sistemas de valores o entornos regulatorios. En teoría, se podrían crear múltiples versiones de un modelo: uno que cumpla con las regulaciones chinas (para su uso en China) y otro que sea completamente abierto (para su uso en otros lugares). R1 1776 es esencialmente el último caso: una bifurcación desbloqueada destinada a una audiencia global que prefiere respuestas sin filtro. Este tipo de bifurcación solo es posible porque los pesos de DeepSeek R1 estaban disponibles de forma abierta. Destaca el beneficio del código abierto en la IA: transparencia. Cualquiera puede tomar el modelo y ajustarlo, ya sea para agregar salvaguardas o, como en este caso, para eliminar restricciones impuestas. Abrir el código del modelo, los datos de entrenamiento o los pesos también significa que la comunidad puede auditar cómo se modificó el modelo. (Perplexity no ha divulgado completamente todas las fuentes de datos que utilizó para la des-censura, pero al lanzar el modelo en sí, han habilitado a otros a observar su comportamiento y incluso volver a entrenarlo si es necesario).

Este evento también hace un gesto hacia las dinámicas geopolíticas más amplias del desarrollo de la IA. Estamos viendo una forma de diálogo (o confrontación) entre diferentes modelos de gobernanza para la IA. Un modelo desarrollado en China con ciertas perspectivas incorporadas es tomado por un equipo con sede en EE. UU. y modificado para reflejar una ética de información más abierta. Es un testimonio de cuán global y sin fronteras es la tecnología de la IA: los investigadores en cualquier lugar pueden construir sobre el trabajo de los demás, pero no están obligados a llevar sobre sí las restricciones originales. Con el tiempo, es posible que veamos más instancias de esto, donde los modelos se “traducen” o se ajustan entre diferentes contextos culturales. Plantea la pregunta de si la IA puede ser verdaderamente universal o si terminaremos con versiones específicas de región que se adhieren a las normas locales. La transparencia y la apertura proporcionan un camino para navegar esto: si todas las partes pueden inspeccionar los modelos, al menos la conversación sobre el sesgo y la censura está abierta en lugar de oculta detrás del secreto corporativo o gubernamental.

Finalmente, el movimiento de Perplexity subraya un punto clave en el debate sobre el control de la IA: ¿quién decide qué puede o no decir una IA? En los proyectos de código abierto, ese poder se descentraliza. La comunidad, o los desarrolladores individuales, pueden decidir implementar filtros más estrictos o relajarlos. En el caso de R1 1776, Perplexity decidió que los beneficios de un modelo desbloqueado superaban los riesgos y tuvieron la libertad de tomar esa decisión y compartir el resultado públicamente. Es un ejemplo audaz del tipo de experimentación que el desarrollo de IA de código abierto permite.