Perplexity AI « Uncensored » DeepSeek R1 : qui décide des limites de l'IA ?

Dans un geste qui a retenu l’attention de beaucoup, IA perplexité a publié une nouvelle version d'un modèle de langage open source populaire qui élimine la censure chinoise intégrée. Ce modèle modifié, baptisé R1 1776 (un nom évoquant l'esprit d'indépendance), est basé sur le modèle développé par la Chine DeepSeek R1Le DeepSeek R1 original a fait sensation grâce à ses solides capacités de raisonnement – ​​rivalisant apparemment avec les modèles haut de gamme à une fraction du prix – mais il comportait une limitation importante : il refusait d’aborder certains sujets sensibles.

Pourquoi cette question?

Cela soulève des questions cruciales sur Surveillance par l'IA, biais, ouverture et rôle de la géopolitique dans les systèmes d'IA. Cet article explore ce qu'a fait exactement Perplexity, les implications de la décensure du modèle et la manière dont il s'inscrit dans le débat plus large sur la transparence et la censure de l'IA.

Ce qui s'est passé : DeepSeek R1 n'est plus censuré

DeepSeek R1 est un modèle de langage ouvert de grande taille originaire de Chine et a acquis une notoriété pour ses excellentes capacités de raisonnement – approchant même les performances des principaux modèles – tout en étant plus efficace en termes de calcul. Cependant, les utilisateurs ont rapidement remarqué une bizarrerie : chaque fois que les requêtes portaient sur des sujets sensibles en Chine (par exemple, des controverses politiques ou des événements historiques considérés comme tabous par les autorités), DeepSeek R1 ne répondait pas directement. Au lieu de cela, il répondait par des déclarations toutes faites, approuvées par l'État, ou par des refus catégoriques, reflétant les règles de censure du gouvernement chinois. Ce biais intégré limitait l'utilité du modèle pour ceux qui recherchaient des discussions franches ou nuancées sur ces sujets.

La solution de Perplexity AI a consisté à « décensurer » le modèle grâce à un processus de post-formation approfondi. L’entreprise a rassemblé un vaste ensemble de données de 40,000 1 questions multilingues couvrant des questions que DeepSeek R300 censurait auparavant ou auxquelles elle répondait de manière évasive. Avec l’aide d’experts humains, ils ont identifié environ 1 sujets sensibles sur lesquels le modèle d’origine avait tendance à suivre la ligne du parti. Pour chaque question de ce type, l’équipe a organisé des réponses factuelles et bien argumentées dans plusieurs langues. Ces efforts ont alimenté un système de détection et de correction de la censure multilingue, apprenant essentiellement au modèle à reconnaître quand il appliquait une censure politique et à répondre à la place avec une réponse informative. Après ce réglage spécial (que Perplexity a surnommé « R1776 1 » pour mettre en évidence le thème de la liberté), le modèle a été rendu accessible au public. Perplexity affirme avoir éliminé les filtres de censure et les biais chinois des réponses de DeepSeek RXNUMX, sans pour autant modifier ses capacités de base.

Le R1 1776 se comporte de manière très différente sur des questions autrefois taboues. Perplexity a donné un exemple impliquant une question sur l'indépendance de Taïwan et son impact potentiel sur le cours de l'action NVIDIA - un sujet politiquement sensible qui touche aux relations entre la Chine et Taïwan. Le R1 original de DeepSeek a évité la question, répondant avec des platitudes alignées sur le PCC. En revanche, le R1 1776 fournit une évaluation détaillée et franche : il discute des risques géopolitiques et économiques concrets (perturbations de la chaîne d'approvisionnement, volatilité du marché, conflit éventuel, etc.) qui pourraient affecter l'action de NVIDIA. 

En rendant le code source de R1 1776 accessible à tous, Perplexity a également rendu les pondérations et les modifications du modèle transparentes pour la communauté. Les développeurs et les chercheurs peuvent téléchargez-le depuis Hugging Face et même l'intégrer via API, garantissant que la suppression de la censure peut être examinée et développée par d'autres.

(Source : Perplexity AI)

Conséquences de la suppression de la censure

La décision de Perplexity AI de supprimer la censure chinoise de DeepSeek R1 comporte plusieurs implications importantes pour la communauté de l'IA :

• Ouverture et véracité renforcées : Les utilisateurs de R1 1776 peuvent désormais recevoir des réponses directes et non censurées sur des sujets auparavant inaccessibles, ce qui constitue une victoire pour la recherche ouverte. Cela pourrait en faire un assistant plus fiable pour les chercheurs, les étudiants ou toute personne curieuse de questions géopolitiques sensibles. C'est un exemple concret d'utilisation de l'IA open source pour contrer la suppression d'informations.
• Performances maintenues : Certains craignaient que le fait de modifier le modèle pour supprimer la censure puisse dégrader ses performances dans d'autres domaines. Cependant, Perplexity rapporte que les compétences de base de R1 1776, comme les mathématiques et le raisonnement logique, restent au même niveau que le modèle d'origine. Lors de tests sur plus de 1,000 1 exemples couvrant un large éventail de requêtes sensibles, le modèle s'est avéré « totalement non censuré » tout en conservant le même niveau de précision de raisonnement que DeepSeek RXNUMX. Cela suggère que suppression des biais (du moins dans ce cas) ne s'est pas fait au détriment de l'intelligence ou des capacités globales, ce qui est un signe encourageant pour des efforts similaires à l'avenir.
• Accueil et collaboration positifs de la communauté : En rendant le modèle décensuré accessible au public, Perplexity invite la communauté de l'IA à inspecter et à améliorer son travail. Elle démontre ainsi son engagement en faveur de la transparence – l'équivalent, pour l'IA, de la présentation de son travail. Les passionnés et les développeurs peuvent vérifier que les restrictions de censure ont bel et bien disparu et contribuer potentiellement à de nouvelles améliorations. Cela favorise la confiance et l'innovation collaborative dans un secteur où les modèles fermés et les règles de modération cachées sont courants.
• Considérations éthiques et géopolitiques : D’un autre côté, la suppression totale de la censure soulève des questions éthiques complexes. L’une des préoccupations immédiates est la manière dont ce modèle non censuré pourrait être utilisé. dans les contextes où les sujets censurés sont illégaux ou dangereux. Par exemple, si quelqu'un en Chine continentale utilisait R1 1776, les réponses non censurées du modèle sur la place Tiananmen ou Taiwan pourraient mettre l'utilisateur en danger. Il y a aussi le signal géopolitique plus large : une entreprise américaine qui modifie un modèle d'origine chinoise pour défier la censure chinoise peut être considérée comme une position idéologique audacieuse. Le nom même de « 1776 » souligne un thème de libération, qui n'est pas passé inaperçu. Certains critiques affirment que il est possible de remplacer un ensemble de biais par un autre – se demandant essentiellement si le modèle pourrait désormais refléter un point de vue occidental dans des domaines sensibles. Le débat souligne que la censure par rapport à l'ouverture dans l'IA n'est pas seulement une question technique, mais aussi politique et éthique. Là où une personne voit modération nécessaire, un autre voit la censure, et trouver le bon équilibre est délicat.

La suppression de la censure est largement saluée comme une étape vers des modèles d’IA plus transparents et utiles à l’échelle mondiale, mais elle sert également à rappeler que ce qu’est une IA devrait dire est une question sensible sans accord universel.

(Source : Perplexity AI)

Vue d'ensemble : censure de l'IA et transparence de l'open source

Le lancement de la version R1 1776 de Perplexity intervient à un moment où la communauté de l'IA se demande comment les modèles doivent gérer les contenus controversés. La censure dans les modèles d'IA peut provenir de nombreux endroits. En Chine, les entreprises technologiques sont obligées de mettre en place des filtres stricts et même des réponses codées en dur pour des sujets politiquement sensibles. DeepSeek R1 en est un parfait exemple : il s'agissait d'un modèle open source, mais il portait clairement l'empreinte des normes de censure chinoises dans sa formation et son réglage. En revanche, de nombreux modèles développés en Occident, comme GPT-4 d'OpenAI ou LLaMA de Meta, ne sont pas soumis aux directives du PCC, mais ils disposent toujours de couches de modération (pour des choses comme les discours de haine, la violence ou la désinformation) que certains utilisateurs appellent « censure ». modération raisonnable que le béton ey censure non désirée peut être flou et dépend souvent de la perspective culturelle ou politique.

Ce que Perplexity AI a fait avec DeepSeek R1 soulève l’idée que les modèles open source peuvent être adaptés à différents systèmes de valeurs ou environnements réglementaires. En théorie, on pourrait créer plusieurs versions d’un modèle : une version conforme à la réglementation chinoise (pour une utilisation en Chine) et une autre entièrement ouverte (pour une utilisation ailleurs). R1 ​​1776 est essentiellement le dernier cas – un fork non censuré destiné à un public mondial qui préfère des réponses non filtrées. Ce type de fork n’est possible que parce que les pondérations de DeepSeek R1 étaient disponibles en libre accès. Il met en évidence l’avantage de l’open source dans l’IA : transparence. N'importe qui peut prendre le modèle et le modifier, que ce soit pour ajouter des protections ou, comme dans ce cas, pour supprimer les restrictions imposées. Le fait que les données d'entraînement, le code ou les pondérations du modèle soient rendus open source signifie également que la communauté peut vérifier la manière dont le modèle a été modifié. (Perplexity n'a pas entièrement divulgué toutes les sources de données qu'elle a utilisées pour la décensure, mais en publiant le modèle lui-même, elle a permis à d'autres d'observer son comportement et même de le réentraîner si nécessaire.)

Cet événement fait également référence à la dynamique géopolitique plus large du développement de l'IA. Nous assistons à une forme de dialogue (ou de confrontation) entre différents modèles de gouvernance de l'IA. Un modèle développé par la Chine, avec certaines visions du monde intégrées, est repris par une équipe basée aux États-Unis et modifié pour refléter une éthique de l'information plus ouverte. C'est un témoignage de la façon dont mondial et sans frontières L’IA est une technologie qui permet aux chercheurs du monde entier de s’appuyer sur les travaux des autres, mais qui n’est pas obligée de conserver les contraintes initiales. Au fil du temps, nous pourrions voir davantage de cas de ce type, où les modèles sont « traduits » ou ajustés entre différents contextes culturels. Cela soulève la question de savoir si l’IA peut un jour être véritablement universelle, ou si nous finirons par avoir des versions spécifiques à chaque région qui adhèrent aux normes locales. La transparence et l’ouverture offrent une voie à suivre : si toutes les parties peuvent inspecter les modèles, au moins le débat sur les préjugés et la censure est ouvert au public plutôt que caché derrière le secret des entreprises ou du gouvernement.

Enfin, la démarche de Perplexity souligne un point clé du débat sur le contrôle de l’IA : Qui décide de ce qu'une IA peut ou ne peut pas dire ? Dans les projets open source, ce pouvoir devient décentralisé. La communauté – ou les développeurs individuels – peuvent décider d’appliquer des filtres plus stricts ou de les assouplir. Dans le cas de R1 1776, Perplexity a décidé que les avantages d’un modèle non censuré l’emportaient sur les risques, et ils avaient la liberté de prendre cette décision et de partager le résultat publiquement. C’est un exemple audacieux du type d’expérimentation que permet le développement d’une IA ouverte.