Système d’IA qui se transforme automatiquement pour éviter les tentatives de censure

Des chercheurs de l’Université du Maryland (UMD) ont créé un programme alimenté par l’IA capable de se transformer pour éviter les tentatives de censure sur Internet. Selon TechXplore, les gouvernements autoritaires qui censurent Internet et les ingénieurs qui tentent de contrer les tentatives de censure sont engagés dans une course aux armements, chacun essayant de surpasser l’autre. Apprendre à contourner les techniques de censure prend généralement plus de temps que le développement de ces techniques, mais un nouveau système développé par l’équipe de l’Université du Maryland pourrait rendre plus facile et plus rapide l’adaptation aux tentatives de censure.

L’outil inventé par l’équipe de recherche s’appelle Geneva, qui signifie Évitement génétique. L’outil peut esquiver les tentatives de censure en exploitant les bogues et en déterminant les défaillances dans la logique des censeurs, qui peuvent être difficiles à trouver pour les humains.

Les informations sur Internet sont transportées sous forme de paquets. De petits morceaux de données commencent à l’ordinateur de l’expéditeur où ils sont démontés et envoyés à l’ordinateur du destinataire. Lorsqu’ils arrivent à l’ordinateur du destinataire, les informations sont réassemblées. Une méthode courante de censure d’Internet consiste à surveiller les données de paquet créées lors d’une recherche sur Internet. Après avoir surveillé ces paquets, le censeur peut bloquer les résultats pour certains mots clés ou noms de domaine interdits.

Geneva fonctionne en modifiant la façon dont les données de paquet sont réellement fractionnées et transmises. Cela signifie que les algorithmes de censure ne classifient pas les recherches ou les résultats comme du contenu interdit, ou sont autrement incapables de bloquer la connexion.

Geneva utilise un algorithme génétique, un type d’algorithme inspiré de processus biologiques. Geneva utilise de petits morceaux de code comme blocs de construction à la place de brins d’ADN. Les morceaux de code, ou blocs de construction, peuvent être réorganisés en combinaisons spécifiques qui peuvent esquiver les tentatives de fractionner ou de ralentir les paquets de données. Les morceaux de code de Geneva sont réorganisés sur plusieurs générations, en utilisant une stratégie qui combine les instructions qui ont le mieux évité la censure dans la génération précédente pour créer un nouvel ensemble d’instructions/stratégies. Ce processus évolutif permet de créer des techniques d’évitement sophistiquées relativement rapidement. Geneva est capable de fonctionner pendant que l’utilisateur parcourt le Web, en exécutant en arrière-plan du navigateur.

Dave Levin, professeur adjoint en informatique à l’UMD, a expliqué que Geneva donne aux anti-censeurs un avantage distinct pour la première fois. Levin a également expliqué que la méthode utilisée par les chercheurs pour créer leur outil renverse les stratégies traditionnelles d’évitement de la censure. Les méthodes traditionnelles de défaite des stratégies de censure impliquent de comprendre comment fonctionne une stratégie de censure, puis de rétroconcevoir des méthodes pour la battre. Cependant, dans le cas de Geneva, le programme découvre comment esquiver le censeur, puis les chercheurs analysent quelles stratégies de censure sont utilisées.

Afin de tester les performances de leur outil, l’équipe de recherche a testé Geneva sur un ordinateur situé en Chine équipé d’un navigateur Google Chrome non modifié. Lorsque l’équipe de recherche a utilisé les stratégies identifiées par Geneva, ils ont pu parcourir les résultats de mots clés sans censure. L’outil s’est également avéré utile en Inde et au Kazakhstan, qui bloquent également certaines URL.

L’équipe de recherche prévoit de publier le code et les données utilisés pour créer le modèle bientôt, dans l’espoir que cela donnera aux personnes dans les pays autoritaires un accès plus ouvert et plus libre à l’information. L’équipe de recherche expérimente également une méthode de déploiement de l’outil sur le dispositif qui sert le contenu bloqué au lieu de l’ordinateur client (l’ordinateur qui effectue la recherche). Si cela réussit, cela signifierait que les personnes pourraient accéder au contenu bloqué sans installer l’outil sur leurs ordinateurs.

“Si Geneva peut être déployé sur le serveur et fonctionner aussi bien qu’il le fait sur le client, alors il pourrait potentiellement ouvrir les communications pour des millions de personnes”, a déclaré Levin. “C’est une possibilité incroyable, et c’est une direction que nous poursuivons.”