Système d’IA qui se transforme automatiquement pour éviter les tentatives de censure

Des recherches menées par des scientifiques de l’Université du Maryland (UMD) ont créé un programme alimenté par l’IA qui peut se transformer pour éviter les tentatives de censure sur Internet. Comme le rapporte TechXplore, les gouvernements autoritaires qui censurent Internet et les ingénieurs qui tentent de contrer les tentatives de censure sont engagés dans une course aux armements, chacun essayant de surpasser l’autre. Apprendre à contourner les techniques de censure prend généralement plus de temps que le développement de techniques de censure, mais un nouveau système développé par l’équipe de l’Université du Maryland pourrait faciliter et accélérer l’adaptation aux tentatives de censure.

L’outil inventé par l’équipe de recherche s’appelle Geneva, qui signifie Évitement génétique. L’outil est capable d’esquiver les tentatives de censure en exploitant les bogues et en déterminant les défaillances dans la logique des censeurs, qui peuvent être difficiles à trouver pour les humains.

Les informations sur Internet sont transportées sous forme de paquets. De petits morceaux de données commencent à l’ordinateur de l’expéditeur où ils sont démontés et envoyés à l’ordinateur du destinataire. Lorsqu’ils arrivent à l’ordinateur du destinataire, les informations sont réassemblées. Une méthode courante de censure d’Internet consiste à surveiller les données de paquet créées lors d’une recherche sur Internet. Après avoir surveillé ces paquets, le censeur peut bloquer les résultats pour certains mots clés interdits ou noms de domaine.

Geneva fonctionne en modifiant la façon dont les données de paquet sont réellement décomposées et transmises. Cela signifie que les algorithmes de censure ne classifient pas les recherches ou les résultats comme du contenu interdit, ou sont autrement incapables de bloquer la connexion.

Geneva utilise un algorithme génétique, un type d’algorithme inspiré de processus biologiques. Geneva utilise de petits morceaux de code comme blocs de construction à la place de brins d’ADN. Les morceaux de code, ou blocs de construction, peuvent être réorganisés en combinaisons spécifiques qui peuvent esquiver les tentatives de briser ou de ralentir les paquets de données. Les morceaux de code de Geneva sont réorganisés sur plusieurs générations, en utilisant une stratégie qui combine les instructions qui ont le mieux évité la censure dans la génération précédente pour créer un nouvel ensemble d’instructions/stratégies. Ce processus évolutif permet de créer des techniques d’évitement sophistiquées assez rapidement. Geneva est capable de fonctionner pendant que l’utilisateur navigue sur le Web, en exécutant en arrière-plan du navigateur.

Dave Levin, professeur adjoint en informatique à l’UMD, a expliqué que Geneva donne aux anti-censeurs un avantage distinct pour la première fois. Levin a également expliqué que la méthode utilisée par les chercheurs pour créer leur outil renverse les stratégies traditionnelles d’évitement de la censure. Les méthodes traditionnelles de défaite des stratégies de censure impliquent de comprendre comment une stratégie de censure fonctionne, puis de créer des méthodes pour la battre. Cependant, dans le cas de Geneva, le programme découvre comment esquiver le censeur, puis les chercheurs analysent quelles stratégies de censure sont utilisées.

Afin de tester les performances de leur outil, l’équipe de recherche a testé Geneva sur un ordinateur situé en Chine équipé d’un navigateur Google Chrome non modifié. Lorsque l’équipe de recherche a utilisé les stratégies que Geneva a identifiées, ils ont pu parcourir les résultats de mots clés sans censure. L’outil s’est également avéré utile en Inde et au Kazakhstan, qui bloquent également certains URL.

L’équipe de recherche prévoit de publier le code et les données utilisés pour créer le modèle bientôt, dans l’espoir de donner aux personnes dans les pays autoritaires un accès plus ouvert et plus libre à l’information. L’équipe de recherche expérimente également une méthode de déploiement de l’outil sur le dispositif qui sert le contenu bloqué au lieu de l’ordinateur client (l’ordinateur qui effectue la recherche). Si cela fonctionne, cela signifierait que les personnes pourraient accéder au contenu bloqué sans installer l’outil sur leurs ordinateurs.

“Si Geneva peut être déployé sur le serveur et fonctionner aussi bien qu’il le fait sur le client, alors il pourrait potentiellement ouvrir les communications pour des millions de personnes”, a déclaré Levin. “C’est une possibilité incroyable, et c’est une direction que nous poursuivons.”