Le système d'IA se transforme automatiquement pour échapper aux tentatives de censure

Des recherches menées par des scientifiques de l'Université du Maryland (UMD) ont créé un programme alimenté par l'IA qui peut se transformer pour échapper aux tentatives de censure sur Internet. Tel que rapporté par TechXplore, les gouvernements autoritaires qui censurent Internet et les ingénieurs qui tentent de contrer les tentatives de censure sont enfermés dans une course aux armements, chaque camp essayant de surpasser l'autre. Apprendre à contourner les techniques de censure prend généralement plus de temps que de développer des techniques de censure, mais un nouveau système développé par l'équipe de l'Université du Maryland pourrait faciliter et accélérer l'adaptation aux tentatives de censure.

L'outil inventé par l'équipe de recherche est baptisé Genève, Qui signifie évasion génétique. L'outil est capable d'esquiver les tentatives de censure en exploitant les bogues et en déterminant les défaillances dans la logique des censeurs, qui peuvent être difficiles à trouver par les humains.

Les informations sur Internet sont transportées sous forme de paquets. De petits morceaux de données commencent sur l'ordinateur de l'expéditeur où ils sont dissimulés et envoyés à l'ordinateur du destinataire. Lorsqu'ils arrivent sur l'ordinateur du destinataire, les informations sont rassemblées. Une méthode courante de censure d'Internet consiste à surveiller les paquets de données créés lors d'une recherche sur Internet. Après avoir surveillé ces paquets, le censeur peut bloquer les résultats pour certains mots-clés ou noms de domaine interdits.

Genève fonctionne en modifiant la façon dont les données du paquet sont réellement décomposées et transférées. Cela signifie que les algorithmes de censure ne classent pas les recherches ou les résultats comme contenus interdits, ou sont autrement incapables de bloquer la connexion.

Genève utilise un algorithme génétique, un type d'algorithme inspiré des processus biologiques. Genève utilise de petits morceaux de code comme blocs de construction à la place des brins d'ADN. Les bits de code, ou blocs de construction, peuvent être réorganisés en combinaisons spécifiques qui peuvent échapper aux tentatives de rupture ou de blocage des paquets de données. Les morceaux de code de Genève sont réorganisés sur plusieurs générations, en utilisant une stratégie qui combine les instructions qui ont le mieux échappé à la censure de la génération précédente pour créer un nouvel ensemble d'instructions/stratégies. Ce processus évolutif permet de créer assez rapidement des techniques d'évasion sophistiquées. Genève est capable de fonctionner lorsqu'un utilisateur navigue sur le Web, en s'exécutant en arrière-plan du navigateur.

Dave Levin, professeur adjoint d'informatique à l'UMD, a expliqué que Genève donne pour la première fois un net avantage aux anti-censeurs. Levin a également expliqué que la méthode utilisée par les chercheurs pour créer leur outil renverse les stratégies traditionnelles d'évasion de la censure. Les méthodes traditionnelles pour vaincre les stratégies de censure impliquent de comprendre le fonctionnement d'une stratégie de censure, puis de procéder à des méthodes de rétro-ingénierie pour la vaincre. Cependant, dans le cas de Genève, le programme détermine comment échapper à la censure, puis les chercheurs analysent les stratégies de censure utilisées.

Afin de tester les performances de leur outil, l'équipe de recherche a testé Genève sur un ordinateur situé en Chine équipé d'un navigateur Google Chrome non modifié. Lorsque l'équipe de recherche a utilisé les stratégies identifiées par Geneva, elle a pu parcourir les résultats des mots clés sans censure. L'outil s'est également avéré utile en Inde et au Kazakhstan, qui bloquent également certaines URL.

L'équipe de recherche vise à publier prochainement le code et les données utilisés pour créer le modèle, en espérant qu'il offrira aux habitants des pays autoritaires un accès meilleur et plus ouvert à l'information. L'équipe de recherche expérimente également une méthode de déploiement de l'outil sur l'appareil qui sert le contenu bloqué au lieu de l'ordinateur du client (l'ordinateur qui effectue la recherche). En cas de succès, cela signifierait que les utilisateurs pourraient accéder au contenu bloqué sans installer l'outil sur leur ordinateur.

"Si Genève peut être déployée côté serveur et fonctionner aussi bien côté client, cela pourrait potentiellement ouvrir les communications à des millions de personnes", dit Lévine. « C’est une possibilité incroyable, et c’est une direction que nous poursuivons. »