AI 시스템이 자동으로 변형하여 검열 시도를 피한다

메릴랜드 대학교(UMD)의 과학자들이 수행한 연구는 인터넷 검열 시도를 피할 수 있는 인공지능 기반 프로그램을 만들었다. TechXplore에 따르면, 인터넷을 검열하는 권위주의 정부와 검열 시도를 반대하는 엔지니어들은 서로를 상대로 하는 무기 경쟁에 빠져 있으며, 각 측은 상대방을 능가하려고 한다. 검열 기술을 우회하는 방법을 배우는 데는 일반적으로 검열 기술을 개발하는 데보다 더 많은 시간이 걸리지만, 메릴랜드 대학교 팀이 개발한 새로운 시스템은 검열 시도를 더 쉽고 빠르게 적응할 수 있게 할 수 있다.

연구 팀이 개발한 도구는 Geneva로 명명되었으며, Genetic Evasion을 의미한다. 이 도구는 검열자의 논리에서 버그와 결함을 이용하여 검열 시도를 피할 수 있다. 이러한 결함은 인간이 발견하기 어렵다.

인터넷상의 정보는 패킷 형태로 전송된다. 작은 데이터 덩어리들은 송신자의 컴퓨터에서 분리되어 수신자의 컴퓨터로 전송된다. 수신자의 컴퓨터에 도착하면 정보가 재조립된다. 인터넷을 검열하는 일반적인 방법은 인터넷에서 검색을 할 때 생성되는 패킷 데이터를 모니터링하는 것이다. 이러한 패킷을 모니터링한 후, 검열자는 특정 금지 키워드 또는 도메인 이름에 대한 결과를 차단할 수 있다.

Geneva는 실제로 패킷 데이터가 분할되고 전송되는 방식을 수정함으로써 작동한다. 이는 검열 알고리즘이 검색 또는 결과를 금지된 콘텐츠로 분류하지 않거나 연결을 차단할 수 없게 한다.

Geneva는 유전 알고리즘을 사용한다. 이는 생물학적过程에서 영감을 얻은 알고리즘 유형이다. Geneva는 DNA 스트랜드 대신 코드의 작은 덩어리를 빌딩 블록으로 사용한다. 이러한 코드 덩어리 또는 빌딩 블록은 검열 시도를 피할 수 있는 특정 조합으로 재배열될 수 있다. Geneva의 코드 덩어리는 여러 세대에 걸쳐 재배열되며, 이전 세대에서 검열을 가장 잘 피한 명령을 결합하여 새로운 명령/전략 세트를 생성하는 전략을 사용한다. 이 진화 과정은 복잡한 우회 기술을 비교적 빠르게 생성할 수 있다. Geneva는 사용자가 웹을 탐색하는 동안 백그라운드에서 실행될 수 있다.

메릴랜드 대학교의 컴퓨터 과학 조교수인 Dave Levin은 Geneva가 처음으로 반검열 측에 뚜렷한 이점을 제공한다고 설명했다. Levin은 연구자들이 도구를 생성하기 위해 사용한 방법이 전통적인 검열 우회 전략을 뒤집었다고도 말했다. 검열 우회 전략을 패배하는 전통적인 방법은 검열 전략이 작동하는 방식을 이해하고 แล้ว 그것을 패배하는 방법을 역공학적으로 구현하는 것이다. 그러나 Geneva의 경우, 프로그램은 검열을 피하는 방법을 알아내고 연구자들은 사용 중인 검열 전략을 분석한다.

도구의 성능을 테스트하기 위해 연구 팀은 수정되지 않은 Google Chrome 브라우저가 설치된 중국에 있는 컴퓨터에서 Geneva를 테스트했다. 연구 팀이 Geneva가 식별한 전략을 사용할 때, 키워드 결과를 검열 없이 브라우징할 수 있었다. 이 도구는 또한 인도와 카자흐스탄에서 유용했으며, 이들은 특정 URL을 차단한다.

연구 팀은 모델을 생성하기 위해 사용된 코드와 데이터를 곧 공개할 계획이며, 이는 권위주의 국가의 사람들이 정보에 더 나은 접근을 할 수 있게 해줄 수 있다. 연구 팀은 또한 도구를 클라이언트의 컴퓨터(검색을 수행하는 컴퓨터) 대신 차단된 콘텐츠를 제공하는 디바이스에 배치하는 방법을 실험하고 있다. 성공할 경우, 이는 사람들이 도구를 컴퓨터에 설치하지 않고도 차단된 콘텐츠에 접근할 수 있음을 의미한다.

“Geneva가 서버 측에서 배치되어 클라이언트 측에서와 같이 잘 작동할 수 있다면, 이는 수백만 명의 사람들에게 의사소통을 열어줄 수 있다”고 Levin은 말했다. “それは 놀라운 가능성이며, 우리는 그 방향으로 나아가고 있다.”