AI 브라우저 도구, 디프페이크 및 기타 가짜 미디어를 인식하기 위해 노력하다

기술 회사들이 허위 정보와 가짜 콘텐츠를 해결하기 위한 노력은 최근 디프페이크와 같은 고급 가짜 콘텐츠 생성 기술이 더 쉽게 사용되고 정교해짐에 따라 고조되고 있다. 디프페이크를检测하고 싸우는 데 도움이 되는 하나의 예정된 시도는 RealityDefender로, AI 재단에서 제작했으며, 사용자가 다양한 작업을 수행하도록 훈련할 수 있는 윤리적인 AI 에이전트와 어시스턴트를 개발하기 위해 노력하고 있다.

AI 재단의 가장 주목할 만한 프로젝트는 사용자가 자신의 디지털 인물을 만들 수 있는 플랫폼으로, 가상 모임 공간에서 사용자를 대표한다. AI 재단은 글로벌 AI 협의회에서 감독을 받으며, 그들의 임무는 가능한 AI 플랫폼의 부정적인 영향을 예상하고, 이러한 문제를 해결하기 위해 노력하는 것이다. VentureBeat에 따르면, AI 재단이 생성한 디프페이크를检测하는 데 도움이 되는 도구 중 하나는 Reality Defender로, 브라우저에서 사용할 수 있는 도구로, 비디오, 이미지 및 기타 미디어를 분석하여 가짜 또는 변경된 미디어의 징후를检测한다. 이 도구는 인터넷에서 증가하는 디프페이크의 흐름을 반대하는 데 도움이 될 것으로 기대된다.

Reality Defender는 이미지나 비디오가 가짜일 수 있는 징후를检测하는 다양한 AI 기반 알고리즘을 사용하여 작동한다. AI 모델은 속임수와 조작의 미묘한 징후를检测하며, 모델이检测한 잘못된 양성은 도구의 사용자에 의해 잘못된 것으로 표시된다. 데이터는 모델을 재훈련하는 데 사용된다. 디프페이크를 생성하는 AI 회사들은 그들의 콘텐츠에 “정직한 AI” 태그 또는 워터마크를 부착하여 사람들이 쉽게 가짜를 식별할 수 있도록 한다.

Reality Defender는 AI 재단이 생성하려고 하는 도구와 전체 AI 책임 플랫폼의 일부이다. AI 재단은 개인이 자신의 개인 AI 에이전트에 접근할 수 있도록 하여, 악의적인 행위자에 의한 악용으로부터 보호할 수 있는 Guardian AI라는 책임 플랫폼을 생성하기 위해 노력하고 있다. 본질적으로, AI 재단은 사회에서 AI의 범위를 확대하고, 더 많은 사람들에게 AI를 가져오면서도, AI의 위험으로부터 보호하기 위해 노력하고 있다.

Reality Defender는 허위 정보를 줄이기 위한 새로운 AI 기반 제품이다. 유사한 제품은 SurfSafe로, UC 버클리에서 2명의 학부생인 Rohan Phadte와 Ash Bhat이 생성했다. The Verge에 따르면, SurfSafe는 사용자가 궁금한 미디어를 클릭하여 역방향 이미지 검색을 수행하고, 다양한 신뢰할 수 있는 인터넷 소스에서 유사한 콘텐츠를 찾으며, 가짜로 알려진 이미지를 표시한다.

이러한 솔루션이 장기적으로 얼마나 효과적인지 불분명하다. 다트머스 대학 교수이자 법의학 전문가인 Hany Farid는 The Verge에 따르면, Reality Defender와 같은 시스템이 의미 있는 방식으로 작동할 것에 대해 “극도로 회의적”이라고 말했다. Farid는 가짜 콘텐츠를检测하는 데 있어 주요 도전은 미디어가 순수하게 가짜 또는 실제가 아니라는 것이다. Farid는 다음과 같이 설명했다.

“연속체가存在한다; 매우 복잡한 문제를 다루는 데 있다. 일부 변경은 무의미하며, 일부는 이미지의 본질을 근본적으로改变한다. 이러한 차이를检测하는 AI를 훈련할 수 있다고 주장하는 것은 매우 어리석다. 그리고 그것을 크라우드소싱할 수 있다고 주장하는 것은 더욱 어리석다.”

또한, 사람들은 일반적으로 가짜 이미지를 식별하는 데 매우 나쁘기 때문에, 잘못된 양성의 태그와 같은 크라우드소싱 요소를 포함하는 것이 어렵다. 사람들은 미묘한 세부 사항을 놓치고, 가짜 이미지를 식별하는 데 실패한다. 또한, 악의적인 행위자가 콘텐츠를 플래그할 때 어떻게 대처하는지 불분명하다.

가짜检测 도구가 최대한 효과적으로 작동하려면, 사람들이 온라인에서 상호작용하는 콘텐츠에 대해 어떻게 추론하는지 가르치는 디지털 리터러시 노력과 결합되어야 할 가능성이 있다.