윤리
마이크로소프트, 글로벌 선거를 지원하기 위해 콘텐츠 무결성 도구 확장
2024년은 세계적인 선거의 해로, 유럽 연합이 이번 여름에 의회 선거를 개최하고 약 절반의 유럽 국가들이 국가 또는 지역 선거를 준비하면서 중요한 해가 될 것으로 예상된다. 이러한 민주적 행사가 진행되는 동안, 생성적 AI의 급속한 발전은 선거와 더广い 정보 생태계에 미치는 잠재적인 영향에 대한 질문을 제기했다. 기술이 높은 속도로 다양한 콘텐츠를 생성할 수 있는 능력과 허위 정보를 퍼트리는 데 사용될 수 있는 잠재력에 대한 우려가 제기되었다.
마이크로소프트의 발표
이러한 개발의 여파로, 마이크로소프트는 유럽 연합의 정치당과 캠페인,以及 전 세계의 뉴스 기관에 대한 콘텐츠 무결성 도구의 개인용 미리 보기 확장을 발표했다. 회사에 따르면, 이러한 도구는 조직이 온라인에서 사용자가遭遇하는 콘텐츠의 출처에 대한 정보를 제공하는 데 도움이 된다.
콘텐츠 무결성 도구를 사용하면 조직이 원본 미디어에 보안 “콘텐츠 자격증명”을 부착하여, 콘텐츠를 생성하거나 게시한 사람, 생성된 위치와 시간, AI에 의해 생성되었는지 여부, 미디어가 생성된 이후 수정 또는 변경되었는지 여부에 대한 정보를 제공할 수 있다. 콘텐츠 자격증명 표준을 지원함으로써, 마이크로소프트는 이러한 도구를 플랫폼 간에 접근 및 상호 운용할 수 있도록 하려 한다.
콘텐츠 무결성 도구의 작동 방식
마이크로소프트의 콘텐츠 무결성 도구는 세 가지 주요 구성 요소로 구성된다. 첫째, 정치 캠페인, 뉴스 기관, 선거 관리 기관에서 접근할 수 있는 웹 애플리케이션이 있으며, 사용자가 콘텐츠에 콘텐츠 자격증명을 추가할 수 있다. 둘째, Truepic과 제휴하여 개발된 개인용 모바일 애플리케이션을 통해 사용자는 스마트폰에서 콘텐츠 자격증명을 실시간으로 추가하여 보안 및 인증된 사진, 비디오, 오디오를 캡처할 수 있다. 셋째, 사실 확인자와 일반 대중이 이미지, 오디오, 비디오의 콘텐츠 자격증명 존재를 확인할 수 있는 공개 웹사이트가 있다.
콘텐츠 자격증명 표준은 미디어를 인증하고 사용자에게 그 출처에 대한 정보를 제공하는 수단을 제공한다. 그러나 이 표준은 콘텐츠에서 메타데이터를 제거하는 것이 상대적으로 쉽다는 비판을 받았다. 또한, 현재로서는 AI 생성 텍스트를 감지하는 신뢰할 수 있는 방법이 없으며, 이는 허위 정보와의 싸움에서 지속적인 도전이다.
콘텐츠 자격증명이 적용된 첫 번째 이미지입니다. (출처: 마이크로소프트)
마이크로소프트의 더广い 선거 보호 노력
마이크로소프트는 콘텐츠 무결성 도구만으로 선거에서欺瞞적 미디어 문제를 완전히 해결할 수 없다고 인정했다. 회사에 따르면, 이러한 도구는 AI 생성 콘텐츠의 오남용에 대한 방어 전략의 일부이다.
이번 년초, 마이크로소프트는 다른 20개 회사와 함께 Tech Accord to Combat Deceptive Use of AI에 참여했다. 이 이니셔티브는 정치 후보자와 선거 관리 기관의 외모, 목소리, 행동을 변경하는 비디오, 오디오, 이미지의 오남용을 해결하기 위한 것이다. 마이크로소프트는 또한 글로벌 정치당과 협력하여 선거에서 AI의 도전을 해결하기 위한 지원과 훈련을 제공하고 있다. 또한, 회사에서는 캠페인 성공 팀과 AccountGuard 프로그램을 통해 선거를 대상으로 하는 국가적 사이버 공격으로부터 보호하기 위한 사이버 보안 지원을 제공한다.
선거 무결성을 보호하는 중요한 단계
2024년 글로벌 선거가 다가오면서, 마이크로소프트의 콘텐츠 무결성 도구 확장은 민주적 과정의 무결성을 보호하기 위한 중요한 단계이다. 정치당, 캠페인, 뉴스 기관이 미디어를 인증하고 온라인 콘텐츠의 출처에 대한 정보를 제공할 수 있도록 함으로써, 마이크로소프트는 더 투명하고 신뢰할 수 있는 정보 생태계를 조성하는 데 기여한다.
그러나, 콘텐츠 무결성 도구는 선거에서 생성적 AI의 잠재적인 오남용을 해결하는 퍼즐의 일부에 불과하다는 것을 인식하는 것이 중요하다. 콘텐츠에서 메타데이터를 제거하는 것이 쉽고, 현재로서는 AI 생성 텍스트를 감지하는 신뢰할 수 있는 방법이 없다는 것은 이 분야에서 지속적인 연구, 협력, 그리고 경각심의 필요성을 강조한다.
마이크로소프트의 Tech Accord, 정치당 지원, 사이버 보안 지원을 통한 선거 보호에 대한 회사의 헌신은 회사로서의 다각적인 도전을 인식한다. 기술이 발전하고 위협이 진화함에 따라, 산업 리더, 정책 입안자, 시민 사회가 함께 협력하여 디지털 시대에 민주적 과정의 무결성을 보호하기 위한 포괄적인 전략을 개발하고 구현하는 것이 중요하다.
