윤리

새 연구: 사람들은 기계 생성 텍스트를 구별하는 법을 배울 수 있다

Alex McFarland
Unite.AI를 Google의 선호 소스에 추가
핵심 포인트사람들은 명시적인 지시를 통해 스스로 기계 생성 텍스트를 탐지하도록 훈련할 수 있습니다.
더 보기
  • 사람들은 명시적인 지시를 통해 스스로 기계 생성 텍스트를 탐지하도록 훈련할 수 있습니다.
  • 이 연구는 참가자들이 인간 텍스트에서 AI 텍스트로의 전환을 식별하는 웹 기반 게임을 사용했습니다.
  • AI 텍스트를 찾아내는 훈련은 가짜 뉴스와 표절 같은 위험을 완화할 수 있습니다.

인공지능(AI)의 발전과 접근성이 높아짐에 따라 사회에 미치는 영향에 대한 우려가 제기되고 있다. 최근의 챗봇은 이러한 우려를 더욱 가중시켰다. 특히 직장 시장의 신뢰성과 가짜 뉴스 및 잘못된 정보의 확산에 대한 우려가 있다. 이러한 우려에 비추어 볼 때, 펜실베니아 대학교 공과대학의 연구팀은 기술 사용자들이 이러한 위험을 줄일 역량을 갖추도록 돕고자 했다.

기계적으로 생성된 텍스트를 식별하는 방법

그들의 심사된 논문은 2023년 2월 인공지능 발전 협회 회의에서 발표되었으며, 사람들이 기계 생성 텍스트와 사람이 쓴 텍스트의 차이를 구별하는 법을 배울 수 있음을 보여준다.

컴퓨터 과학부(CIS)의 크리스 캘리슨-버치 부교수와 리암 더건, 다프네 이폴리토 박사 과정 학생들이 수행한 이 연구는 기계적으로 생성된 텍스트를 식별할 수 있음을 보여준다.

“우리는 사람들이 기계 생성 텍스트를 알아보도록 스스로 훈련할 수 있음을 보여주었다”고 캘리슨-버치 교수는 말했다. “사람들은 기계가 범하는 오류에 대한 특정 가정에서 시작하지만, 이러한 가정은 반드시 정확하지는 않다. 충분한 예와 명시적인 지시에 따라, 우리는 기계가 현재 범하는 오류를 식별할 수 있다.”

이 연구는 “실제 또는 가짜 텍스트?”라는 원본 웹 기반 훈련 게임을 사용하여 수집된 데이터를 사용한다. 이 훈련 게임은 텍스트 탐지 연구의 표준 실험 방법을 사람들이 실제로 AI로 텍스트를 생성하는 방식에 더 가까운 형태로 바꾼다.

표준 방법에서는 참가자에게 기계가 생성한 텍스트인지 여부를 예 또는 아니요로 표시하도록 요청한다. 펜실베니아 모델은 참가자에게 모든 예가 인간이 작성한 텍스트에서 시작한다는 것을 보여준다. 각 예는 생성된 텍스트로 전환되며, 참가자는 전환의 시작을 표시하도록 요청한다. 훈련생은 오류를 나타내는 텍스트의 특징을 식별하고 설명하며 점수를 받는다.

연구 결과

연구 결과는 참가자들이 무작위 추측보다 훨씬 높은 점수를 얻었음을 보여주며, AI 생성 텍스트를 어느 정도 탐지할 수 있다는 증거를 제공한다. 이 연구는 AI와 맺을 관계에 대해 안심할 수 있고 흥미롭기까지 한 미래를 제시하며, 사람들이 기계 생성 텍스트 탐지 능력을 스스로 훈련할 수 있다는 증거도 제공한다.

“사람들은 인공지능에 대해 합리적인 우려를 가지고 있다”고 캘리슨-버치 교수는 말했다. “우리의 연구는 이러한 우려를 완화하는 증거를 제공한다. 일단 우리는 인공지능 텍스트 생성기에 대한 낙관론을 활용할 수 있다면, 우리는 더 창의적이고 흥미로운 텍스트를 작성하는 데 도움을 줄 수 있다.”

더건은 “이 기술을 발전시키는 흥미로운 방향이 있다”고 말했다. “사람들은 표절이나 가짜 뉴스처럼 우려스러운 사례에만 주목하지만, 우리는 기계적으로 생성된 텍스트를 식별하는 방법을 훈련할 수 있음을 알게 되었다. 우리는 더 나은 독자와 작가가 될 수 있다.”

이 연구는 기계적으로 생성된 텍스트와 관련된 위험을 완화하는 데 중요한 첫 걸음을 제공한다. 인공지능이 발전함에 따라, 우리는 그 영향을 식별하고 완화하는 능력도 발전시켜야 한다. 기계적으로 생성된 텍스트와 인간이 작성한 텍스트를 식별하는 방법을 훈련함으로써, 우리는 인공지능의 힘을 창의적인 과정에 활용하면서 위험을 완화할 수 있다.

Alex는 Unite.AI의 AI 기반 뉴스 운영을 이끌고 있습니다. 저널리즘, 조사, 자동화를 결합해 인공지능에 관한 소식을 시의적절하게, 확장 가능한 방식으로 보도할 수 있도록 지원합니다. 그의 업무는 매체의 편집 기준을 유지하면서 새로운 AI 동향을 효율적으로 찾아 보도하는 데 기여합니다.