새로운 연구: 사람들은 기계적으로 생성된 텍스트를 식별할 수 있다

인공지능(AI)의 발전과 접근성이 높아짐에 따라 사회에 미치는 영향에 대한 우려가 제기되고 있다. 최근의 챗봇은 이러한 우려를 더욱 가중시켰다. 특히 직장 시장의誠実性과 가짜 뉴스 및 잘못된 정보의 확산에 대한 우려가 있다. 이러한 우려에 비추어 볼 때, 펜실베니아 대학교 공과대학의 연구팀은 기술 사용자들이 이러한 위험을 완화하기 위해 노력하고 있다.

기계적으로 생성된 텍스트를 식별하는 방법

그들의 심사된 논문은 2023년 2월 인공지능 발전 협회 회의에서 발표되었으며, 사람들이 기계적으로 생성된 텍스트와 인간이 작성한 텍스트를 식별할 수 있음을 보여준다.

컴퓨터 과학부(CIS)의 크리스 캘리슨-버치 교수와 리암 더건, 다프네 이폴리토 박사 과정 학생들이 수행한 이 연구는 기계적으로 생성된 텍스트를 식별할 수 있음을 보여준다.

“우리는 사람들이 기계적으로 생성된 텍스트를 식별할 수 있음을 보여주었다”고 캘리슨-버치 교수는 말했다. “사람들은 기계가犯する 오류에 대한某种 가정에서 시작하지만, 이러한 가정은 반드시 正確하지는 않다. 충분한 예와 명시적인 지시에 따라, 우리는 기계가 현재犯하는 오류를 식별할 수 있다.”

이 연구는 “실제 또는 가짜 텍스트?”라는 원본 웹 기반 훈련 게임을 사용하여 수집된 데이터를 사용한다. 이 훈련 게임은 표준 실험 방법을 더 정확한 재현으로 변환한다.

표준 방법에서는 참가자에게 기계가 생성한 텍스트인지 여부를_yes-or-no_ 형식으로 표시하도록 요청한다. 펜실베니아 모델은 참가자에게 모든 예가 인간이 작성한 텍스트에서 시작한다는 것을 보여준다. 각 예는 생성된 텍스트로 전환되며, 참가자는 전환의 시작을 표시하도록 요청한다. 훈련생은 오류를 나타내는 텍스트의 특징을 식별하고 설명하며 점수를 받는다.

연구 결과

연구 결과는 참가자들이 무작위로보다 훨씬 더 잘 수행함을 보여주며, 기계적으로 생성된 텍스트를 식별할 수 있음을 보여준다. 이 연구는 기계적으로 생성된 텍스트를 식별할 수 있는 방법을 제공하며, 기계적으로 생성된 텍스트의 위험을 완화하는 데 중요한 첫 걸음을 제공한다.

“사람들은 인공지능에 대해 합리적인 우려를 가지고 있다”고 캘리슨-버치 교수는 말했다. “우리의 연구는 이러한 우려를 완화하는 증거를 제공한다. 일단 우리는 인공지능 텍스트 생성기에 대한 낙관론을 활용할 수 있다면, 우리는 더 창의적이고 흥미로운 텍스트를 작성하는 데 도움을 줄 수 있다.”

더건은 “이 기술을 발전시키는 흥미로운 방향이 있다”고 말했다. “사람들은 우려되는 예를 고집하지만, 우리는 기계적으로 생성된 텍스트를 식별하는 방법을 훈련할 수 있음을 알게 되었다. 우리는 더好的 독자와 작가가 될 수 있다.”

이 연구는 기계적으로 생성된 텍스트와 관련된 위험을 완화하는 데 중요한 첫 걸음을 제공한다. 인공지능이 발전함에 따라, 우리는 그 영향을 식별하고 완화하는 능력도 발전시켜야 한다. 기계적으로 생성된 텍스트와 인간이 작성한 텍스트를 식별하는 방법을 훈련함으로써, 우리는 인공지능의力を 창의적인 과정에 활용하면서 위험을 완화할 수 있다.