AI 엔지니어가 허위 정보를 퍼트리는 사람의 의도를 감지할 수 있는 방법 개발

디지털 시대에 허위 정보를 다루는 것은 복잡한 문제입니다. 허위 정보를 식별하고 태그를 달고 수정하는 것만이 아니라, 허위 정보를 퍼트리는 사람의 의도를 구별해야 합니다. 사람들은 무의식적으로 허위 정보를 퍼트릴 수 있으며, 단지 그 문제에 대한 의견을 표명하고 있을 뿐입니다. 최근 다트머스 대학의 AI 연구자와 엔지니어 팀은 “가짜 뉴스” 보고서에서 의견을 유도할 수 있는 프레임워크를 만들었습니다.

ScienceDaily에 따르면, 다트머스 팀의 연구는 최근 실험적 및 이론적 인공지능 저널에 발표되었습니다. 이전 연구에서는 가짜 뉴스를 식별하고欺瞞을 싸우는 것을 시도했지만, 이 연구는 뉴스 기사의 발언자의 의도를 식별하는 것을 목표로 한 첫 번째 연구일 수 있습니다. 진실된 이야기가 다양한欺瞞 형태로歪曲될 수 있지만, 欺瞞이 의도된 것인지 여부를 구별하는 것이 중요합니다. 연구 팀은 허위 정보를 고려할 때 의도가 중요하다고 주장합니다.欺瞞은 欺瞞을 의도할 때만 가능합니다. 개인이 허위 정보를 퍼트리고 있다는 것을 모르는 경우 또는 단지 의견을 표명하고 있을 뿐이라면, 欺瞞이 있을 수 없습니다.

다트머스 대학의 공학 교수인 유진 산토스 주니어(Eugene Santos Jr.)는 ScienceDaily에 왜 उनक의 모델이 欺瞞 의도를 구별하려고 하는지 설명했습니다.

“의도적으로 청취자를 欺瞞하려는 欺瞞 의도는 무의식적인 실수보다 훨씬 더 큰 위협을 가집니다. 우리의 알고리즘이欺瞞을 감지하고同時에 악의적인 행위를 良性 행위와 구별하는 唯一의 방법이라는 것을 알게 되었습니다.”

그들의 모델을 구축하기 위해 연구 팀은 欺瞞적인 추론의 특징을 분석했습니다. 결과적으로 얻은 알고리즘은 사람의 과거 논쟁과 현재의 진술 사이의 불일치를 중점으로 하여欺瞞 의도와 다른 형태의 의사소통을 구별할 수 있었습니다. 연구 팀이 구축한 모델은 사람의 과거 논쟁에서 얼마나 벗어나는지 측정할 수 있는大量의 데이터가 필요했습니다. 연구 팀이 모델을 훈련시키기 위해 사용한 훈련 데이터는 논란의 여지가 있는 주제에 대한 의견 조사를 통해 수집되었습니다. 100명 이상의 사람들이 이러한 논란의 여지가 있는 문제에 대한 의견을 표명했습니다. 또한 20개의 호텔에 대한 리뷰에서 데이터를 수집했습니다. 400개의 허위 리뷰와 800개의 실제 리뷰가 있었습니다.

산토스에 따르면, 연구자들이 개발한 프레임워크는 뉴스 기관과 독자들이 “가짜 뉴스” 기사의 내용을 분석할 수 있도록 tinh chỉnh되고 적용될 수 있습니다. 독자들은 기사에서 의견의 존재를 조사하고 논리적인 논증이 사용되었는지 여부를 결정할 수 있습니다. 산토스는 또한 팀이 허위 정보의 영향과 그로 인한 파급 효과를 조사하고 싶다고 말했다.

대중 문화는 때때로 얼굴의 표정과 같은 비언어적 행동을欺瞞의 지표로 묘사하지만, 연구의 저자들은 이러한 행동적 힌트가 항상欺瞞의 신뢰할 수 있는 지표는 아니라는 것을 지적합니다. 연구의 공동 저자인 데칭 리(Deqing Li)는 그들의 연구에서欺瞞 의도를 기반으로 하는 모델이欺瞞을 감지하는 데 행동적 및 언어적 차이보다 더 좋은 지표라는 것을 발견했다고 설명했습니다. 리는欺瞞 의도 모델이 “의도적인 거짓말과 다른 유형의 정보 왜곡을 구별하는 데 더 좋다”고 설명했습니다.

다트머스 연구자들의 작업은 최근에 허위 정보와 싸우는 데 AI를 사용하는 분야에서 이루어진 유일한 발전이 아닙니다. 클릭베이트 제목의 뉴스 기사는 souvent 허위 정보를 숨깁니다. 예를 들어, 실제로 발생한 사건과는 다른 사건이 발생했다는 것을 암시할 수 있습니다.

AINews에 따르면, 애리조나 주립 대학과 펜실베니아 주립 대학의 연구자들이 협력하여 클릭베이트를 감지할 수 있는 AI를 만들었습니다. 연구자들은 사람들에게 클릭베이트 제목을 작성하도록 요청했고, 클릭베이트 제목을 생성하는 프로그램을 작성했습니다. 두 가지 형태의 제목은 모두 클릭베이트 제목을 효과적으로 감지할 수 있는 모델을 훈련하는 데 사용되었습니다. 펜실베니아 주립 대학의 정보 과학 및 기술 대학의 교수인 동원 리(Dongwon Lee)는 그들의 실험이 AI와 훈련 파이프라인으로의 데이터를 생성하고 다시 피드백하는 유용성을 보여주는 것이라고 설명했습니다.

리 연구자는 “이 결과는 khá 흥미롭다. 우리는 성공적으로 기계적으로 생성된 클릭베이트 훈련 데이터를 훈련 파이프라인으로 다시 피드백하여 다양한 기계 학습 모델의 성능을 향상시킬 수 있음을 보여주었다”고 설명했습니다.