인공지능이 ‘핑크 슬라임’ 뉴스를 식별하는 데 도움이 될 수 있다

의견을 형성하기 위한 의도적인 기관들은 공공의 의견을 형성하기 위해 설계되었으며, 인공지능을 사용하여 더 원본적이고 합리적인 것으로 들리게 만들 수 있습니다. 따라서 ‘핑크 슬라임’ 탐지 게임에서 앞서 나가는 경쟁이 시작되었습니다.

지난 20년 동안 전통적인 지역 미디어 아웃レット의 자금 지원이 줄어든 것은 미디어 트렌드의 발전과 최근에는 미국 정부 정책으로 인해 지역 보도에 공백이 생겼습니다. 이 공백은 당파적인 기관들에 의해 채워졌으며, 이들은 자신의 의제를 추진하기 위해 인공지능을 사용하고 있습니다.

의견을 형성하기 위한 의도적인 기관들은 공공의 의견을 형성하기 위해 설계되었으며, 의견을 형성하기 위한 의도적인 기관들은 공공의 의견을 형성하기 위해 설계되었습니다. 이러한 기관들은 석유 회사들이 지역 뉴스 사이트를 운영하거나, 정치적으로 동기를 가진 뉴스 사이트가 선거 전에 나타나는 경우와 같이, 공공의 의견을 형성하기 위해 설계되었습니다.

2024년, 인공지능 기반의 핑크 슬라임 뉴스가 실제 뉴스 아웃릿보다 더 많아졌다고 추정되었습니다. 당시 호주에서 실시한 설문조사에 따르면, 41%의 소비자들이 핑크 슬라임 소스를 실제 소스보다 더 선호했습니다.

이러한 은밀한 선거 운동은 민주주의와 합리적인 보도 기준에 대한 공공의 신뢰에 대한 존재적 위협으로 발전했습니다.

따라서, 핑크 슬라임 출판사와 방송사들의 특징적인 출력을 전통적인 미디어 기관에서 구별하는 방법은 현재의 정보 기후에서 주요 선수와 추진력이 누구인지 이해하는 데 도움이 될 것입니다.

현재, 실제 뉴스 기관의 트로프와 템플릿은 매우 쉽게 모방할 수 있으며, 인공지능은 대규모 출판을 현재의 현실로 만듭니다. 그러나 이러한 기술은 핑크 슬라임을 탐지하는 데 사용될 수 있습니다.

신호와 노이즈

미국의 새로운 연구는 핑크 슬라임 웹사이트가 더 원본적이고 쉽게 식별할 수 있도록 하는 인공지능 기반의 대규모 언어 모델의 사용을 조사합니다. 또한, 이러한 기술의 발전에 따라 핑크 슬라임 출력을 탐지하기 위한 학습 프레임워크를 생성합니다.

제목이 핑크 슬라임 저널리즘 노출: 언어적 특징과 강력한 탐지인 이 새로운 연구는 텍사스 대학교의 5명의 연구자에 의해 수행되었습니다.

이 연구는 대량 생산된 지역 뉴스 기사들이 합법적인 보도와 어떻게 다른지 조사하며, 짧고 반복적인 구조와 최소한의 변화를 가진 템플릿 구문에 대한 의존도를 중점적으로 조사합니다. 또한, 핑크 슬라임 기사들이 동일한 템플릿을 사용하여 공공의 의견을 조작하기 위한 어필을 포함한다는 것을 주목합니다.

새로운 논문에서 – 여러 아웃릿이 거의 동일한 기사를 발행하며, 위치 세부 정보만 변경되어, 합법적인 지역 뉴스를 모방하기 위한 복사-붙여넣기 전략을 보여줍니다. 출처

전통적인 탐지 모델은 이러한 특징에 대해 잘 작동하지만, 인공지능 채팅봇을 사용하여 기사를 다시 작성하면 탐지 정확도가 40%까지 떨어집니다. 이를 완화하기 위해, 연구자들은 탐지 모델을 원본과 인공지능으로 다시 작성된 기사 모두에 대해 반복적으로 재학습하는 연속 학습 프레임워크를 제안합니다.

방법

이 프로젝트를 위한 데이터를 설정하기 위해, 연구자들은 7,900만 개의 기사로 구성된 핑크 슬라임 데이터셋을 사용했습니다. 또한, LIAR 데이터셋과 NELA-GT-2021 컬렉션을 사용했습니다.

训练과 테스트 세트를 준비하기 위해, 연구자들은 t-SNE 알고리즘을 사용하여 기사 임베딩을 2차원으로 줄였습니다. 또한, DBSCAN 알고리즘을 사용하여 유사한 핑크 슬라임 기사 클러스터를 분리했습니다.

각 클러스터는 관련된 이야기 그룹으로 취급되었으며, 많은 경우 동일한 템플릿을 따랐습니다. 클러스터는 랜덤하게 선택되었으며, 80%는 훈련에 사용되고 20%는 테스트에 사용되었습니다.

핑크 슬라임의 특성

핑크 슬라임과 정상 뉴스의 차이점에 대해 논평하면서, 연구자들은 핑크 슬라임 스타일의 지역 뉴스 기사들이 일반적으로 더 짧고 단순하며, 평균 9문장 미만의 기사라고 주장합니다.

고급 문장의 더 높은 비율과 형용사의 더 무거운 의존도는 핑크 슬라임의 또 다른 특징입니다. 이는 반복적이고 감정적으로 충만한 언어를 나타냅니다.

레시컬 풍부도는 RTTR을 사용하여 측정되었으며, 핑크 슬라임 기사에서 현저히 낮았습니다. 또한, 고유한 명사구가 더 적었습니다. 이러한 패턴은 제한된 어휘와 공식적인 스타일을 나타내며, 이는 정상적인 지역 뉴스와 대조됩니다.

테스트

연구자들은 언어적 및 구조적 특징에 기반한 뉴스 기사 간의 연관성을 조사했습니다. 임베딩은 435백만 파라미터의 스텔라_en_400M_v5 모델을 사용하여 생성되었으며, PCA와 t-SNE를 사용하여 2차원으로 줄였습니다.

가짜 지역 뉴스 기사들은 작은, 조밀한 클러스터를 형성했으며, 각 클러스터는 좁은 주제에 해당했습니다. 이는 템플릿 주도 형식과 최소한의 변화를 나타냅니다.

t-SNE 투영에서 클러스터링 패턴은 핑크 슬라임 기사들이 조밀한 클러스터를 형성한다는 것을 보여줍니다. 반면에, 정상적인 뉴스는 더广泛하고 다양하게 분포합니다.

가짜 뉴스 기사들은 정상적인 뉴스와 더 유사한 분포를 보였으며, 이는 대량 생산된 가짜 지역 뉴스가 정상적인 뉴스와 다르다는 것을 나타냅니다.

탐지

연구자들은 핑크 슬라임 콘텐츠를 탐지하기 위한 두 가지 접근 방식을 평가했습니다. 첫 번째는 언어적 특징에 기반한 분류입니다. 두 번째는 트랜스포머 기반의 미세 조정입니다.

첫 번째 접근 방식에서는 구조적 특징이 강조되었으며, 문장 수, 어휘 풍부도, 구문 깊이, 품사 공존 확률, 종속 태그 공존 확률, 가독성 및 품사 수를 사용했습니다.

세 가지 모델이 테스트되었으며, 랜덤 포레스트 모델이 약간 더 강한 결과를 보였습니다. 두 번째 접근 방식에서는 BERT, XLNet 및 Flan-T5 모델이 테스트되었으며, BERT 모델이最高의 F1 점수인 89.31%를 달성했습니다.

LLM을 사용한 핑크 슬라임 강화

연구자들은 핑크 슬라임 기사를 더 탐지하기 어렵게 만들기 위해 대규모 언어 모델을 사용하여 다시 작성했습니다. 프롬프트는 내용을 확장하고, 문장 구조를 복잡하게 만들고, 형용사의 과도한 사용을 줄이고, 중립적인 톤을 사용하며, 더 다양한 어휘를 사용하고, 고유한 명사구의 수를 증가시키는 것을 목표로 했습니다.

테스트된 모델로는 Gemma-2B, Mistral-7B, Llama-1B, Llama-3B, Llama-8B, Qwen-7B, GPT-4o mini 및 Claude-3.5-Haiku가 포함되었습니다.

다른 LLM을 사용하여 다시 작성된 핑크 슬라임 기사에 대한 미세 조정된 BERT 분류기의 탐지 성능(F1 점수). 더 낮은 점수는 더 성공적인 은닉을 나타냅니다.

연구자들은 이러한 결과가 핑크 슬라임 콘텐츠를 더 탐지하기 어렵게 만들 수 있으며, 이는 현재의 탐지 도구에 대한 도전을 나타낸다고 주장합니다.

결론

의견 이 연구는 몇 가지 흥미로운 난제를 포함하며, 많은 사람들이 핑크 슬라임 콘텐츠를 지지한다는 사실이 가장 주목할 만한 것입니다. 이는 핑크 슬라임이 더 탐지하기 어렵게 만들 수 있으며, 이는 민주주의와 합리적인 보도 기준에 대한 공공의 신뢰에 대한 존재적 위협을 나타냅니다.

또한, 핑크 슬라임 출력의 더 단순한 문체와 제한된 어휘는 의도적인 선택일 수 있으며, 이는 더 복잡한 언어와 더 다양한 주제를 다루는 정상적인 지역 뉴스와 대조됩니다.

따라서, 핑크 슬라임을 탐지하기 위한 더 강력한 도구와 기술이 필요하며, 이는 민주주의와 합리적인 보도 기준에 대한 공공의 신뢰를 유지하기 위한 중요한 과제입니다.

* 논문의 불행한 형식으로 인해, 지역 뉴스 기사의 추가 출처는 명확한 속성이 없습니다. 출처 논문과 ‘Horne’ 참조 중 어느 것이 적용되는지 추측하십시오.

** 여기에서 우리는 독자를 새로운 논문의 결과 섹션을 마무리하는 보조 실험의 세부 사항을 참조하도록 지시합니다.

최초로 게시된 날짜: 2025년 12월 12일