기본적인 AI도 이제 뉴스를 인간과 구별할 수 없을 정도로 작성할 수 있다

새로운 연구에 따르면 작은 지역 AI 모델도 인간이 구별할 수 없는 뉴스를 작성할 수 있으며, 최고의 시스템과 일치하고, 독자가 누가 무엇을 작성했는지 알 수 없도록 합니다.

독일과 프랑스의 새로운 연구 협력에 따르면, 인간은 AI 또는 인간에 의해 작성된 뉴스 기사를 구별할 수 없으며, 오픈 소스 모델은 상대적으로 평균적인 소비자 수준의 데스크톱 컴퓨터에서 다운로드하고 실행할 수 있습니다.

작은 AI가 상승세에 있는 또 다른 표시로, 1,054명의 참가자가 참여한 전문 학술 연구 포털에서 수집된 2,318개의 판단에 대한 조사에서, 인간 독자는 7억 개의 매개변수만 있는 상대적으로 MODEST한 모델로 출력된 기사의 출처를 더 높은 확률로 식별할 수 없었습니다. 이는 Mistral 및 Llama 변형과 같은 모델입니다.

테스트된 LLM에 대한 평균 출처 및 인증 점수. GPT-4o의 200억 개 매개변수는 작은 모델의 7B 매개변수를 크게 초과하지 않습니다. 테스트에 사용된 모델은 Gemma 7B, Phi-3 Mini, LLaMA-2 13B, Mistral 7B, GPT-4o 및 GPT-3.5입니다. 출처

저자들은 2024년에 처음 조사한 주제를 다시 다루고 있습니다. 가짜 뉴스에 대한 생성적 AI의 영향에 대한 조사. 발견된 결과는 초기에 2024년에 발표된 결과에서 새로 발표된 결과이며, 저자들의 자체 JudgeGPT 온라인 참여 프레임워크를 사용합니다.

가벼운 전력

인간이 구별할 수 있는가? LLM 생성 뉴스의 인간 인식에 대한 이중 축 연구라는 제목의 새로운 연구는 Frankfurt University of Applied Sciences와 Nantes의 IRISA 연구 단위의 3명의 연구자에 의해 수행되었습니다. 이 연구의 방법론은 ‘가짜 뉴스’와 ‘AI 작성 뉴스’ 간에 중요한 차이를 만듭니다.

그러나 가장 흥미로운 측면은 작은 모델, 특히 Mistral 7B 및 Gemma 7B가 7억 개의 매개변수만으로도 200억 개의 매개변수를 가진 ChatGPT 모델(4o)와 대등하게 대결할 수 있다는 것입니다.

‘7억 개의 매개변수를 가진 오픈 웨이트 모델은 GPT-4o 출력과 구별할 수 없을 정도로 텍스트를 생성하며, 인간과 구별할 수 없는 텍스트를 생성하는 능력이 더 이상 최첨단 모델에만 국한되지 않는다는 것을 나타냅니다.’

그러나 ‘AI 생성 뉴스’는 스펠 체크부터 전체적인 노력의 위임까지 다양한 인간/AI 협력을 나타낼 수 있습니다. 이 연구는 정확히 어떤 종류의 AI 콘텐츠가 테스트에 사용되었는지 명확하게 설명하지는 않습니다.

방법

JudgeGPT 플랫폼에 참여한 참가자들은 각 뉴스 단편에 대해 연속적인 0-100 슬라이더에 3개의 독립적인 평가를 제공했습니다.

참가자가 자료를 평가하는 JudgeGPT 포털 GUI; 출처 속성; 인증성; 및 주제 熟悉度. 출처 문서를 참조하시면 더 나은 해상도를 확인할 수 있습니다.

출처 판단은 통과가 기계로 작성되었는지 인간이 작성했는지 여부를 포착했습니다. 인증 판단은 합법적인지 가짜인지 여부를 포착했습니다. 주제 熟悉度는 독자가 주제를 얼마나 잘 알고 있는지 여부를 포착했습니다.

연속적인 척도는 Likert 척도보다 더 정밀하게 확신의 정도를 포착하고 통계적 분석을 지원하기 위해 사용되었습니다.

기계 생성 텍스트 단편은 저자들의 자체 RogueGPT 프레임워크에 의해 생성되었습니다. RogueGPT는 6개의 대형 언어 모델(LLM)의 기여를 조직합니다.

인간 작성된 단편은 ‘정립된 뉴스 아웃レット’과 미지의 ‘정보 데이터베이스’에서 샘플링되었습니다.

저자들은 다음과 같이 관찰합니다.

‘자극 세트는 의도적으로 기계 起源 단편(∼98%)으로 치우쳐 있으며, 인간 起源 항목은 校准錨으로 작용합니다. ‘

‘이 디자인 선택은 연구의 초점이 인간 대 기계 비교가 아닌 기계 내 변이(모델 간)에 있음을 반영합니다. 참가자는 기준 비율에 대해 알리지 않으며, 거의 우연한 감지[결과]는 인간 起源 하위 집합만으로 분석할 때도 유지됩니다.’

참가자들은 먼저 정보 동의서에 동의하고 인구 통계 질문에 답변한 후 뉴스 단편을 평가했습니다.

각 참가자는 5~87개의 항목을 검토했으며, 중간값은 12였습니다. 표시 순서는 무작위로 설정되었으며, 모델 할당은 참가자 간에 균형을 유지하여 편향을 줄였습니다.

저자들은 표본이 교육받은 유럽 참가자로 치우쳐져 있으며, 68%가 대학 교육을 받았으며, 74%가 유럽에 기반을 두고 있음을 강조합니다. 이는 연구에서 일반화의 한계로 언급됩니다.

테스트

테스트는 5가지 유형의 발견으로 나뉩니다. 기계 생성 텍스트와 인간 작성 텍스트를 구별하는 것; 다양한 LLM 간의 감지 비교; 도메인 전문 지식과 정치적 성향이 정확성에 미치는 영향 조사; 참가자 간의 구별되는 반응 전략 식별; 반복된 평가에서 정확성이 어떻게 변경되는지 추적, 피로로 인해 발생합니다.

1,054명의 참가자로부터 2,318개의 판단에 대한 5가지 핵심 발견의 요약, 인간이 AI 작성 텍스트를 감지하는 것이 우연한 수준을 초과하지 않는다는 것을 보여주며, 정확성이 도메인 전문 지식과 관련이 있으며 정치적 성향과 관련이 없으며, 참가자는 두 가지 신뢰 프로필로 클러스터링되며, 약 30개의 평가 후에 성능이 저하됩니다.

테스트는 참가자들이 AI 생성 텍스트와 인간 작성 텍스트를 구별하는 데 더 높은 확률로 실패했다는 것을 보여주었습니다.

기계 및 인간 起源 단편에 대한 출처 및 인증 점수 분포는 상당한 중첩을 보여주며, 두 조건 사이에 유의미한 분리가 없으며, 통계적 테스트는 참가자가 AI 생성 텍스트와 인간 작성 콘텐츠를 신뢰할 수 있게 구별할 수 없음을 나타냅니다.

두 번째 측면에서, 그래프는 참가자가 AI 생성 텍스트와 인간 작성 텍스트를 구별하는 데 실패했다는 것을 보여주었습니다. 이는 모든 LLM의 출력이 우연한 수준의 판단을 클러스터링했으며, 그들 사이에 유의미한 차이가 없음을 나타냅니다.

세 번째 측면에서, 정확도는 정치적 성향보다 도메인 전문 지식과 더 강하게 관련되어 있었습니다. 가짜 뉴스에 대한 지식은 더 나은 판단과 관련되어 있었습니다.

제3의 조사 라인에 대한 결과: 참가자의 배경 특성과 판단 정확성 간의 상관관계는 정치적 성향이 출처 속성 또는 인증 점수에 유의미한 영향을 미치지 않는다는 것을 보여주며, 가짜 뉴스에 대한 지식은 두 축 모두에서 정확도와 관련이 있음을 나타냅니다. 출처 문서를 참조하시면 더 나은 해상도를 확인할 수 있습니다.

네 번째 발견은 참가자가 두 가지 구별되는 반응 스타일로 클러스터링됨을 보여주었습니다. ‘의심하는 사람’과 ‘신뢰하는 사람’입니다.

마지막으로, 참가자의 순차적인 판단에 대한 롤링 분석은 참가자가 초기에 작업에 더 잘 적응하는 것으로 나타났습니다.

참가자의 순차적인 판단에 대한 롤링 평균은 초기에 약 15~20개의 평가에서 작업에 적응하는 것으로 나타났으며, 이후 약 30개의 평가 후에 두 가지 측정 모두에서 성능이 저하되는 것으로 나타났습니다. 이는 인지 피로로 해석됩니다. 출처 문서를 참조하시면 더 나은 해상도를 확인할 수 있습니다.

그러나 이 효과는 일시적이었으며, 약 30개의 항목 후에 성능이 저하되었습니다.

이것은 감지 기반 접근법이 실제로 얼마나 오래 효과적으로 유지될 수 있는지에 대한 명확한 제한을 나타냅니다.

이것은 우리가 가짜 뉴스와 실제 뉴스를, AI 뉴스와 인간이 작성한 뉴스를 구별하는 것에疲勞가 쌓이는 경향이 있는지에 대한 일부 경험적 증거를 제공할 수 있습니다.

2024년의 한 연구에 따르면, 사람들이 잠재적인 가짜 뉴스 이야기를 연구하여 검증하도록 요청하는 것은 실제로 문제를 더 악화시킬 수 있습니다.

저자들은 인간의 판단의 실패가 결과에서 나타난 것으로 나타나며, 이러한 문제를 해결하기 위해 암호학적 출처 기술과 같은 Adobe 주도의 C2PA 이니셔티브와 같은 시스템 수준의 대책으로 전환해야 할 수 있다고 제안합니다.

저자들은 다음과 같이 결론을 내립니다.

‘인간이 구별할 수 있는가? 우리의 이중 축 연구는 2,318개의 판단과 6개의 LLM 가족에 대한 명확한 경험적 답변을 제공합니다. 그들은 할 수 없습니다. ‘

‘기계 생성 텍스트는 모델 크기나 가족과 관계없이 인간과 구별할 수 없으며, 도메인 전문 지식은 정치적 성향보다 감지 정확성을 더 강하게 예측하며, 참가자는 구별되는 신뢰 전략을 채택하며, 인지 피로가 지속적인 감지를 제한합니다. ‘

‘이러한 발견은 사용자 수준의 감지에서 시스템 수준의 대책으로의 전환을 지원하며, 콘텐츠 출처, 적응형 신뢰 지표 및 제한된 면역介入과 같은 대책을 포함합니다.’

결론

이 논문의 우려스러운 측면은 저자들이 시작하거나 참여한 프로젝트와 논문들의 암시적인 지원 네트워크입니다. 또한 AI 생성 텍스트와 인간 작성 텍스트가 생성된 방법에 대한 샘플을 연구하여 결과를 더 잘 이해하는 것이 유익했을 것입니다.

그러나 오픈 소스 모델이 API 주도형 거대 모델과 비교할 수 있다는 것은 흥미롭습니다. 작업이 실제로 그렇게 어려운 것이 아닐 수 있으며, 200억 개의 매개변수 모델이 과도할 수 있습니다. 우리는 이러한 작업에 대해 더 많은 것을 알아야 합니다.

한편, Mistral 7B는 canirun.ai 웹사이트에 따르면 NVIDIA RTX 3080에 16GB의 VRAM과 함께 ‘잘 실행’되며, 3060에 6GB의 VRAM과 함께 ‘적절히 실행’됩니다. 이는 최신 그래픽 카드가 아닙니다. 따라서 이 실험에 참여하고 싶은 사람은 누구나 자신의 방법론을 개발할 수 있습니다.

* Gemma 7B는 사이트에 나열되지 않았습니다.

最初에 2026년 4월 9일에 게시되었습니다.