Розширення звинувачень у “AI-смітті” стає новою формою контролю доступу

Називання чогось “AI-сміттям” стало новим полюванням на відьом у інтернеті, з користувачами Reddit і Hacker News, які все частіше звинувачують інших коментаторів у тому, що вони роботами, навіть якщо немає жодних доказів цього.

Нове дослідження з Норвегії та ОАЕ виявило, що звинувачення проти передбачуваного “AI-сміття” з боку інших коментаторів різко зросли на Reddit і Hacker News між 2023 і 2026 роками, навіть якщо коментар не містив жодних ознак того, що він був створений штучним інтелектом.

Результати аналізу авторів 25 мільйонів коментарів свідчать про те, що такі звинувачення все частіше функціонують як нова форма соціального контролю, а не як спосіб ідентифікації штучного інтелекту.

Дослідники також виявили, що технічні спільноти прийняли “культуру звинувачень” раніше, ніж інші групи, а згодом цей звичай поширився на інші частини Reddit.

Цей очевидний зростання звинувачень щодо “AI-сміття” не здається частиною більшої чи загальної тенденції до зростання ворожнечі в інтернеті: старі форми образ, такі як ‘шпигун’, ‘сокпупет’ і ‘тролль’, залишилися відносно стабільними протягом того ж періоду, що свідчить про те, що підозра щодо штучного інтелекту виникла як нова форма соціального контролю, а не як продовження або розширення попередніх інтернет-суперечок.

У статті зазначається:

‘Ми проаналізували 25 мільйонів коментарів з Hacker News і Reddit (2023-2026), поєднавши судження LLM щодо 7 500 вибраних звинувачень у використанні штучного інтелекту, траєкторії настрою, кодування мовних актів 300 підтверджених звинувачень у використанні штучного інтелекту та тест зі збігом контролю щодо звинувачених та незвинувачених батьківських коментарів.

‘Ми виявили, що частка звинувачень зросла більш ніж у десять раз на обидвох платформах, тоді як placebo-лексика попередніх термінів неавтентичності (“шпигун”, “астротурф”) не змінилася.

‘Ця зміна відображала швидку тенденцію до того, щоб вважати будь-який підозрілий або неавтентичний текст “AI-сміттям”.

‘Фрейм “сміття” тепер становить 94 відсотка всіх негативних згадок, а домінуючі коментарі змінили тон з глузування до контролю та структурної протести.’

Дослідження піднімає більш широке питання про те, чи можуть люди справді впізнати текст, створений штучним інтелектом, оскільки плавний текст – раніше розглядається як доказ зусиль, експертизи або справжньої участі – тепер став надзвичайно поширеним і дедалі більш недооціненим товаром.

Цікаво відзначити, що нова робота зосереджена на Hacker News, який суворо контролюється проти коментарів, створених штучним інтелектом, і на Reddit, чиї постійні потоки людських дискусій зараз високо цінуються для розробників штучного інтелекту та компаній, а також стають новою основною мішенню для SEO-спамерів з метою вторгнення в рейтинги веб-штуру на основі штучного інтелекту через посередників.

Дослідники вважають, що їхні висновки узгоджуються з зростаючим громадським розумінням того, що попередні джерела правди можуть бути дискредитовані по мірі поширення використання штучного інтелекту. Нова стаття обговорює реальних людей, яких звинувачують у тому, що вони сутності штучного інтелекту, або через справжню помилку, стилістичну конфузію, або злість (тобто звинувачувач знає, що його опонент є людиною, але хоче його замовкнути); але передбачає, що інші типи комунікації будуть схожим чином підірвані:

‘Наші результати тут передбачають, що подібні звинувачення у використанні штучного інтелекту будуть сформовані для автентифікації зображень, автентифікації голосу та авторства коду серед інших, з основною метою звинувачення полягає в контролі, а не в емпірично точному виявленні використання штучного інтелекту.

‘Це стане дедалі більш проблематичним, оскільки штучний інтелект у цих областях знижує навіть емпірично виявлені підказки, які можуть знайти експерти.

‘Це може мати наслідком збільшення ролі експертів у верифікації змісту, створеного штучним інтелектом, або значно зниження довіри до будь-якого типу засобу масової інформації, який може бути створений штучним інтелектом.’

Нова стаття* називається “Це AI-сміття, бот!” Дослідження звинувачень, доказів і достовірності в онлайн-дискусіях щодо коментарів, створених LLM і надходить від двох рецензентів Університету Осло та Американського університету Шарджи.

Метод

Датасет, розроблений для нового дослідження, складався з усіх публічних коментарів, опублікованих на Hacker News і 18 вибраних спільнотах Reddit між січнем 2023 року і травнем 2026 року.

Близько 25 мільйонів коментарів були відібрані, з яких 12 мільйонів походили з Hacker News, а 13 мільйонів – з Reddit. Дані Reddit були отримані з архіву Arctic Shift через його публічний API JSON, тоді як коментарі Hacker News були зібрані з архіву Algolia Hacker News.

Щоб уникнути зосередження уваги на одному типі спільноти, вибірка Reddit була розділена на кілька частин, включаючи спільноти, орієнтовані на штучний інтелект, творчі спільноти, загальні форуми та технологічні спільноти.

Частку коментарів, відібраних для аналізу, дослідники зберігали сталою протягом усього періоду. Це допомогло відокремити зміни в поведінці спільнот від змін у способі збирання даних.

П’ять рівнів звинувачень у використанні штучного інтелекту

Кандидатські коментарі були ідентифіковані за допомогою 137-шаблонного пошуку, організованого у п’ять названих рівнів: Рівень 1 (‘Прямий’) захоплював явні звинувачення, такі як ‘ChatGPT написав це’, ‘Чи це створено штучним інтелектом?’, і ‘OP є ботом’.

Рівень 2 (‘Пейоративний’) охоплював ярлики, такі як ‘AI-сміття’, ‘GPT-сміття’, ‘ML-дрівель’, і ‘робо-письмо’. Рівень 3 (‘Стиль’) займався передбачуваними стильовими ознаками, включаючи ем-деш згадки, ‘делв’ виклик, триколонові посилання, і ширші заяви про “класичний підпис штучного інтелекту”.

Рівень 4 (‘Мокінг’) захоплював пародію та імітацію на основі знайомих фраз штучного інтелекту, таких як ‘феллоу-хумани’, ‘у швидкозмінному ландшафті’, і ‘багате полотно’. Рівень 5 (‘Непрямий’) містив менш явні підозри, з коментарями, описаними як щось, що ‘пахне штучним інтелектом’, ‘читається як ChatGPT’, або нагадує ‘долину недовіри письма’.

Щоб зменшити кількість хибних збігів, поширені вислови на кшталт «варто зазначити», «важливо зазначити» та «це людина?» враховували лише тоді, коли поруч було слово, пов’язане зі штучним інтелектом. Оскільки самі пошукові шаблони не могли надійно відрізнити звинувачення від звичайного обговорення, дослідники провели два етапи перевірки за допомогою Claude Opus 4.7.

Із відібраних кандидатів вони взяли 5 000 коментарів Reddit і 2 500 коментарів Hacker News, збалансувавши вибірку за періодами та категоріями звинувачень. Кожен коментар віднесли до однієї з п’яти груп: справжнє звинувачення у використанні ШІ; добровільне повідомлення про авторство ШІ; нейтральна згадка ШІ; хибний збіг пошукового шаблону; або неоднозначний випадок, для якого бракувало контексту.

Дослідники також простежили, як нове означення «AI slop» витісняло давніші образливі слова на зразок «сміття», «нісенітниця», «словесний салат» та інших.

Розмежування тенденцій

Тенденції в емоційному забарвленні висловлювань вимірювали за допомогою Valence Aware Dictionary and sEntiment Reasoner (VADER). Окрему вибірку з 300 обговорень на Reddit зі звинуваченнями, які мовна модель підтвердила як справжні, класифікували за їхньою соціальною роллю: насмішка (зневажливе глузування), відкидання (пряме заперечення), пародіювання (імітація), контроль меж спільноти (застосування неформальних правил) або структурний протест (загальне неприйняття ШІ). Це дало змогу простежити, як із часом змінювався характер звинувачень у використанні ШІ.

Щоб з’ясувати, чи зростання кількості таких звинувачень не є лише проявом ширшого посилення недовіри в інтернеті, дослідники провели окремий «плацебо»-тест. У тому самому наборі даних вони шукали старіші, поширені ще до появи ChatGPT позначення неавтентичної поведінки: «shill», «astroturf», «sockpuppet», «paid shill», «fake account», «corporate shill», «talking points» і «payola».

Остання група тестів перевіряла, чи ті самі мовні риси, які відрізняють згенерований ШІ текст від людського, також спонукають звинувачувати в застосуванні ШІ авторів текстів, написаних людьми. Дослідники аналізували шість показників: частоту артиклів, частоту скорочень, частоту прислівників офіційного стилю, частоту прийменників, варіативність довжини речень і середню довжину токена. Коментарі з відкритим повідомленням про використання ШІ порівнювали зі справжніми звинуваченнями за допомогою критерію Манна — Вітні U.

Дослідники зібрали батьківські коментарі для 800 підтверджених мовною моделлю звинувачень на Reddit і залишили 421 випадок, у яких батьківським записом був саме коментар, а не допис верхнього рівня. Їх зіставили з 2048 коментарями без звинувачень із того самого сабреддіту й місяця. Потім за допомогою логістичної регресії перевірили, чи мовні ознаки, що відрізняють текст ШІ від людського, передбачають також, які людські коментарі викличуть звинувачення у використанні ШІ.

Результати

Окремі перевірки з’ясовували, чи ті самі ознаки, що відрізняють створений ШІ текст від людського, спонукають людей помилково звинувачувати в ШІ й авторів людських коментарів. Дослідники порівняли шість мовних показників, зокрема частку артиклів і прийменників, частоту скорочень та формальних прислівників, різноманітність довжини речень і середню довжину токена. Для порівняння груп застосували критерій Манна — Вітні.

Із 800 підтверджених звинувачень на Reddit відібрали 421 випадок, де відповідь стосувалася іншого коментаря, а не початкового допису. Їх порівняли з 2 048 коментарями без звинувачень із тих самих спільнот і місяців. Логістична регресія дала змогу перевірити, чи мовні ознаки, властиві текстам ШІ, передбачають звинувачення на адресу людських текстів.

Дослідження зафіксувало велике зростання звинувачень у використанні штучного інтелекту на Reddit і Hacker News між 2023 і 2026 роками. Більшість цього зростання було сконцентровано в використанні пейоративних ярликів:

До 2026 року “AI-сміття” становило 94% усіх пейоративних звинувачень у використанні штучного інтелекту, що було визначено в датасеті, замінивши попередні терміни, такі як ‘GPT-сміття’, ‘ML-дрівель’, і ‘робо-письмо’. За даними статті, частка пейоративних звинувачень у використанні штучного інтелекту зросла більш ніж у десять раз на обидвох платформах протягом періоду дослідження:

Висновок

Для порівняння дослідники перевірили старіші звинувачення в неавтентичності, зокрема «проплачений коментатор», «астротурфінг», «фальшивий акаунт» і «методички». На відміну від звинувачень у застосуванні ШІ, їхня частота не зростала порівнянними темпами. Найраніше нова тенденція проявилася в спільнотах, присвячених ШІ й технологіям, а згодом поширилася на інші частини Reddit і Hacker News.

Змінювалася не тільки частота, а й мета звинувачень. Кодування 300 перевірених коментарів Reddit показало, що з часом частішали спроби не допустити інших до обговорення та протести проти змін у самій платформі, тоді як просте глузування траплялося рідше.

Часте звинувачення у “AI-смітті” в коментарях явно потребує свого власного варіанту закону Годвіна; на основі подій і тенденцій у соціальному та політичному коментарі останніх років, це було б логічно, якщо боти штучного інтелекту стали найбільш схильними до звинувачення інших коментаторів у тому, що вони ботами; однак, це може привести до того, що вся коментарна дискусія буде заглушена.

* Будь ласка, будьте уважні, що ця стаття не є дружнім читанням, і орієнтована, за тоном і лексикою, на академічних колег авторів.

Перша публікація – п’ятниця, 12 червня 2026 року