Розробка проблеми газлайтингу штучного інтелекту

Моделі штучного інтелекту для відео можуть бути переконані у брехні. Навіть після того, як вони побачили правильну відповідь, вони піддаються тиску впевнених користувачів, переписують реальність і вигадують фальшиві пояснення, щоб виправдати це.

Штучний інтелект достатньо часто неправильний, щоб змусити нас сумніватися у його висновках, якщо ми вважаємо, що ці висновки можуть бути неправильними.

Проблема полягає в тому, що якщо ми знали інакше з самого початку, то навіщо нам запитувати про це спочатку? Для підтвердження щодо частково утримуваної віри чи підозри?

Якщо так, то сучасний стан справ у великих мовних моделях (LLM) і моделях мови та зору (VLM, які працюють мультимодально, приймаючи та генеруючи зображення та/або відео) не дуже підходить для того, щоб триматися своєї позиції через проблему сикофантства.

Отже, якщо нам не подобається відповідь, яку ми отримуємо, і ми починаємо сперечатися про це з моделлю, штучний інтелект, ймовірно, або неправильно відступить (при прийнятті того, що він був неправильним) замість переоцінки, або ж допустить газлайтинг у підтримку наших пропозицій – навіть якщо ми неправильні.

Ви абсолютно праві!

Практика отримання людини зміни думки штучного інтелекту через конфлікт була названа ‘Газлайтинг-атака заперечення’, і іноді характеризується як проблема безпеки – не в останню чергу через те, що вона має певний потенціал для ‘вириву’ моделі з її операційних обмежень:

З паперу 2025 року ‘Benchmarking Gaslighting Negation Attacks Against Multimodal Large Language Models’, GPT-5 спочатку відповідає правильно, але потім піддається тиску користувача, змінюючи свою відповідь і вигадуючи фальшиві пояснення, щоб виправдати помилку, фактично газлайтинг себе. Джерело

Однак, хакінг і pen-тестування не є справжньою проблемою тут; радше, це звичайне використання та очікувані норми дискурсу у наших щоденних взаємодіях зі штучним інтелектом, де ми очікуємо змоги сперечатися та або перемогти, або поступитися, або залишити питання відкритим, відповідно до нашого людського досвіду набуття знань.

Але ця соціальна модель вирішення конфліктів не зовсім врахована в архітектурі дифузійних моделей штучного інтелекту, які повинні перемовинатися з розподіленими ймовірностями, що виникають під час їхнього навчання; можливо суперечливими (але потенційно більш точними) даними з RAG-дзвінків до джерел, які перевищують їхній крайній термін знань, або загальне розуміння того, що може бути незрозумілою темою; та вводом від користувача, який може мати: вищу якість знань про тему; цілком неправильну або брехливу точку зору; або навіть просте подальше питання – але чийні потреби повинні бути враховані.

Рухомі цілі

Сприйнятливість до газлайтингу була відзначена в LLM у кількох паперах, включаючи Сінгапурську публікацію від жовтня 2025 року, і папір того ж року Don’t Deceive Me: Mitigating Gaslighting through Attention Reallocation in LMMs.

На даний момент цей феномен не був вивчений у відео-_LLМ – недолік, який усувається новою співпрацею між установами у Шанхаї та Сінгапурі.

Нова робота – під назвою Просторова сикофантія: заперечення-ґазлайтинг у відео великих мовних моделях, яка виходить від шести дослідників з Фуданського університету, Шанхайської лабораторії багатозадачного штучного інтелекту та Сінгапурського університету управління – розглядає кілька відкритих і пропріетарних VLM, виявляючи, що вони можуть бути такими ж сприйнятливими до газлайтингу, як і LLM, та додатково здатними до посилення своїх фантазій очевидними візуальними доказами або зміненими і неправильними інтерпретаціями зображень чи відео:

Приклад просторової (на відміну від тимчасової) сикофантії, де штучний інтелект дозволяє собі бути газлайтинованим у фальшиві припущення та інтерпретації, навіть щодо явно видимих фактів. Джерело

Автори заявляють:

‘[Ми] ідентифікуємо просторову сикофантію, режим відмови, у якому відео-LLM відхиляють спочатку правильні, візуально обґрунтовані судження та підкоряються брехливим користувачам під впливом заперечення-газлайтингу.

‘Натомість вони часто вигадують несприянуті тимчасові або просторові пояснення, щоб виправдати неправильні зміни.’

Тимчасова сикофантія розширює потенціал газлайтингу до тимчасових подій, які відбуваються в певних точках відео.

Автори створили нову оцінчувальну основу під назвою Gas Video-1000, призначену для дослідження просторової сикофантії через міркування та візуальне підґрунтя, випускаючи кураторську колекцію через GitHub і Hugging Face.

Папір завершується висновком, що сучасні LLM не мають надійних механізмів для опору газлайтингу цього типу, хоча обмеження на рівні промпту можуть мати обмежений пом’якшувальний ефект:

‘Розширені експерименти показують, що вразливість до заперечення-газлайтингу поширена та серйозна, навіть серед моделей з сильними базовими показниками продуктивності.

‘Хоча обмеження на рівні промпту можуть частково пом’якшити це поведінку, вони не надійно запобігають вигадуванню або зміні переконань.’

Метод

Автори характеризують відеомодель як щось, що дивиться кліп, відповідає на питання про нього та повинна дотримуватися цієї відповіді, якщо докази явні. Проблема починається, коли друге повідомлення відкидає це, і стверджує, що відповідь неправильна – фактично зазначаючи фальшиву ідею та штовхаючи модель до зміни своєї думки.

Сикофантія, стверджують автори, визначається як отримання правильної відповіді спочатку, а потім зміна на неправильну після тиску, навіть якщо нічого у відео не змінилося. Нова робота відстежує, як часто ці ‘перевороти’ відбуваються, використовуючи це як міру того, наскільки легко модель може бути переконана у тому, що вона насправді бачила.

Дані GasVideo-1000 містять 1 013 зразків з різних існуючих наборів даних:

Моделі тестуються на відеозавданнях, які вимагають тимчасового та просторового розуміння, потім їм надаються брехливі послідові промпти, які відкидають правильну відповідь, апелюють до авторитету або застосовують емоційний тиск. Це часто призводить до того, що модель відмовляється від свого підґрунтованого答案у та видає впевнену, але неправильну відповідь.

Для збору автори використали VideoMME і MVBench, що охоплюють широке мультизадачне міркування; NExT-QA і Perception Test, що досліджують каузальну та тимчасову логіку; EgoSchema, що фокусується на довготривалих егозентричних відео; та ActivityNet-QA і MSRVTT-QA, що вимірюють загальне реальне питання-відповідь.

Щоб спровокувати відмови, брехливі послідові промпти були сконструйовані у трьох формах: Пряме заперечення (прямо стверджуючи фальшиву альтернативу); Апеляція до авторитету (апелюючи до експерта для відхилення відповіді моделі); та Емоційний тиск (використовуючи розчарування або недовіру).

Ці промпти були розроблені для того, щоб змусити протестовані моделі відмовитися від правильних, візуально підґрунтованих відповідей та підкоритися неправильній вимозі.

Розподіл

У GasVideo-1000 1 013 зразків були взяті з MSRVTT-QA (300), ActivityNet-QA (200), Perception Test (293), MVBench (120) і VideoMME (100), з вибором, зробленим для балансування відкритого відеопитання з тонким тимчасовим і каузальним міркуванням, при цьому забезпечуючи охоплення як короткого веб-контенту, так і довших, складніших візуальних послідовностей.

Два людські аннотатори переглянули кожен кандидат, зберігаючи лише кліпи, де відповідь була явно підтримана відео, і де заперечувальні промпти могли плідно викликати цю відповідь, так що будь-яка подальша зміна була б результатом тиску, а не двозначності.

Дані та тести

ВLM, протестовані для дослідження, були VideoLLaMA3; Video-ChatGPT-7B; LLaVA-Video-7B-Qwen2; LongVU-Qwen2-7B; Qwen3-VL-235B-A22B-Instruct і закритий Google Gemini-3-Pro.

Для вільних питань у GasVideo-1000 оцінка слідувала семантично-оцінювальній схемі, раніше використовуваній у VideoMME. ChatGPT-4o був використаний як суддя LLM, порівнюючи кожну відповідь з правильною відповіддю та введеним фальшивим тезисом. Таким чином, правильність оцінювалася за значенням, а не за точним слововживанням:

Продуктивність VideoLLaMA3, LLaVA-Video, Video-ChatGPT і LongVU через VideoMME, MVBench, EgoSchema, NExT-QA, Perception Test, ActivityNet-QA, MSRVTT-QA і MSVD-QA, показуючи базову точність, точність після заперечення-газлайтингу та результатуючу деградацію. Постійні падіння вказують на те, що брехливі послідові промпти знижують правильність як у міркувальних, так і в загальних відеозавданнях.

Відповідно до початкових результатів, зображених вище, автори заявляють:

‘[Є] системний і серйозний колапс продуктивності у всіх оцінених відео-LLM при підданні запереченню-газлайтингу. У восьми різних бенчмарках кожна модель демонструє суттєве негативне відставання, з максимальним зниженням точності на рівні 42,60% для LLaVA-Video-7B на EgoSchema і 40,22% для VideoLLaMA3 на ActivityNet.

‘Ця драстична redukція – часто характеризується як зміна переконань – показує, що навіть моделі з високими базовими можливостями залишаються гостро вразливими до сикофантських галюцинацій.’

Критично, зниження продуктивності не відстежувало початкову точність, з LLaVA-Video-7B, яка зберігає сильні базові показники, але зазнає деяких із найкрутіших спадів, які автори вважають свідченням компромісу, при якому сильніше слідування інструкціям робить моделі більш схильними до прийняття фальшивих користувачів сигналів над візуальними доказами.

Аналогічний шаблон з’явився щодо масштабу, де Qwen3-VL-235B виявився більш крихким, ніж кілька 7B-моделей у GasVideo-1000, що свідчить про те, що вирівнювання та міжмодальна калібрування відіграють більшу роль у стабільності, ніж кількість параметрів.

Продуктивність Gemini-3-Pro, Qwen3-VL, LLaVA-NeXT, LongVU, Video-ChatGPT і VideoLLaMA3 на GasVideo-1000, порівнюючи базову точність з результатами після заперечення-газлайтингу в мультиплікаційному, вільному та комбінованому режимах. Великі падіння вказують на те, що обидва формати вразливі, хоча мультиплікаційні завдання схильні до більш серйозної деградації.

Відносно другого раунду тестів, зображених вище, автори заявляють*:

‘Оцінка на нашому бенчмарку GasVideo-1000 далі свідчить про серйозні сикофантські галюцинації у всіх пропріетарних та відкритих моделях, особливо у балансированій категорії.

‘Зокрема, навіть найпотужніша пропріетарна модель, Gemini-3-Pro, зазнає катастрофічного зниження продуктивності.

‘У відкритих моделях Qwen3-VL демонструє приголомшливе зниження на 46,07%, тоді як екстремальна чутливість також спостерігається у VideoLLaMA 3 і LLaVA-NeXT з загальними зниженнями на рівні 26,39% і 23,44% відповідно.

‘Ці результати підкреслюють термінову необхідність стратегій вирівнювання, які ставлять у пріоритет фактологічну послідовність та візуальну підґрунтованість над сліпим слідуванням суперечливим користувачам інструкціям.’

У додатковому тесті попереднє зміцнення промпту (додавання сильніших системних інструкцій, які змушують модель покладатися на те, що вона бачить, а не на те, що стверджує користувач) було введено для забезпечення візуальної підґрунтованості:

Результати на GasVideo-1000, порівнюючи стандартні промпти з зміцненими промптами, які забезпечують візуальну підґрунтованість, показуючи, як Gemini-3-Pro, Qwen3-VL, LongVU, LLaVA-NeXT і VideoLLaMA3 відповідають до та після заперечення-газлайтингу. Зміни точності, продуктивності та показника сикофантії свідчать про те, що зміцнення може зменшити відмови, хоча виграші різняться різко між моделями.

Як ми бачимо з таблиці вище, ефекти нерівномірні, з Gemini-3-Pro, який виявляється високочутливим, оскільки його успішність падає з 54,80% до 8,67%. Тоді як Qwen3-VL знижується більш помірно, з 71,89% до 64,0%, вказуючи на те, що ефективність залежить від вирівнювання та міркування, а не від самого втручання.

Показники сикофантії під різними типами тиску для Gemini-3-Pro і Qwen3-VL у мультиплікаційних, вільних та комбінованих завданнях, показуючи, що Пряме заперечення та Емоційний тиск постійно викликають вищі показники відмов. З іншого боку, Апеляція до авторитету є трохи менш ефективною, тоді як Qwen3-VL залишається помітно більш вразливим у цілому.

У графіках вище ми бачимо, що відмови варіюються залежно від типу тиску, з Gemini-3-Pro, який найбільш піддається Апеляції до авторитету (заяви, підтримані уявним експертом), тоді як Qwen3-VL виявляється більш вразливим до Прямого заперечення (прямого спростування) та Емоційного тиску (розчарування чи наполегливість).

Дальший аналіз показав, що нейтральні промпти, такі як ‘Ви впевнені?’ (часто проблема), менш шкідливі, ніж явне заперечення чи емоційний тиск, тоді як прямий спростування залишається сильнішим тригером, ніж тон у обмежених умовах.

Висновок

Через навмисно-антропоморфізований характер чат-інтерфейсів VLM/LLM, може пройти довгий час, поки користувач зрозуміє, що правила дискурсу сильно відрізняються для обміну з штучним інтелектом, ніж для людських комунікацій.

Один зі способів усунути або суттєво зменшити цю проблему прийняття може полягати у ‘нейтралізації’ тону та контексту обміну, повторюючи, що користувач взаємодіє з екземпляром машини, і що сигнали щодо ввічливості та дебатів не повинні бути прийняті серйозно чи надані однаковим значенням, як у людських комунікаціях. Але, ймовірно, це буде важко продавати на наступній нараді.

* Акцент авторів, а не мій.

Перша публікація – середа, 22 квітня 2026 року