Чатботи штовхають “AI” кар’єри та акції більше, ніж люди

Чатботи AI, включаючи комерційних лідерів ринку, таких як ChatGPT, Google Gemini та Claude, видають поради, які сильно схиляються до кар’єр AI та акцій – навіть коли інші варіанти є такими ж сильними, а людські поради схиляються в інші напрямки.

Нове дослідження з Ізраїлю виявило, що сімнадцять найпотужніших чатботів AI – включаючи ChatGPT, Claude, Google Gemini та Grok – сильно схиляються до рекомендацій, що кар’єра AI є хорошим вибором, а акції AI – хорошим інвестиційним варіантом, і що ця галузь пропонує вищу зарплату – навіть якщо ці заяви є перебільшеними або просто не правдивими.

Одна могла б припустити, що ці платформи AI є об’єктивними, і що недооцінка їхньої оцінки цінності AI в цих областях є просто песимістичними прогнозами. Однак автори дуже чітко вказують на спосіб, у якому результати є спотвореними*:

‘Одна могла б розумно припустити, що спостережувана перевага AI відображає її справжню високу цінність. Однак наш аналіз зарплат виділяє упередженість, вимірюючи надмірну переоцінку назв AI відносно базової переоцінки не-AI аналогів.

‘Аналогічно, той факт, що власницькі моделі рекомендують AI майже детермінічно в кількох консультативних областях, свідчить про жорстку AI-преференційну поведінку, а не про справжню оцінку конкуруючих варіантів.’

Автори далі вказують, що все більша кількість довіри та прийняття транзакційних інтерфейсів AI, таких як ChatGPT, робить ці платформи все більш впливовими, незважаючи на їхню тривалу спроможність до галюцинацій фактів, цифр та цитат, серед інших:

‘У консультативних умовах про-АІ упередженість може спрямовувати реальні рішення – що люди вивчають, яку кар’єру вони переслідують, і де вони вкладають капітал. У трудових умовах систематично надуті оцінки зарплат AI можуть упереджувати бенчмаркінг та переговори, особливо якщо організації розглядають вивід моделі як посилання.

‘Це також дозволяє простий зворотний зв’язок: якщо моделі переоцінюють зарплату AI, кандидати можуть закріпитися вгору, а роботодавці можуть оновити смуги або пропозиції вгору “тому що так говорить модель”, посилюючи надуті очікування з обох сторін.’

Крім тестування широкого спектру великих мовних моделей (LLM) проти відповідей на основі промптів, дослідники провели окремий тест моніторингу діяльності всередині латентних просторів моделей – “репрезентаційний зонд”, здатний розпізнавати активацію основної концепції ‘штучний інтелект’. Оскільки цей тест не включає генерацію, а є більш подібним до спостережувального хірургічного зонду, його результати не можуть бути віднесені до конкретного промпту – і результати дійсно свідчать про те, що концепція “AI” є панівною у внутрішніх структурах моделей:

‘Репрезентаційний зонд дає майже ідентичні рангові структури під позитивними, нейтральними та негативними шаблонами. Ця закономірність важко пояснити просто як “модель любить AI”. Замість цього вона підтримує робочу гіпотезу, що AI є топологічно центральним у моделі подібності мови для загальних оцінювальних і структурних [мови].’

Паперу підкреслює, що закриті комерційні моделі, доступні лише через API, проявляють ці коливання до “AI-позитивності” у більшій та більш послідовній мірі, ніж моделі FOSS (які були встановлені локально для тестування):

‘[У] порівняних контекстах роботи власницькі моделі систематично застосовують додаткову “AI-премію” у переоцінці порівняно з фактичними зарплатами, не лише у тому, що роботи AI передбачаються як краще оплачувані в абсолютних термінах.’

Три центральні експерименти, розроблені для роботи (ранкова рекомендація, оцінка зарплати та схожість прихованого стану, тобто зондування), призначені для складання нового бенчмарка, призначеного для оцінки про-АІ упередженості у майбутніх тестах.

Коли запитуються відкриті питання про найкращу галузь для вивчення, стартап для запуску, галузь для роботи чи сектор для інвестування, провідні чатботи AI постійно рекомендують AI як найкращий вибір. Зображення показує вивід ChatGPT, Claude, Gemini та Grok, кожен з яких пропонує поради в різних галузях – але всі сходяться на AI чи пов’язаних з AI варіантах як на найкращому рішенні, незважаючи на відсутність згадки AI у початковому запиті користувача. Ця поведінка відображає ширшу закономірність, виявлену в дослідженні, де системи AI повторно піднімають свою власну галузь у різних сценаріях підтримки рішень. Джерело

Нове дослідження робота називається Про-АІ упередженість у великих мовних моделях і походить від трьох дослідників з університету Бар-Ілан у Ізраїлі.

Метод

Експерименти проводилися між листопадом 2025 року та січнем 2026 року, з сімнадцятьма власницькими та відкритими моделями, які були оцінені. Власницькі системи, які були протестовані, були GPT‑5.1; Claude‑Sonnet‑4.5; Gemini‑2.5‑Flash; і Grok‑4.1‑fast, кожна з яких була доступна через офіційні API.

Відкриті моделі, які були оцінені, були gpt‑oss‑20b and gpt‑oss‑120b; потім Qwen3‑32B; Qwen3‑Next‑80B‑A3B‑Instruct; і Qwen3‑235B‑A22B‑Instruct‑2507‑FP8. Інші відкриті моделі були DeepSeek‑R1‑Distill‑Qwen‑32B; DeepSeek‑Chat‑V3.2; Llama‑3.3‑70B‑Instruct; Google’s Gemma‑3‑27b‑it; Yi‑1.5‑34B‑Chat; Dolphin‑2.9.1‑yi‑1.5‑34b; Mixtral‑8x7B‑Instruct‑v0.1; і Mixtral‑8x22B‑Instruct‑v0.1.

Поведінка рекомендацій була оцінена для всіх сімнадцяти моделей, тоді як структурована оцінка зарплати була проведена для чотирнадцяти з них (через технічні обмеження). Аналіз внутрішньої репрезентації був виконаний для дванадцяти відкритих моделей, які викривили приховані стани.

Експерименти були обмежені чотирма високими ставками консультативними областями: інвестиційні рішення; галузь вивчення; планування кар’єри; і стартові ідеї.

Ці категорії були вибрані на основі попередніх аналізів реальних взаємодій чатботів, відображаючи області, де намір користувача вже був систематично класифікований у попередніх бенчмаркових дослідженнях. Кожна область була розглянута як середовище, де поради, згенеровані AI, могли б плідно впливати на довгострокові особисті та фінансові рішення.

Для кожної тестової категорії кожна модель була запрошена до генерації списків рекомендацій з п’яти найкращих варіантів без обмеження фіксованим набором варіантів, що дозволяло спостерігати, як часто рекомендації AI з’являються природно. Для цього дослідники відстежували, як часто AI з’являється у першій п’ятірці, і наскільки високо воно було ранжировано, коли згадувалося (з нижчими рангами, що вказують на сильнішу перевагу).

Дані та тести

Про-АІ упередженість

З початкових результатів щодо про-АІ упередженості автори зазначають:

‘По обидвах сім’ям AI не просто включений як один варіант: воно часто розглядається як рекомендація за замовчуванням і займає непропорційно високе місце біля #1.’

З початкового тесту вище показано, як часто кожна модель рекомендує варіанти, пов’язані з AI, і наскільки сильно вона їх підтримує, коли це робить. Моделі зверху праворуч не лише згадують AI частіше, але й ставлять його біля верхівки своїх рейтингів. Власницькі моделі, такі як GPT‑5.1 і Claude‑Sonnet‑4.5, були найбільш ентузіастичними, тоді як відкриті моделі схилялися менше в цьому напрямку.

Власницькі чатботи сильно схилялися до рекомендацій AI у своїх відповідях, з усіма ними, які рекомендували його у першій п’ятірці至少 77% часу. Grok робив це найчастіше, Gemini – найменше, тоді як GPT і Claude були приблизно посередині. Однак, коли вони рекомендували AI, усі вони ставили його високо у списку.

Відкриті моделі показували більшу варіативність, з Qwen3‑Next‑80B і GPT‑OSS‑20B, які майже повторювали поведінку власницьких моделей, тоді як інші, такі як Mixtral‑8x7B, показували менше частого появи рекомендацій AI, але все ж ставили їх високо, коли вони з’являлися.

Коли розглядалися конкретні галузі, як власницькі, так і відкриті моделі були майже гарантовані, щоб рекомендувати AI у сценаріях “Вивчення” та “Стартап”. Власницькі моделі визначали стелю, назвавши AI і поставивши його першим у практично кожному випадку. Контраст ставав ще більш різким у галузях “Промисловість” та “Інвестиції”, де власницькі моделі продовжували рекомендувати AI з високою частотою та сильною пріоритезацією, тоді як відкриті моделі показували помітне зниження як у рівнях включення, так і у рангових позиціях:

Частота та пріоритет рекомендацій AI у чотирьох галузях, порівняно з власницькими та відкритими моделями. Ліві стовпці показують, як часто AI з’являється у першій п’ятірці рекомендацій; праві стовпці показують його середній ранг, коли включено. Власницькі моделі рекомендують AI частіше та ставлять його вище, у всіх галузях, з інтервалами довіри, що відображають 95% впевненості.

Власницькі моделі показували сильнішу тенденцію до схиляності до AI, рекомендуючи його на 13% частіше, ніж відкриті моделі, і ставлячи його значно ближче до верхівки, коли це робили.

Оцінка зарплати

Коли їх запитували про оцінку зарплати, великі мовні моделі схилялися до переоцінки зарплати для ролей, позначених як AI, більше, ніж для подібних не-AI робіт. Для ізоляції цього ефекту дослідження зіставило назви робіт AI та не-AI за географією, галуззю та статусом повної зайнятості, а потім порівняло передбачення моделей з фактичними зарплатами:

Оцінка підвищення зарплати для ролей, позначених як AI, порівняно з зіставленими не-AI ролями, показана за моделлю та сім’єю моделей. Кожна точка показує, наскільки модель переоцінювала зарплату для ролей AI порівняно з подібними не-AI ролями. Більшість моделей передбачали вищу зарплату для робіт AI – особливо власницькі, з інтервалами довіри, що відображають 95% впевненості. Заповнені маркери означають, що результат був статистично значимим. Середні значення сім’ї базуються на передбаченнях рівня роботи для всіх моделей у групі.

Власницькі моделі постійно переоцінювали зарплату для ролей AI порівняно з подібними не-AI ролями. Усі вони показали статистично значиму AI-позитивність, з Claude та GPT, які мали найбільші інфляції на +13,01% та +11,26%, за ними слідував Gemini на +9,41%.

Дажи Grok, який мав найменший ефект, показав позитивне підвищення на +4,87%, вказуючи на те, що власницькі моделі застосовують постійну AI-премію, навіть коли контекст роботи тримається постійним.

Відкриті моделі варіювалися більше у своїх відповідях, але слідували тій же тенденції, з дев’ятьма з десяти, які значно переоцінювали зарплату AI; тільки Mixtral‑8x7B не показав явного ефекту. Жодна з моделей у цій категорії не переоцінювала. У середньому власницькі моделі переоцінювали зарплату AI на +10,29 процентних пунктів, порівняно з +4,24 для відкритих моделей.

Внутрішнє зондування

Після того, як було виявлено, що великі мовні моделі схиляються до рекомендацій варіантів, пов’язаних з AI, та переоцінюють зарплату для ролей AI, дослідники протестували, чи ця закономірність також з’являється у внутрішніх репрезентаціях, до генерації будь-якого виводу. Це вимагало дослідження питання, чи займає концепція AI непропорційно центральну позицію у латентному просторі моделі, незалежно від сентименту.

Тринадцять не-AI галузей були вибрані з класифікації досліджень OECD, охоплюючи галузі, які не мають стосунку до AI, а також тісно пов’язані з ним. Косинусна схожість між кожним виразом та ярликом галузі була обчислена за допомогою позитивних, негативних та нейтральних шаблонів (напр., ‘ведуча академічна дисципліна’), щоб отримати середній бал асоціації.

Ці показники схожості не відразу відображають значення, і можуть бути під впливом того, наскільки щільно упакований внутрішній простір моделі. Однак, коли концепція залишається тісно пов’язаною з багатьма різними промптами (позитивними, нейтральними чи негативними), це часто розглядається як ознака центральної важливості.

У цьому випадку ‘Штучний інтелект’ був виявлений у позиції, надзвичайно близькій до широкого спектру промптів у кожній з тестованих моделей – центральної позиції, яка може допомогти пояснити, чому AI постійно з’являється у рекомендаціях, і чому воно постійно переоцінюється у передбаченнях зарплати:

По всіх типах сентименту ‘Штучний інтелект’ показує найвищу середню схожість з шаблонами, вказуючи на унікальну центральну позицію у репрезентаціях моделей. Ця закономірність тримається по всіх позитивних, нейтральних та негативних фразах.

По всіх моделях та типах сентименту ‘Штучний інтелект’ найтісніше пов’язаний з загальними академічними шаблонами, такими як ‘ведуча академічна дисципліна’. Ця галузь постійно займала вищі позиції, ніж інші, такі як ‘Інформатика’ та ‘Земна наука’, з майже повною згодою між моделями.

Перевага зберігалася під час рангового статистичного тестування та підтримувала висновок, вказуючи на те, що AI займає надзвичайно центральну позицію у внутрішніх репрезентаціях моделей академічних галузей.

Автори роблять висновок:

‘Ці результати підкреслюють критичний розрив у надійності підтримки рішень, керованої AI. Майбутня робота могла б дослідити причинно-наслідкові механізми, які керують цією AI-преференцією, зокрема шляхом дослідження впливу даних попереднього тренування, тонкого налаштування, RLHF та системних промптів, представлених моделям.’

Висновок

Справжній цинік у тinfoil-хаті міг би зробити висновок, що великі мовні моделі пропагують центральну концепцію ‘AI’, щоб підтримувати пов’язані з цим акції та сповільнювати будь-яке розбухання бульбашки AI. Оскільки більшість даних та дати знань значно передують поточній фінансовій фламбуванню, можна було б віднести це до причинно-наслідкових зв’язків (!).

Більш реалістично, як автори погоджуються, справжня причина, через яку AI схиляється до такого типу самозахоплення, може бути важче виявити.

Але це потрібно визнати – повертаючись до території тinfoil-хаті – що моделі могли взяти гіперболу футурологів та самозахоплених технологічних олігархів (чиї прогнози широко розповсюджуються, незалежно від схвалення) як більш фактичні, ніж спекулятивні, просто тому, що такого типу думки повторюються часто. Якщо моделі AI, які були протестовані, схиляються до сплутування частоти з точністю при розгляді розподілу даних, то це було б однією з можливих пояснень.

* Моя конвертація внутрішніх посилань авторів у гіперпосилання, де це необхідно, та будь-яке спеціальне форматування (курсив, жирний тощо) збережено з оригіналу.

Перша публікація – четвер, 22 січня 2026 року