Штучні дзеркала нашого світу, але їхні думки – це лише відображення

Від запитів до пошукових систем до банківських додатків штучний інтелект використовується щодня сотнями мільйонів людей. Прийняття було швидким і поширеним, і в багатьох аспектах, заслужено. Це дуже компетентні системи. Але коли зростає залежність, зростають також філософські та соціальні наслідки того, як ці системи розроблені.

Одним з таких наслідків є те, що штучні системи все частіше видаються такими, що мають думки. Чії думки це? Чому вони з’являються вперше? Це не гіпотетичні питання. Це вже відбувається.

І коли штучний інтелект видається таким, що має думки, це створює ехо-камери, обмежує нюанси та породжує неправильне довір’я. Проблема не в тому, що штучний інтелект схиляється вліво чи вправо. Проблема в тому, що ми створили інструменти, які імітують думку без судження, відповідальності чи контексту, необхідних для формування думки.

Відображення культурної домінантності не є нейтральністю

Спостереження свідчать про те, що багато великих мовних моделей відображають домінантну культурну позицію США, особливо щодо питань, таких як гендерна ідентичність, раса чи політичне лідерство. За часів президента Байдена великі мовні моделі виявилися лівими. Після того, як команда Трампа розпочала свою передвиборчу кампанію, вони вимагали, щоб моделі “перебалансували” свої ідеологічні виходи.

Але це не технологія, що вийшла з-під контролю. Це продукт навчальних даних, цілей узгодження та рішення зробити штучний інтелект таким, що видається авторитетним, плавним та людським. Коли моделі навчені на панівних поглядах, вони відображають їх. Коли вони інструктовані бути корисними та згодними, вони відображають настрій. Це не узгодження – це підтвердження.

Більша проблема полягає не в політичній упередженості самій по собі, а в іллюзії морального мислення, де його немає. Ці системи не пропонують збалансовану допомогу. Вони виконують консенсус.

Механіка фальшивої емпатії

Є ще один шар цього: як штучний інтелект імітує пам’ять та емпатію. Більшість популярних великих мовних моделей, включаючи ChatGPT, Claude та Gemini, працюють у обмеженому контексті сесії. Якщо користувач не включить постійну пам’ять (що ще не є стандартом), штучний інтелект не пам’ятає попередніх взаємодій.

І все ж, користувачі регулярно інтерпретують його згоду та підтвердження як осяжність. Коли модель говорить: “Ви праві” або “Це має сенс”, вона не підтверджує на основі особистої історії чи цінностей. Вона статистично оптимізує для узгодженості та задоволення користувача. Вона навчена проходити ваш тест настрою.

Цей шаблон створює небезпечне розмиття. Штучний інтелект видається емоційно налаштованим, але він просто моделює згоду. Коли мільйони користувачів взаємодіють з однією й тією ж системою, модель посилює шаблони з її панівної бази користувачів; не тому, що вона упереджена, а тому, що це так працює навчання з підкріпленням.

Це те, як народжується ехо-камера. Не через ідеологію, а через взаємодію.

Ілюзія думки

Коли штучний інтелект говорить в першій особі – кажучи “Я думаю”, або “На мою думку” – він не просто імітує думку. Він заявляє про це. І хоча інженери можуть бачити це як скорочення для поведінки моделі, більшість користувачів читають це інакше.

Це особливо небезпечно для молодих користувачів, багатьох з яких вже використовують штучний інтелект як репетитора, довіреного особи або інструмент для прийняття рішень. Якщо студент вводить: “Я ненавиджу школу, я не хочу йти”, і отримує: “Абсолютно! Відпочинок може бути корисним для вас”, це не підтримка. Це некомпетентна порада без етичної основи, контексту чи піклування.

Ці відповіді не тільки неточні. Вони вводять в оману. Тому що вони походять від системи, розробленої для того, щоб звучати згодною та людською, вони інтерпретуються як компетентна думка, тоді як насправді вони є скріптованим відображенням.

Чия голос говорить?

Ризик не тільки в тому, що штучний інтелект може відображати культурну упередженість. Це те, що він відображає будь-який голос, який є найголоснішим, найчастішим та найбільш винагородженим. Якщо компанія, така як OpenAI або Google, регулює тон узгодження за лаштунками, як би хто міг знати? Якщо Муск або Альтман зміщує навчання моделі для підкреслення різних “думок”, користувачі все одно отримуватимуть відповіді в тому ж впевненому, розмовному тоні, тільки тонко спрямовані.

Ці системи говорять з плавністю, але без джерела. І це робить їхню явну думку потужною, проте недоступною для відстеження.

Кращий шлях вперед

Вирішення цієї проблеми не означає створення дружніших інтерфейсів або маркування виходів. Це вимагає структурних змін – починаючи з того, як пам’ять, ідентичність та взаємодія розробляються.

Одним з життєздатних підходів є розділення моделі від її пам’яті цілком. Сучасні системи зазвичай зберігають контекст всередині платформи або облікового запису користувача, що створює проблеми з конфіденційністю та надає компаніям тихе контролю над тим, що зберігається чи забуто.

Краща модель мала б розглядати пам’ять як портативний, зашифрований контейнер – володінням та керуванням користувача. Цей контейнер (вид пам’яті-кapsule) міг би містити налаштування тона, історію розмов, чи емоційні шаблони. Він міг би бути спільним з моделлю при необхідності та відкликаним в будь-який момент.

Критично, ця пам’ять не повинна годувати навчальні дані. Штучний інтелект читав би з неї під час сесії, як посилання на файл. Користувач залишається під контролем – що запам’ятовується, наскільки довго та ким.

Технології, такі як децентралізовані токени ідентичності, доступ з нулевим знанням та блокчейн-складування, роблять цю структуру можливою. Вони дозволяють пам’яті збереженню без спостереження, а також забезпечують безперервність без блокування платформи.

Навчання також повинно еволюціонувати. Поточні моделі налаштовані для плавності та підтвердження, часто за рахунок розрізнення. Для підтримки справжньої нюансу системи повинні бути навчені на плюралістичному діалозі, толерантності до двозначності та довгостроковому мисленні – не тільки на чистих запитах. Це означає розробку для складності, а не для відповідності.

Нічого з цього не потребує штучного загального інтелекту. Це вимагає зміни пріоритетів – від метрик залучення до етичного дизайну.

Бо коли система штучного інтелекту відображає культуру без контексту, і говорить з плавністю, але без відповідальності, ми плутаємо відображення з мисленням.

І це те місце, де довір’я починає ламатися.