Чи існує насправді «woke» штучний інтелект?

Нещодавня заборона президента Дональда Трампа на «woke AI» у роботі Білого дому розпалила дебати та підняла питання щодо природи штучного інтелекту. Ця стаття заглибиться в те, що має на увазі термін «woke AI», дослідить, чи дійсно основні моделі ШІ демонструють такі упередження, та розгляне далекосяжні наслідки цього виконавчого указу для розвитку та впровадження ШІ в уряді та промисловості.

Виконавчий указ Білого дому та концепція «Woke AI»

23 липня 2025 року президент Трамп підписав виконавчий указ під назвою ‘Запобігання використанню Woke AI у федеральному уряді‘ як частину ширшого плану дій щодо ШІ. Інформаційний бюлетень Білого дому повідомляє, що президент Трамп «захищає» американців від «упереджених» систем ШІ, які жертвують точністю заради ідеологічних цілей. Указ забороняє федеральним установам укладати контракти з технологічними компаніями, які експлуатують AI-чати, що демонструють партійну упередженість, яку указ визначає як різноманітність, рівність та інклюзивність, критичну расову теорію та «трансгендерність», сили, які, за словами указу, становлять «екзистенційну загрозу для надійного ШІ». Це вперше, коли уряд США явно намагався сформувати ідеологічну поведінку систем ШІ через політику федеральних закупівель. Фокус, здається, повністю зосереджений на чат-ботах та генеративному ШІ. Важко сказати, як ШІ, який моніторить хмару організації або витягує дані з PDF, можна вважати «woke».

Визначення «Woke AI» з точки зору адміністрації

Хоча сам термін «woke AI» явно не визначений у юридичному тексті виконавчого указу, Білий дім прирівняв його до результатів роботи ШІ, які підтримують такі концепції, як різноманітність, рівність та інклюзивність (DEI), за рахунок точності. Указ встановив, що будь-яка компанія зі ШІ, яка веде бізнес із федеральним урядом, повинна бути вільною від ‘ідеологічних догм, таких як DEI‘. Новий виконавчий указ посилається на інцидент, коли «одна з головних моделей ШІ змінила расу або стать історичних постатей», коли генератор зображень Google на основі ШІ минулого року створив зображення, на яких батьки-засновники США та нацистські солдати були чорношкірими. Такі приклади союзники Трампа наводили як доказ навмисної упередженості, запрограмованої в системи ШІ. Визначення адміністрації щодо забороненого вмісту включає придушення або спотворення фактичної інформації про расу чи стать, маніпулювання расовим або статевим представленням у результатах роботи моделей, а також включення таких концепцій, як критична расова теорія, трансгендерність, несвідоме упередження, інтерсекційність та системний расизм.

Упередженість ШІ та «Wokeness»

Експерти загалом згодні, що моделі ШІ не мають переконань чи упереджень у людському розумінні, але вони можуть виявляти системні схильності, на які впливають їхні навчальні дані, зворотний зв’язок та інструкції. Деякі стверджують, що ‘немає такого поняття як woke AI’, є лише ШІ, який може дискримінувати або який працює для всіх людей. Моделі ШІ навчаються на величезних наборах даних, зібраних з інтернету, які за своєю природою містять упередження та суперечності, присутні в людській мові та онлайн-контенті. Саме поняття «woke» є суб’єктивним і спірним, воно виникло в чорній спільноті для позначення обізнаності про расову несправедливість, але згодом було привласнено консерваторами як зневажливий термін для прогресивних ідеалів. Досягнення абсолютної об’єктивності в ШІ можна вважати «фантазією», оскільки сама мова ніколи не є нейтральною. Проблема полягає в тому, щоб розрізнити законні зусилля з пом’якшення упереджень і те, що адміністрація характеризує як ідеологічну маніпуляцію.

Технологічні компанії, політична орієнтація та екологічні проблеми

Мінлива позиція великих технологічних компаній

Колись сприймані як прихильники різноманітності, рівності та інклюзивності (DEI) та «woke капіталізму», багато мегакорпорацій у технологічному секторі США тепер відвертаються від цієї мови, особливо з поверненням Трампа до Білого дому. Meta та Amazon переоцінюють ініціативи щодо різноманітності у відповідь на мінливі політичні та правові ландшафти в США. Великі технологічні компанії зробили значні фінансові зобов’язання на користь адміністрації Трампа. Google та Microsoft внесли по 1 мільйону доларів кожна до інавгураційного фонду Дональда Трампа, приєднавшись до ряду інших провідних технологічних компаній. Генеральні директори кількох найбільших у світі технологічних компаній відвідали інавгурацію президента Трампа, включаючи керівників Amazon, Google, Meta, Tesla, TikTok та OpenAI. Зміна корпоративної позиції очевидна в змінах політики. Google, який має контракти на хмарні обчислення з федеральними установами, оголосив у лютому, що припинить свої цілі щодо прагнень у наймі після виконавчих указів Трампа. Однак деякі компанії підтримують свої зобов’язання, тоді як Apple та Microsoft підтвердили свою прихильність DEI.

Екологічна вартість ШІ та «Greenwashing»

Попит на ШІ створює значні екологічні виклики для технологічних компаній. Обчислювальна потужність, необхідна для навчання генеративних моделей ШІ, які часто мають мільярди параметрів, може вимагати приголомшливої кількості електроенергії, що призводить до збільшення викидів діоксиду вуглецю та тиску на електромережу. Центри обробки даних та мережі передачі даних вже відповідають за 1% викидів парникових газів, пов’язаних з енергією, причому очікується, що споживання електроенергії центрами обробки даних подвоїться до 2026 року, а ШІ має забезпечити зростання попиту на електроенергію для центрів обробки даних на 160%. Можливо, найбільшою шкодою для будь-яких заяв про те, що вони є «woke» або екологічно свідомими, є те, що великі компанії зі ШІ займаються систематичним гринвошингом, який підриває їхню репутацію в галузі соціальної відповідальності. Компанії, включаючи Meta, Google, Microsoft та Apple, можуть викидати в 7,623 рази більше парникових газів, ніж вони визнають. Amazon, Microsoft та Meta приховують свій фактичний вуглецевий слід, купуючи кредити, пов’язані з використанням електроенергії, які неточно стирають мільйони тонн викидів, що нагрівають планету, з їхніх вуглецевих рахунків. Це екологічне обман прямо суперечить принципам соціальної обізнаності та відповідальності, які, імовірно, представляє ідеологія «woke». Microsoft нещодавно забезпечила 3,5 мільйона вуглецевих кредитів в угоді з Re.green, прагнучи компенсувати свої зростаючі викиди вуглецю, спричинені ШІ, замість того, щоб зменшувати фактичні викиди. Такі практики показують, як компанії зі ШІ віддають пріоритет прибутку та зростанню перед справжнім екологічним управлінням, що робить заяви про прогресивні цінності порожніми.

Майбутні наслідки для розвитку та впровадження ШІ

Зміни у федеральних закупівлях та відносинах з постачальниками

Виконавчий указ вимагає, щоб великі мовні моделі (LLM), закуплені федеральними установами, дотримувалися принципів «пошуку істини» та «ідеологічної нейтральності». Від постачальників потрібно буде розкривати системні підказки, специфікації та оцінки їхньої LLM, щоб продемонструвати відповідність, хоча не обов’язково конфіденційні технічні дані. Невідповідність може призвести до розірвання контракту, причому витрати на виведення з експлуатації стягуються з постачальника. Це створює значну нову регуляторну перешкоду для технологічних компаній, які прагнуть отримати державні контракти. Як зазначають дослідники Brookings, ця директива чинить сильний тиск на компанії, змушуючи їх до самоцензури, щоб залишатися в прихильності уряду та підтримувати потік коштів, фактично примушуючи галузь до битви в культурній війні. Фінансові ставки значні. Очікується, що галузь ШІ коштуватиме 2 трильйони доларів до 2030 року, а федеральні контракти на ШІ становлять мільярди потенційних доходів для технологічних компаній. Це створює потужні стимули для дотримання вимог, незалежно від внутрішніх