Существует ли на самом деле «пробужденный» ИИ?

Недавний запрет президента Дональда Трампа на использование «пробуждённого ИИ» в деятельности Белого дома вызвал споры и поднял вопросы о природе искусственного интеллекта. В этой статье мы подробно рассмотрим, что подразумевается под «пробуждённым ИИ», рассмотрим, действительно ли основные модели ИИ демонстрируют подобные предубеждения, и рассмотрим далеко идущие последствия этого указа для разработки и внедрения ИИ в государственном секторе и промышленности.

Указ Белого дома и концепция «пробужденного ИИ»

23 июля 2025 года президент Трамп подписал указ под названием «Предотвращение «пробуждения ИИ» в федеральном правительстве' как часть более широкого плана действий в области искусственного интеллекта. Информационный бюллетень Белого дома заявляет, что президент Трамп «защищает» американцев от «предвзятых» систем искусственного интеллекта, которые жертвуют точностью ради идеологических целей.

Приказ запрещает федеральным агентствам заключать контракты с технологическими компаниями, которые управлять чат-ботами ИИ, демонстрирующими партийную предвзятость, которые в постановлении определяются как разнообразие, равенство и инклюзивность, критическая расовая теория и «трансгендеризм», — силы, которые, как утверждается в постановлении, представляют «экзистенциальную угрозу для надёжного искусственного интеллекта». Это первый случай, когда правительство США открыто пытается формировать идеологическое поведение систем искусственного интеллекта посредством политики федеральных закупок.

Похоже, что основное внимание уделяется чат-ботам и генеративному ИИ. Сложно сказать, как ИИ, который... контролирует облако организации or извлекает данные из PDF-файлов можно считать «проснувшимся».

Определение «пробужденного ИИ» с точки зрения администрации

Хотя сам термин «пробужденный ИИ» не имеет прямого определения в юридическом тексте указа, Белый дом приравнял его к результатам работы ИИ, которые поддерживают такие концепции, как разнообразие, равенство и инклюзивность (DEI), в ущерб точности. Указ установил, что любая компания, работающая в сфере ИИ с федеральным правительством, должна быть свободна от…идеологические догмы, такие как DEI».

В новом указе президента упоминается случай, когда «одна крупная модель искусственного интеллекта изменила расу или пол исторических личностей», когда Генератор изображений на основе искусственного интеллекта от Google В прошлом году появились фотографии, на которых отцы-основатели США и нацистские солдаты были изображены чернокожими. Союзники Трампа приводили подобные примеры в качестве доказательства преднамеренной предвзятости, заложенной в системы искусственного интеллекта.

Администрация определение запрещенного контента включает в себя сокрытие или искажение фактической информации о расе или поле, манипулирование расовым или сексуальным представительством в результатах модели, а также включение таких концепций, как критическая расовая теория, трансгендеризм, бессознательная предвзятость, интерсекциональность и системный расизм.

Предвзятость ИИ и «пробуждение»

Эксперты в целом согласны с тем, что модели ИИ не обладают убеждениями или предубеждениями в человеческом понимании, но могут проявлять систематические склонности, обусловленные данными обучения, обратной связью и инструкциями. Некоторые утверждают, что существует…нет такого понятия, как пробужденный ИИ«Единственный ИИ, способный различать людей или работающий для всех». Модели ИИ обучаются на обширных наборах данных, полученных из интернета, которые по своей природе содержат предубеждения и противоречия, присущие человеческому языку и онлайн-контенту.

Само понятие «проснулось» субъективно и спорно, оно возникло в черном сообществе для обозначения осознания расовой несправедливости, но впоследствии было присвоено консерваторами как уничижительный термин для обозначения прогрессивных идеалов.

Достижение абсолютная объективность в ИИ можно считать «фантазией», поскольку сам язык никогда не бывает нейтральным. Проблема заключается в том, чтобы провести различие между законными усилиями по снижению предвзятости и тем, что администрация характеризует как идеологическую манипуляцию.

Технологические компании, политическая ориентация и экологические проблемы

Изменение позиции крупных технологических компаний

Многие мегакорпорации в технологическом секторе США, которые когда-то считались приверженцами принципов разнообразия, равенства и инклюзивности (DEI) и «пробужденного капитализма», теперь отказываются от этой риторики, особенно с возвращением Трампа в Белый дом. Meta и Amazon переоценивают инициативы по разнообразию в ответ на меняющиеся политические и правовые ландшафты в США

Крупные технологические компании взяли на себя значительные финансовые обязательства перед администрацией Трампа. Google и Microsoft каждый внес по 1 миллиону долларов в фонд инаугурации Дональда Трампа, присоединившись к другим известным технологическим компаниям. Генеральные директора несколько крупнейших мировых технологических компаний На инаугурации президента Трампа присутствовали руководители Amazon, Google, Meta, Tesla, TikTok и OpenAI.

Изменение корпоративного позиционирования очевидно в изменениях политики. Google, имеющая контракты на облачные вычисления с федеральными агентствами, объявила в феврале, что она будет отменять свои амбициозные цели по найму После указов Трампа. Однако некоторые компании продолжают выполнять свои обязательства, в то время как Apple и Microsoft подтвердили свою приверженность DEI.

Экологическая цена искусственного интеллекта и «зеленого камуфляжа»

Спрос на ИИ создаёт серьёзные экологические проблемы для технологических компаний. Вычислительная мощность, необходимая для обучения генеративных моделей ИИ, которые часто содержат миллиарды параметров, может… требуют ошеломляющего количества электроэнергии, что приводит к увеличению выбросов углекислого газа и повышению нагрузки на электросети. Центры обработки данных и сети передачи данных уже ответственны за 1% выбросов парниковых газов, связанных с энергетикой, при этом ожидается, что потребление электроэнергии центрами обработки данных к 2026 году удвоится, а искусственный интеллект приведет к увеличению спроса на электроэнергию для центров обработки данных на 160%.

Возможно, самым разрушительным для заявлений о своей «пробужденности» или экологической сознательности является то, что крупные компании, занимающиеся разработкой искусственного интеллекта, систематически занимаются гринвошингом, подрывая их репутацию социальной ответственности. Такие компании, как Meta, Google, Microsoft и Apple, могут быть… выбрасывая в 7.623 раза больше парниковых газов чем они признают. Amazon, Microsoft и Meta скрывают свой реальный углеродный след, покупая кредиты, привязанные к использованию электроэнергии, которые ошибочно стирают из их углеродных счетов миллионы тонн выбросов, способствующих потеплению планеты.

Этот экологический обман прямо противоречит принципам социальной сознательности и ответственности, которые якобы представляет идеология «пробуждения». Microsoft недавно... обеспечено 3.5 миллиона углеродных кредитов в сделке с Re.green, направленной на компенсацию растущих выбросов углерода, вызванных ИИ, а не на сокращение фактических выбросов. Подобная практика демонстрирует, как компании, использующие ИИ, ставят прибыль и рост выше реального управления окружающей средой, демонстрируя, что заявления о прогрессивных ценностях кажутся пустыми словами.

Будущие последствия для разработки и внедрения ИИ

Изменения в федеральных закупках и отношениях с поставщиками

Указ предписывает, что крупные языковые модели (LLM), закупаемые федеральными агентствами, должны соответствовать принципам «поиска истины» и «идеологического нейтралитета». Поставщики будут обязаны раскрывать свою информацию. Системные подсказки, спецификации и оценки LLM для демонстрации соответствия, хотя и не обязательно конфиденциальных технических данных.

Несоблюдение требований может привести к расторжению контракта, а расходы по выводу из эксплуатации будут взысканы с поставщика. Это создаёт серьёзное новое нормативное препятствие для технологических компаний, стремящихся получить государственные контракты. Как отмечают исследователи Брукингского института, эта директива оказывает сильное давление на компании, вынуждая их к самоцензуре, чтобы сохранить благосклонность правительства и обеспечить приток средств, фактически втягивая отрасль в культурную войну.

Финансовые ставки существенны. Прогнозируется, что индустрия ИИ... к 2 году будет стоить $2030 трлн., а федеральные контракты на ИИ представляют собой миллиарды потенциальных доходов для технологических компаний. Это создаёт мощные стимулы к соблюдению требований, независимо от внутренних взглядов компаний на принципы разнообразия и инклюзивности.

Влияние на инновации в области ИИ и смягчение предвзятости

Защитники гражданских прав выражают обеспокоенность тем, что этот указ вынудит технологическую отрасль отказаться от многолетних усилий, направленных на борьбу с расовыми и гендерными предрассудками, заложенными в системах искусственного интеллекта.

Эксперты предупреждают о потенциальной опасности «сдерживающий эффект» на разработчиков, которые могут ощущать давление, связанное с необходимостью согласовывать результаты моделирования и наборы данных с риторикой Белого дома для обеспечения федерального финансирования, что потенциально замедляет инновации. Эта проблема выходит за рамки технической реализации и затрагивает фундаментальные вопросы о приоритетах развития ИИ.

Некоторые эксперты считают идею достижения полной «идеологической нейтральности» в сфере ИИ нереализуемой, поскольку политическая и фактическая объективность может быть крайне субъективной. Более общая проблема заключается в том, что вмешательство государства в разработку ИИ может подавить разнообразие точек зрения и подходов, которые исторически способствовали развитию технологических инноваций.

Создание прецедента для алгоритмического идеологического контроля

Этот указ создаёт прецедент прямого вмешательства правительства США в формирование идеологических разработок ИИ, сравнивая его с усилиями Китая, направленными на то, чтобы инструменты ИИ отражали ценности правящей Коммунистической партии. Критики утверждают, что, определяя либеральные политические убеждения и даже определённые группы людей как «изначально предвзятые», указ угрожает свободе слова и может нарушить Первую поправку.

Существуют опасения, что компании, занимающиеся разработкой ИИ, могут заблаговременно переработать свои данные для обучения, чтобы привести их в соответствие с директивой.

Более широкая политика администрации ТрампаПлан действий ИИ' сигнализирует о смещении национальных приоритетов в сторону создания инфраструктуры ИИ, сокращения бюрократической волокиты и укрепления национальной безопасности, потенциально в ущерб устранению социальных рисков. Долгосрочная эффективность этого указа в достижении заявленных целей и последствия для будущих администраций, пытающихся контролировать «идеологию» ИИ, остаются ключевым объектом наблюдения.

Заключение

Концепция «пробуждённого ИИ», как её определяет Белый дом, подчёркивает глубоко укоренившееся противоречие между технологическим прогрессом, политической идеологией и общественными ценностями. Хотя модели ИИ отражают предубеждения их создателей-людей и данные обучения, стремление к «идеологическому нейтралитету» посредством действий исполнительной власти поднимает сложные вопросы о свободе слова, инновациях и влиянии государства. Будущее развития ИИ, несомненно, будет определяться тем, как промышленность и политика будут ориентироваться в этих спорных и меняющихся определениях.