Существует ли “проснувшийся” ИИ?

Запрет президента Дональда Трампа на “проснувшийся ИИ” в деятельности Белого дома вызвал споры и поставил вопросы о природе искусственного интеллекта. В этой статье мы рассмотрим, что такое “проснувшийся ИИ”, исследуем, действительно ли крупные модели ИИ демонстрируют такие предубеждения, и изучим далеко идущие последствия этого исполнительного указа для разработки и развертывания ИИ в правительстве и промышленности.

Исполнительный указ Белого дома и концепция “проснувшегося ИИ”

23 июля 2025 года президент Трамп подписал исполнительный указ под названием “Предотвращение ‘проснувшегося ИИ’ в федеральном правительстве” в рамках более широкого плана действий по ИИ. Фактическая записка Белого дома гласит, что президент Трамп “защищает” американцев от “предвзятых” систем ИИ, которые жертвуют точностью ради идеологических целей.

Указ запрещает федеральным агентствам заключать контракты с технологическими компаниями, которые эксплуатируют чат-боты ИИ, демонстрирующие партийную предвзятость, которую указ определяет как разнообразие, равенство и включение, критическую расовую теорию и “трансгендеризм”, силы, которые, по мнению указа, представляют “экзистенциальную угрозу надежным ИИ”. Это первый случай, когда правительство США явно попыталось сформировать идеологическое поведение систем ИИ через федеральную политику закупок.

Фокус, кажется, лежит полностью на чат-ботах и генеративном ИИ. Трудно сказать, как ИИ, который мониторит облачную среду организации или извлекает данные из PDF, может быть считан “проснувшимся”.

Определение “проснувшегося ИИ” с точки зрения администрации

Хотя сам термин “проснувшийся ИИ” не определяется явно в юридическом тексте исполнительного указа, Белый дом приравнял его к выходным данным ИИ, поддерживающим концепции, такие как разнообразие, равенство и включение (РРВ), за счет точности. Указ установил, что любая компания ИИ, ведущая бизнес с федеральным правительством, должна быть свободна от “идеологических догм, таких как РРВ“.

Новый исполнительный указ ссылается на инцидент, когда “одна из крупных моделей ИИ изменила расу или пол исторических фигур”, когда генератор изображений ИИ Google в прошлом году произвел изображения, на которых основатели США и нацистские солдаты были изображены как чернокожие. Такие примеры были приведены союзниками Трампа в качестве доказательства преднамеренной предвзятости, запрограммированной в системы ИИ.

Определение администрации запрещенного контента включает в себя подавление или искажение фактической информации о расе или поле, манипулирование расовым или половым представительством в выходных данных модели, и включение концепций, таких как критическая расовая теория, трансгендеризм, бессознательная предвзятость, интерсекциональность и системный расизм.

Предвзятость ИИ и “проснувшийся”

Эксперты в целом согласны с тем, что модели ИИ не обладают убеждениями или предубеждениями в человеческом смысле, но они могут демонстрировать систематические наклонности, под влиянием их обучающих данных, обратной связи и инструкций. Некоторые утверждают, что “не существует такого понятия, как проснувшийся ИИ“, только ИИ, который может дискриминировать или работать для всех людей. Модели ИИ обучаются на огромных наборах данных, собранных из интернета, которые содержат предубеждения и противоречия, присутствующие в человеческом языке и онлайн-контенте.

Сама концепция “проснувшегося” является субъективной и спорной, возникнув в черном сообществе, чтобы обозначить осведомленность о расовой несправедливости, но впоследствии была присвоена консерваторами как уничижительный термин для прогрессивных идеалов.

Достижение абсолютной объективности в ИИ может быть рассмотрено как “фантазия”, поскольку язык сам по себе никогда не является нейтральным. Вызов заключается в различении между законными усилиями по смягчению предубеждений и тем, что администрация характеризует как идеологическую манипуляцию.

Технологические компании, политическая выравнивание и экологические проблемы

Сдвиг позиции крупных технологических компаний

Ранее крупные корпорации в секторе технологий США, которые когда-то принимали разнообразие, равенство и включение (РРВ) и “проснувшийся капитализм”, теперь отходят от этой лингвистики, особенно с возвращением Трампа в Белый дом. Meta и Amazon переоценивают программы разнообразия в ответ на меняющиеся политические и правовые ландшафты в США.

Крупные технологические компании внесли значительный финансовый вклад в администрацию Трампа. Google и Microsoft каждая внесла 1 миллион долларов в фонд инаугурации Трампа, присоединившись к ряду других крупных технологических компаний. Генеральные директора нескольких из крупнейших технологических компаний мира посетили инаугурацию президента Трампа, включая лидеров Amazon, Google, Meta, Tesla, TikTok и OpenAI.

Сдвиг в корпоративной позиции очевиден в изменениях политики. Google, который имеет контракты на облачные вычисления с федеральными агентствами, объявил в феврале, что он ликвидирует свои целевые показатели найма после исполнительных указов Трампа. Однако некоторые компании сохраняют свои обязательства, в то время как Apple и Microsoft подтвердили свою приверженность РРВ.

Экологическая стоимость ИИ и “зеленое пиар”

Спрос на ИИ создает значительные экологические проблемы для технологических компаний. Вычислительная мощность, необходимая для обучения генеративных моделей ИИ, которые часто имеют миллиарды параметров, может требовать огромное количество электроэнергии, что приводит к увеличению выбросов углекислого газа и давлению на электрическую сеть. Центры данных и сети передачи данных уже ответственны за 1% энергетических выбросов парниковых газов, при этом потребление электроэнергии центров данных ожидается удвоится к 2026 году, и ИИ должен сгенерировать 160% увеличение спроса на мощность центров данных.

Возможно, наиболее вредно для любых претензий на то, чтобы быть “проснувшимся” или экологически сознательным, крупные компании ИИ занимаются систематическим “зеленым пиаром”, который подрывает их социальную ответственность. Компании, включая Meta, Google, Microsoft и Apple, могут выбрасывать 7,623 раза больше парниковых газов, чем они признают. Amazon, Microsoft и Meta скрывают свои фактические углеродные следы, покупая кредиты, связанные с использованием электроэнергии, которые неточно стирают миллионы тонн выбросов парниковых газов из их углеродных отчетов.

Эта экологическая обманка прямо противоречит принципам социальной осведомленности и ответственности, которые идеология “проснувшегося” якобы представляет. Microsoft最近 приобрел 3,5 миллиона углеродных кредитов в сделке с Re.green, направленной на компенсацию растущих выбросов ИИ, а не на снижение фактических выбросов. Такие практики показывают, как компании ИИ отдают приоритет прибыли и росту над настоящей экологической заботой, делая претензии на прогрессивные ценности пустыми.

Будущие последствия для разработки и развертывания ИИ

Сдвиги в федеральных закупках и отношениях с поставщиками

Исполнительный указ требует, чтобы крупные языковые модели (КЯМ), закупаемые федеральными агентствами, должны соответствовать принципам “поиска истины” и “идеологической нейтральности”. Поставщикам будет необходимо раскрыть промпты системы КЯМ, спецификации и оценки, чтобы продемонстрировать соответствие, хотя не обязательно чувствительные технические данные.

Несоответствие может привести к расторжению контракта, с затратами на демонтаж, возлагаемыми на поставщика. Это вводит значительный новый нормативный барьер для технологических компаний, стремящихся к государственным контрактам. Как отметили исследователи Brookings, это директива оказывает сильное давление на компании, чтобы они самоцензурировались, чтобы остаться в добрых отношениях с правительством и сохранить денежный поток, эффективно вовлекая отрасль в битву за культуру.

Финансовые ставки значительны. Отрасль ИИ, как ожидается, будет стоить 2 триллиона долларов к 2030 году, и федеральные контракты ИИ представляют миллиарды потенциальных доходов для технологических компаний. Это создает мощные стимулы для соблюдения, независимо от внутренних взглядов компаний на принципы разнообразия и включения.

Влияние на инновации ИИ и смягчение предубеждений

Правозащитники выражают обеспокоенность, что этот указ заставит технологическую отрасль отказаться от летних усилий, посвященных борьбе с расовыми и гендерными предубеждениями, встроенными в системы ИИ.

Эксперты предупреждают о потенциальном “охлаждающем эффекте на разработчиков“, которые могут чувствовать давление, чтобы соответствовать выходным данным модели и наборам данных с риторикой Белого дома, чтобы обеспечить федеральное финансирование, потенциально замедляя инновации. Вызов распространяется за пределы технической реализации до фундаментальных вопросов о приоритетах разработки ИИ.

Идея достижения полной “идеологической нейтральности” в ИИ считается нереальной некоторыми экспертами, поскольку политическая и фактическая объективность могут быть высоко субъективными. Более широкая проблема заключается в том, что государственное вмешательство в разработку ИИ может задушить тот вид разнообразных перспектив и подходов, которые исторически стимулировали технологические инновации.

Установление прецедента для идеологической полиции алгоритмов

Этот исполнительный указ устанавливает прецедент для прямого вмешательства правительства США в формирование идеологических выходных данных ИИ, проводя параллели с усилиями Китая по обеспечению того, чтобы инструменты ИИ отражали ценности правящей Коммунистической партии. Критики утверждают, что, определяя либеральные политические убеждения и даже определенные группы людей как “внутренне предвзятые”, указ угрожает свободе слова и может нарушить Первую поправку.

Существуют опасения, что компании ИИ могут заранее переработать свои обучающие данные, чтобы соответствовать директиве.

Более широкий “План действий по ИИ” администрации Трампа сигнализирует о национальном приоритете сдвига в сторону строительства инфраструктуры ИИ, сокращения “бюрократической волокиты” и усиления национальной безопасности, потенциально за счет решения социальных рисков. Долгосрочная эффективность этого указа в достижении его заявленных целей и последствия для будущих администраций, пытающихся контролировать “идеологию” ИИ, остаются ключевой областью наблюдения.

Заключение

Концепция “проснувшегося ИИ”, как определено Белым домом, подчеркивает глубоко укоренившиеся напряжения между технологическим прогрессом, политической идеологией и социальными ценностями. Хотя модели ИИ отражают предубеждения своих человеческих создателей и обучающих данных, стремление к “идеологической нейтральности” через исполнительные действия вызывает сложные вопросы о свободе слова, инновациях и государственном влиянии. Будущее разработки ИИ, безусловно, будет сформировано тем, как отрасль и политика будут ориентироваться в этих спорных и эволюционирующих определениях.