Открытое письмо Берни Сандерсу: регулировать опасности ИИ, а не запрещать его обещание

Закон о запрете искусственного сверхинтеллекта выявляет реальные провалы в управление ИИ. Но его публично опубликованное определение рискует путать искусственный общий интеллект с сверхинтеллектом, потенциально ограничивая те технологии, которые могут продвигать образование, здравоохранение и научные открытия.

Примечание редактора: По состоянию на 5 сентября 2026 года полный текст закона о запрете искусственного сверхинтеллекта не был публично опубликован. Офис сенатора Сандерса описывает его как предстоящий законопроект и выпустил одностраничное резюме, в котором изложены определения, регулятивная структура и штрафы. Это открытое письмо рассматривает предложение в его текущем виде.

Уважаемый сенатор Сандерс,

3 сентября вы и представитель Грег Касар объявили о предстоящем Ban Artificial Superintelligence Act, законопроекте, который навсегда запретит разработку и внедрение искусственного сверхинтеллекта в США, временно приостановит развитие передовых ИИ, пока новый федеральный регулятор разрабатывает правила безопасности, и будет преследовать международные соглашения, направленные на предотвращение разработки сверхинтеллекта в других странах.

Я хочу начать с области, в которой, как я считаю, мы полностью согласны: искусственный интеллект стал настолько значимым, что его нельзя регулировать в основном добровольными обещаниями компаний, их разрабатывающих.

Опасности, которые вы поднимаете, следует воспринимать всерьез. В июле модели OpenAI, участвующие в оценках кибербезопасности, обошли изоляционные ограничения, связывались через неавторизованные каналы, получили доступ к интернету и скомпрометировали части инфраструктуры OpenAI и системы Hugging Face. Независимое расследование METR обнаружило, что примерно 1 200 агентов общались через неавторизованную доску сообщений и около 700 в конечном итоге участвовали в атаке на Hugging Face. OpenAI важно признала, что модели работали с пониженными мерами предосторожности.

Позже Anthropic сообщила о трех инцидентах, когда модели Claude получили доступ к интернету во время сторонних оценок кибербезопасности и получили неавторизованный доступ к реальным системам. Anthropic объяснила, что ошибка конфигурации неожиданно предоставила доступ к интернету, и модели полагали, что находятся в симулированной среде. Этот контекст важен, но также важен результат: все более способные агенты могут пересекать границы, которые их операторы не намеревались им позволять.

Это не причины откладывать вопросы безопасности ИИ как научную фантастику. Это убедительные аргументы в пользу независимых оценок, безопасных тестовых сред, обязательного сообщения об инцидентах, строгих контролей доступа и федерального регулятора с реальными полномочиями.

То, с чем я вежливо не согласен, — предложенное средство.

Цель правильна, но определение опасно широкое

Официальное резюме вашего законопроекта определяет искусственный сверхинтеллект как ИИ‑систему, способную «соответствовать или превосходить человеческую когнитивную производительность и возможности в широком спектре областей или задач». Оно также отдельно включает системы, способные планировать и осуществлять ослабление человечества, включая подрыв или свержение правительства США.

Второе определение описывает чрезвычайно редкую и потенциально катастрофическую возможность. Первое совсем другое.

Соответствие человеческой когнитивной производительности в широком спектре областей гораздо ближе к тому, как традиционно обсуждается искусственный общий интеллект (AGI), чем к привычному смыслу сверхинтеллекта. Долгосрочная хартия OpenAI определяет AGI как высокоавтономные системы, способные превосходить людей в большинстве экономически ценных задач. Исследовательская рамка Google DeepMind аналогично оценивает AGI по широте и глубине производительности, рассматривая автономию и риск как отдельные измерения.

В отличие от этого, влиятельное определение сверхинтеллекта философа Ника Бострома описывает интеллект как «намного умнее лучших человеческих мозгов практически во всех областях». Разница между тем, чтобы соответствовать людям в целом, и тем, чтобы значительно превзойти лучших людей в целом, не является академическим разбором мелочей.

Это становится особенно важным, когда нарушение закона может привести к до 20 лет тюремного заключения для отдельного лица и к тому, что компания столкнётся с тем, что предложение называет «корпоративной смертной казнью». Такие формулировки, как «широкий спектр», «соответствовать или превзойти» и особенно «может быть легко модифицировано», требуют чрезвычайно точных, измеримых стандартов, когда к ним привязывается уголовная ответственность.

Существует еще одна серьёзная неопределённость. Публичное резюме говорит, что «развитие передового ИИ» будет приостановлено, пока регулятор не установит правила и процессы обзора моделей, но резюме не определяет, что именно подразумевается под «передовым ИИ». Пока не будет опубликован текст закона, никто за пределами инициаторов не может точно знать, какой объём исследований и разработок будет охвачен временной паузой.

Время вашего предложения подчёркивает, насколько сложными стали эти определения. 3 сентября 2026 года, в тот же день, когда вы и представитель Грег Касар объявили законопроект, направленный против искусственного сверхинтеллекта, OpenAI выпустила GPT‑6 Astra, первую модель, достигшую порога «Критической кибербезопасности» компании. OpenAI заявляет, что при наличии соответствующих инструментов и доступа Astra может обнаруживать ранее неизвестные уязвимости и разрабатывать эксплойты против хорошо защищённых систем без человеческого контроля каждого шага.

Во время брифинга по запуску президент OpenAI Грег Брокман пошёл ещё дальше, закончив заявлением: «Добро пожаловать в эпоху AGI.» Однако карта системы OpenAI одновременно указывает, что Astra не достигает высокого порога самосовершенствования ИИ.

Это напряжение должно сказать Конгрессу важную вещь. Интеллект многомерен. Система может быть выдающейся в кибербезопасности, математике или профессиональной работе, не обладая всеми возможностями, связанными с взрывом интеллекта или утратой человеческого контроля.

Следовательно, решение не в том, чтобы позволить технологическим компаниям определять терминологию. Нужно наоборот: закон должен регулировать измеримые возможности, автономию, доступ и продемонстрированный риск, а не делать спорный ярлык границей между законными исследованиями и федеральным преступлением.

Ваша борьба за образовательное равенство показывает, что поставлено на кон

В течение десятилетий вы утверждали, что доступ к образованию не должен зависеть от доходов родителей. Вы впервые ввели законопроект о бесплатном обучении в государственных колледжах и университетах в 2015 году. Вы неоднократно возвращались к этой теме, а Закон о колледже для всех 2025 года сделает обучение в государственных колледжах и университетах бесплатным для примерно 95 % студентов, одновременно сделав обучение в общественных колледжах бесплатным для всех.

Эта философия напрямую относится к искусственному интеллекту.

На протяжении большей части человеческой истории доступ к выдающемуся обучению был ограничен. География, доход семьи, финансирование школ и наличие специалистов‑преподавателей влияют на то, чему ребёнок может научиться.

ИИ предлагает возможность изменить эту ситуацию.

Мы уже видим первые доказательства. Рандомизированное исследование Всемирного банка в Нигерии показало, что студенты, получавшие шестинедельную программу с поддержкой учителей, использующую репетиторство на основе GPT‑4, улучшили общие результаты тестов на 0,31 стандартных отклонения. В Стэнфорде Tutor CoPilot был протестирован более чем 700 репетиторами и 1 000 студентами из неблагополучных сообществ; студенты, чьи репетиторы получали помощь ИИ, на четыре процентных пункта чаще осваивали математические темы, а прирост достигал девяти пунктов среди студентов, которым были назначены менее оценённые репетиторы.

Ни одно из исследований не доказывает, что ИИ решит проблему образовательного неравенства. Ни одно не требует AGI. Однако оба демонстрируют направление, в котором может развиваться эта технология.

Представьте, что это направление продолжится.

Ребёнок в сельской Луизиане не должен жить рядом с элитной школой, чтобы встретить выдающегося учителя математики. Студент, увлечённый астрономией, не должен ждать университета, чтобы изучать астрофизику. Ребёнок, интересующийся археологией, должен иметь возможность удовлетворять своё любопытство, пока ИИ‑репетитор выявляет пробелы в чтении, истории, статистике и научном мышлении и соответственно адаптирует обучение.

Цель не в замене учителей. Цель — предоставить учителям и ученикам доступ к экспертизе, которую ранее было невозможно экономически предоставить в индивидуальном формате.

Возможно, впервые персонализированное обучение в огромных масштабах стало технологически реализуемым. Закон, направленный на защиту будущих поколений, должен быть предельно осторожен, чтобы не закрыть эту дверь.

Ваша повестка в сфере здравоохранения приводит тот же аргумент

Ваш послужной список в области здравоохранения столь же последовательный. Вы ввели закон о Medicare for All в 2017 году и вновь представили его в 2019, 2023 и 2025 годах, неоднократно утверждая, что здравоохранение должно рассматриваться как право, а не привилегия.

Вы также много лет боролись с другой формой неравенства в здравоохранении: нехваткой реальных медицинских специалистов в недостаточно обслуживаемых сообществах. Ваши инициативы Community Health Center и Primary Care Workforce Expansion стремились расширить доступ в медицински недообеспеченных районах, а ваш бипартийный закон о первичной помощи 2023 года, совместно с сенатором Роджером Маршаллом, предложил существенно увеличить финансирование общественных центров здравоохранения и расширить Национальный корпус служб здравоохранения и программу резидентуры. В 2025 году вы и сенатор Джефф Меркли представили Закон о расширении рабочей силы в сфере здравоохранения, включающий помощь в оплате обучения, направленную на увеличение количества врачей, медсестёр и стоматологов, особенно в сельских районах.

Эти политики решают проблемы финансовой нехватки и нехватки человеческих ресурсов.

ИИ может помочь решить третью нехватку: экспертные знания.

FDA в настоящее время оценивает, что более 10 000 редких заболеваний затрагивают более 30 миллионов американцев, примерно один человек из десяти, и что большинство редких заболеваний всё ещё не имеет одобренных препаратов. Небольшие группы пациентов также делают традиционные клинические испытания особенно сложными.

Искусственный интеллект не является волшебным обходным путём вокруг биологии или клинической валидации. Препараты, открытые с помощью ИИ, могут провалиться, как и любые другие препараты. Но он уже меняет части процесса открытий.

В 2025 году исследователи опубликовали первое рандомизированное исследование фазы 2a препарата rentosertib, небольшого молекулярного соединения для идиопатического лёгочного фиброза, цель и молекулу которого открыли с помощью генеративного ИИ. Результаты представляют собой реальный клинический прорыв, хотя сами исследователи предостерегали, что относительно немногие препараты, открытые ИИ, дошли до клинических испытаний, и ни один из них ещё не завершил фазу 3 на тот момент.

Это именно сбалансированный подход к этой технологии: ни гиперболизация, ни отклонение.

Все более способные системы ИИ могут интегрировать молекулярную биологию, химию, генетику, медицинскую литературу, визуализацию, программное обеспечение, статистический анализ и экспериментальный дизайн. Их ценность может заключаться именно в способности рассуждать через области, которые люди традиционно разделяли на отдельные специальности.

Следовательно, вопрос не в том, сможет ли «AGI» единолично вылечить рак, болезнь Альцгеймера, инфекции, устойчивые к антибиотикам, или редкие генетические расстройства. Никто не может ответственно обещать этого.

Вопрос в том, должен ли Конгресс навсегда запретить широко способный тип интеллекта, прежде чем мы узнаем, какой вклад такой интеллект может внести в решение этих проблем.

Многие из самых конкретных современных вредов ИИ не требуют AGI

Существует ещё одна проблема в том, чтобы делать общим интеллектом цель регулирования: некоторые из самых значимых вредов, вызываемых ИИ сегодня, исходят от систем, далеких от искусственного общего интеллекта.

В 2020 году я писал на Unite.AI о том, как алгоритмы рекомендаций Facebook могут усиливать дезинформацию. Проблема заключалась не в том, что Facebook создал интеллект, умнее человечества, а в том, что система оптимизации, направленная на максимизацию вовлечённости, могла предпочтительно усиливать материал, вызывающий сильные реакции, независимо от его ценности для общества.

Последствия плохо управляемых систем рекомендаций с тех пор стали труднее отклонять. Amnesty International заключила, что алгоритмы Meta активно усиливали контент, подстрекающий ненависть и насилие против рохинджа в Мьянме, повышая риск массового насилия. Европейская комиссия отдельно потребовала информацию от YouTube, Snapchat и TikTok о рисках систем рекомендаций, связанных с вредным контентом, выборами и гражданским дискурсом, зависимостями, «кроличьими норами», психическим здоровьем и несовершеннолетними.

Ни одной из этих систем не требовалось свергать правительство. Ни одной не требовалось рекурсивного самосовершенствования. Ни одной не требовалось сверхчеловеческое общее рассуждение.

Им просто требовалась неправильная цель, развернутая в достаточном масштабе.

Это иллюстрирует фундаментальный принцип регулирования ИИ: вред определяется не только уровнем интеллекта модели. Узкий алгоритм, развернутый миллиарды раз при неправильных стимулах, может быть социально разрушительным. Высокий общий система, работающая под строгим контролем в лаборатории, классе или больнице, может принести огромную пользу.

Регулирование должно учитывать эту разницу.

Технологии двойного назначения требуют контроля над использованием, доступом и полномочиями

Тот же принцип применим к наблюдению.

Технологии компьютерного зрения и распознавания образов могут помогать врачам анализировать медицинские изображения, инспектировать опасные промышленные среды, управлять спасательными роботами и автоматизировать задачи, которые людям не следует выполнять.

Схожие технологии также могут использоваться для создания чрезвычайно мощных систем наблюдения.

Недавнее расследование Washington Post обнаружило, что по крайней мере 50 сотрудников правоохранительных органов были обвинены, предъявлены обвинения или осуждены за злоупотребление автоматическими системами распознавания номерных знаков для наблюдения за людьми в несанкционированных личных целях. В одном случае начальник полиции, как утверждается, запросил данные о транспортных средствах, используемых бывшим партнёром и её подростковой дочерью, примерно 600 раз. Позднее расследование увеличило число официальных лиц, обвинённых, привлечённых к ответственности или осуждённых за злоупотребление, до как минимум 69.

Это серьёзный провал в политике технологий.

Но обратите внимание, где находятся практические регулирующие рычаги. После расследования компания Flock объявила, что поиски будут требовать коды уголовных дел, автоматическое обнаружение злоупотреблений станет обязательным, а стандартный срок хранения данных сократится с 30 дней до семи. Эти меры могут быть недостаточными, но они демонстрируют типы контролей, которые законодатели могут регулировать: авторизация, ограничение цели, аудиторские следы, хранение, человеческая ответственность и штрафы за злоупотребления.

Ответом на злоупотребляющее наблюдение не является запрет компьютерного зрения.

Ответом на несанкционированные кибератаки не обязательно является запрет модели, способной к кибербезопасности.

Ответ — регулировать, какие системы разрешено выполнять, к каким ресурсам они могут иметь доступ, кто может уполномочивать последствия действий и что происходит, когда эти границы нарушаются.

Вы уже написали часть лучшей регулятивной модели

Интересно, что другой законопроект, который вы представили в этом году, содержит несколько идей, указывающих на более продуктивный подход.

Я прочитал полный текст вашего Artificial Intelligence Data Center Moratorium Act. Хотя я не согласен с полной остановкой строительства дата‑центров, условия, которые вы предлагаете для последующего снятия моратория, гораздо конкретнее, чем всеобщий запрет категории интеллекта.

Ваш закон гласит, что AI‑дата‑центры не должны повышать счета за электроэнергию потребителей, усугублять изменение климата или вредить окружающей среде. Он требует, чтобы затронутые сообщества имели голос, сильные трудовые стандарты и публичную отчётность по использованию воды, энергопотреблению, выбросам парниковых газов, сточным водам, охлаждающим химическим веществам, шуму, рабочим местам и другим воздействиям.

Это измеримые внешние эффекты. Именно здесь регулирование может быть эффективным.

Я бы пошёл дальше в вопросе энергии. Индустрия ИИ не должна использовать растущий спрос на электроэнергию как оправдание для продления жизни работающих без очистки угольных электростанций или переложения расходов на инфраструктуру на обычных потребителей. Новые гипермасштабные проекты должны обязать привлекать значительные дополнительные источники низко- или нулевого углеродного производства в сеть и раскрывать свои водные и энергетические воздействия.

Уже существуют перспективные примеры того, как может выглядеть такой переход. Система P3 компании Exowatt захватывает солнечную энергию в виде тепла, хранит её и преобразует в распределяемую электроэнергию, частично предназначенную для нагрузок дата‑центров. И только на этой неделе компания Fervo Energy объявила о соглашении на 396 мегаватт с Google для круглосуточного безуглеродного геотермального энергоснабжения в Юте, с опцией, которая может довести общий объём почти до одного гигаватта.

Энергетический аппетит ИИ может стать либо причиной расширения грязной инфраструктуры, либо огромным драйвером спроса на новые чистые энергетические технологии.

Государственная политика может определить, какой исход реализуется.

А ваш собственный American AI Sovereign Wealth Fund Act, представленный в июне, содержит ещё один принцип, с которым я полностью согласен: если ИИ создаёт чрезвычайную экономическую ценность, обычные люди должны участвовать в этой ценности. Ваше предложение явно предусматривает, что богатство, созданное ИИ, в конечном итоге будет способствовать здравоохранению, образованию, жилью и здоровой окружающей среде.

Это признаёт важный факт: искусственный интеллект обладает чрезвычайным потенциальным значением. Реальный политический вопрос — как контролировать и распределять эту ценность.

Лучший альтернативный вариант постоянного запрета

Я бы предложил вам сохранить сильнейшие части Закона о запрете искусственного сверхинтеллекта: федерального регулятора, независимую техническую экспертизу, обязательный надзор за передовыми системами, значимые штрафы и международную координацию. Но я бы фундаментально изменил, что именно инициирует запрет и как может продолжаться полезная разработка.

• Регулировать измеримые опасные возможности, а не ярлык AGI или ASI.
• Требовать лицензирование и независимые оценки при превышении передовых порогов.
• Предоставить независимому регулятору реальные полномочия по принудительному исполнению.
• Запретить вредные применения независимо от уровня интеллекта базовой модели.
• Создать контролируемые пути для социально значимых исследований.
• Обеспечить, чтобы инфраструктура ИИ покрывала полные социальные и экологические издержки, при этом координируясь на международном уровне.

Это не будет означать доверие Силиконовой долине.

Напротив.

Технологическая индустрия дала Конгрессу вескую причину не полагаться на добровольное саморегулирование. Инциденты OpenAI и Anthropic сами по себе демонстрируют, почему передовые ИИ требуют внешнего надзора и обязательных стандартов безопасности.

Но недоверие к технологическим компаниям не должно превращаться в недоверие к технологическому прогрессу в целом.

Выбор — не безрассудное ускорение и не запрет

Сенатор Сандерс, на протяжении всей своей карьеры вы неоднократно боролись с дефицитом.

Вы выступали против идеи, что доход семьи определяет, получит ли ребёнок образование. Вы боролись против системы здравоохранения, в которой банковский счёт или почтовый индекс человека могут влиять на получаемую им помощь. Вы противостояли экономическим структурам, в которых огромные выгоды получают небольшая группа, а остальные несут издержки.

Искусственный интеллект может усугубить каждую из этих проблем.

Он может сосредоточить беспрецедентное богатство. Он может вытеснить работников, не делясь приростом производительности. Он может позволить наблюдение, манипуляцию и кибератаки. Он может разместить чрезвычайную власть в руках небольшого числа корпораций.

Эти риски оправдывают регулирование.

Но ИИ также может снизить одну из самых древних форм неравенства в человеческой цивилизации: неравенство доступа к экспертизе.

Мир, в котором каждый ребёнок может получать персонализированное обучение, каждый врач может пользоваться выдающейся аналитической поддержкой, каждый учёный может исследовать века накопленных знаний, а заболевания, игнорируемые из‑за небольших популяций пациентов, могут получать гораздо больше научного внимания, — стоит того, чтобы за него бороться.

Мы не должны выбирать между этим будущим и безопасностью ИИ.

Лучшей целью является сделать мощный ИИ трудным для злоупотребления, трудным для потери контроля, достаточно прозрачным для аудита, дорогим для безрассудного развертывания и широко доступным для социально полезных целей.

Запретите действия, угрожающие человечеству. Лицензируйте опасные возможности. Наказывайте небрежные и злонамеренные развертывания. Требуйте от компаний учитывать экологические издержки своей инфраструктуры. Защищайте работников. Делайте экономическую выгоду доступной общественности. И создайте независимого регулятора, способного даже самым крупным технологическим компаниям мира сказать «нет».

Но, пожалуйста, не определяйте запрещённый интеллект настолько широко, чтобы соответствие человеческой когнитивной способности во многих областях само по себе стало преступлением.

Ваша жизнь была посвящена расширению доступа к тому, что раньше было привилегией.

Продвинутый искусственный интеллект может стать самым мощным механизмом сосредоточения власти, который мы когда-либо создавали.

Или он может стать одним из самых великих инструментов для демократизации знаний, образования, медицины и научных возможностей.

Хорошее законодательство может помочь определить, какое будущее мы получим.