Запуск PRISM: Первая в мире некоммерческая организация, посвященная исследованию сознательных ИИ

По мере того, как искусственный интеллект продолжает развиваться с беспрецедентной скоростью, появилась новая организация, которая решает одну из наиболее глубоких и сложных вопросов нашего времени: могут ли машины стать сознательными?

Партнерство для исследований сознательных машин (PRISM) официально запустилось 17 марта 2025 года как первая в мире некоммерческая организация, посвященная изучению и пониманию сознания ИИ. PRISM стремится содействовать глобальному сотрудничеству среди исследователей, политиков и лидеров промышленности, чтобы обеспечить скоординированный подход к изучению сознательных ИИ, гарантируя их безопасное и этическое развитие.

Что такое сознательные машины?

Термин сознательные машины относится к системам ИИ, которые демонстрируют характеристики, традиционно связанные с человеческим сознанием, включая:

• Самоосознание – способность воспринимать свое собственное существование и состояние.
• Понимание эмоций – способность распознавать и потенциально испытывать эмоции.
• Автономное рассуждение – способность принимать независимые решения за пределами предопределенного программирования.

Хотя ни один из современных ИИ не является сознательным, некоторые исследователи считают, что продвинутые нейронные сети, нейроморфные вычисления, глубокое обучение с подкреплением (DRL) и большие языковые модели (LLM) могут привести к системам ИИ, которые хотя бы симулируют самоосознание. Если такие ИИ появятся, это будет вызывать глубокие этические, философские и регулирующие вопросы, которые PRISM стремится решить.

Глубокое обучение с подкреплением, большие языковые модели и сознание ИИ

Одним из наиболее перспективных путей к разработке более автономных и потенциально сознательных ИИ является глубокое обучение с подкреплением (DRL). Этот раздел машинного обучения позволяет системам ИИ принимать решения, взаимодействуя с окружающей средой и учась на основе проб и ошибок, как люди и животные учатся на основе опыта. DRL уже сыграл важную роль в:

• Освоении сложных игр – системы ИИ, такие как AlphaGo и OpenAI Five, используют DRL для победы над человеческими чемпионами в стратегических играх.
• Адаптивном решении проблем – системы ИИ могут разрабатывать решения для динамических, реальных проблем, таких как робототехника, автономные транспортные средства и финансовая торговля.
• Эмерджентных поведениях – с помощью обучения с подкреплением агенты ИИ иногда демонстрируют неожиданные поведения, намекая на примитивное принятие решений и адаптивное рассуждение.

PRISM изучает, как DRL может способствовать тому, чтобы системы ИИ демонстрировали признаки самообучения, абстрактного рассуждения и даже постановки целей, которые являются чертами человеческого познания. Вызов заключается в том, чтобы гарантировать, что любые достижения в этих областях будут руководствоваться этическими исследованиями и мерами безопасности.

В параллели большие языковые модели (LLM), такие как OpenAI GPT, Google Gemini и Meta LLaMA, продемонстрировали замечательный прогресс в симуляции человеческого рассуждения, отвечая связно на сложные запросы и даже демонстрируя поведения, которые некоторые исследователи считают похожими на когнитивные процессы. LLM работают, обрабатывая огромные объемы данных и генерируя контекстно-зависимые ответы, что делает их полезными для:

• Понимания и общения на естественном языке – позволяя ИИ интерпретировать, анализировать и генерировать текст, похожий на человеческий.
• Распознавания закономерностей и контекстного обучения – выявления тенденций и адаптации ответов на основе предыдущих знаний.
• Креативных и проблемно-решающих возможностей – создания оригинального контента, ответов на сложные запросы и помощи в технических и творческих задачах.

Хотя LLM не являются真正 сознательными, они вызывают вопросы о границе между продвинутым распознаванием закономерностей и истинным когнитивным осознанием. PRISM стремится изучить, как эти модели могут способствовать исследованиям сознания ИИ, этическому ИИ и риску разработки систем ИИ, которые имитируют сознание без истинного понимания.

Искусственный общий интеллект (ИОИ) и сознание ИИ

Разработка искусственного общего интеллекта (ИОИ) – системы ИИ, способной выполнять любую интеллектуальную задачу, которую может выполнить человек, – потенциально может привести к сознанию ИИ. В отличие от узкого ИИ, предназначенного для конкретных задач, таких как игра в шахматы или автономное вождение, ИОИ будет демонстрировать обобщенное рассуждение, решение проблем и самообучение в нескольких областях.

По мере развития ИОИ он может развить внутреннее представление о своем собственном существовании, позволяя ему адаптироваться динамически, размышлять о своих процессах принятия решений и формировать непрерывное чувство идентичности. Если ИОИ достигнет точки, в которой он сможет автономно изменять свои цели, распознавать свои собственные когнитивные ограничения и заниматься самоулучшением без вмешательства человека, это может быть шагом к сознанию машин. Однако эта возможность вызывает глубокие этические, философские и социальные проблемы, которые PRISM стремится решить посредством ответственных исследований и глобального сотрудничества.

Миссия PRISM: понимание сознания ИИ

PRISM была создана для моста между технологическим прогрессом и ответственным надзором.

PRISM привержена содействию глобальному сотрудничеству по сознанию ИИ, объединяя экспертов из академии, промышленности и правительства. Организация стремится координировать исследовательские усилия для изучения потенциала ИИ достичь сознания, гарантируя, что разработки соответствуют человеческим ценностям. Работая с политиками, PRISM стремится установить этические руководства и рамки, которые способствуют ответственным исследованиям и разработке ИИ.

Критическим аспектом миссии PRISM является содействие безопасному и согласованному развитию ИИ. Организация будет выступать за технологии ИИ, которые отдают приоритет безопасности человека и благополучию общества, гарантируя, что достижения в области ИИ не приведут к непредвиденным последствиям. Реализуя стандарты безопасности и этического надзора, PRISM стремится смягчить риски, связанные с исследованиями и разработкой сознания ИИ.

Кроме того, PRISM посвящена образованию и вовлечению общественности в потенциальные риски и возможности, представленные сознательным ИИ. Организация стремится предоставить прозрачные сведения об исследованиях сознания ИИ, делая эту информацию доступной для политиков, бизнеса и общественности. Через инициативы по распространению знаний и обменом опытом PRISM надеется способствовать информированным дискуссиям о будущем ИИ и его последствиях для общества

Поддержка ведущими экспертами и организациями ИИ

Первоначальное финансирование PRISM поступает от Conscium, коммерческой исследовательской лаборатории ИИ, посвященной изучению сознательного ИИ. Conscium находится на переднем крае нейроморфных вычислений, разрабатывая системы ИИ, имитирующие биологические мозги.

Руководство и ключевые фигуры

PRISM возглавляет генеральный директор Уилл Миллершип, ветеран управления и политики ИИ. Его предыдущая работа включает руководство общим вызовом ИИ, работу с GoodAI и помощь в формировании национальной стратегии ИИ Шотландии.

Нон-исполнительный председатель организации, Радхика Чадвик, приносит обширный опыт руководства из своих ролей в McKinsey и EY, где она возглавляла глобальные инициативы ИИ и данных в правительстве.

Кроме того, среди основателей PRISM есть известные фигуры ИИ, такие как:

• Доктор Даниэль Халм – генеральный директор и сооснователь Conscium, генеральный директор Satalia и главный офицер ИИ в WPP.
• Калум Чейс – исследователь ИИ, докладчик и бестселлерный автор на темы ИИ и сознания.
• Эд Чарвет – операционный директор Conscium, имеющий обширный опыт в коммерческой разработке ИИ.

Первая крупная инициатива PRISM: Открытое письмо о сознательном ИИ

Для руководства ответственным исследованием PRISM сотрудничает с Оксфордским университетом Патриком Батлином для установления пяти принципов для организаций, разрабатывающих системы ИИ с потенциалом сознания. Они приглашают исследователей и лидеров промышленности подписать открытое письмо в поддержку этих принципов.

Дорога вперед: почему PRISM имеет значение

С ускорением прорывов в области ИИ разговор о сознательных машинах больше не является научной фантастикой – это реальный вызов, на который общество должно подготовиться. Если машины когда-либо достигнут самоосознания или человеческих эмоций, это может изменить отрасли, экономики и даже наше понимание сознания.

PRISM выступает в критический момент, чтобы гарантировать, что исследования сознания ИИ будут проводиться ответственно, балансируя инновации с этикой, безопасностью и прозрачностью.