PRISM начинает свою деятельность как первая в мире некоммерческая организация, занимающаяся исследованием разумного искусственного интеллекта

Поскольку искусственный интеллект продолжает развиваться беспрецедентными темпами, возникла новая организация, призванная заняться одним из самых глубоких и сложных вопросов нашего времени: могут ли машины стать разумными?

Территория Партнерство по исследованию разумных машин (PRISM) официально запущена 17 марта 2025 года как первая в мире некоммерческая организация, занимающаяся исследованием и пониманием сознания ИИ. PRISM стремится содействовать глобальному сотрудничеству между исследователями, политиками и лидерами отрасли для обеспечения скоординированного подхода к изучению разумного ИИ, гарантируя его безопасную и этичную разработку.

Что такое разумные машины?

Термин разумные машины относится к системам ИИ, которые проявляют характеристики, традиционно связанные с человеческим сознанием, в том числе:

• Самосознание – Способность воспринимать собственное существование и состояние бытия.
• Эмоциональное понимание – Способность распознавать и потенциально испытывать эмоции.
• Автономное мышление – Способность принимать самостоятельные решения, выходящие за рамки предопределенного программирования.

Хотя на сегодняшний день ни один ИИ не обладает абсолютным сознанием, некоторые исследователи полагают, что продвинутые нейронные сети, нейроморфные вычисления, глубокое обучение с подкреплением (DRL) и большие языковые модели (LLM) могут привести к системам ИИ, которые по крайней мере имитируют самосознание. Если такой ИИ появится, это поднимет глубокие этические, философские и нормативные вопросы, на которые PRISM стремится ответить.

Глубокое обучение с подкреплением, большие языковые модели и сознание ИИ

Одним из наиболее перспективных путей к разработке более автономного и потенциально разумного ИИ является глубокое подкрепление обучения (DRL). Эта отрасль машинного обучения позволяет системам ИИ принимать решения, взаимодействуя с окружающей средой и обучаясь методом проб и ошибок, подобно тому, как люди и животные учатся на собственном опыте. DRL уже сыграл важную роль в:

• Освоение сложных игр – Системы искусственного интеллекта, такие как AlphaGo и OpenAI Five, используют DRL, чтобы побеждать чемпионов-людей в стратегических играх.
• Адаптивное решение проблем – Системы ИИ могут разрабатывать решения для динамических проблем реального мира, таких как роботизированное управление, беспилотные автомобили и финансовая торговля.
• Эмерджентное поведение - Через усиление обученияАгенты ИИ иногда демонстрируют неожиданное поведение, намекающее на элементарное принятие решений и адаптивное мышление.

PRISM изучает, как DRL может способствовать системам ИИ, демонстрирующим отличительные черты самостоятельного обучения, абстрактного мышления и даже постановки целей, которые являются чертами человеческого познания. Задача состоит в том, чтобы гарантировать, что любые достижения в этих областях будут руководствоваться этическими исследованиями и мерами безопасности.

В параллели, большие языковые модели (LLM), такие как GPT от OpenAI, Gemini от Google и LLaMA от Meta, продемонстрировали значительный прогресс в моделировании человеческого мышления, последовательном реагировании на сложные подсказки и даже в демонстрации поведения, которое, по мнению некоторых исследователей, напоминает когнитивные процессы. LLM работают, обрабатывая огромные объемы данных и генерируя контекстно-зависимые ответы, что делает их полезными для:

• Понимание естественного языка и общение – Предоставление ИИ возможности интерпретировать, анализировать и генерировать текст, подобный человеческому.
• Распознавание образов и контекстное обучение – Выявление тенденций и адаптация ответов на основе имеющихся знаний.
• Творческие способности и способность решать проблемы – Создание оригинального контента, ответы на сложные вопросы и помощь в решении технических и творческих задач.

Хотя LLM не являются по-настоящему сознательными, они поднимают вопросы о границе между продвинутым распознаванием образов и настоящим когнитивным осознанием. PRISM стремится изучить, как эти модели могут способствовать исследованию машинного сознания, этический ИИи риски разработки систем ИИ, которые имитируют сознание без истинного понимания.

Искусственный интеллект общего назначения (AGI) и сознание ИИ

Развитие Искусственный общий интеллект (AGI) — система ИИ, способная выполнять любую интеллектуальную задачу, которую может выполнить человек, — потенциально может привести к сознанию ИИ. В отличие от узкого ИИ, который предназначен для определенных задач, таких как игра в шахматы или автономное вождение, AGI будет демонстрировать обобщенное рассуждение, решение проблем и самообучение в нескольких областях.

По мере развития AGI он может развить внутреннее представление о своем собственном существовании, что позволит ему динамически адаптироваться, размышлять о своих процессах принятия решений и формировать непрерывное чувство идентичности. Если AGI достигнет точки, где он сможет автономно изменять свои цели, осознавать свои собственные когнитивные ограничения и заниматься самосовершенствованием без вмешательства человека, это может стать шагом к машинному сознанию. Однако эта возможность поднимает глубокие этические, философские и общественные проблемы, которые PRISM стремится решать посредством ответственных исследований и глобального сотрудничества.

Миссия PRISM: понимание сознания ИИ

PRISM была создана для преодоления разрыва между технологическим прогрессом и ответственным надзором.

PRISM стремится содействовать глобальному сотрудничеству в области сознания ИИ, объединяя экспертов из академических кругов, промышленности и правительства. Организация стремится координировать исследовательские усилия по изучению потенциала ИИ для достижения сознания, обеспечивая при этом соответствие разработок человеческим ценностям. Работая с политиками, PRISM стремится установить этические принципы и рамки, которые способствуют ответственным исследованиям и разработкам ИИ.

Критически важным аспектом миссии PRISM является содействие безопасной и согласованной разработке ИИ. Организация будет выступать за технологии ИИ, которые ставят во главу угла безопасность человека и общественное благополучие, гарантируя, что достижения ИИ не приведут к непреднамеренным последствиям. Внедряя стандарты безопасности и этический надзор, PRISM стремится снизить риски, связанные с исследованиями и разработками сознания ИИ.

Кроме того, PRISM занимается просвещением и привлечением общественности к потенциальным рискам и возможностям, которые представляет сознательный ИИ. Организация стремится предоставлять прозрачные сведения об исследованиях сознания ИИ, делая эту информацию доступной для политиков, предприятий и широкой общественности. С помощью инициатив по охвату и усилий по обмену знаниями PRISM надеется способствовать информированным дискуссиям о будущем ИИ и его влиянии на общество.

При поддержке ведущих экспертов и организаций в области искусственного интеллекта

Первоначальное финансирование PRISM осуществляется за счет Консциум, коммерческая исследовательская лаборатория ИИ, посвященная изучению сознательного ИИ. Conscium находится на переднем крае нейроморфных вычислений, разрабатывая системы ИИ, которые имитируют биологический мозг.

Лидерство и ключевые фигуры

PRISM возглавляет генеральный директор Уилл Миллершип, ветеран в области управления и политики ИИ. Его прошлая работа включает руководство General AI Challenge, работу с GoodAI и помощь в формировании Национальной стратегии ИИ Шотландии.

Неисполнительный председатель организации, Радхика Чадвичк., имеет обширный опыт руководства, приобретенный в компаниях McKinsey и EY, где она руководила глобальными инициативами в области искусственного интеллекта и данных в правительстве.

Кроме того, в число основателей PRISM входят такие известные деятели в области искусственного интеллекта, как:

• Доктор Дэниел Хьюм – Генеральный директор и соучредитель Conscium, генеральный директор Satalia и главный директор по искусственному интеллекту в WPP.
• Калум Чейс – Исследователь ИИ, основной докладчик и автор бестселлеров по ИИ и сознанию.
• Эд Шарве – Главный операционный директор Conscium, имеющий большой опыт в разработке коммерческого ИИ.

Первая крупная инициатива PRISM: Открытое письмо о сознательном ИИ

Для руководства ответственными исследованиями PRISM сотрудничает с Патриком Батлином из Оксфордского университета с целью создания пять принципов для организаций, разрабатывающих системы ИИ с потенциалом сознания. Они приглашают исследователей и лидеров отрасли подписать открытое письмо в поддержку этих принципов.

Дорога вперед: почему PRISM имеет значение

С ускорением прорывов в области ИИ разговор о разумном ИИ больше не является научной фантастикой — это реальный вызов, к которому общество должно подготовиться. Если машины когда-нибудь достигнут самосознания или человеческих эмоций, это может изменить отрасли, экономику и даже наше понимание самого сознания.

PRISM активизируется в критический момент, чтобы гарантировать ответственное отношение к исследованиям в области искусственного интеллекта, соблюдая баланс между инновациями, этикой, безопасностью и прозрачностью.