Исследователи заявляют, что люди не смогут контролировать сверхинтеллектуальный ИИ

Каждый, кто знаком с искусственным интеллектом (ИИ), вероятно, слышал какую-то версию о том, что он в конечном итоге освободится от человеческого контроля. Это не только тема научно-фантастических фильмов, но и очень сильная возможность, которая беспокоит многих экспертов в отрасли. Многие из этих экспертов, включая ученых, выступают за то, чтобы мы начали готовиться к этой возможности и избегать ее любыми возможными способами.

Теперь международная команда исследователей подтвердила эту идею теоретическими расчетами. Команда, в которую входили ученые из Центра человека и машин при Институте человеческого развития имени Макса Планка, использовала эти расчеты, чтобы продемонстрировать, что невозможно будет контролировать сверхинтеллектуальный ИИ.

Исследование было недавно опубликовано в Журнале исследований искусственного интеллекта.

Сверхинтеллектуальная система ИИ

Страх перед сверхинтеллектуальной системой ИИ связан с тем, что такая система будет намного лучше человека. Она сможет не только учиться самостоятельно, но и получить доступ ко всем существующим данным и обработать их очень быстро.

Такое событие может привести к тому, что сверхинтеллектуальный ИИ возьмет под контроль все существующие машины в Интернете, и хотя он сможет и будет делать такие вещи, как лечить заболевания и решать другие серьезные проблемы, с которыми сталкивается человечество, риск того, что все может выйти из-под контроля, также очень высок.

Мануэль Себриан является соавтором исследования и руководителем группы цифровой мобилизации в Центре человека и машин при Институте человеческого развития имени Макса Планка.

“Сверхинтеллектуальная машина, контролирующая мир, звучит как научная фантастика. Но уже существуют машины, которые выполняют определенные важные задачи самостоятельно, без того, чтобы программисты полностью понимали, как они этому научились. Поэтому возникает вопрос, может ли это когда-нибудь стать неконтролируемым и опасным для человечества”, – говорит Себриан.

Контроль над системой

Существует два основных подхода к контролю над такой системой. Во-первых, люди могут ограничить возможности сверхинтеллектуального ИИ, ограничив его доступ к некоторым источникам данных, таким как весь Интернет. Система также может функционировать без контакта с внешним миром. Однако проблема заключается в том, что это сильно ограничит потенциал ИИ.

Система будет контролироваться, разрешая ей преследовать только те результаты, которые будут полезны человечеству, и это можно сделать, запрограммировав в нее этические принципы.

Исследование включало разработку теоретического алгоритма содержания, который предотвращает вред сверхинтеллектуального ИИ людям в любых обстоятельствах. Это можно достичь, сначала создав симуляцию поведения ИИ и обнаружив любое поведение, которое может быть вредным. Несмотря на эту перспективную теорию, текущий анализ показывает, что такой алгоритм не может быть разработан.

Ияд Рахван является директором Центра человека и машин.

“Если разбить проблему на базовые правила теоретической информатики, то оказывается, что алгоритм, который бы командовал ИИ не разрушать мир, может непреднамеренно остановить свою собственную работу. Если это произойдет, вы не будете знать, анализирует ли алгоритм содержания угрозу или остановился ли он, чтобы сдержать вредный ИИ. В результате это делает алгоритм содержания непригодным для использования”, – говорит Рахван.

Другой проблемой является то, что эксперты могут даже не осознавать, когда сверхинтеллектуальная машина достигнет этого состояния, в основном из-за того, что она будет умнее человека.