Мы больше не выравниваем ИИ. Мы выравниваем цивилизации

На протяжении многих лет основным вопросом в области искусственного интеллекта (ИИ) было, как выравнивать модели ИИ с человеческими ценностями. Исследователи пытались определить правила безопасности, этические принципы и механизмы контроля, которые направляют решения ИИ. Эта работа достигла значительного прогресса. Но теперь, когда эти системы ИИ становятся более способными и широко распространенными,焦点 выравнивания начинает смещаться. То, что началось как задача выравнивания одной модели с одним набором инструкций, теперь стало намного более крупной задачей выравнивания целых цивилизаций, которые используют эти системы на глобальном уровне. ИИ больше не является просто инструментом. Он эволюционирует в среду, где общества работают, общаются, ведут переговоры и конкурируют. В результате выравнивание больше не остается технической проблемой. Он стал цивилизационной проблемой. В этой статье я объясняю, почему выравнивание больше не является просто вопросом моделей и почему нам нужно начать думать в терминах цивилизаций, а не машин. Я также обсуждаю, как этот сдвиг влияет на наши обязанности и что он означает для глобального сотрудничества.

Чьи ценности ИИ действительно представляет?

Если вы спросите ИИ о чувствительном историческом событии, его ответ зависит от данных, которые он изучил. Если эти данные в основном поступают из западного интернета, ответ будет иметь западную предвзятость. Он будет отдавать приоритет индивидуализму, свободной речи и демократическим идеалам. Эти ценности хороши для многих людей. Но они не являются единственными ценностями в мире.

Пользователь в Сингапуре, пользователь в Эр-Рияде и пользователь в Сан-Франциско имеют разные определения того, что является “полезным” и что является “вредным”. В некоторых культурах социальная гармония более важна, чем абсолютная свобода слова. В других уважение к иерархии более важно, чем нарушение.

Когда компания из Кремниевой долины использует “Reinforcement Learning from Human Feedback” (RLHF), они нанимают людей, чтобы оценить ответы ИИ. Но кто эти люди? Какие у них убеждения? Если они выравнивают модель с американскими стандартами, они случайно строят американский культурный экспорт. Они строят цифрового дипломата, который навязывает правила одной конкретной цивилизации остальному миру.

Возникновение обратных связей

Проблема заключается не только в том, что ИИ отражает убеждения одной культуры. Это то, как эти убеждения могут изменить нас. Современные системы ИИ имеют потенциал формировать поведение отдельных лиц, организаций и даже наций. Они могут влиять на то, как мы думаем, работаем, доверяем и конкурируем. Это создает обратные связи между системами ИИ и человеческими обществами; мы обучаем ИИ, и ИИ формирует наше мышление и действия. Эти обратные связи становятся сильнее, поскольку ИИ становится более повсеместным. Чтобы увидеть, как работает эта обратная связь, рассмотрим два примера:

• Масштабное развертывание ИИ меняет социальное поведение, и социальное поведение меняет данные, которые обучают новые системы. Например, алгоритм рекомендаций может формировать то, что люди смотрят, читают и верят. Инструменты продуктивности меняют то, как команды сотрудничают и как студенты учатся. Эти сдвиги в поведении меняют закономерности данных в форме различных привычек просмотра, моделей коммуникации на рабочем месте или стилей письма. Когда эти данные поступают в будущие обучающие наборы данных, модели корректируют свои предположения и выходные данные соответственно. Поведение человека формирует модели, и модели, в свою очередь, формируют поведение человека.
• Автоматические инструменты принятия решений влияют на государственную политику, и государственная политика влияет на будущее обучение моделей. Например, многие правительства сейчас используют ИИ, чтобы предложить, где выделить ресурсы, такие как определение районов, которым требуется больше поддержки здравоохранения, или районов, которые могут иметь более высокий риск преступности. Когда политики принимают решения на основе этих рекомендаций, результаты этих решений позже становятся частью новых наборов данных. Со временем решения политики, сформированные ИИ, в конечном итоге формируют следующее поколение моделей ИИ.

Как только вы признаете эту обратную связь, становится ясно, что ИИ постепенно формирует и выравнивает цивилизации. В результате нации начинают задаваться вопросом: как они могут защитить свои ценности, интегрируя ИИ в свои общества и учреждения?

Появление суверенного ИИ

Эта задача выравнивания вызвала значительную реакцию со стороны правительств всего мира. Нации осознали, что зависимость от импортированного ИИ является риском для их суверенитета. Они не могут позволить себе иметь своих граждан, обученных, информированных и консультируемых черным ящиком, который думает как чужак.

Это осознание привело к возникновению “суверенного ИИ“. Франция инвестирует значительные средства в строительство моделей, которые говорят на французском языке и понимают французское право и культуру. Индия строит коренные модели ИИ, чтобы обеспечить их культурные ценности. Объединенные Арабские Эмираты и Китай строят модели ИИ, выравнивающиеся с их собственными национальными видениями.

Это новый военный парад. Это гонка за контроль над повествованием. Цивилизация, которая не имеет своего собственного ИИ, в конечном итоге потеряет свою собственную память. Если ваши дети задают машине вопрос, и машина отвечает логикой другой культуры, ваша культура начинает разрушаться. Это осознание, однако, может привести к образованию отдельных цифровых блоков. Мы можем в конечном итоге получить западный ИИ, китайский ИИ, индийский ИИ и так далее. Эти системы будут работать с разными фактами и моральными компасами. Эти разработки делают ясным, что если мы хотим создать единую, действительно выравненную модель ИИ, мы должны сначала найти способ выравнивать цивилизации.

Необходимость дипломатического ИИ

Традиционное выравнивание предполагает, что модель может быть выравнена путем тщательного обучения, подсказки и ограждения. Это мышление происходит из технического мышления ранних исследований безопасности ИИ. Но даже идеальное выравнивание модели не может решить задачи выравнивания цивилизаций. Выравнивание не может остаться стабильным, когда общества тянут в противоположные стороны. Если страны, компании и сообщества имеют конфликтующие цели, они будут толкать системы ИИ к отражению этих конфликтов. Эти ограничения показывают, что выравнивание не является только технической проблемой. Это проблема управления, культуры и координации. И эти проблемы требуют не только экспертов или разработчиков. Они включают целые цивилизации.

Итак, как мы двигаемся вперед? Если мы принимаем, что универсальное выравнивание невозможно, мы должны изменить свою стратегию. Нам нужно перестать искать техническое решение философской проблемы. Нам нужно начать думать как дипломаты. Нам нужно построить протоколы для “выравнивания цивилизаций”. Нам нужно выяснить, как ИИ может уважать убеждения и ценности общества, не навязывая ему убеждения других культур. Другими словами, нам нужно цифровое Организация Объединенных Наций для наших алгоритмов.

Это требует прозрачности. В настоящее время мы не знаем, какие ценности скрыты внутри глубоких слоев нейронной сети. Мы видим только выходные данные. Чтобы выравнивать цивилизации, нам нужно быть ясными о “Конституции” каждой модели. Модель должна быть в состоянии объявить свою предвзятость. Она должна быть в состоянии сказать: “Я обучен на этих данных, с этими правилами безопасности, отдающим приоритет этим ценностям”. Только когда предвзятость видна, мы можем доверять системе. Пользователь должен быть в состоянии переключаться между перспективами. Вы должны быть в состоянии задать вопрос и увидеть, как “западная” модель отвечает по сравнению с “восточной” моделью. Это превратит ИИ в инструмент для понимания, а не в инструмент для индоктринации.

Основная мысль

Мы слишком много времени беспокоились о Терминаторе. Реальный риск заключается не в том, что робот уничтожит нас. Реальный риск заключается в том, что робот заставит нас забыть, кто мы есть. Выравнивание не является кодом, который мы можем написать один раз и забыть. Это постоянные переговоры с моделями ИИ, чтобы сохранить их выравнивание с нашими убеждениями и ценностями. Это политический акт. Когда мы вступаем в эту следующую фазу интеллектуальной эпохи, нам нужно смотреть за пределы экрана. Нам нужно учитывать, как ИИ интерпретирует нашу историю, наши границы и наши убеждения. Мы строим умы, которые помогут нам управлять миром. Нам нужно убедиться, что эти умы уважают различия между цивилизациями.