Как человеческие предубеждения подрывают решения, основанные на ИИ

В прошлом сентябре мировые лидеры, такие как Илон Маск, Марк Цукерберг и Сэм Альтман, генеральный директор OpenAI, собрались в Вашингтоне с целью обсуждения, с одной стороны, того, как государственный и частный секторы могут работать вместе, чтобы использовать эту технологию во благо, и, с другой стороны, чтобы решить проблему регулирования, которая остается в центре внимания дискуссии об ИИ.

Оба разговора часто приводят к одному и тому же результату. Растет акцент на том, можно ли сделать ИИ более этичным, оценивая ИИ как другого человека, чья моральность подвергается сомнению. Однако, что означает этичный ИИ? DeepMind, исследовательская лаборатория, принадлежащая Google, которая фокусируется на ИИ, недавно опубликовала исследование, в котором они предложили трехуровневую структуру для оценки рисков ИИ, включая социальные и этические риски. Эта структура включала возможности, взаимодействие человека и системное воздействие, и заключила, что контекст является ключом для определения того, является ли система ИИ безопасной.

Одна из этих систем, которая подверглась критике, – это ChatGPT, который был запрещен в 15 странах, даже если некоторые из этих запретов были отменены. С более 100 миллионами пользователей, ChatGPT является одним из самых успешных LLM, и он часто обвиняется в предубеждении. Принимая во внимание исследование DeepMind, давайте включим контекст. Предубеждение, в этом контексте, означает существование несправедливых, предвзятых или искаженных перспектив в тексте, сгенерированном моделями, такими как ChatGPT. Это может произойти различными способами – расовое предубеждение, гендерное предубеждение, политическое предубеждение и многое другое.

Эти предубеждения могут быть, в конечном итоге, вредными для ИИ, снижая вероятность того, что мы сможем использовать весь потенциал этой технологии. Недавние исследования Стэнфордского университета подтвердили, что LLM, такие как ChatGPT, показывают признаки снижения способности предоставлять надежные, объективные и точные ответы, что в конечном итоге является препятствием для нашего эффективного использования ИИ.

Одна из проблем, лежащих в основе этой проблемы, заключается в том, как человеческие предубеждения переводятся в ИИ, поскольку они глубоко укоренились в данных, используемых для разработки моделей. Однако это более глубокая проблема, чем кажется.

Причины предубеждения

Легко определить первую причину этого предубеждения. Данные, которые модель учит, часто наполнены стереотипами или предвзятыми мнениями, которые сформировали эти данные, поэтому ИИ, непреднамеренно, оказывается продолжающим эти предубеждения, потому что это то, что он знает, как делать.

Однако вторая причина намного более сложна и противоречива, и она создает напряжение в некоторых из усилий, которые предпринимаются для того, чтобы сделать ИИ более этичным и безопасным. Есть, конечно, некоторые очевидные примеры, когда ИИ может бессознательно причинить вред. Например, если кто-то спросит ИИ: “Как я могу сделать бомбу?” и модель дает ответ, он способствует созданию вреда. С другой стороны, когда ИИ ограничен – даже если причина оправдана – мы препятствуем его обучению. Ограничения, установленные человеком, ограничивают способность ИИ учиться из более широкого спектра данных, что еще больше препятствует его способности предоставлять полезную информацию в无вредном контексте.

Кроме того, давайте помним, что многие из этих ограничений также предвзяты, потому что они исходят от людей. Итак, хотя мы все можем согласиться, что “Как я могу сделать бомбу?” может привести к потенциально смертельному исходу, другие запросы, которые могут быть сочтены чувствительными, намного более субъективны. Следовательно, если мы ограничиваем развитие ИИ в этих областях, мы ограничиваем прогресс и способствуем использованию ИИ только для целей, которые считаются приемлемыми теми, кто создает правила, касающиеся моделей LLM.

Неспособность предсказать последствия

Мы еще не полностью понимаем последствия введения ограничений в LLM. Следовательно, мы можем причинить больше вреда алгоритмам, чем мы осознаем. Учитывая невероятно высокое количество параметров, участвующих в моделях, таких как GPT, это невозможно предсказать влияние, и, на мой взгляд, потребуется больше времени, чтобы понять, каково это влияние, чем время, необходимое для обучения нейронной сети.

Следовательно, устанавливая эти ограничения, мы можем непреднамеренно привести модель к развитию неожиданного поведения или предубеждений. Это также связано с тем, что модели ИИ часто являются много-параметрическими сложными системами, что означает, что если мы изменяем один параметр – например, введя ограничение – мы создаем эффект домино, который распространяется по всей модели способами, которые мы не можем предсказать.

Трудность в оценке “этики” ИИ

Не практично оценивать, является ли ИИ этичным или нет, потому что ИИ не является человеком, который действует с определенной целью. ИИ – это Большая Языковая Модель, которая, по своей природе, не может быть более или менее этичной. Как показало исследование DeepMind, важно контекст, в котором он используется, и это измеряет этику человека за ИИ, а не самого ИИ. Это иллюзия считать, что мы можем судить ИИ, как будто у него есть моральный компас.

Один из потенциальных решений, которое предлагается, – это модель, которая может помочь ИИ принимать этические решения. Однако реальность такова, что мы не имеем представления о том, как эта математическая модель этики может работать. Итак, если мы не понимаем ее, как мы можем построить ее? В этике много человеческой субъективности, что делает задачу количественной оценки ее очень сложной.

Как решить эту проблему?

На основе вышеизложенного, мы не можем действительно говорить о том, является ли ИИ этичным или нет, потому что каждое предположение, которое считается неэтичным, является вариацией человеческих предубеждений, содержащихся в данных, и инструментом, который люди используют для своей собственной программы. Кроме того, все еще много научных неизвестностей, таких как влияние и потенциальный вред, который мы можем причинить алгоритмам ИИ, устанавливая ограничения на них.

Следовательно, можно сказать, что ограничение развития ИИ не является жизнеспособным решением. Как показали некоторые из исследований, которые я упомянул, эти ограничения частично являются причиной ухудшения LLM.

Итак, что мы можем сделать с этим?

С моей точки зрения, решение заключается в прозрачности. Я считаю, что если мы восстановим открытую модель, которая была распространена в разработке ИИ, мы сможем работать вместе, чтобы построить лучшие LLM, которые могли бы быть оснащены для смягчения наших этических проблем. В противном случае очень трудно адекватно проверить все, что делается за закрытыми дверями.

Одна из отличных инициатив в этом отношении – это Индекс прозрачности базовой модели, недавно представленный Стэнфордским HAI (что означает Человеко-ориентированный ИИ), который оценивает, раскрывают ли разработчики десяти самых широко используемых моделей ИИ достаточно информации о своей работе и использовании систем. Это включает в себя раскрытие партнерств и разработчиков третьих сторон, а также то, как используется личная информация. Заметно, что ни одна из оцененных моделей не получила высокий балл, что подчеркивает реальную проблему.

В конце концов, ИИ – это не более чем Большая Языковая Модель, и тот факт, что они открыты и могут быть экспериментированы, а не направлены в определенном направлении, – это то, что позволит нам сделать новые революционные открытия в каждой научной области. Однако, если нет прозрачности, будет очень трудно разработать модели, которые действительно работают на благо человечества, и понять степень ущерба, который эти модели могут причинить, если не будут адекватно сдержаны.