Лидеры мнений
Обеспокоенность по поводу потенциальных рисков ChatGPT набирает обороты, но является ли пауза в разработке ИИ хорошим шагом?
Хотя Илон Маск и другие мировые лидеры технологической отрасли призвали к паузе в разработке ИИ после выпуска ChatGPT, некоторые критики считают, что остановка разработки не является ответом. Эвангелист ИИ Эндрю Пери, компании ABBYY, занимающейся интеллектуальной автоматизацией, считает, что сделать перерыв – это все равно, что положить зубную пасту обратно в тюбик. Здесь он рассказывает нам, почему…
Приложения ИИ повсеместно распространены, затрагивая практически каждый аспект нашей жизни. Хотя похвально, но торможение сейчас может оказаться невозможным.
Существуют определенные ощутимые опасения, требующие усиления регулирующего надзора для сдерживания потенциально вредных последствий.
Недавно итальянское агентство по защите данных временно заблокировало использование ChatGPT по всей стране из-за проблем с конфиденциальностью, связанных с методом сбора и обработки личных данных, использованных для обучения модели, а также из-за отсутствия гарантий, подвергающих детей ответам “абсолютно не подходящим для их возраста и осведомленности”.
Европейская организация потребителей (BEUC) призывает ЕС расследовать потенциально вредные последствия крупномасштабных языковых моделей, учитывая “растущие опасения по поводу того, как ChatGPT и подобные чат-боты могут обманывать и манипулировать людьми”. Эти системы ИИ требуют большего общественного внимания, и общественные власти должны восстановить контроль над ними.
В США Центр политики ИИ и цифровых технологий подал жалобу в Федеральную торговую комиссию, заявив, что ChatGPT нарушает раздел 5 Закона о федеральной торговой комиссии (FTC Act) (15 USC 45). Основанием для жалобы является то, что ChatGPT якобы не соответствует рекомендациям FTC по прозрачности и объяснимости систем ИИ. Была сделана ссылка на признание ChatGPT нескольких известных рисков, включая нарушение прав на конфиденциальность, генерирование вредного контента и распространение дезинформации.
Полезность крупномасштабных языковых моделей, таких как ChatGPT, неоспорима, но исследования показывают его потенциальную темную сторону. Он доказал, что производит неверные ответы, поскольку основная модель ChatGPT основана на алгоритмах глубокого обучения, которые используют большие наборы данных из интернета. В отличие от других чат-ботов, ChatGPT использует языковые модели на основе методов глубокого обучения, которые генерируют текст, подобный человеческим разговорам, и платформа “приходит к ответу, делая ряд предположений, что является частью причины, по которой он может утверждать неверные ответы, как если бы они были совершенно верными”.
Кроме того, ChatGPT доказал, что он усиливает и усиливает предвзятость, в результате чего получаются “ответы, которые дискриминируют по гендеру, расе и национальным меньшинствам, что компания пытается смягчить”. ChatGPT также может стать бонанзой для злонамеренных акторов, чтобы эксплуатировать неосведомленных пользователей, компрометируя их конфиденциальность и подвергая их атакам мошенников.
Эти опасения побудили Европейский парламент опубликовать комментарий, который подчеркивает необходимость дальнейшего укрепления текущих положений проекта закона ЕС об искусственном интеллекте (AIA), который еще не ратифицирован. Комментарий указывает, что текущий проект регулирования фокусируется на так называемых узких приложениях ИИ, состоящих из конкретных категорий высокорисковых систем ИИ, таких как набор, кредитоспособность, трудоустройство, правоохранительные органы и право на социальные услуги. Однако проект регулирования AIA ЕС не охватывает общего назначения ИИ, такие как крупномасштабные языковые модели, которые обеспечивают более продвинутые когнитивные возможности и которые могут “выполнять широкий спектр интеллектуальных задач”. Существуют призывы к расширению сферы действия проекта регулирования для включения отдельной высокорисковой категории систем ИИ общего назначения, требующих от разработчиков провести тщательное тестирование на соответствие перед выпуском таких систем на рынок и непрерывно контролировать их производительность для потенциально непредвиденных вредных последствий.
Особенно полезным является исследование, которое привлекает внимание к этому пробелу, что регулирование AIA ЕС “в основном фокусируется на традиционных моделях ИИ, а не на новом поколении, рождение которого мы сейчас наблюдаем”.
Он рекомендует четыре стратегии, которые регулирующие органы должны рассмотреть.
- Требовать от разработчиков таких систем регулярно сообщать об эффективности их процессов управления рисками для смягчения вредных последствий.
- Бизнес, использующий крупномасштабные языковые модели, должен быть обязан раскрыть своим клиентам, что контент был сгенерирован ИИ.
- Разработчики должны подписаться на формальный процесс поэтапных выпусков, в рамках рамок управления рисками, предназначенных для защиты от потенциально непредвиденных вредных последствий.
- Положить бремя на разработчиков “смягчить риск в его корне” путем “проактивного аудита набора данных для обучения на искажения”.
Фактор, который увековечивает риски, связанные с разрушительными технологиями, – это стремление инноваторов к достижению первого преимущества путем принятия бизнес-модели “сначала выпустить, а затем исправить”. Хотя OpenAI несколько прозрачен о потенциальных рисках ChatGPT, они выпустили его для широкого коммерческого использования с “покупатель, берегись” бременем на пользователей, чтобы взвесить и принять риски самостоятельно. Такой подход может оказаться неприемлемым, учитывая повсеместное влияние систем разговорного ИИ. Проактивное регулирование, в сочетании с эффективными мерами принуждения, должно быть приоритетным при работе с такой разрушительной технологией.
Искусственный интеллект уже проникает почти во все части нашей жизни, что означает, что пауза в разработке ИИ может подразумевать множество непредвиденных препятствий и последствий. Вместо того, чтобы внезапно тормозить, отраслевые и законодательные игроки должны сотрудничать в доброй вере, чтобы ввести действенное регулирование, основанное на человеческих ценностях, таких как прозрачность, подотчетность и справедливость. Ссылаясь на существующее законодательство, такое как AIA, лидеры частного и публичных секторов могут разработать тщательные, глобально стандартизированные политики, которые предотвратят злонамеренное использование и смягчат негативные последствия, тем самым giữя искусственный интеллект в пределах улучшения человеческого опыта.
