Лидеры мнений
Обоснованные опасения по поводу потенциальных рисков ChatGPT набирают обороты, но является ли пауза в разработке ИИ хорошим шагом?
Добавьте Unite.AI в избранные источники в Google
Хотя Илон Маск и другие мировые лидеры технологической отрасли призвали к паузе в разработке ИИ после выпуска ChatGPT, некоторые критики считают, что остановка разработки не является ответом. Эвангелист ИИ Эндрю Пери, компании ABBYY, считает, что остановка разработки похожа на попытку положить зубную пасту обратно в тюбик. Здесь он рассказывает нам, почему…
Приложения ИИ повсеместно распространены, затрагивая практически каждый аспект нашей жизни. Хотя остановка развития ИИ сейчас может быть маловероятной.
Существуют обоснованные опасения, требующие увеличения регулирующего надзора для сдерживания потенциально вредных последствий.
Недавно итальянское агентство по защите данных временно заблокировало использование ChatGPT по всей стране из-за проблем с конфиденциальностью, связанных с методом сбора и обработки личных данных, использованных для обучения модели, а также из-за отсутствия мер безопасности, которые подвергают детей ответам, «абсолютно не подходящим для их возраста и осведомленности».
Европейская организация потребителей (BEUC) призывает ЕС расследовать потенциально вредные последствия крупномасштабных языковых моделей, учитывая «рост опасений по поводу того, как ChatGPT и аналогичные чат-боты могут обманывать и манипулировать людьми». Эти системы ИИ требуют большего общественного внимания, и общественные власти должны восстановить контроль над ними.
В США Центр политики ИИ и цифровых технологий подал жалобу в Федеральную торговую комиссию, в которой утверждается, что ChatGPT нарушает раздел 5 Закона о федеральной торговой комиссии (FTC Act) (15 USC 45). Основанием для жалобы является то, что ChatGPT якобы не соответствует рекомендациям, изложенным в FTC для прозрачности и объяснимости систем ИИ. Была сделана ссылка на признание ChatGPT нескольких известных рисков, включая нарушение прав на конфиденциальность, генерацию вредного контента и распространение дезинформации.
Полезность крупномасштабных языковых моделей, таких как ChatGPT, неоспорима, но исследования показывают его потенциальную темную сторону. Он доказал, что может производить неверные ответы, поскольку основная модель ChatGPT основана на алгоритмах глубокого обучения, которые используют большие наборы данных из Интернета. В отличие от других чат-ботов, ChatGPT использует языковые модели, основанные на методах глубокого обучения, которые генерируют текст, подобный человеческим разговорам, и платформа «приходит к ответу, делая ряд предположений, что является частью причины, по которой он может утверждать неверные ответы, как если бы они были совершенно верными».
Кроме того, ChatGPT доказал, что может усиливать и усиливать предвзятость, в результате чего получаются «ответы, которые дискриминируют по гендеру, расе и национальным меньшинствам, что компания пытается смягчить». ChatGPT также может стать бонанзой для злонамеренных акторов, чтобы эксплуатировать неосведомленных пользователей, компрометируя их конфиденциальность и подвергая их атакам мошенников.
Эти опасения побудили Европейский парламент опубликовать комментарий, который подчеркивает необходимость дальнейшего укрепления текущих положений проекта закона ЕС об искусственном интеллекте (AIA), который все еще ожидает ратификации. Комментарий указывает, что текущий проект регулирования фокусируется на так называемых узких приложениях ИИ, состоящих из конкретных категорий высокорисковых систем ИИ, таких как набор персонала, кредитоспособность, занятость, правоохранительные органы и право на социальные услуги. Однако проект регулирования ЕС об ИИ не охватывает общего назначения ИИ, такие как крупномасштабные языковые модели, которые обеспечивают более продвинутые когнитивные возможности и которые могут «выполнять широкий спектр интеллектуальных задач». Существуют призывы расширить сферу действия проекта регулирования для включения отдельной высокорисковой категории систем общего назначения ИИ, требующих от разработчиков проведения тщательного ex ante тестирования соответствия перед размещением таких систем на рынке и постоянного мониторинга их производительности для потенциально непредвиденных вредных результатов.
Особенно полезное исследование привлекает внимание к этому пробелу, что регулирование ЕС об ИИ «в основном фокусируется на традиционных моделях ИИ, а не на новом поколении, рождение которого мы свидетели сегодня».
Он рекомендует четыре стратегии, которые регулирующие органы должны рассмотреть.
- Требовать от разработчиков таких систем регулярно сообщать об эффективности своих процессов управления рисками для смягчения вредных результатов.
- Бизнес, использующий крупномасштабные языковые модели, должен быть обязан раскрыть своим клиентам, что контент был сгенерирован ИИ.
- Разработчики должны подписаться на формальный процесс поэтапных релизов в рамках рамки управления рисками, предназначенной для защиты от потенциально непредвиденных вредных результатов.
- Положить на разработчиков бремя «смягчения риска у его корней» путем обязательного «проактивного аудита набора данных для обучения на искажения».
Фактор, который способствует рискам, связанным с разрушительными технологиями, является стремлением инноваторов к достижению первого преимущества путем принятия бизнес-модели «сначала отправить, затем исправить». Хотя OpenAI относительно прозрачен о потенциальных рисках ChatGPT, они выпустили его для широкого коммерческого использования с «покупателем, будьте осторожны» бременем на пользователей, чтобы взвесить и принять риски самостоятельно. Это может быть недопустимым подходом, учитывая повсеместное влияние систем разговорного ИИ. Проактивное регулирование, в сочетании с эффективными мерами по обеспечению соблюдения, должно быть приоритетом при работе с такой разрушительной технологией.
Искусственный интеллект уже проникает в практически каждый аспект нашей жизни, что означает, что пауза в разработке ИИ может подразумевать множество непредвиденных препятствий и последствий. Вместо того, чтобы внезапно нажать на тормоза, отраслевые и законодательные игроки должны сотрудничать в доброй вере для принятия действенных регулирующих актов, основанных на человеческих ценностях, таких как прозрачность, подотчетность и справедливость. Ссылаясь на существующее законодательство, такое как AIA, лидеры частного и государственного секторов могут разработать тщательные, глобально стандартизированные политики, которые предотвратят злонамеренное использование и смягчат негативные последствия, сохраняя искусственный интеллект в пределах улучшения человеческого опыта.
