Искусственный интеллект
Лидеры технологической отрасли подчеркивают риски ИИ и срочность разработки надежных правил регулирования ИИ
Рост и развитие ИИ были экспоненциальными за последние несколько лет. Согласно отчету Statista, к 2024 году мировой рынок ИИ сгенерирует впечатляющий доход в размере около 3000 миллиардов долларов, по сравнению с 126 миллиардами долларов в 2015 году. Однако лидеры технологической отрасли теперь предупреждают нас о различных рисках ИИ.
Особенно recentная волна генеративных моделей ИИ, таких как ChatGPT, ввела новые возможности в различных данных чувствительных секторах, таких как здравоохранение, образование, финансы и т. д. Эти разработки, поддержанные ИИ, уязвимы из-за многих недостатков ИИ, которые злонамеренные агенты могут раскрыть.
Давайте обсудим, что эксперты по ИИ говорят о recentных разработках и подчеркнем потенциальные риски ИИ. Мы также кратко коснемся того, как эти риски можно управлять.
Лидеры технологической отрасли и их проблемы, связанные с рисками ИИ
Джеффри Хинтон
Джеффри Хинтон – известный лидер технологической отрасли (и крестный отец этой области), который недавно ушел из Google, выразил свои опасения о быстром развитии ИИ и его потенциальных опасностях. Хинтон считает, что чат-боты ИИ могут стать “довольно страшными”, если они превысят человеческий интеллект.
Хинтон говорит:
“Сейчас мы видим вещи, такие как GPT-4, которые превосходят человека по количеству общих знаний, и они превосходят их очень сильно. В плане рассуждений это не так хорошо, но оно уже делает простые рассуждения. И учитывая темп прогресса, мы ожидаем, что все будет улучшаться довольно быстро. Поэтому нам нужно беспокоиться об этом.”
Кроме того, он считает, что “плохие акторы” могут использовать ИИ для “плохих вещей”, таких как разрешение роботам иметь свои подцели. Несмотря на свои опасения, Хинтон считает, что ИИ может принести краткосрочные выгоды, но мы также должны сильно инвестировать в безопасность и контроль ИИ.
Илон Маск
Участие Илона Маска в ИИ началось с его ранних инвестиций в DeepMind в 2010 году, затем он стал сооснователем OpenAI и включил ИИ в автономные транспортные средства Tesla.
Хотя он энтузиастически относится к ИИ, он часто поднимает вопросы о рисках ИИ. Маск говорит, что мощные системы ИИ могут быть более опасными для цивилизации, чем ядерное оружие. В интервью на Fox News в апреле 2023 года он сказал:
“ИИ более опасен, чем, скажем, плохо управляемый дизайн самолетов или производство или плохое производство автомобилей. В смысле того, что он имеет потенциал – хотя бы небольшую вероятность – но это не тривиально и имеет потенциал уничтожения цивилизации.”
Кроме того, Маск поддерживает государственное регулирование ИИ, чтобы обеспечить безопасность от потенциальных рисков, хотя “это не так весело”.
Пауза гигантских экспериментов по ИИ: Открытое письмо, поддержанное тысячами экспертов по ИИ
Институт будущего жизни опубликовал открытое письмо 22 марта 2023 года. Письмо призывает к временной шестимесячной паузе в разработке систем ИИ, более продвинутых, чем GPT-4. Авторы выражают свои опасения о темпе, с которым системы ИИ разрабатываются, что представляет серьезные социально-экономические проблемы.
Кроме того, письмо гласит, что разработчики ИИ должны работать с политиками, чтобы документировать системы управления ИИ. По состоянию на июнь 2023 года письмо было подписано более чем 31 000 разработчиков ИИ, экспертов и лидеров технологической отрасли. Заметные подписанты включают Илона Маска, Стива Возняка (сооснователь Apple), Эмада Мостаке (генеральный директор Stability AI), Йошуа Бенджио (лауреат премии Тьюринга) и многих других.
Противоречивые аргументы о приостановке разработки ИИ
Два известных лидера ИИ, Эндрю Нг и Ян Лекун, выступили против шестимесячной паузы в разработке продвинутых систем ИИ и считают паузу плохой идеей.
Нг говорит, что хотя ИИ имеет некоторые риски, такие как предвзятость, концентрация власти и т. д., но ценность, созданная ИИ в таких областях, как образование, здравоохранение и наставничество, огромна.
Лекун говорит, что исследования и разработки не должны останавливаться, хотя продукты ИИ, которые достигают конечного пользователя, могут быть регулируемыми.
Какие потенциальные опасности и непосредственные риски ИИ?
1. Вытеснение рабочих мест
Эксперты по ИИ считают, что интеллектуальные системы ИИ могут заменить когнитивные и творческие задачи. Инвестиционный банк Goldman Sachs оценивает, что около 300 миллионов рабочих мест будут автоматизированы генеративным ИИ.
Следовательно, должно быть регулирование разработки ИИ, чтобы оно не вызывало серьезного экономического спада. Должны быть образовательные программы для повышения квалификации и переподготовки сотрудников, чтобы они могли справиться с этой проблемой.
2. Предвзятые системы ИИ
Предвзятости, распространенные среди людей по гендеру, расе или цвету, могут непреднамеренно проникнуть в данные, используемые для обучения систем ИИ, что в конечном итоге делает системы ИИ предвзятыми.
Например, в контексте набора персонала предвзятая система ИИ может отклонить резюме людей из конкретных этнических групп, создавая дискриминацию на рынке труда. В правоохранительных органах предвзятая прогностическая полиция могла бы непропорционально нацеливаться на конкретные кварталы или демографические группы.
Следовательно, необходимо иметь комплексную стратегию данных, которая решает риски ИИ, особенно предвзятость. Системы ИИ должны регулярно оцениваться и аудироваться, чтобы они оставались справедливыми.
3. Безопасно-критические применения ИИ
Автономные транспортные средства, медицинская диагностика и лечение, авиационные системы, контроль ядерных электростанций и т. д. являются примерами безопасно-критических применений ИИ. Эти системы ИИ должны разрабатываться осторожно, поскольку даже незначительные ошибки могут иметь серьезные последствия для человеческой жизни или окружающей среды.
Например, неисправность программного обеспечения ИИ под названием Maneuvering Characteristics Augmentation System (MCAS) частично приписывается крушению двух Boeing 737 MAX, первому в октябре 2018 года, а затем в марте 2019 года. К сожалению, две катастрофы унесли жизни 346 человек.
Как мы можем преодолеть риски систем ИИ? – Ответственное развитие ИИ и соблюдение правил
Ответственный ИИ (RAI) означает разработку и развертывание справедливых, подотчетных, прозрачных и безопасных систем ИИ, которые обеспечивают конфиденциальность и следуют правовым правилам и социальным нормам. Реализация RAI может быть сложной, учитывая широкое и быстрое развитие систем ИИ.
Однако крупные технологические компании разработали рамки RAI, такие как:
Лаборатории ИИ по всему миру могут взять вдохновение из этих принципов или разработать свои собственные рамки ответственного ИИ, чтобы создать достоверные системы ИИ.
Соблюдение правил ИИ
Поскольку данные являются неотъемлемой частью систем ИИ, организации и лаборатории, основанные на ИИ, должны соблюдать следующие правила, чтобы обеспечить безопасность, конфиденциальность и безопасность данных.
- Общий регламент по защите данных (GDPR) – рамка защиты данных ЕС.
- Закон о конфиденциальности потребителей Калифорнии (CCPA) – закон штата Калифорния о правах на конфиденциальность и защите потребителей.
- Закон о портативности и подотчетности медицинского страхования (HIPAA) – законодательство США, которое защищает медицинские данные пациентов.
- Закон ЕС об ИИ, и Руководящие принципы этики для достоверного ИИ – регулирование ИИ Европейской комиссии.
Существуют различные региональные и местные законы, принятые разными странами для защиты своих граждан. Организации, которые не обеспечивают соблюдение правил, связанных с данными, могут столкнуться с серьезными штрафами. Например, GDPR установила штраф в размере 20 миллионов евро или 4% годовой прибыли за серьезные нарушения, такие как незаконная обработка данных, неподтвержденное согласие на данные, нарушение прав субъектов данных или непротected передача данных международной организации.
Разработка ИИ и правила – настоящее и будущее
С каждым месяцем достижения ИИ достигают беспрецедентных высот. Но сопровождающие правила и рамки управления ИИ отстают. Они должны быть более прочными и конкретными.
Лидеры технологической отрасли и разработчики ИИ бьют тревогу о рисках ИИ, если они не будут должным образом регулироваться. Исследования и разработки в области ИИ могут принести ценность во многих секторах, но rõчно, что тщательное регулирование сейчас обязательно.
Для получения дополнительного контента, связанного с ИИ, посетите unite.ai.
