Лидеры технологий подчеркивают риски ИИ и срочность строгого регулирования ИИ

Рост и развитие ИИ были экспоненциальными в последние годы. Согласно отчету Statista, к 2024 году мировой рынок ИИ сгенерирует доход в размере около 3000 миллиардов долларов, по сравнению с 126 миллиардами долларов в 2015 году. Однако лидеры технологий теперь предупреждают нас о различных рисках ИИ.

В частности, recentная волна генеративных моделей ИИ, таких как ChatGPT, ввела новые возможности в различных секторах, чувствительных к данным, таких как здравоохранение, образование, финансы и т. д. Эти разработки, основанные на ИИ, уязвимы из-за многих недостатков ИИ, которые злонамеренные агенты могут использовать.

Давайте обсудим, что говорят эксперты по ИИ о recentных разработках и подчеркнем потенциальные риски ИИ. Мы также кратко коснемся того, как эти риски можно управлять.

Лидеры технологий и их опасения, связанные с рисками ИИ

Джеффри Хинтон

Джеффри Хинтон – известный лидер в области ИИ (и крестный отец этой области), который недавно ушел из Google (GOOGL ), выразил свои опасения по поводу быстрого развития ИИ и его потенциальных опасностей. Хинтон считает, что чат-боты ИИ могут стать “довольно страшными”, если они превысят человеческий интеллект.

Хинтон говорит:

«Сейчас мы видим, что такие вещи, как GPT-4, превосходят человека по количеству общих знаний, и они превосходят их на большое расстояние. В плане рассуждений это не так хорошо, но они уже делают простые рассуждения. И учитывая темп прогресса, мы ожидаем, что все будет улучшаться довольно быстро. Поэтому нам нужно беспокоиться об этом».

Кроме того, он считает, что “плохие акторы” могут использовать ИИ для “плохих вещей”, таких как позволение роботам иметь свои подцели. Несмотря на свои опасения, Хинтон считает, что ИИ может принести краткосрочные выгоды, но мы также должны сильно инвестировать в безопасность и контроль ИИ.

Илон Маск

Участие Илона Маска в ИИ началось с его ранних инвестиций в DeepMind в 2010 году, затем он стал сооснователем OpenAI и включил ИИ в автономные транспортные средства Tesla.

Хотя он является энтузиастом ИИ, он часто поднимает вопросы о рисках ИИ. Маск говорит, что мощные системы ИИ могут быть более опасными для цивилизации, чем ядерное оружие. В интервью на Fox News в апреле 2023 года он сказал:

«ИИ более опасен, чем, скажем, плохой дизайн самолетов или производство автомобилей. В смысле того, что он имеет потенциал – хотя бы небольшой – но он не тривиален и имеет потенциал уничтожения цивилизации».

Кроме того, Маск поддерживает государственное регулирование ИИ, чтобы обеспечить безопасность от потенциальных рисков, хотя “это не так весело”.

Приостановить гигантские эксперименты с ИИ: Открытое письмо, поддержанное тысячами экспертов по ИИ

Институт будущего жизни опубликовал открытое письмо 22 марта 2023 года. Письмо призывает к временной шестимесячной паузе в разработке систем ИИ, более продвинутых, чем GPT-4. Авторы выражают свои опасения по поводу темпа, с которым системы ИИ разрабатываются, что представляет серьезные социально-экономические проблемы.

Кроме того, письмо гласит, что разработчики ИИ должны работать с политиками, чтобы задокументировать системы управления ИИ. По состоянию на июнь 2023 года, письмо было подписано более чем 31 000 разработчиков ИИ, экспертов и лидеров технологий. Заметные подписавшиеся включают Илона Маска, Стива Возняка (сооснователь Apple (AAPL )), Эмада Мостаке (генеральный директор Stability AI), Йошуа Бенджио (лауреат премии Тьюринга) и многих других.

Аргументы против приостановки разработки ИИ

Два известных лидера ИИ, Эндрю Нг и Ян Лекун, выступили против шестимесячной паузы в разработке продвинутых систем ИИ и считают, что пауза – это плохая идея.

Нг говорит, что хотя ИИ имеет некоторые риски, такие как предвзятость, ценность, создаваемая ИИ в таких областях, как образование, здравоохранение и коучинг, огромна.

Ян Лекун говорит, что исследования и разработки не должны быть остановлены, хотя продукты ИИ, которые доходят до конечного пользователя, могут быть регулируемыми.

Какие потенциальные опасности и непосредственные риски ИИ?

1. Вытеснение рабочих мест

Эксперты по ИИ считают, что интеллектуальные системы ИИ могут заменить когнитивные и творческие задачи. Инвестиционный банк Goldman Sachs оценивает, что около 300 миллионов рабочих мест будут автоматизированы генеративным ИИ.

Следовательно, должны быть правила разработки ИИ, чтобы не вызвать серьезный экономический спад. Должны быть образовательные программы для повышения квалификации и переподготовки сотрудников, чтобы справиться с этой проблемой.

2. Предвзятые системы ИИ

Предвзятости, распространенные среди людей по поводу пола, расы или цвета, могут непреднамеренно проникнуть в данные, используемые для обучения систем ИИ, что делает системы ИИ предвзятыми.

Например, в контексте набора персонала предвзятая система ИИ может отклонить резюме людей из конкретных этнических групп, создавая дискриминацию на рынке труда. В правоохранительных органах предвзятая прогностическая полиция могла бы непропорционально нацеливаться на конкретные районы или демографические группы.

Следовательно, необходимо иметь комплексную стратегию данных, которая решает риски ИИ, особенно предвзятость. Системы ИИ должны быть регулярно оцениваемы и аудированы, чтобы сохранить их справедливость.

3. Безопасные приложения ИИ

Автономные транспортные средства, медицинская диагностика и лечение, авиационные системы, контроль ядерных электростанций и т. д. – все это примеры безопасных приложений ИИ. Эти системы ИИ должны быть разработаны осторожно, поскольку даже незначительные ошибки могут иметь серьезные последствия для человеческой жизни или окружающей среды.

Например, неисправность программного обеспечения ИИ, называемого Maneuvering Characteristics Augmentation System (MCAS), частично ответственна за крушение двух Boeing 737 MAX, первое в октябре 2018 года, а затем в марте 2019 года. К сожалению, эти две катастрофы унесли жизни 346 человек.

Как мы можем преодолеть риски систем ИИ? – Ответственное развитие ИИ и соблюдение правил

Ответственный ИИ (RAI) означает разработку и развертывание справедливых, подотчетных, прозрачных и безопасных систем ИИ, которые обеспечивают конфиденциальность и следуют законным правилам и социальным нормам. Реализация RAI может быть сложной, учитывая широкое и быстрое развитие систем ИИ.

Однако крупные технологические компании разработали рамки RAI, такие как:

1. Ответственный ИИ Microsoft (MSFT )
2. Принципы ИИ Google
3. Доверенный ИИ IBM

Лаборатории ИИ по всему миру могут взять вдохновение из этих принципов или разработать свои собственные рамки ответственного ИИ, чтобы создать достоверные системы ИИ.

Соблюдение правил ИИ

Поскольку данные являются важным компонентом систем ИИ, организации и лаборатории, основанные на ИИ, должны соблюдать следующие правила, чтобы обеспечить безопасность, конфиденциальность и безопасность данных.

1. GDPR (Общий регламент по защите данных) – рамка защиты данных ЕС.
2. CCPA (Закон о потребительской конфиденциальности Калифорнии) – государственный закон Калифорнии о правах и защите потребителей.
3. HIPAA (Закон о портативности и подотчетности страхования здоровья) – законодательство США, защищающее медицинские данные пациентов.
4. Закон ЕС об ИИ, и Руководящие принципы по этике для достоверного ИИ – регулирование Европейской комиссии по ИИ.

Существуют различные региональные и местные законы, принятые различными странами, чтобы защитить своих граждан. Организации, которые не обеспечивают соблюдение правил по данным, могут столкнуться с серьезными штрафами. Например, GDPR установил штраф в размере 20 миллионов евро или 4% годовой прибыли за серьезные нарушения, такие как незаконная обработка данных, недоказанная согласность на данные, нарушение прав субъектов данных или незащищенная передача данных в международную организацию.

Развитие ИИ и регулирование – настоящее и будущее

С каждым месяцем развитие ИИ достигает беспрецедентных высот. Но сопровождающие правила и рамки регулирования ИИ отстают. Они должны быть более прочными и конкретными.

Лидеры технологий и разработчики ИИ звонят тревогу о рисках ИИ, если они не будут должным образом регулироваться. Исследования и разработки в области ИИ могут принести еще больше пользы в различных секторах, но ясно, что тщательное регулирование теперь обязательно.

Для получения дополнительной информации об ИИ посетите unite.ai.