Модели и платформы ИИ

Лидеры технологий подчеркивают риски ИИ и срочность строгого регулирования ИИ

Haziqa Sajid
Добавьте Unite.AI в избранные источники в Google
Ключевые моментыТехнологические лидеры предупреждают, что превосходство ИИ над человеческим интеллектом…
Показать больше
  • Технологические лидеры предупреждают, что превосходство ИИ над человеческим интеллектом создаёт экзистенциальные риски, требующие срочных инвестиций в безопасность.
  • Более 300 миллионов рабочих мест находятся под угрозой автоматизации из-за генеративного ИИ, что требует масштабных программ переобучения сотрудников.
  • Предвзятые системы ИИ могут увековечить дискриминацию в сфере найма и правоприменения при отсутствии строгого аудита.

Рост и развитие ИИ были экспоненциальными в последние годы. Согласно отчету Statista, к 2024 году мировой рынок ИИ сгенерирует доход в размере около 3000 миллиардов долларов, по сравнению с 126 миллиардами долларов в 2015 году. Однако лидеры технологий теперь предупреждают нас о различных рисках ИИ.

В частности, недавняя волна генеративных моделей ИИ, таких как ChatGPT, ввела новые возможности в различных секторах, чувствительных к данным, таких как здравоохранение, образование, финансы и т. д. Эти разработки, основанные на ИИ, уязвимы из-за многих недостатков ИИ, которые злонамеренные агенты могут использовать.

Давайте обсудим, что говорят эксперты по ИИ о недавних разработках и подчеркнем потенциальные риски ИИ. Мы также кратко коснемся того, как можно управлять этими рисками.

Лидеры технологий и их опасения, связанные с рисками ИИ

Джеффри Хинтон

Джеффри Хинтон – известный лидер в области ИИ (и крестный отец этой области), который недавно ушел из Google (GOOGL ), выразил свои опасения по поводу быстрого развития ИИ и его потенциальных опасностей. Хинтон считает, что чат-боты ИИ могут стать “довольно страшными”, если они превысят человеческий интеллект.

Хинтон говорит:

«Сейчас мы видим, что системы вроде GPT-4 значительно превосходят человека по объему общих знаний. В рассуждениях они пока не так хороши, но уже способны к простым рассуждениям. Учитывая темп прогресса, мы ожидаем довольно быстрого улучшения. Поэтому нам нужно об этом беспокоиться».

Кроме того, он считает, что “злоумышленники” могут использовать ИИ для “плохих вещей”, таких как позволение роботам иметь свои подцели. Несмотря на свои опасения, Хинтон считает, что ИИ может принести краткосрочные выгоды, но мы также должны вкладывать значительные средства в безопасность и контроль ИИ.

Илон Маск

Участие Илона Маска в ИИ началось с его ранних инвестиций в DeepMind в 2010 году, затем он стал сооснователем OpenAI и включил ИИ в автономные транспортные средства Tesla.

Хотя он является энтузиастом ИИ, он часто поднимает вопросы о рисках ИИ. Маск говорит, что мощные системы ИИ могут быть более опасными для цивилизации, чем ядерное оружие. В интервью на Fox News в апреле 2023 года он сказал:

«ИИ опаснее, чем, скажем, ненадлежащее проектирование самолетов, их производство или обслуживание либо плохое производство автомобилей. Он обладает потенциалом уничтожения цивилизации — какой бы малой ни казалась эта вероятность, она не является пренебрежимо малой».

Кроме того, Маск поддерживает государственное регулирование ИИ, чтобы обеспечить безопасность от потенциальных рисков, хотя “это не так весело”.

Приостановить гигантские эксперименты с ИИ: Открытое письмо, поддержанное тысячами экспертов по ИИ

Институт будущего жизни опубликовал открытое письмо 22 марта 2023 года. Письмо призывает к временной шестимесячной паузе в разработке систем ИИ, более продвинутых, чем GPT-4. Авторы выражают свои опасения по поводу темпа, с которым системы ИИ разрабатываются, что представляет серьезные социально-экономические проблемы.

Кроме того, письмо гласит, что разработчики ИИ должны работать с политиками, чтобы задокументировать системы управления ИИ. По состоянию на июнь 2023 года, письмо было подписано более чем 31 000 разработчиков ИИ, экспертов и лидеров технологий. Заметные подписавшиеся включают Илона Маска, Стива Возняка (сооснователь Apple (AAPL )), Эмада Мостаке (генеральный директор Stability AI), Йошуа Бенджио (лауреат премии Тьюринга) и многих других.

Аргументы против приостановки разработки ИИ

Два известных лидера ИИ, Эндрю Нг и Ян Лекун, выступили против шестимесячной паузы в разработке продвинутых систем ИИ и считают, что пауза – это плохая идея.

Нг говорит, что хотя ИИ имеет некоторые риски, такие как предвзятость и концентрация власти, ценность, создаваемая ИИ в таких областях, как образование, здравоохранение и коучинг, отвечающий потребностям человека, огромна.

Ян Лекун говорит, что исследования и разработки не должны быть остановлены, хотя продукты ИИ, которые доходят до конечного пользователя, могут быть регулируемыми.

Какие потенциальные опасности и непосредственные риски ИИ?

Потенциальные опасности и непосредственные риски ИИ

1. Вытеснение рабочих мест

Эксперты по ИИ считают, что интеллектуальные системы ИИ могут заменить когнитивные и творческие задачи. Инвестиционный банк Goldman Sachs (GS ) оценивает, что около 300 миллионов рабочих мест будут автоматизированы генеративным ИИ.

Следовательно, должны быть правила разработки ИИ, чтобы не вызвать серьезный экономический спад. Должны быть образовательные программы для повышения квалификации и переподготовки сотрудников, чтобы справиться с этой проблемой.

2. Предвзятые системы ИИ

Предубеждения, распространенные среди людей по поводу пола, расы или цвета кожи, могут непреднамеренно проникнуть в данные, используемые для обучения систем ИИ, что делает системы ИИ предвзятыми.

Например, в контексте набора персонала предвзятая система ИИ может отклонить резюме людей из конкретных этнических групп, создавая дискриминацию на рынке труда. В правоохранительных органах предвзятая прогностическая полиция могла бы непропорционально нацеливаться на конкретные районы или демографические группы.

Следовательно, необходимо иметь комплексную стратегию данных, которая учитывает риски ИИ, особенно предвзятость. Системы ИИ должны регулярно оцениваться и проходить аудит, чтобы сохранить их справедливость.

3. Применения ИИ, критически важные для безопасности

Автономные транспортные средства, медицинская диагностика и лечение, авиационные системы, контроль ядерных электростанций и т. д. – все это примеры применений ИИ, критически важных для безопасности. Эти системы ИИ должны быть разработаны осторожно, поскольку даже незначительные ошибки могут иметь серьезные последствия для человеческой жизни или окружающей среды.

Например, неисправность программного обеспечения ИИ, называемого Maneuvering Characteristics Augmentation System (MCAS), частично ответственна за крушение двух Boeing 737 MAX, первое в октябре 2018 года, а затем в марте 2019 года. К сожалению, эти две катастрофы унесли жизни 346 человек.

Как мы можем преодолеть риски систем ИИ? – Ответственное развитие ИИ и соблюдение правил

Ответственное развитие ИИ и соблюдение правил

Ответственный ИИ (RAI) означает разработку и развертывание справедливых, подотчетных, прозрачных и безопасных систем ИИ, которые обеспечивают конфиденциальность и следуют законным правилам и социальным нормам. Реализация RAI может быть сложной, учитывая широкое и быстрое развитие систем ИИ.

Однако крупные технологические компании разработали рамки RAI, такие как:

  1. Ответственный ИИ Microsoft
  2. Принципы ИИ Google
  3. Доверенный ИИ IBM

Лаборатории ИИ по всему миру могут взять вдохновение из этих принципов или разработать свои собственные рамки ответственного ИИ, чтобы создать надежные системы ИИ.

Соблюдение правил ИИ

Поскольку данные являются важным компонентом систем ИИ, организации и лаборатории, основанные на ИИ, должны соблюдать следующие правила, чтобы обеспечить безопасность, конфиденциальность и безопасность данных.

  1. GDPR (Общий регламент по защите данных) – рамка защиты данных ЕС.
  2. CCPA (Закон о потребительской конфиденциальности Калифорнии) – закон штата Калифорния о правах на конфиденциальность и защите потребителей.
  3. HIPAA (Закон о переносимости медицинского страхования и подотчетности) – законодательство США, защищающее медицинские данные пациентов.
  4. Закон ЕС об ИИ, и Руководящие принципы по этике для надежного ИИ – регулирование Европейской комиссии по ИИ.

Существуют различные региональные и местные законы, принятые различными странами, чтобы защитить своих граждан. Организации, которые не обеспечивают соблюдение правил по данным, могут столкнуться с серьезными штрафами. Например, GDPR установил штраф в размере 20 миллионов евро или 4% годовой прибыли за серьезные нарушения, такие как незаконная обработка данных, неподтвержденное согласие на обработку данных, нарушение прав субъектов данных или незащищенная передача данных в международную организацию.

Развитие ИИ и регулирование – настоящее и будущее

С каждым месяцем развитие ИИ достигает беспрецедентных высот. Но сопровождающие правила и рамки регулирования ИИ отстают. Они должны быть более прочными и конкретными.

Лидеры технологий и разработчики ИИ бьют тревогу по поводу рисков ИИ, если они не будут должным образом регулироваться. Исследования и разработки в области ИИ могут принести еще больше пользы в различных секторах, но ясно, что тщательное регулирование теперь обязательно.

Для получения дополнительной информации об ИИ посетите unite.ai.

Haziqa Sajid

Haziqa занимается наукой о данных с обширным опытом написания технического контента для компаний в сферах ИИ и SaaS.