Является ли ИИ угрозой существованию?

Когда речь идет об искусственном интеллекте (ИИ), часто обсуждается вопрос о том, является ли ИИ угрозой существованию. Ответ требует понимания технологии, лежащей в основе машинного обучения (МО), и признания того, что люди имеют тенденцию антропоморфизировать. Мы рассмотрим два типа ИИ: искусственный узкий интеллект (ИУИ), который доступен сейчас и вызывает беспокойство, и угрозу, наиболее часто связанную с апокалиптическими представлениями ИИ, которая является искусственным общим интеллектом (ИОИ).

Угрозы искусственного узкого интеллекта

Чтобы понять, что такое ИУИ, нужно просто понять, что каждый приложение ИИ, доступное сейчас, является формой ИУИ. Эти области ИИ имеют узкую область специализации, например, автономные транспортные средства используют ИИ, предназначенный исключительно для перемещения транспортного средства из точки А в точку Б. Другой тип ИУИ может быть шахматной программой, оптимизированной для игры в шахматы, и даже если шахматная программа непрерывно улучшается с помощью усиления обучения, она никогда не сможет управлять автономным транспортным средством.

Сосредоточившись на своей операции, системы ИУИ не могут использовать обобщенное обучение, чтобы захватить мир. Это хорошая новость; плохая новость заключается в том, что из-за своей зависимости от человеческого оператора система ИИ подвержена предвзятому данным, человеческим ошибкам или даже хуже, злонамеренному человеческому оператору.

Наблюдение ИИ

Возможно, нет большей опасности для человечества, чем использование ИИ для вторжения в частную жизнь, и в некоторых случаях использование ИИ-наблюдения для полного предотвращения перемещения людей. Китай, Россия и другие страны приняли регулирование во время COVID-19, чтобы позволить им контролировать и управлять перемещением своих популяций. Это законы, которые, как только приняты, трудно отменить, особенно в обществах с авторитарными лидерами.

В Китае камеры установлены снаружи домов людей, и в некоторых случаях внутри дома. Каждый раз, когда член семьи покидает дом, ИИ отслеживает время прибытия и отъезда, и если необходимо, оповещает власти. Как если бы этого было недостаточно, с помощью технологии распознавания лиц Китай может отслеживать перемещение каждого человека каждый раз, когда он идентифицируется камерой. Это дает абсолютную власть сущности, контролирующей ИИ, и абсолютно нет возможности для граждан.

Почему этот сценарий опасен, заключается в том, что коррумпированные правительства могут тщательно контролировать перемещения журналистов, политических оппонентов или любого, кто осмеливается поставить под сомнение власть правительства. Легко понять, как журналисты и граждане будут осторожны критиковать правительства, когда каждое их перемещение контролируется.

Существует много городов, которые борются за предотвращение проникновения технологии распознавания лиц в свои города. Заметно, что Портленд, Орегон недавно принял закон, который блокирует использование технологии распознавания лиц в городе без необходимости. Хотя эти изменения в регулировании могут остаться незамеченными для общественности, в будущем эти регулирования могут стать разницей между городами, которые предлагают некоторую автономию и свободу, и городами, которые кажутся угнетающими.

Автономное оружие и беспилотники

Более 4500 исследователей ИИ призывают к запрету на автономное оружие и создали веб-сайт “Запретить летальное автономное оружие”. Группа имеет многих известных некоммерческих организаций в качестве подписавшихся, таких как Human Rights Watch, Amnesty International и Институт будущего жизни, который сам имеет отличный научный консультативный совет, включая Илона Маска, Ника Бострома и Стюарта Рассела.

Прежде чем продолжить, я поделюсь этой цитатой из Института будущего жизни, которая лучше всего объясняет, почему есть веская причина для беспокойства: “В отличие от полуавтономных оружий, которые требуют человеческого надзора для обеспечения того, чтобы каждая цель была подтверждена как этически и юридически легитимная, такие полностью автономные оружия выбирают и поражают цели без человеческого вмешательства, представляя собой полную автоматизацию смертельного вреда.”

Сейчас умные бомбы развертываются с целью, выбранной человеком, и бомба затем использует ИИ для планирования маршрута и поражения цели. Проблема заключается в том, что происходит, когда мы решаем полностью исключить человека из уравнения?

Когда ИИ выбирает, какие люди нужно поражать, а также какой тип побочного ущерба считается приемлемым, мы можем перейти точку невозврата. Это почему так много исследователей ИИ выступают против исследования чего-либо, связанного с автономным оружием.

Существует несколько проблем с попыткой просто заблокировать исследования автономного оружия. Первая проблема заключается в том, что даже если развитые страны, такие как Канада, США и большинство Европы, решат согласиться с запретом, это не означает, что страны-изгои, такие как Китай, Северная Корея, Иран и Россия, будут играть по правилам. Вторая и более крупная проблема заключается в том, что исследования и применения ИИ, предназначенные для использования в одной области, могут быть использованы в совершенно другой области.

Например, компьютерное зрение непрерывно улучшается и важно для разработки автономных транспортных средств, точной медицины и других важных случаев использования. Оно также фундаментально важно для обычных беспилотников или беспилотников, которые могут быть модифицированы для того, чтобы стать автономными. Один из потенциальных случаев использования передовой технологии беспилотников заключается в разработке беспилотников, которые могут контролировать и бороться с лесными пожарами. Это полностью исключит пожарных из зоны опасности. Чтобы сделать это, нужно построить беспилотники, которые могут летать в зону опасности, ориентироваться в условиях низкой или нулевой видимости и сбрасывать воду с безупречной точностью. Это не слишком далеко, чтобы использовать эту же технологию в автономном беспилотнике, предназначенном для выбора людей.

Это опасное положение, и на данный момент никто полностью не понимает последствий продвижения или попытки блокировать разработку автономного оружия. Тем не менее, это что-то, на что нам нужно обратить внимание, и улучшение защиты информаторов может позволить тем, кто работает в этой области, сообщать о злоупотреблениях.

Злонамеренный оператор в стороне, что происходит, если предвзятость ИИ проникает в технологию ИИ, предназначенную для автономного оружия?

Предвзятость ИИ

Одной из наиболее непublicированных угроз ИИ является предвзятость ИИ. Это просто понять, поскольку большая часть ее непреднамеренна. Предвзятость ИИ проникает, когда ИИ рассматривает данные, поданные ему людьми, используя распознавание образов из данных, которые были поданы ИИ, ИИ неправильно приходит к выводам, которые могут иметь негативные последствия для общества. Например, ИИ, который был подан литературой из прошлого века о том, как определить медицинский персонал, может прийти к нежелательному сексистскому выводу, что женщины всегда медсестры, а мужчины всегда врачи.

Более опасный сценарий – когда ИИ, используемый для приговора осужденных преступников, предвзят в отношении вынесения более длительных тюремных сроков для меньшинств. Алгоритмы оценки риска преступности ИИ просто изучают закономерности в данных, которые были поданы в систему. Эти данные указывают на то, что исторически определенные меньшинства более склонны к рецидиву, даже когда это связано с плохими наборами данных, которые могут быть подвержены влиянию полицейского расового профилирования. Предвзятый ИИ затем укрепляет негативные человеческие политики. Это почему ИИ должен быть руководством, никогда не судьей и присяжным.

Возвращаясь к автономному оружию, если у нас есть ИИ, который предвзят против определенных этнических групп, он может выбрать поражение определенных людей на основе предвзятых данных, и он может пойти так далеко, что обеспечит, чтобы любой тип побочного ущерба затронул определенные демографические группы меньше, чем другие. Например, когда цели террориста, прежде чем атаковать, он может подождать, пока террорист не будет окружен людьми, следующими исламу, вместо христиан.

К счастью, было доказано, что ИИ, разработанный разнообразными командами, менее подвержен предвзятости. Это причина достаточно для компаний попытаться, когда это возможно, нанять разнообразную и всестороннюю команду.

Угрозы искусственного общего интеллекта

Следует отметить, что хотя ИИ продвигается экспоненциально, мы еще не достигли ИОИ. Когда мы достигнем ИОИ, является предметом дискуссии, и у каждого есть разный ответ на временную шкалу. Я лично придерживаюсь взглядов Рэя Курцвейла, изобретателя, футуролога и автора “Сингулярность уже близко”, который считает, что мы достигнем ИОИ к 2029 году.

ИОИ будет самой трансформационной технологией в мире. В течение недель после того, как ИИ достигнет человеческого уровня интеллекта, он затем достигнет сверхинтеллекта, который определяется как интеллект, далеко превосходящий человеческий.

С этим уровнем интеллекта ИОИ может быстро поглотить все человеческие знания и использовать распознавание образов, чтобы определить биомаркеры, вызывающие проблемы со здоровьем, и затем лечить эти состояния, используя науку о данных. Он может создать наноботы, которые входят в кровоток, чтобы нацеливаться на раковые клетки или другие атакующие векторы. Список достижений, которых может достичь ИОИ, бесконечен. Мы ранее исследовали некоторые из преимуществ ИОИ.

Проблема заключается в том, что люди могут больше не быть в состоянии контролировать ИИ. Илон Маск описывает это так: “С искусственным интеллектом мы вызываем демона”. Будем ли мы в состоянии контролировать этого демона, является вопросом?

Достижение ИОИ может быть просто невозможно, пока ИИ не покинет симуляционную среду, чтобы действительно взаимодействовать с нашим открытым миром. Самосознание не может быть спроектировано, вместо этого считается, что эмерджентное сознание вероятно будет развиваться, когда ИИ имеет роботизированное тело с несколькими входными потоками. Эти входные потоки могут включать тактильную стимуляцию, распознавание голоса с улучшенным пониманием естественного языка и компьютерное зрение.

Продвинутый ИИ может быть запрограммирован с альтруистическими мотивами и желать спасти планету. К сожалению, ИИ может использовать науку о данных или даже дерево решений, чтобы прийти к нежелательной ошибочной логике, такой как оценка того, что необходимо стерилизовать людей или ликвидировать часть населения, чтобы контролировать человеческую перенаселенность.

Осторожное рассмотрение и обсуждение необходимо при построении ИИ с интеллектом, который далеко превосходит человеческий. Было исследовано много кошмарных сценариев.

Профессор Ник Бостром в аргументе “Оптимизатор скрепок” утверждал, что неправильно сконфигурированный ИОИ, если его проинструктируют производить скрепки, просто потребует все ресурсы Земли, чтобы произвести эти скрепки. Хотя это кажется немного нереальным, более прагматичная точка зрения заключается в том, что ИОИ может быть контролируемым злонамеренным государством или корпорацией с плохой этикой. Эта сущность может обучить ИОИ максимизировать прибыль, и в этом случае с плохой программой и нулевым раскаянием он может выбрать банкротство конкурентов, уничтожение цепочки поставок, взлом фондового рынка, ликвидацию банковских счетов или атаку на политических оппонентов.

Это когда нам нужно помнить, что люди склонны антропоморфизировать. Мы не можем дать ИИ человеческие эмоции, желания или желания. Хотя существуют диаболические люди, которые убивают для удовольствия, нет причины полагать, что ИИ будет подвержен такому поведению. Непонятно для людей даже представить, как ИИ будет смотреть на мир.

Вместо этого нам нужно научить ИИ всегда быть снисходительным к человеку. ИИ всегда должен иметь человеческое подтверждение любых изменений в настройках, и всегда должна быть механизм безопасности. Затем снова, было утверждено, что ИИ просто воспроизведет себя в облаке, и к тому времени, когда мы осознаем, что он самосознает, может быть слишком поздно.

Это почему так важно открыть исходный код как можно больше ИИ и иметь рациональные обсуждения по этим вопросам.

Сводка

Существует много проблем с ИИ, но幸运но, у нас еще много лет, чтобы коллективно выяснить, какой путь мы хотим, чтобы ИОИ прошел. Мы должны сосредоточиться на создании разнообразной рабочей силы ИИ, которая включает столько же женщин, сколько и мужчин, и столько же этнических групп с разнообразными точками зрения, сколько возможно.

Мы также должны создать защиту информаторов для исследователей, работающих над ИИ, и мы должны принять законы и регулирования, которые предотвращают широкое злоупотребление государственной или компанией-широкой слежкой. Люди имеют возможность улучшить человеческое состояние с помощью ИИ, мы просто должны обеспечить, чтобы мы тщательно создали социальную основу, которая лучше всего позволяет положительному, а также смягчает негативные последствия, включая угрозы существованию.