Продвинутые технологии искусственного интеллекта представляют этические проблемы – лидеры мнений

Автор Альфред Крюс, младший, вице-президент и главный юрисконсульт сектора разведки и безопасности компании BAE Systems Inc.

Ранее в этом году, до начала глобальной пандемии, я посетил конференцию по этике разведки в Чарльстоне, где мы обсуждали тему этики в сборе разведывательной информации в контексте защиты национальной безопасности. В оборонной промышленности мы наблюдаем распространение знаний, вычислительной техники и продвинутых технологий, особенно в области искусственного интеллекта (ИИ) и машинного обучения (МО). Однако могут возникнуть значительные проблемы при развертывании ИИ в контексте сбора разведывательной информации или реального боя.

ИИ, сочетающийся с квантовыми вычислениями, представляет риски

Мы должны поставить вопрос, проанализировать и определить путь вперед, когда используем ИИ, сочетающийся с квантовыми вычислениями, в процессе принятия решений во время войны. Например, помните Терминатора? Когда наша технология делает огромные шаги, реальность того, что представил Скайнет, стоит перед нами. Мы можем задавать себе вопрос: “Идет ли Скайнет за нами?” Давайте прогуляемся по памяти; машины ИИ захватили власть, потому что они имели возможность думать и принимать решения самостоятельно, без человека, который бы их направлял. Когда машины выяснили, что люди являются ошибкой, они начали уничтожать человечество. Не поймите меня неправильно, ИИ имеет огромный потенциал, но я считаю, что он должен иметь параметры контроля из-за факторов риска.

Этические неоднозначности ИИ и философская дилемма

Я считаю, что именно поэтому Министерство обороны США (МО США) выпустило свои Этические принципы ИИ, потому что использование ИИ вызывает новые этические неоднозначности и риски. Когда мы сочетаем ИИ с квантовыми вычислениями, способность принимать решения меняется, и риск потерять контроль увеличивается – больше, чем мы можем осознать сегодня. Квантовые вычисления ставят наш мозг в тень, потому что суперкомпьютеры могут выполнять значительно больше расчетов быстрее и с большей точностью, чем наш человеческий мозг.

Кроме того, использование ИИ, сочетающегося с вычислениями, представляет философскую дилемму. В какой момент мир позволит машинам иметь свою собственную волю; и если машины будут разрешены думать самостоятельно, означает ли это, что машина сама стала сознательной? Является ли сознание жизнью? Как общество, мы еще не определили, как определить эту ситуацию. Следовательно, на данный момент машины, принимающие действия самостоятельно без человека, который бы их контролировал, могут привести к последствиям. Может ли машина переопределить вмешательство человека, чтобы остановить огонь? Если машина работает самостоятельно, сможем ли мы отключить ее?

Как я вижу, использование ИИ с оборонительной точки зрения легко. Однако, насколько легче будет перейти к наступлению? На наступлении машины будут принимать решения о боевых действиях на месте. Будет ли нарушением Женевской конвенции и законов о вооруженных конфликтах, если машина будет стрелять по врагу? Переходя в это пространство с большой скоростью, мир должен согласиться, что использование ИИ и квантовых вычислений в бою должно соответствовать законам, которые мы имеем на данный момент.

Министерство обороны имеет позицию при использовании ИИ с автономными системами и заявляет, что всегда будет человек, вовлеченный в процесс принятия решений; человек будет принимать окончательное решение о стрельбе. Это наша правило, но что происходит, если противник решит пойти по другому пути и позволить ИИ-машины принимать все окончательные решения? Тогда машина, которая, как мы обсуждали, уже быстрее, умнее и точнее, будет иметь преимущество.

Давайте посмотрим на беспилотник, оснащенный ИИ и распознаванием лиц: беспилотник стреляет самостоятельно из-за предварительно определенной цели, помеченной как террорист. Кто на самом деле ответственен за стрельбу? Есть ли ответственность, если есть ошибочное решение из-за предвзятости?

Предвзятость, встроенная в ИИ/МО

Исследования показывают, что машина менее вероятно совершит ошибку, чем человек. Однако исследования также доказывают, что в машинном обучении есть предвзятости, основанные на “учителе”, который учит машину. Пять этических принципов ИИ Министерства обороны, на которые я ссылался ранее, упоминают существующие предвзятости, когда говорится: “Департамент предпримет намеренные шаги, чтобы минимизировать непреднамеренные предвзятости в возможностях ИИ”. Мы уже знаем через доказанные исследования, что при использовании приложений распознавания лиц есть предвзятости в отношении людей цвета с ложными положительными результатами. Когда человек создает код, который учит машину принимать решения, будут предвзятости. Это может быть непреднамеренно, потому что человек, создающий ИИ, не осознавал предвзятости, существовавшей внутри себя.

Итак, как можно исключить предвзятость? Выход ИИ такой же хороший, как и вход. Следовательно, должны быть контроли. Вы должны контролировать данные, поступающие в систему, потому что это может сделать результаты ИИ менее действительными. Разработчики будут постоянно вынуждены переписывать код, чтобы исключить предвзятость.

Мир должен определить лучшее использование технологий

Технология сама по себе не хороша и не плоха. Это то, как нация использует ее, может привести к лучшим намерениям и плохим результатам. Когда технология развивается способами, которые влияют на человеческую жизнь, мир должен работать вместе, чтобы определить соответствующие действия. Если мы удалим человека из уравнения в приложениях ИИ, мы также удалим эту паузу перед стрельбой – этот моральный компас, который направляет нас; эту паузу, когда мы останавливаемся и задаем вопрос: “Это правильно?” Машина, обученная вступать, не будет иметь этой паузы. Итак, вопрос в том, будет ли мир в будущем согласен с этим? Как далеко пойдет мир, чтобы позволить машинам принимать решения о бое?