Брешь в управлении: почему регулирование ИИ всегда отстает от инноваций

Инновации развиваются с машинной скоростью, а управление – с человеческой. По мере экспоненциального роста внедрения ИИ регулирование отстает, что довольно типично для технологий. Во всем мире правительства и другие организации спешат регулировать ИИ, но фрагментарные и неравномерные подходы преобладают.

Часть проблемы заключается в том, что нет такого понятия, как аполитичный дизайн технологий. Существует множество правил и предложений, от Закона об ИИ Европейского Союза до регулирующих песочниц США, каждое со своей философией. Хотя управление ИИ по своей природе отстает от инноваций, настоящая проблема заключается в управлении безопасностью и политикой ответственно в рамках этого отставания.

Сущность бреши: инновации прежде, надзор позже

Отставание регулирования – неизбежный побочный продукт технологического прогресса. Например, Генри Форд не разрабатывал модель Т с основным вниманием на безопасность дорог и правила движения. Исторически закономерности регулирования следуют за инновациями; недавние примеры включают защиту данных, блокчейн и социальные сети. Быстрая эволюция ИИ опережает формирование и обеспечение соблюдения политики. Другими словами, телега была впереди лошади уже некоторое время.

Часть проблемы заключается в том, что политики часто реагируют на вред, а не предвидят риски, что создает циклы реактивного управления. Проблема не в самом отставании, а в отсутствии адаптивных механизмов, чтобы идти в ногу с возникающими моделями угроз, и в отсутствии воли идти на компромисс ради безопасности ради конкурентного преимущества. Это сценарий “гонки к дну”; мы подрываем нашу собственную коллективную безопасность ради локальных конкурентных преимуществ.

Глобальный лоскутное одеяло управления ИИ представляет собой фрагментированные философии

Существующие основные подходы к управлению ИИ в мире сильно различаются.

В ЕС Закон об ИИ, представленный в прошлом году, основан на этике и рисках. Использование ИИ оценивается по уровню риска, и некоторые риски считаются недопустимыми и, следовательно, запрещенными. США, с другой стороны, приняли более модель регулирующей песочницы, которая подчеркивает гибкость инноваций. Некоторые могут назвать это исключением для инноваций, в то время как критики могут назвать это бланковым чеком.

Также существует процесс Хиросимы, который содержит глобальные координационные намерения, но ограниченное выполнение; каждая страна G7 все еще сосредоточена на внутреннем доминировании ИИ.

В США этот вопрос в основном был оставлен на усмотрение штатов, что фактически гарантирует отсутствие эффективного регулирования. Федеральное правительство иногда делает это именно потому, что оно может быть неэффективным. Штаты создают новые песочницы, чтобы привлечь технологические компании и инвестиции, но вряд ли будет какое-либо значимое регулирование на уровне штата; только исключения.

Великобритания находится в внутренней и международной борьбе за установление себя как яростно независимую после Brexit. Через дерегуляцию и программу правительства “Leveling Up” введение регулирующих песочниц не удивительно. Правительство Великобритании захочет, чтобы Великобритания стала доминирующей сверхдержавой ИИ как для внутреннего, так и для внешнего политического преимущества и стабильности.

ЕС больше фокусируется на безопасности потребителей, но также на силе своего общего рынка. Это имеет смысл, учитывая историю ЕС с фрагментированным регулированием. Общая соблюдение, нормы и трансграничная коммерция являются ключом к тому, чтобы сделать ЕС тем, что он есть. Они все еще требуют регулирующих песочниц, но также того, чтобы каждое государство-член имело одну песочницу, действующую с одной и той же даты.

Эти правила являются лишь несколькими из наиболее заметных. Основная идея заключается в том, что существуют несвязанные рамки, которые лишены общих определений, механизмов обеспечения соблюдения и трансграничной совместимости. Это создает бреши, которые могут быть использованы атакующими.

Политическая природа протоколов

Ни одно регулирование ИИ не может быть真正 нейтральным; каждый выбор дизайна, ограждение и регулирование отражают основные государственные или корпоративные интересы. Регулирование ИИ стало геополитическим инструментом; страны используют его для обеспечения экономического или стратегического преимущества. Контроль над экспортом микрочипов является текущим примером; он служит косвенным управлением ИИ.

Единственное регулирование, которое было фактически введено на данный момент, было введено для намеренного препятствования рынку. Глобальная гонка за доминирование ИИ сохраняет управление механизмом для конкуренции, а не для совместной безопасности.

Безопасность без границ, но управление с границами

Основной проблемой является то, что угрозы, основанные на ИИ, пересекают границы, а регулирование остается ограниченным. Сегодня быстро эволюционирующие угрозы включают как атаки на системы ИИ, так и атаки, которые используют системы ИИ. Эти угрозы пересекают юрисдикции, но регулирование остается изолированным. Безопасность изолирована в одном углу, а угрозы пересекают весь интернет.

Мы уже начинаем видеть злоупотребление законными инструментами ИИ глобальными угрозами, которые эксплуатируют слабые меры безопасности. Например, было обнаружено злонамеренное использование инструментов создания сайтов ИИ, которые больше похожи на клонеры сайтов и могут быть легко использованы для создания фишинговой инфраструктуры. Эти инструменты были использованы для имитации страниц входа для всего, от популярных социальных сетей до национальных полицейских агентств

До тех пор, пока рамки управления не будут отражать безграничную структуру ИИ, защитники будут ограничены фрагментированными законами.

От реактивного регулирования к проактивной защите

Отставание регулирования неизбежно, но застой не является таковым. Нам нужны адаптивные, прогностические рамки управления, которые эволюционируют с технологией; это вопрос перехода от реактивного регулирования к проактивной защите. Идеально, это будет выглядеть так:

• Разработка общих международных стандартов для классификации рисков ИИ.
• Расширение участия в установлении стандартов за пределами крупных правительств и корпораций. Управление интернетом стремилось (с смешанным успехом) использовать многостороннюю модель вместо многосторонней. Хотя она несовершенна, она оказала огромное влияние на то, чтобы сделать интернет инструментом для всех и минимизировать цензуру и политические закрытия.
• Содействие разнообразию мысли в управлении.
• Механизм для отчетности о происшествиях и прозрачности. Отсутствие правил часто также означает отсутствие требований к отчетности. Вряд ли будет требование информировать общественность о повреждениях, вызванных ошибками или выбором дизайна в рамках регулирующих песочниц в ближайшем будущем.

Хотя брешь в управлении никогда не исчезнет, совместные, прозрачные и инклюзивные рамки могут предотвратить ее превращение в постоянную уязвимость глобальной безопасности. ly что будет требование информировать общественность о повреждениях от ошибок или выбора дизайна в рамках регулирующих песочниц в ближайшем будущем. Хотя брешь в управлении никогда не исчезнет, совместные, прозрачные и инклюзивные рамки могут предотвратить ее превращение в постоянную уязвимость глобальной безопасности.