Лидеры мнений
Брешь в управлении: почему регулирование ИИ всегда отстает от инноваций

Ключевые моментыРегулирование ИИ по своей природе отстаёт от инноваций, поскольку политики реагируют на…
Показать больше
- Регулирование ИИ по своей природе отстаёт от инноваций, поскольку политики реагируют на уже причинённый вред, а не предвидят риски.
- Глобальное управление ИИ представляет собой разрозненное лоскутное одеяло из конкурирующих национальных стратегий и философий.
- Угрозы от ИИ, не признающие границ, требуют международного сотрудничества, которое не могут обеспечить нынешние разобщённые нормативные акты.
Инновации развиваются с машинной скоростью, а управление – с человеческой. По мере экспоненциального роста внедрения ИИ регулирование отстает, что довольно типично для технологий. Во всем мире правительства и другие организации спешат регулировать ИИ, но фрагментарные и неравномерные подходы преобладают.
Часть проблемы заключается в том, что нет такого понятия, как аполитичный дизайн технологий. Существует множество правил и предложений, от Закона об ИИ Европейского Союза до регулирующих песочниц США, каждое со своей философией. Хотя управление ИИ по своей природе отстает от инноваций, настоящая проблема заключается в управлении безопасностью и политикой ответственно в рамках этого отставания.
Сущность бреши: инновации прежде, надзор позже
Отставание регулирования – неизбежный побочный продукт технологического прогресса. Например, Генри Форд не разрабатывал модель Т с основным вниманием на безопасность дорог и правила движения. Исторически закономерности регулирования следуют за инновациями; недавние примеры включают защиту данных, блокчейн и социальные сети. Быстрая эволюция ИИ опережает формирование и обеспечение соблюдения политики. Другими словами, телега была впереди лошади уже некоторое время.
Часть проблемы заключается в том, что политики часто реагируют на вред, а не предвидят риски, что создает циклы реактивного управления. Проблема не в самом отставании, а в отсутствии адаптивных механизмов, чтобы идти в ногу с возникающими моделями угроз, и в отсутствии воли пожертвовать конкурентным преимуществом ради безопасности. Это сценарий “гонки к дну”; мы подрываем нашу собственную коллективную безопасность ради локальных конкурентных преимуществ.
Глобальное лоскутное одеяло управления ИИ представляет собой фрагментированные философии
Существующие основные подходы к управлению ИИ в мире сильно различаются.
В ЕС Закон об ИИ, представленный в прошлом году, основан на этике и рисках. Использование ИИ оценивается по уровню риска, и некоторые риски считаются недопустимыми и, следовательно, запрещенными. США, с другой стороны, скорее приняли модель регулирующей песочницы, которая подчеркивает гибкость инноваций. Некоторые могут назвать это исключением для инноваций, в то время как критики могут назвать это бланковым чеком.
Также существует процесс Хиросимы, который содержит глобальные координационные намерения, но ограниченное выполнение; каждая страна G7 все еще сосредоточена на внутреннем доминировании ИИ.
В США этот вопрос в основном был оставлен на усмотрение штатов, что фактически гарантирует отсутствие эффективного регулирования. Федеральное правительство иногда делает это именно потому, что оно может быть неэффективным. Штаты создают новые песочницы, чтобы привлечь технологические компании и инвестиции, но вряд ли будет какое-либо значимое регулирование на уровне штата; только исключения.
После Brexit Великобритания ведет внутреннюю и международную борьбу за утверждение своей решительной независимости. Через дерегуляцию и программу правительства “Leveling Up” введение регулирующих песочниц не удивительно. Правительство Великобритании захочет, чтобы Великобритания стала доминирующей сверхдержавой ИИ как для внутреннего, так и для внешнего политического преимущества и стабильности.
ЕС больше фокусируется на безопасности потребителей, но также на силе своего общего рынка. Это имеет смысл, учитывая историю ЕС с фрагментированным регулированием. Общее соблюдение требований, нормы и трансграничная коммерция являются ключом к тому, чтобы сделать ЕС тем, что он есть. Они все еще требуют регулирующих песочниц, но также того, чтобы каждое государство-член имело одну песочницу, работающую к одному и тому же сроку.
Эти правила являются лишь несколькими из наиболее заметных. Основная идея заключается в том, что существуют несвязанные рамки, которые лишены общих определений, механизмов обеспечения соблюдения и трансграничной совместимости. Это создает бреши, которые могут быть использованы атакующими.
Политическая природа протоколов
Ни одно регулирование ИИ не может бытьпо-настоящему нейтральным; каждый выбор дизайна, ограждение и регулирование отражают основные государственные или корпоративные интересы. Регулирование ИИ стало геополитическим инструментом; страны используют его для обеспечения экономического или стратегического преимущества. Контроль над экспортом микрочипов является текущим примером; он служит косвенным управлением ИИ.
Единственное регулирование, которое было фактически введено на данный момент, было введено для намеренного препятствования рынку. Глобальная гонка за доминирование ИИ сохраняет управление механизмом для конкуренции, а не для совместной безопасности.
Безопасность без границ, но управление с границами
Основной проблемой является то, что угрозы, основанные на ИИ, пересекают границы, а регулирование остается ограниченным. Сегодня быстро эволюционирующие угрозы включают как атаки на системы ИИ, так и атаки, которые используют системы ИИ. Эти угрозы пересекают юрисдикции, но регулирование остается изолированным. Безопасность изолирована в одном углу, а угрозы пересекают весь интернет.
Мы уже начинаем видеть злоупотребление законными инструментами ИИ глобальными субъектами угроз, которые используют слабые меры безопасности. Например, было обнаружено злонамеренное использование инструментов создания сайтов ИИ, которые больше похожи на клонеры сайтов и могут быть легко использованы для создания фишинговой инфраструктуры. Эти инструменты были использованы для имитации страниц входа для всего, от популярных социальных сетей до национальных полицейских агентств
До тех пор, пока рамки управления не будут отражать безграничную структуру ИИ, защитники будут ограничены фрагментированными законами.
От реактивного регулирования к проактивной защите
Отставание регулирования неизбежно, но застой не является таковым. Нам нужны адаптивные, прогностические рамки управления, которые эволюционируют с технологией; это вопрос перехода от реактивного регулирования к проактивной защите. Идеально, это будет выглядеть так:
- Разработка общих международных стандартов для классификации рисков ИИ.
- Расширение участия в установлении стандартов за пределами крупных правительств и корпораций. Управление интернетом стремилось (с смешанным успехом) использовать модель с участием многих заинтересованных сторон вместо межгосударственной многосторонней модели. Хотя она несовершенна, она оказала огромное влияние на то, чтобы сделать интернет инструментом для всех и минимизировать цензуру и отключения интернета по политическим причинам.
- Содействие разнообразию мысли в управлении.
- Механизм для отчетности о происшествиях и прозрачности. Отсутствие правил часто также означает отсутствие требований к отчетности. Вряд ли будет требование информировать общественность о повреждениях, вызванных ошибками или выбором дизайна в рамках регулирующих песочниц в ближайшем будущем.
Хотя брешь в управлении никогда не исчезнет, совместные, прозрачные и инклюзивные рамки могут предотвратить ее превращение в постоянную уязвимость глобальной безопасности.












