Новый кодекс поведения ЕС в области ИИ: что это значит для регулирования

Европейская комиссия недавно представила Кодекс поведения, который может изменить то, как компании, работающие с ИИ, осуществляют свою деятельность. Это не просто еще один набор рекомендаций, а rather полная переработка надзора за ИИ, которую даже самые крупные игроки не могут игнорировать.

Что делает этот кодекс поведения особенным? Впервые мы видим конкретные правила, которые могут заставить компании, такие как OpenAI и Google (GOOGL ), открыть свои модели для внешнего тестирования, что является фундаментальным сдвигом в том, как системы ИИ могут быть разработаны и развернуты в Европе.

Новые ключевые игроки в надзоре за ИИ

Европейская комиссия создала рамки, которые конкретно нацелены на то, что они называют системами ИИ с “системным риском”. Мы говорим о моделях, обученных с использованием более 10^25 операций с плавающей запятой – порог, который GPT-4 уже превысил.

Компании будут должны сообщать о своих планах обучения ИИ за две недели до начала обучения.

В центре этой новой системы находятся два ключевых документа: Рамка безопасности и безопасности (SSF) и Отчет о безопасности и безопасности (SSR). SSF представляет собой комплексную дорожную карту для управления рисками ИИ, охватывающую все, от первоначальной идентификации рисков до постоянных мер безопасности. Тем временем SSR служит подробным инструментом документации для каждой отдельной модели.

Внешнее тестирование для моделей ИИ с высоким риском

Комиссия требует внешнего тестирования для моделей ИИ с высоким риском. Это не стандартная внутренняя проверка качества – независимые эксперты и офис ИИ ЕС будут изучать эти системы.

Последствия значительны. Если вы OpenAI или Google, вам suddenly нужно разрешить внешним экспертам изучать ваши системы. Проект явно гласит, что компании должны “обеспечить достаточное независимое экспертное тестирование перед развертыванием”. Это огромный сдвиг от текущего подхода саморегуляции.

Возникает вопрос: кто квалифицирован для тестирования этих чрезвычайно сложных систем? Офис ИИ ЕС вступает в неизведанную территорию. Им понадобятся эксперты, которые могут понять и оценить новую технологию ИИ, сохраняя при этом строгую конфиденциальность о том, что они обнаруживают.

Это требование внешнего тестирования может стать обязательным во всей ЕС через акт Комиссии. Компании могут попытаться продемонстрировать соответствие через “адекватные альтернативные средства”, но никто не знает, что это значит на практике.

Защита авторских прав становится серьезной

ЕС также серьезно относится к защите авторских прав. Они заставляют поставщиков ИИ создавать четкие политики в отношении интеллектуальной собственности.

Комиссия поддерживает стандарт robots.txt – простой файл, который говорит веб-краулерам, где они могут и не могут идти. Если веб-сайт говорит “нет” через robots.txt, компании ИИ не могут просто игнорировать это и обучаться на этом контенте все равно. Поисковые системы не могут штрафовать сайты за использование этих исключений. Это шаг, который возвращает создателям контента контроль.

Компании ИИ также должны активно избегать пиратских сайтов при сборе данных для обучения. ЕС даже указывает им на свой “Список наблюдения за контрафактной и пиратской деятельностью” в качестве отправной точки.

Что это значит для будущего

ЕС создает совершенно новое поле для разработки ИИ. Эти требования будут влиять на все, от того, как компании планируют свои проекты ИИ, до того, как они собирают данные для обучения.

Каждая крупная компания ИИ теперь сталкивается с выбором. Им нужно либо:

• Открыть свои модели для внешнего тестирования
• Разработать “альтернативные средства” соответствия
• Ограничить свою деятельность на рынке ЕС

График также имеет значение. Это не какое-то далекое будущее регулирование – Комиссия действует быстро. Они смогли собрать около 1 000 заинтересованных сторон, разделенных на четыре рабочие группы, все из которых разрабатывают детали того, как это будет работать.

Для компаний, строящих системы ИИ, дни “двигаться быстро и разбираться с правилами позже” могут подойти к концу. Им нужно начать думать о этих требованиях сейчас, а не когда они станут обязательными. Это означает:

• Планирование внешних аудитов в графике разработки
• Создание надежных систем соответствия авторским правам
• Разработка рамок документации, соответствующих требованиям ЕС

Реальное влияние этих правил будет разворачиваться в течение ближайших месяцев. Хотя некоторые компании могут искать обходные пути, другие будут интегрировать эти требования в свои процессы разработки. Рамки ЕС могут повлиять на то, как разработка ИИ происходит глобально, особенно если другие регионы последуют за аналогичными мерами надзора. Когда эти правила переходят от проекта к реализации, отрасль ИИ сталкивается с самым большим регулирующим сдвигом.