Новий кодекс поведінки штучного інтелекту ЄС вплине на регулювання

Європейська комісія недавно ввела Кодекс поведінки, який може змінити спосіб роботи компаній штучного інтелекту. Це не просто ще одна серія рекомендацій, а радше повна зміна нагляду за штучним інтелектом, яку навіть найбільші гравці не можуть ігнорувати.

Що робить це іншим? Вперше ми бачимо конкретні правила, які можуть змусити компанії, такі як OpenAI і Google, відкрити свої моделі для зовнішнього тестування, фундаментальну зміну того, як системи штучного інтелекту можуть бути розроблені та розгорнуті в Європі.

Нові гравці у сфері нагляду за штучним інтелектом

Європейська комісія створила rámку, який конкретно націлений на те, що вони називають системами штучного інтелекту з “системним ризиком”. Ми говоримо про моделі, навчені з більш ніж 10^25 FLOPs обчислювальної потужності – поріг, який GPT-4 вже пройшов.

Компанії повинні повідомляти про свої плани навчання штучного інтелекту за дві тижні до початку.

У центрі цієї нової системи знаходяться два ключових документи: Рамка безпеки та безпеки (SSF) і Звіт про безпеку та безпеку (SSR). SSF є комплексним планом управління ризиками штучного інтелекту, який охоплює все, від початкової ідентифікації ризиків до тривалих заходів безпеки. Тим часом, SSR служить детальним інструментом документації для кожної окремої моделі.

Зовнішнє тестування для моделей штучного інтелекту високого ризику

Комісія вимагає зовнішнє тестування для моделей штучного інтелекту високого ризику. Це не стандартна внутрішня перевірка якості – незалежні експерти та офіс штучного інтелекту ЄС заходять під капот цих систем.

Вплив великий. Якщо ви OpenAI або Google, вам раптом потрібно дозволити зовнішнім експертам оглянути ваші системи. Проект явно зазначає, що компанії повинні “забезпечити достатнє незалежне тестування перед розгортанням”. Це велика зміна порівняно з поточним підходом саморегулювання.

Поставляється питання: Хто кваліфікований для тестування цих надзвичайно складних систем? Офіс штучного інтелекту ЄС вступає на територію, яка ніколи не була картографована раніше. їм потрібно експерти, які можуть зрозуміти та оцінити нову технологію штучного інтелекту, зберігаючи сувору конфіденційність про те, що вони виявляють.

Це зовнішнє тестування може стати обов’язковим у всьому ЄС через акт комісії. Компанії можуть спробувати продемонструвати відповідність через “адекватні альтернативні засоби”, але ніхто не знає, що це означає на практиці.

Захист авторських прав стає серйозним

ЄС також ставить серйозно питання про захист авторських прав. Вони змушують постачальників штучного інтелекту створювати чіткі політики щодо того, як вони обробляють інтелектуальну власність.

Комісія підтримує стандарт robots.txt – простий файл, який каже веб-краулерам, куди вони можуть і не можуть йти. Якщо веб-сайт говорить “ні” через robots.txt, компанії штучного інтелекту не можуть просто ігнорувати це і навчатися на цьому вмісті все одно. Пошукові системи не можуть штрафувати сайти за використання цих виключень. Це хід влади, який повертає творців контенту на водійське місце.

Компанії штучного інтелекту також повинні активно уникати піратських сайтів під час збору даних для навчання. ЄС навіть вказує їм на свій “Список спостереження за піратством та контрафакцією” як на початкову точку.

Що це означає для майбутнього

ЄС створює абсолютно нове поле для розвитку штучного інтелекту. Ці вимоги будуть впливати на все, від того, як компанії планують свої проекти штучного інтелекту, до того, як вони збирають дані для навчання.

Кожна велика компанія штучного інтелекту тепер стоїть перед вибором. їм потрібно або:

• Відкрити свої моделі для зовнішнього тестування
• Визначити, що означають ті загадкові “альтернативні засоби” відповідності
• Або потенційно обмежити свої операції на ринку ЄС

Графік тут також важливий. Це не якийсь далекий майбутній регламент – комісія рухається швидко. їм вдалося зібрати близько 1 000 зацікавлених сторін, розділених на чотири робочі групи, які виношують деталі того, як це буде працювати.

Для компаній, які будують системи штучного інтелекту, дні “рухайтесь швидко і пізніше вирішуйте правила” можуть закінчуватися. їм потрібно почати думати про ці вимоги зараз, а не коли вони стануть обов’язковими. Це означає:

• Планування зовнішніх аудитів у своєму графіку розробки
• Створення потужних систем відповідності щодо авторських прав
• Будування рамок документації, які відповідають вимогам ЄС

Фактичний вплив цих регламентів розгорнеться протягом наступних місяців. Хоча деякі компанії можуть шукати обхідні шляхи, інші інтегрують ці вимоги у свої процеси розробки. Рамка ЄС може впливати на те, як відбувається розвиток штучного інтелекту глобально, особливо якщо інші регіони слідують за подібними заходами нагляду. Коли ці правила переходять від проекту до реалізації, галузь штучного інтелекту стикається зі своєю найбільшою регуляторною зміною.