Регулювання
Fathom закликає швидко втілити план Каліфорнії з нагляду за ШІ

Ключові моментиFathom хоче, щоб Каліфорнія зобов'язала розробників передового штучного інтелекту…
Показати більше
- Fathom хоче, щоб Каліфорнія зобов'язала розробників передового штучного інтелекту проводити незалежні оцінки катастрофічних ризиків, а не покладатися на добровільні перевірки.
- Штат ліцензував би та наглядав за оцінювачами, визначаючи результати безпеки в законі та дозволяючи IVO оновлювати методи технічного тестування.
- Fathom пропонує поетапно впроваджувати мандати в міру зростання спроможності оцінювачів, щоб гарантована робота приваблювала капітал і таланти.
Група з питань управління ШІ Fathom заявила 18 листопада 2026 року, що нова дорожня карта губернатора Гевіна Ньюсома щодо передового ШІ відображає багато її рекомендацій, і закликала Каліфорнію якнайшвидше запровадити обов’язкові незалежні оцінювання катастрофічних ризиків.
Fathom розробила й просувала модель незалежної організації з верифікації (IVO), за якою зовнішні оцінювачі визначають ризики, пов’язані з моделями та системами ШІ. Генеральний директор і співзасновник Ендрю Фрідман назвав звіт конкретним планом практичного запровадження незалежного нагляду й закликав діяти «з усією можливою оперативністю». Він перелічив законодавство, нормотворчу діяльність, розмежування повноважень штатів і федерального уряду, логістику, строки та витрати як питання, що залишаються невирішеними, і заявив, що Fathom вимагатиме від урядів штату й федерального уряду прозорості, обов’язкового вимірювання ризиків організаціями IVO та запровадження гарантій безпеки, забезпечених державним примусом.
Звіт Каліфорнійського агентства з урядових операцій (GovOps), датований 16 листопада 2026 року й оприлюднений 18 листопада, рекомендує внести законодавчі зміни, а не запроваджує вимоги самостійно. Ширший пакет заходів передбачає базові стандарти, повноваження на екстрене вимкнення та можливі обмеження рекурсивного самовдосконалення; він ґрунтується на системі незалежної верифікації організаціями IVO, передбаченій законом SB 813, і реєстрі аудиторів ШІ, створеному законом AB 1405.
У чому дорожня карта відповідає моделі Fathom
Головна рекомендація щодо нагляду передбачає, що всі великі розробники передового ШІ проходитимуть постійні перевірки, які здійснюватимуть ліцензовані організації IVO, замінивши для таких розробників нинішній добровільний підхід. GovOps ліцензуватиме оцінювачів і постійно наглядатиме за ними, маючи повноваження відкликати ліцензії, якщо їм бракуватиме належної кваліфікації, незалежності чи ретельності. Організації IVO подаватимуть штату повні оцінювання без вилучень, а штат після взаємодії з розробником вирішуватиме, чи потрібні коригувальні заходи.
За словами Fathom, і розподіл відповідальності, і юридичний критерій у звіті відповідають її меморандуму про впровадження від 30 жовтня 2026 року. Каліфорнія законодавчо визначатиме прийнятні результати у сфері безпеки, тоді як організації IVO розроблятимуть і оновлюватимуть технічні методи та тести для оцінювання відповідності. Запропонований стандарт передбачає з’ясування того, чи «модель передового ШІ навряд чи підвищить ризик катастрофічної шкоди понад рівень, який існував би без цієї моделі», а також того, чи переважають очікувані переваги залишкові ризики. Такий підхід має дати змогу змінювати методи тестування відповідно до розвитку технологій, водночас зберігаючи встановлений законом результат, якого має досягти штат.
Ще одна сфера, у якій підходи збігаються, — рекурсивне самовдосконалення (RSI), тобто етап, на якому автоматизована розробка ШІ стає самопідтримуваною. Згідно зі звітом, початкові обов’язки організацій IVO включатимуть перевірку показників автоматизованих досліджень і розробок у сфері ШІ та оцінювання зростаючих ризиків. У своєму меморандумі Fathom також вимагала перевіряти внутрішнє й зовнішнє використання систем: заздалегідь зареєстровані порогові значення можливостей мають запускати повідомлення штату та призупинення подальшого внутрішнього масштабування до повторного оцінювання.
План упровадження Fathom
У меморандумі пропонується поетапно запроваджувати кожну вимогу, щойно GovOps визначить, що призначені оцінювачі мають достатню спроможність і кваліфікацію у відповідній сфері ризику. На думку авторів, надійні очікування щодо обов’язкової роботи залучать капітал і фахівців, потрібних для розширення незалежної верифікації, тож не доведеться чекати, поки для кожного виду ризику сформується зрілий ринок.
На початковому етапі штат призначатиме організацію IVO з попередньо визначеного переліку, а розробник оплачуватиме її роботу безпосередньо за фактично витрачений час і використані матеріали, за тарифами, орієнтованими на державні ставки. На наступних етапах, зі збільшенням переліку організацій, розробники отримуватимуть ширший вибір, однак штат і надалі матиме право накладати вето на обраних оцінювачів, вимагати їх ротації, обмежувати концентрацію замовлень, призначати додаткових оцінювачів і позбавляти акредитації тих, кому бракує ретельності чи незалежності. Розмір оплати не залежатиме від результату оцінювання.
Вбудовані оцінювачі матимуть постійний доступ до необхідних документів, працівників і систем, зокрема зможуть бути фізично присутніми у визначені моменти ухвалення рішень; їх захищатимуть передбачені законом вимоги конфіденційності та заборона переслідування. Забезпечення виконання вимог залишатиметься за штатом: генеральний прокурор зможе звертатися до суду по судові заборони та стягнення цивільних штрафів, тоді як організації IVO встановлюватимуть факти, визначатимуть коригувальні заходи й повідомлятимуть про неминучі ризики, а не вимагатимуть судових заборон самостійно й не надаватимуть своїм висновкам автоматичної юридичної сили.
Тепер практична перевірка лягає на законодавчий орган і GovOps: їм потрібно перетворити рекомендації на обов’язкові вимоги, водночас підготувавши достатню кількість ліцензованих оцінювачів і зберігши дієві державні механізми забезпечення виконання. У плані Fathom ці кроки взаємозалежні, адже кожна вимога залежить від наявності фахівців, а висновки організації IVO потребують подальших дій штату, перш ніж зможуть спричинити примусові наслідки.












