AI як апекс-предатор у світі розробки

Еволюційний тиск: короткий вступ

Перед тим, як ми перейдемо до суті питання, є кілька концепцій, які варто встановити. Перша з них – еволюційний тиск.

Еволюція не є вибором. Тварини не обирають, як їм еволюціонувати – їхнє середовище змушує їх до цього, або їхнє середовище знищує їх. Коли ми говоримо про те, як тварина еволюціонувала, або чому вона існує саме так сьогодні, ми не говоримо про серію свідомих рішень. Ми говоримо про випадкові мутації та екологічні тиски, які штовхали вид в одному напрямку чи іншому.

Зараз компанії з розробки програмного забезпечення вступають у подібний еволюційний момент. Системи AI, які можуть автономно визначати уразливості, генерувати експлойти та прискорювати кібератаки, змінюють тиск, під яким працюють розробники та команди безпеки.

AI зараз створює той самий вид екологічного тиску для компаній з розробки програмного забезпечення. Моделі, які можуть автономно виявляти уразливості, генерувати експлойти та автоматизувати великомасштабні атаки, змінюють ландшафт безпеки набагато швидше, ніж більшість організацій готові до цього.

Конкретний еволюційний тиск, про який я хочу говорити, – це апекс-предатор на Землі зараз: люди. І те, як три дуже різні тварини відреагували на цей тиск.

Хто зробив гірше: велетенський вомбат чи курка?

Велетенський вомбат

Велетенський вомбат – я забув точну назву, але він жив у Австралії – важив близько 6 000 фунтів. До того, як люди прибули, Австралія була зеленим, майже раєм. Якби ми ніколи не торкалися її. Ці величезні вомбати жили майже безперешкодно. Деякі хижаки іноді вбивали одного з них, але через їхній величезний розмір, надлишок їжі та їхню здатність розмножуватися, вони витримували все, що континент міг їм запропонувати.

Потім люди прибули.

Відразу відбулося кілька речей. По-перше, люди побачили величезне джерело білка, яке могло годувати групу людей на тижні – навіть довше, якщо вони могли зберегти м’ясо. По-друге, вони почали вирубувати ліси, на які залежали вомбати, або вирубували цілі ділянки землі, щоб витіснити тварин у відкритий простір, де їх можна було вбити. Люди надзвичайно хороші в цьому виді координованого, ефективного знищення.

За дуже короткий період часу – геологічно кажучи, майже за одну ніч – люди вирубали великі частини континенту та винищили останнього велетенського вомбата.

Варто зазначити, що не всі австралійські тварини вимерли. Кенгуру, маленькі вомбати, коали та інші вижили – тому що вони були досить малими, швидкими чи адаптованими, щоб уникнути небезпеки. До того часу, коли європейці прибули, континент був перетворений на щось жорстоке та безжальне. Менша людська популяція, витривала та адаптована до екстремальних умов. Тварини, які були або дуже малими, або дуже смертоносними, або й тим і тим. Як кажуть: все в Австралії намагається вбити тебе.

Це версія номер один.

Курка

Тепер, по-своєму, курка – можливо, найуспішніша наземна тварина на Землі. Приблизно 70% загальної біомаси птахів на планеті – це домашні курки. Є навіть місця, де курки стали дикими – на островах, де в них немає природних хижаків, як на Кайманських островах – і вони процвітають.

Курки еволюціонували в щось, що людям здається надзвичайно корисним: вони швидко розмножуються, швидко ростуть, несуть яйця. Люди годують їх, захищають їх та активно заохочують їх розмножуватися. Практично за будь-яким показником біологічного успіху – розміром популяції, географічним поширенням, доступом до ресурсів – курка перемагає.

Окрім, звичайно, того факту, що ми їх їмо.

Таким чином, курка досягла успіху, ставши ідеальною їжею. Це не нічого. Але є межа такого успіху.

Кішка: правильна відповідь

Є одна тварина, яку, я би сказав, майже точно зробила все правильно.

Кішка.

Кішки не є апекс-предаторами. Вони не домінують над людьми чи полюють на них. Але замість того, щоб бути розчавленими розширенням людства або підкорятися людським апетитам, вони зробили щось інше: вони коеволюціонували поряд з нами. Вони стали корисними, полюючи на щурів та маленьких птахів, які були приваблені людськими поселеннями, і десь по дорозі вони стали бажаними. Вони стали компаньйонами.

Результат? Кішки швидко розмножуються. У них є надлишок джерел їжі, або як домашні тварини, або як випадкові мисливці біля людських поселень. У них мало серйозних хижаків. Вони є всюди, де люди.

І знову, це не було свідомим рішенням. Це не була стратегія. Це просто так відбувся еволюційний тиск. Але результат вражаючий: замість боротьби з апекс-предатором чи годування апекс-предатора, вони підружились з апекс-предатором.

Що це має спільного з AI

Так чому це має значення?

Прихід моделей, таких як Mythos від Anthropic та Project Glass Wing, – це еквівалент дня, коли люди прибули в Австралію. Окрім того, що хронологія сильно стиснута. Те, що зайняло покоління на тому континенті, відбудеться за роки – можливо, навіть менше.

Зараз багато написано про те, як команди безпеки повинні реагувати на загрозу хакінгу з використанням AI. Я думаю, що таке формулювання – помилка. Це не в першу чергу проблема безпеки. Це проблема інженерії.

От що змінюється: до появи цієї нової хвилі AI як захисники, так і нападники діяли у світі відносно обмежених ставок. Атаки відбувалися. Нарушення відбувалися. Але темп і складність були обмежені людською здатністю. Це фундаментально змінилося. Тепер є AI-моделі, спеціально розроблені для автономного виявлення та експлуатації уразливостей у великих масштабах, без втоми.

Більшість команд розробників – це велетенські вомбати в цій історії. Вони жили в середовищі, де, так, були загрози, але нічого подібного не траплялося. Вони будували системи, які були досить безпечними проти тисків, з якими вони фактично стикалися. Вони не зустрічали нічого подібного до того, що надходить.

Це ось-ось зміниться.

Три варіанти – і чому тільки один працює

Коли ця нова загроза настане, організації будуть мати три варіанти:

1. Бути велетенським вомбатом. Не адаптуватися. Бути знищеним. Це трапиться з багатьма компаніями. Деякі ніколи не оговоряться.
2. Бути куркою. Стати реактивною, спішачи заплатити кожну нову уразливість, коли вона з’являється. Це підхід “вилучити спис та вилікувати рану”. Це краще за нічого, але коли на вас летить 45 списів з усіх напрямків, ця одна уміння не врятує вас. Ви все одно їжа; ви просто повільніше до столу.
3. Бути кішкою. Фундаментально змінити свої відносини із загрозою. Використовувати AI для захисту проти AI. Вбудовувати безпеку в інженерію з самого початку. Проектувати системи, припускаючи порушення – не сподіваючись його запобігти.

Мета не полягає в тому, щоб найняти більше аналітиків безпеки для патрулювання периметру. Це спроба захистити слонів на савані. Це не масштабується проти цієї загрози. Мета полягає в тому, щоб перепроектувати савану.

Що означає “стати кішкою” насправді

Це не поверхневі роботи. Це не запуск сканера безпеки AI на вашій кодовій базі раз на квартал. Це вимагає переосмислення того, як проводиться розробка.

Практично це означає речі, такі як:

• Простіші кодові бази, які легше розуміти та аудитувати
• Використання бібліотек з відомими, перевіреними безпечними позначеннями
• Будівництво інфраструктури з припущенням, що порушення – це коли, а не якщо – і роблення латерального руху якомога складнішим після того, як зловмисник потрапляє всередину
• Підружитися з хижаком, використовуючи його так само, як і нападник. Моделі AI можуть посилювати інженерні команди та команди безпеки, щоб еволюціонувати їх захист і вийти вперед.

Компанії, засновані завтра, мають чистий лист. Вони можуть будувати це方式 з дня заснування. Компанії, які вже існують, з клієнтами, з чутливими даними, з живими системами, не мають цього розкоші. Вони повинні почати переходити зараз.

Виклик до дії

Anthropic самі сказали це: буде розправа. Буде економічний та соціальний розлад через атаки, що використовують AI. Деякі компанії не виживуть. Їх буде скомпрометовано людьми, які використовують ці інструменти, і вони ніколи не повністю відновляться. Це трапиться.

Таким чином, ось повідомлення: почніть зараз.

Інженерія та безпека повинні сидіти в одній кімнаті. Пройти через ландшафт загроз разом. Будувати спільний план. Там, де основна робота проводиться інженерними та дизайнерськими командами, підтверджується безпекою, а не навпаки. Безпека не може очолювати це. Безпека може перевірити роботу. Але фундаментальна зміна повинна походити від людей, які будують системи.

Компанії, які почнуть цей процес сьогодні, не всі виживуть. Але вони створять умови для виживання. І в середовищі, яке надходить, це найкраще, що ми можемо зробити.

Стати кішкою.