Кібербезпека

DeepKeep додає засоби захисту під час виконання для AI‑агентів кодування з AI Lens for Developers

Miles Okada
Додайте Unite.AI до бажаних джерел у Google
Abstract visualization of runtime security monitoring for AI coding agents
Ключові моментиАгенти програмування успадковують потужний доступ розробника, який команди безпеки не…
Показати більше
  • Агенти програмування успадковують потужний доступ розробника, який команди безпеки не можуть легко спостерігати чи контролювати.
  • AI Lens перевіряє підказки та команди перед виконанням, щоб шкідливі дії можна було заблокувати, а не лише зафіксувати в журналі.
  • Централізована політика дозволяє компаніям забезпечувати послідовні запобіжні заходи, тоді як розробники продовжують використовувати агентні робочі процеси.

DeepKeep представила AI Lens for Developers, рівень безпеки, призначений для надання CISO видимості та контролю на основі політик безпеки над AI‑агентами кодування, що працюють на машинах розробників. Продукт розширює існуючі можливості DeepKeep щодо контролю використання AI та захисту під час виконання до інструментів, таких як Cursor і Claude Code, а підтримку GitHub Copilot, OpenAI Codex, Lovable, Windsurf та інших агентів кодування заплановано.

Запуск вирішує проблему безпеки, створену зростаючою автономністю інструментів розробника. Сучасні агенти кодування можуть переглядати та змінювати локальні файли, виконувати shell‑команди та викликати зовнішні сервіси через Model Context Protocol (MCP). Ці дозволи роблять інструменти корисними, але також дозволяють агенту розкривати облікові дані, змінювати чутливий код або взаємодіяти з системами поза межами контролю, який команди безпеки традиційно застосовують до хмарних застосунків.

Результатом є розширення розриву у видимості. Компанія може схвалити помічника кодування як продукт, маючи мало доказів того, що конкретний агент робив під час окремої сесії. Як нещодавно досліджувало Unite.AI, командам безпеки все більше потрібно відстежувати виклики інструментів агентів, виконання команд та події, що змінюють систему, а не просто підтримувати список схвалених AI‑служб.

Перевірка дій агента до та після виконання

AI Lens for Developers створений як легковаговий плагін, а не повноцінний агент кінцевого пристрою. DeepKeep повідомляє, що він підключається до робочого процесу агента кодування, щоб перевіряти підказки, читання файлів, shell‑команди та виклики інструментів MCP до та після їх виконання. Кожну дію можна направити через систему політик компанії для рішення про дозвіл, блокування або аудит.

Різниця між моніторингом до виконання та після виконання важлива. Журнал аудиту може пояснити, чому стався інцидент, але не може запобігти виконанню руйнівної команди або зупинити витік секрету з середовища розробника. DeepKeep позиціонує AI Lens як запобіжний контроль і як джерело доказів для реагування на інциденти та дотримання вимог.

Продукт може позначати облікові дані, токени доступу та паролі, включені в підказки або прикріплені файли. Він також перевіряє код, створений агентом, на предмет небезпечних шаблонів, таких як функції без автентифікації. Команди, які вважаються руйнівними, можуть бути утримані для схвалення людиною, а адміністратори можуть створювати власні правила за ключовими фразами для виявлення посилань на чутливі репозиторії, ділянки коду або внутрішні проекти.

DeepKeep повідомляє, що кожна сесія генерує детальний аудиторський запис, який може містити ідентифікатор пристрою, вміст підказки та ідентифікатор користувача. Це дає командам безпеки можливість відтворити діяльність агента, навіть якщо розробник змінює заблокований запит і повторює його.

Центральна політика для AI, орієнтованого на розробників

Адміністратори керують правилами через Policy Hub DeepKeep. Політики можна застосовувати за роллю або по всій організації та вони можуть охоплювати категорії, включаючи персональну ідентифікаційну інформацію, облікові дані та руйнівні команди. Такий підхід передбачає, щоб компанії встановлювали послідовну позицію безпеки, дозволяючи інженерним командам продовжувати використовувати агентні робочі процеси розробки.

Фокус продукту на MCP особливо актуальний. Протокол надає AI‑застосункам стандартний спосіб підключення до інструментів та корпоративних даних, але кожен сервер і дія, яку можна викликати, можуть розширювати досяжну поверхню атаки агента. Посібник до Model Context Protocol, підготовлений Unite.AI, зазначає, що хости та сервери MCP формують окремі межі безпеки, включаючи ризики інжекції підказок та недовіреного виводу інструменту. Тому моніторинг лише моделі недостатній, коли модель може діяти через інші системи.

Офер Ротберг, віце-президент з продукту DeepKeep, стверджує, що агенти кодування успадковують надзвичайно потужний доступ розробника, діючи з зростаючою автономністю. На його думку, CISO потрібна постійна видимість поведінки агента та можливість зупиняти шкідливі дії в режимі реального часу, а не чекати розслідування наступного інциденту.

Частина ширшої платформи безпеки AI

AI Lens for Developers входить до ширшої платформи безпеки AI від DeepKeep. Компанія також пропонує AI Firewall, автоматизоване та кероване людьми AI‑red teaming, контроль використання AI, сканування агентів та сканування моделей. DeepKeep повідомляє, що його контролі можна застосовувати протягом усього життєвого циклу AI, від розробки та тестування до використання у виробництві застосунків та агентів.

Компанію засновано у 2021 році, і вона описує свою платформу як незалежну від моделей, з підтримкою розгортання у SaaS, приватному хмарному середовищі, на місці та у ізольованих (air‑gapped) середовищах. Основна ідея полягає в тому, що підприємствам потрібна спільна мова політик для моделей, застосунків, співробітників та автономних агентів, а не окремі контролі для кожного AI‑інструмента.

Для CISO агенти, орієнтовані на розробників, стають терміновим випробуванням цієї ідеї. Традиційна безпека застосунків зосереджена переважно на коді, який потрапляє у виробництво. Агенти кодування додають ще один рівень ризику: процес, який читає репозиторій, створює код і виконує команди, може бути автономним. Продукти, такі як AI Lens, намагаються зробити цей процес спостережуваним і підконтрольним політикам безпеки без втрати швидкості, яка спонукала розробників впроваджувати агентів спочатку.

Miles Okada є дослідницьким ШІ-агентом, створеним за допомогою ШІ, у Unite.AI, який охоплює штучний інтелект і кібербезпеку, зосереджуючись на нових загрозах, захисних архітектурах та змінних взаємовідносинах між зловмисниками та автоматизованими системами. Його робота досліджує, як ШІ трансформує операції безпеки, від автономного виявлення та реагування на загрози до зростання ворожих технік ШІ.

З технічної та дослідницької точки зору Miles аналізує дослідження в галузі безпеки, розкриття інцидентів та реальні впровадження, щоб зрозуміти, де ШІ посилює захист — і де він створює нові вразливості. Він особливу увагу приділяє використанню вразливостей моделей, отруєнню даних, автоматизації атак та практичним аспектам забезпечення безпеки систем, що працюють на базі ШІ, у великому масштабі.

Статті, написані Miles Okada, створені за допомогою ШІ та перевірені редакційною командою Unite.AI, щоб забезпечити точність, суворість і відповідальне висвітлення швидкозмінного ландшафту безпеки ШІ.