Думка

ШІ переходить на наші ПК — але хто контролює, що він може бачити?

Adlin Pertishya
Додайте Unite.AI до бажаних джерел у Google
Ключові моментиЛокальна обробка ШІ не гарантує автоматично приватності чи безпеки для агентів на…
Показати більше
  • Локальна обробка ШІ не гарантує автоматично приватності чи безпеки для агентів на пристрої.
  • Агенти повинні працювати за принципом найменших привілеїв, обмежених тим, що вимагає кожен конкретний робочий процес.
  • Користувачам потрібен прозорий і відкличний контроль над тим, що агенти можуть бачити й робити.

Агенти ШІ починають виходити за межі вікон чату й проникати в операційні системи, застосунки та файли, якими люди користуються щодня.

Нові ПК з Windows і програмне забезпечення, випущене останніми місяцями, відкривають звичайним користувачам і корпоративному середовищу нову епоху багатокрокових автономних робочих процесів на основі ШІ, і цей перехід уже не є лише технологічним прогнозом.

ПК з Windows на базі RTX від NVIDIA підтримують локальний запуск агентів ШІ, а Perplexity розширила можливості своїх агентів для сумісних комп’ютерів із Windows, уможлививши робочі процеси з використанням локальних файлів і під’єднаних застосунків. Тим часом Microsoft розробляє запобіжні механізми, які мають контролювати, як агенти отримують доступ до ресурсів і виконують дії.

Однак більша автономність підвищує ризики для безпеки. 19 жовтня виконавча віцепрезидентка Microsoft із питань безпеки Гаєте Ґалло застерегла, що організаціям потрібно докладати більше зусиль для захисту «інсайдерів-агентів», зауваживши, що агенти ШІ часто мають надмірні привілеї та можуть отримувати доступ до конфіденційних даних, інструментів і систем, ухвалюючи рішення в критично важливих процесах.

Стратегія безпеки Windows від Microsoft ґрунтується на ізоляції, обмежених дозволах і обмеженому нагляді; водночас дедалі більше занепокоєння викликає те, що помилка агента може мати наслідки, далеко серйозніші за просто неправильну відповідь. Агент може розкрити конфіденційну інформацію, змінити важливі файли або спричинити небажані дії в бізнес-застосунках.

Локальний ШІ не означає автоматично приватний ШІ

Використання агентів ШІ на ПК може допомогти зменшити обсяг конфіденційних даних, що передаються хмарним сервісам, але локальна обробка не є безумовною гарантією безпеки.

Навіть модель, що працює на пристрої, може отримати доступ до надто великої кількості файлів, мати слабкий захист або небезпечні зв’язки з іншими застосунками.

Проблема не завжди полягає в моделі ШІ; часто причина — в організаційному управлінні, зазначив Байрон Кінтеро, генеральний директор і співзасновник iData Global, компанії, що спеціалізується на рішеннях зі штучного інтелекту в країнах Америки.

Компанії можуть надавати надто широкий або надто обмежений доступ до даних, застосунків і бізнес-процесів, сказав він в інтерв’ю Unite AI. Агентам можуть надавати права, які не відповідають завданням, для виконання яких їх призначено.

«Важливо забезпечити, щоб агент дотримувався принципу найменших привілеїв і мав доступ лише до даних, систем і дій, потрібних для певного робочого процесу», — сказав Кінтеро. Це означає, що доступ слід надавати лише до даних, систем і дій, потрібних для конкретного робочого процесу.

Серед необхідних запобіжних заходів він назвав чітке визначення права власності на дані, контроль доступу на основі ролей і постійний моніторинг взаємодій із внутрішніми системами та системами третіх сторін.

Безпечного локального ШІ не існує, наголосив Кінтеро.

Надмірні дозволи, слабке шифрування, недостатній моніторинг і небезпечні інтеграції можуть зробити агента на пристрої таким самим ризикованим, як і хмарного, або навіть ризикованішим.

Безпека залежить не лише від того, де працює модель системи, а й від того, як її налаштовано та нею керують.

Нова межа — це дозвіл

Для звичайного користувача головне питання полягає в тому, чи відповідає доступ агента ШІ його завданню.

Якщо агента просять підсумувати один документ, йому не потрібно сканувати весь диск. Інструмент для впорядкування фотографій не повинен автоматично читати фінансові дані або мати змогу надсилати повідомлення. Дозволи мають бути суворо обмеженими, прозорими й відкличними.

Модель облікового запису агента та робочого середовища в Microsoft — це крок до відокремлення дій агента від сеансу користувача. Однак ці засоби захисту мають ефективно працювати не лише під час демонстрації.

Рекомендації Microsoft щодо безпеки агентів у Windows передбачають авторизацію користувача, журнали дій і механізм контролю, який обмежує доступ агентів лише необхідним. Роботодавцям і розробникам потрібно стежити за реакцією агентів на хибні інструкції в документах, на вебсайтах або в повідомленнях.

Під час виконання авторизованого завдання агенти можуть натрапити на ненадійний вміст. Якщо агент сприйме ворожий текст як команду, це може стати серйозною проблемою безпеки, оскільки до інформації можна легко отримати доступ.

Погодження людини й доступ за принципом найменших привілеїв мають поєднуватися з ізоляцією під час виконання чутливих дій.

Зручність потребує чітких обмежень

ПК зі ШІ оцінюватимуть не лише за обсягом роботи, яку агенти можуть автоматизувати, а й за довірою користувачів до можливості ділитися особистими та професійними даними.

Хоча локальна обробка дає змогу агентному ШІ працювати швидше й зменшити розкриття певних даних, вона не скасовує потреби в дозволах і нагляді.

Принцип має бути простим: агенти повинні мати доступ лише до того, що необхідно для роботи, а користувачі — розуміти, відстежувати й блокувати дії агента.

У міру того як комп’ютери стають дедалі спроможнішими діяти замість нас, контроль не повинен бути чимось другорядним. Його потрібно закладати в саму конструкцію.

Adlin Pertishya — технологічний та бізнес‑репортер, який працював у Finance Outlook India, Silicon India, StartupBeat та інших.