Контрольоване забування: наступний великий виклик у пам’яті штучного інтелекту

Тривалий час галузь штучного інтелекту зосереджувалася на одному цілі: зробити системи, які краще пам’ятають. Ми тренували моделі на величезних наборах даних і поступово покращували їхню здатність зберігати та відновлювати інформацію. Але тепер ми усвідомлюємо незручну реальність. Ті самі системи, які ніколи не забувають, тепер ув’язнені своєю власною пам’яттю. Те, що раніше здавалося силою, стало серйозною слабкістю.

Люди забувають природно. Ми відпускаємо інформацію, адаптуємося та рухаємося вперед. Системи штучного інтелекту працюють інакше. Вони пам’ятають все, якщо ми не навчитимо їх забувати. Це створює реальні проблеми. Штучний інтелект бореться з порушенням приватності, застарілою інформацією, вбудованими упередженнями та системами, які ламаються при вивченні нових завдань. Виклик вперед не полягає в тому, щоб зробити штучний інтелект пам’ятати більше. Нам потрібно навчити штучний інтелект забувати мудро.

Два обличчя забування

Забування в штучному інтелекті проявляється у двох різних формах, кожна з яких має свої власні проблеми.

Перша – це катастрофічне забування. Це відбувається, коли нейронна мережа втрачає раніше вивчені знання після тренування на нових завданнях. Наприклад, модель, тренована для розпізнавання котів і собак, може забути цю здатність після вивчення розпізнавання птахів.

Друга форма – контрольоване забування. Це свідоме рішення. Воно полягає у свідомому видаленні певної інформації з тренованих моделей. Закони про приватність, такі як GDPR, дають людям право на “забування”, яке вимагає від компаній видалити дані за запитом. Це не про виправлення пошкоджених систем. Це про свідоме видалення даних, які ніколи не повинні були зберігатися або повинні зникнути за запитом.

Ці дві проблеми тягнуть у протилежні боки. Одна вимагає, щоб ми зупинили забування. Інша вимагає, щоб ми зробили забування можливим. Управління цими двома проблемами одночасно є однією з найважчих викликів штучного інтелекту.

Коли пам’ять стає зобов’язанням

Дослідження штучного інтелекту тривалий час зосереджувалося на покращенні пам’яті. Моделі стали більші, набори даних більші, а вікна контексту довші. Системи, такі як GPT-4o, тепер можуть обробляти 128 000 токенів контексту, а Claude може досягти 200 000. Ці досягнення покращили продуктивність, але також ввели нові проблеми.

Коли модель пам’ятає занадто багато, вона може відновити застарілу або неважливу інформацію. Це марнує обчислення та може плутати користувачів. Наприклад, розгляньте чат-бот підтримки клієнтів, тренований на базі знань вашої компанії. Ви оновлюєте політику, але після декількох взаємодій бот повертається до старої інформації. Це трапляється, тому що штучний інтелект не може правильно пріоритезувати пам’ять. Штучний інтелект не може відрізнити, що є поточним, а що є старим.

Закони про приватність роблять речі важчими. За GDPR, коли користувач запитує видалення своїх даних, компанії повинні видалити їх. Але видалення даних з моделі штучного інтелекту не таке ж, як видалення файлу з комп’ютера. Як тільки особисті дані стають частиною параметрів моделі, вони поширюються по мільйонах з’єднань всередині мережі. Перетренування всієї системи для видалення цих даних є дорогим і часто неможливим. Дослідження показують, що більші моделі більш вразливі до кібератак. Чим більша модель, тим більше вона схильна до запам’ятовування та може відтворювати приватні дані, коли запитується через ретельно створені запити. Атакувальники можуть витягнути інформацію, до якої вони ніколи не повинні були мати доступ.

Що робить забування важким

Моделі штучного інтелекту не зберігають приклади тренування, як файли в папці. Вони стискають та змішують інформацію тренування у свої ваги та активації. Видалення однієї частини даних без порушення всього іншого є надзвичайно складним. Крім того, ми не можемо легко відстежувати, як конкретні дані тренування впливають на внутрішні ваги моделі. Як тільки модель вивчає дані, це знання поширюється через її параметри способами, які важко відстежити.

Перетренування моделей з нуля після кожного запиту на видалення не є здійсненним. Коли хтось запитує видалення своїх особистих даних згідно з GDPR, вам потрібно видалити їх з системи штучного інтелекту. Але перетренування моделі з нуля кожен раз є занадто дорогим і повільним у більшості виробничих середовищах. Для великих мовних моделей, тренованих на мільярдах даних, такий підхід був би надзвичайно дорогим і тривалим.

Перевірка забування становить ще одну проблему. Як ми можемо довести, що дані були фактично забуті? Компаніям потрібні зовнішні аудити, щоб показати, що вони видалили інформацію. Без надійних методів перевірки бізнес не може довести свою відповідність, а користувачі не можуть довіряти, що їхні дані дійсно зникли.

Ці проблеми призвели до появи нової галузі, званої machine unlearning. Вона зосереджується на техніках видалення впливу конкретних даних з тренованих моделей. Але ці методи ще знаходяться на ранній стадії. Точне забування часто вимагає перетренування моделі, тоді як приблизні методи можуть залишити сліди видаленої інформації позаду.

Ділема стабільності-пластичності

Основним викликом, який нам потрібно вирішити, є запобігання катастрофічному забуванню, одночасно дозволяючи контрольоване забування. Це веде нас до ключового виклику, з яким зіштовхується штучний інтелект: ділема стабільності-пластичності. Моделі повинні бути достатньо гнучкими, щоб вивчити нову інформацію, але достатньо стабільними, щоб зберегти старе знання. Якщо ми надто сильно тягнемо модель у бік стабільності, вона не може адаптуватися. З іншого боку, якщо ми надто сильно тягнемо її у бік гнучкості, вона може забути все, що раніше вивчила.

Пам’ять людини надає корисні підказки для вирішення цієї ділеми. Нейробіологія каже нам, що забування не є недоліком. Це активний процес. Мозок забуває свідомо, щоб зробити навчання більш ефективним. Він видаляє або пригнічує стару або низькоцінну інформацію, щоб нові спогади залишилися доступними. Коли люди вивчають нову мову, вони не видаляють стару. Але якщо вони перестають використовувати її, відновлення стає складнішим. Інформація все ще існує, просто депріоритезується. Мозок використовує вибіркове пригнічення, а не видалення.

Дослідники штучного інтелекту починають приймати подібні ідеї. Генеративне повторення техніки імітують, як мозок зберігає спогади. Вони створюють абстрактні представлення попередніх знань замість зберігання сирої інформації. Це зменшує катастрофічне забування та зберігає пам’ять компактною. Інша перспективна ідея – інтелектуальне衰днання. Збережені спогади оцінюються за тим, наскільки вони недавні, важливі та корисні. Менш важливі спогади поступово втрачають пріоритет та відновлюються рідше. Це зберігає інформацію доступною, але прихованою, якщо вона не потрібна. Системи штучного інтелекту можуть керувати великими базами знань без видалення потенційно цінної інформації.

Мета не полягає у видаленні, а у балансуванні пам’яті та забування розумно.

Як виглядатиме майбутнє

Галузь рухається у трьох основних напрямках.

По-перше, з’являються гібридні архітектури пам’яті. Ці системи поєднують епізодичну пам’ять (конкретний досвід) з семантичною пам’яттю (загальне знання). Вони використовують механізми ранжування та обрізання, щоб зберегти важливу інформацію, а те, що менш важливе, зникнути. Векторні бази даних, такі як Pinecone та Weaviate, допомагають керувати та відновлювати таку пам’ять ефективно.

По-друге, технології, що підвищують приватність, набувають популярності. Техніки, такі як федеративне навчання, диференціальне приватність та гомоморфне шифрування, зменшують потребу у чутливих особистих даних. Ці методи дозволяють моделям тренуватися спільно або безпечно без збору чутливої інформації користувачів. Вони не розв’язують проблему забування безпосередньо, але зменшують кількість особистих даних, які потрібно забувати пізніше.

Третє, машинне забування продовжує покращуватися. Нові методи можуть регулювати параметри моделі, пов’язані з конкретними даними, без повного перетренування. Ці підходи знаходяться на ранній стадії, але вони рухаються у бік відповідності вимогам видалення даних. Все ж таки, перевірка того, чи дійсно забування видаляє всі сліди даних, залишається складною. Дослідники розробляють тести для вимірювання ефективності цього процесу.

Основне

Системи штучного інтелекту стали excelente у пам’яті. Але вони все ще погані у забуванні. Ця пропасть стає все важче ігнорувати. Коли штучний інтелект стає потужнішим та регулювання суворішими, здатність забувати мудро буде мати таку ж важливість, як і здатність пам’ятати. Щоб зробити штучний інтелект безпечнішим, більш адаптивним та більш приватним, нам потрібно навчити його забувати обережно, вибірково та розумно. Контрольоване забування не тільки захистить приватність даних, але також допоможе системам штучного інтелекту еволюціонувати без того, щоб стати в’язнями своєї власної пам’яті.