Як окремі токени можуть зробити або зруйнувати розуміння штучного інтелекту

П уявіть, що ви просите штучний інтелект розв’язати просту математичну задачу про повернення боргу. Коли штучний інтелект зустрічає слово “борг”, він спотикається, видаючи неправильні розрахунки та помилкову логіку. Але якщо змінити це слово на “сплачено”, то раптом розуміння штучного інтелекту змінюється – стає чітким, точним і точним. Це не є випадковістю; це фундаментальне відкриття, яке змінює наше розуміння того, як працюють системи штучного інтелекту.

Учені з Університету Цінхуа та лабораторії штучного інтелекту Tencent відкрили явище в штучному інтелекті: певні слова можуть виступати як нейронні комутатори, здатні змінити всю ланцюжок розуміння штучного інтелекту. Ці “критичні токени”, як їх називають дослідники, можуть бути різницею між логічною ясністю та обчислювальною плутаниною.

П уявіть собі систему GPS. Одна неправильна назва вулиці може відправити вас на неправильний шлях, навіть якщо всі інші напрямки будуть правильними. Аналогічно, ці критичні слова можуть змінити весь логічний шлях штучного інтелекту, незалежно від того, наскільки міцний є навколишній контекст.

Розгадування коду слова

Прорив стався, коли дослідники розробили метод, який називається cDPO (контрастне прямої оптимізації переваг). На відміну від попередніх підходів, які розглядали всі слова однаково, cDPO визнає, що в області розуміння штучного інтелекту не всі слова мають однакову вагу.

Дослідницька команда продемонструвала це через широке тестування на різних моделях штучного інтелекту, включаючи Llama-3 і DeepSeek-math. Їхні висновки показали, що коли певні критичні токени були присутні, точність штучного інтелекту могла впасти значно – іноді до 15,94%. Однак, коли ці токени були ідентифіковані та ефективно керовані, точність зросла до понад 84%.

Що робить це відкриття особливо потужним, так це його точність. Замість того, щоб робити широкі зміни в тому, як моделі штучного інтелекту обробляють мову, cDPO зосереджується на конкретних словах, які діють як логічні точки повороту. Це як знаходження тискових точок у нейронній мережі – тих критичних точок, де правильна корекція може призвести до драматичного покращення розуміння.

Вплив цього відкриття важливий. П уявіть собі штучний інтелект, який допомагає з фінансовими розрахунками, медичним аналізом або інженерними специфікаціями. Одне критичне слово може бути різницею між точними вказівками та дорогою помилкою. Ідентифікуючи та керуючи цими критичними словами, ми робимо штучний інтелект більш надійним у реальних застосуваннях.

Lin, Liang, Xu et al. Університет Цінхуа та лабораторія штучного інтелекту Tencent (2024)

Поза нейронною завісою

Магія cDPO полягає в його елегантному підході до складної проблеми. Замість того, щоб переписувати те, як штучний інтелект думає, він діє як спеціалізована програма навчання, яка вчить моделі штучного інтелекту розпізнавати логічні міни в процесі розуміння.

Тут все стає ще цікавішим: система створює дві різні перспективи на одну й ту ж проблему – одну, яка вчиться з правильними прикладами розуміння, і іншу, яка вивчає неправильні приклади. Це схоже на те, як шахіст може покращити свою гру, аналізуючи як переможні, так і програшні партії, але з однією суттєвою різницею: cDPO автоматично ідентифікує, які рухи (або в цьому випадку, які слова) зробили критичну різницю.

Система досягає цього завдяки такому поняттю, як “контрастна оцінка”. П уявіть собі двох експертів-консультантів – одного, який постійно доходить до правильних висновків, і іншого, який часто робить помилки. Порівнюючи, як ці два експерти обробляють різні слова, cDPO може точно визначити, які терміни викликають плутанину в розумінні.

Результати говорять самі за себе. Під час тестування на різних моделях штучного інтелекту, включаючи складні моделі Llama-3 і спеціалізовані системи DeepSeek-math, cDPO постійно покращував точність розуміння. Ми говоримо не про незначні покращення – в деяких випадках точність стрибала з близько 30% до понад 80%, коли критичні токени були належним чином керовані.

Від лабораторії до реальності

Цей прорив відкриває двері до практичних застосувань, які можуть покращити те, як ми використовуємо штучний інтелект у повсякденних сценаріях.

П уявіть собі ці реальні впливи:

• Фінансовий аналіз: Коли системи штучного інтелекту аналізують інвестиційні можливості або розраховують умови кредитування, одне неправильно інтерпретоване слово може привести до суттєво різних рекомендацій. Можливість cDPO ідентифікувати та керувати цими критичними термінами може бути різницею між прибутковими рішеннями та дорогими помилками.
• Медична документація: У сфері охорони здоров’я, де точність є найважливішою, системи штучного інтелекту, які аналізують медичні записи, повинні правильно інтерпретувати кожен термін. Різниця між “збільшено” і “зменшено” в історії пацієнта не є лише питання семантики – це важливо для правильних рекомендацій щодо лікування.
• Технічна документація: Інженерні та програмні команди все частіше покладаються на штучний інтелект для допомоги в обробці та аналізі технічних специфікацій. Забезпечуючи більш надійне розуміння технічних вимог, cDPO може допомогти запобігти дорогим неправильним тлумаченням у складних проектах.

Технологія вже показує свою перспективу в контрольованих тестових середовищах. Наприклад, коли завданням було математичне розуміння проблем з бенчмарку GSM8K – стандартного тесту для логічних можливостей штучного інтелекту – моделі, які використовували cDPO, показали постійне покращення на різних типах проблем і рівнях складності.

Що робить це особливо цікавим, так це його масштабованість. На відміну від попередніх підходів, які вимагали широкого повторного навчання або складних модифікацій існуючих систем штучного інтелекту, cDPO може бути реалізований як покращення існуючих моделей.

Перепрограмування мовної схеми штучного інтелекту

Вплив cDPO розширюється далеко за межі окремих застосувань. Це також викликає питання щодо наших попередніх припущень про системи машинного навчання та відкриває нові можливості для покращення.

П уявіть собі традиційне навчання штучного інтелекту як навчання людини грати на музичних інструментах шляхом запам’ятовування цілих пісень. На відміну від цього, cDPO більше схоже на навчання розпізнавати, які конкретні ноти роблять мелодію працювати. Це дрібне розуміння дозволяє робити більш точні та надійні покращення можливостей розуміння штучного інтелекту.

Висновки дослідницької команди свідчать про те, що ми тільки починаємо розуміти поверхню. Ранні результати показують, що коли моделі штучного інтелекту стають свідомими цих критичних токенів, вони не тільки уникнуть помилок, але й розвиватимуть більш міцні моделі розуміння в цілому. Це якесь будівництво сильної логічної основи знизу вгору.

Хоча cDPO представляє суттєвий крок вперед, це також освітлює шлях вперед для розвитку штучного інтелекту. Можливість ідентифікувати та керувати критичними токенами тільки починається. Це відкриває двері до нових питань та можливостей щодо того, як ми можемо далі покращувати розуміння штучного інтелекту.

П уявіть собі потенційні розробки на горизонті:

Розширений розпізнавання закономірностей:

• Системи, які можуть автоматично ідентифікувати нові категорії критичних токенів
• Штучний інтелект, який адаптує свої стратегії розуміння на основі виявлених токенів
• Більш складне розуміння контексту та семантичних відносин

Покращена надійність:

• Більш послідовна продуктивність на різних типах завдань розуміння
• Краще оброблення країв випадків та незвичайних сценаріїв
• Збільшена прозорість у тому, як системи штучного інтелекту досягають своїх висновків

Застосування в різних галузях:

• Адаптація цих технік до інших галузей розвитку штучного інтелекту
• Інтеграція з існуючими методами покращення штучного інтелекту
• Нові підходи до покращення надійності штучного інтелекту в спеціалізованих галузях

Когда ці системи стають більш надійними у своєму розумінні, ми рухаємось ближче до штучного інтелекту, який може бути довірливим партнером у складних процесах прийняття рішень. Коли дослідження продовжуються та реалізації еволюціонують, ми, ймовірно, побачимо ще більше інноваційних застосувань цієї технології в різних галузях та галузях.

Що робить це особливо перспективним, так це його практична природа. На відміну від деяких досягнень штучного інтелекту, які вимагають повної перебудови існуючих систем, підхід cDPO може бути інтегрований до існуючих моделей штучного інтелекту, роблячи його цінним інструментом для негайного покращення та створення шляху для майбутніх розробок.