Ю Су, співзасновник і генеральний директор NeoCognition – Серія інтерв’ю

Ю Су, співзасновник і генеральний директор NeoCognition, є довгостроковим дослідником штучного інтелекту, чиє кар’єра охоплює академію, корпоративний штучний інтелект і передові агентські системи. Окрім керівництва NeoCognition, він також є асоційованим професором і інноватором у Державному університеті Огайо, де його робота була зосереджена на агентах штучного інтелекту, системах висновків і машинному навчанні. Його досвід також включає понад шість років як старший дослідник у Microsoft (MSFT ), де він працював разом з провідними дослідниками, включаючи Персі Ліанга, над системами розмовного штучного інтелекту для Outlook за допомогою технік семантичного аналізу. На різних посадах у Microsoft, академії та дослідницьких інститутах, таких як IBM T.J. Watson Research Center, Ю Су створив репутацію людини, яка просунула системи штучного інтелекту, які можуть міркувати, навчатися і взаємодіяти з складними цифровими середовищами, допомагаючи звузити розрив між передовими дослідженнями і реальними застосуваннями.

NeoCognition є компанією з дослідження агентів штучного інтелекту, яка зосереджена на розробці того, що вона описує як “спеціалізований інтелект” – системи штучного інтелекту, які безперервно вчаться і покращуються через досвід. Заснована провідними дослідниками штучного інтелекту, компанія переслідує бачення, яке рухається за межі статичних великих мовних моделей до агентів, які можуть розвивати глибокі знання у конкретних галузях. Її дослідження зосереджена на таких областях, як безперервне навчання, міркування, планування, використання інструментів і співробітництво декільох агентів, з метою створення систем штучного інтелекту, які стають більш здатними і надійними з часом. Об’єднавши досягнення у машинному навчанні з структурованим міркуванням і адаптивними методами навчання, NeoCognition спрямована на допомогу у формуванні наступного покоління агентів штучного інтелекту, які можуть впоратися з дедалі більш складними реальними завданнями.

Багато компаній поспішали випустити загальні пілоти штучного інтелекту, але ми все частіше чуємо про занепокоєння щодо надійності, коли ці системи входять у реальні виробничі середовища. Чому, на вашу думку, так багато поточних агентів штучного інтелекту борються поза контрольованими демонстраціями?

Більшість поточних агентів штучного інтелекту борються у виробництві, оскільки вони все ще фундаментально є універсалістами, які діють без тривкої розуміння середовища, у якому вони працюють. Вони можуть часто виконувати завдання один раз у демонстрації, але це дуже відрізняється від розвитку повторюваної уваги всередині реальної операційної системи.

Сучасні моделі є вражаючими знахідками закономірностей, але їм все ще бракує механізмів, які люди використовують для того, щоб стати надійними експертами. Люди не стають надійними, запам’ятовуючи ізольовані завдання. Ми спеціалізуємося, вивчаючи структуру певного світу: робочі процеси, обмеження, відносини, інструменти, пріоритети і наслідки, які визначають професію або організацію. З часом ми будемо внутрішню робочу модель цього середовища, і саме ця модель дозволяє приймати добрі рішення, які стають сталими і повторюваними.

Більшість агентів штучного інтелекту сьогодні не будують такого роду операційне розуміння. Вони сильно залежать від підказок, витягування або оркестровки шарів, які допомагають їм виконувати ізольовані дії, але вони все ще в основному імпровізують кожен раз, коли вони зустрічають нову ситуацію. Саме тому продуктивність часто погіршується, коли середовище змінюється, і ще більше, коли воно стає нечистим, динамічним або високим.

Відсутня частина – спеціалізація. Люди процвітають, оскільки ми можемо безперервно адаптуватися до змінених середовищ і ставати експертами всередині них через безперервне навчання. Ми вважаємо, що агенти штучного інтелекту потребують подібної здатності: здатності вивчити місцеву структуру області достатньо глибоко, щоб діяти з реальною майстерністю.

NeoCognition описала своє бачення як будівництво агентів, які можуть безперервно вчиться і адаптуватися більш як люди. Як це виглядає технічно порівняно зі статичним доопрацюванням або підходами, заснованими на витягуванні, які багато підприємств залежать сьогодні?

Більшість підприємств штучного інтелекту сьогодні покращують продуктивність або шляхом доопрацювання моделі один раз, або шляхом витягування відповідної інформації під час висновку. Ці підходи можуть бути корисними, але вони не дозволяють агенту фундаментально розвивати еволюційну експертизу всередині області.

Доопрацювання зазвичай є статичним після навчання. Системи витягування допомагають знайти інформацію, але витягування знань не те ж саме, що й розвиток області експертизи або адаптація поведінки на основі досвіду з часом. У багатьох випадках агент все ще бракує постійної моделі середовища, у якому він діє.

Коли людина вступає до компанії, вона не стає ефективною просто тому, що може шукати документи. Вона поступово розвиває судження, розуміючи, як організація фактично функціонує, і експертиза виникає з безперервного вдосконалення цієї внутрішньої моделі.

Ми вважаємо, що наступне покоління агентів потребує подібного механізму навчання. У NeoCognition ми зосереджені на тому, щоб дозволити агентам формувати такі еволюційні операційні моделі, щоб вони могли безперервно спеціалізуватися і покращуватися всередині області з часом, а не повторно починати з нуля або залежати від постійної людської реконструкції.

Здається, що зростає розрив між експериментами штучного інтелекту і операційною довірою. Підприємства можуть успішно прототипувати агентів внутрішньо, але розгортання їх у масштабі є зовсім іншою викликом. Що організації недооцінюють про цей перехід?

Багато організацій недооцінюють, наскільки динамічними є реальні операційні середовища насправді. Агент, який виконує завдання з точністю 85%, може звучати сильно у тестуванні, але у масштабі підприємства це все ще означає постійний потік помилок і ситуацій відновлення, які людські команди повинні керувати. Виклик стає ще більш значним у багатокрокових робочих процесах, де помилки накопичуються через системи і завдання, роблячи нагляд, втручання і відповідальність ще більш складними, ніж багато організацій спочатку очікували.

Підприємства все ще вважають розгортання проблемою оркестровки або підказки, коли насправді це також проблема навчання. Складна частина не полягає просто в тому, щоб агент виконав завдання. Це полягає у тому, щоб дозволити системі розвивати тривалу компетентність і судження всередині динамічного операційного середовища.

Тягар налаштування, підказки, нагляду і реконструкції все ще лежить сильно на людських командах сьогодні. Це часто ознака того, що система все ще бракує операційного розуміння; їх ручне керування через нього кожен раз. Це не шлях до масштабу або довіри.

Одна з основних тем, яка виникає у галузі штучного інтелекту, – це керування, обмеження і виконання політики. Однак NeoCognition стверджує, що керування samo по собі недостатньо. Чому ви вважаєте, що надійність в кінцевому підсумку потребує систем, які безперервно адаптуються до свого середовища, а не просто слідують статичним правилам?

Керування і обмеження дуже важливі, але статичні правила сами по собі не можуть повністю вирішити проблему надійності у складних середовищах.

Виробничі операційні системи постійно змінюються. Робочі процеси еволюціонують, інструменти оновлюються, політики зміщуються, і несподівані ситуації виникають, які не завжди можна передбачити заздалегідь. Якщо агент знає тільки, як слідувати попередньо визначеним правилам без розуміння середовища, у якому він діє, він в кінцевому підсумку зустріне ситуації, яких ці правила не передбачили.

Надійність людини виникає з судження, а не просто жорсткого дотримання сценаріїв, але тому, що ми розвиваємо судження через розуміння структури і обмежень світу навколо нас. Ми вчимося, коли підвищувати, коли щось виглядає аномально, і коли контекст змінює правильний курс дії.

Ми вважаємо, що агенти штучного інтелекту потребують подібної здатності до адаптації і розуміння середовища. Безпечніші системи будуть походити від того, що вони стають більш компетентними і спеціалізованими всередині чітко визначених операційних світів. Така система спостерігає за своїм власним середовищем і своїми власними виходами і відстежує, де вона помиляється і оновлює свою поведінку.

Галузна штучного інтелекту часто підкреслює більші моделі і ширші можливості, але NeoCognition, здається, зосереджена на спеціалізації і контекстному навчанні. Чи вважаєте ви, що майбутнє підприємств штучного інтелекту буде виглядати більше як високо спеціалізовані цифрові працівники, а не універсальні помічники?

Ми твердо віримо, що майбутнє буде рухатися до спеціалізації. Галузна штучного інтелекту зрозуміло зосередилася на все більш загальних моделях, оскільки широкі можливості вражаючі. Але у середовищах підприємств реальним викликом є не те, чи може агент зробити трохи всього. Це те, чи може він виконувати певну роль надійно і з добрим судженням з часом. Наша сила не полягає в тому, що ми народжені експерти у кожному середовищі. Це те, що ми можемо вивчити структуру певного світу достатньо глибоко, щоб діяти ефективно всередині нього.

У NeoCognition ми вважаємо, що майбутнє не буде одним суперагентом, який робить все. Замість цього це буде велика кількість спеціалізованих агентів, кожен з яких вивчає певний світ достатньо глибоко, щоб діяти з експертною майстерністю, надійністю і судженням всередині нього. Їх мета не полягає в тому, щоб замінити людську експертизу, а в тому, щоб зробити її більш доступною: щоб поставити передові можливості у багато більше рук і підвищити базовий рівень того, що кожна людина або організація може зробити.

Одним з найбільших занепокоєннь, пов’язаних з автономними агентами, є те, як вони поводяться, коли середовища змінюються несподівано. Наскільки важливим є реальне адаптування і екологічна осведомленість для запобігання помилок, галюцинацій або небезпечних дій?

Це абсолютно критично. Без екологічної осведомленості агенти можуть продовжувати діяти впевнено, навіть коли їхнє розуміння ситуації застаріло або неповне. Саме там операційні помилки часто виникають.

Ми вважаємо, що надійність вимагає, щоб агенти безперервно вивчали місцеву структуру середовища, у якому вони діють, і оновлювали своє розуміння з часом. Надійність змінюється і еволюціонує з часом: те, що здавалося надійним у вересні, може не виглядати так само у травні. Чим глибше агент розуміє системи, обмеження, робочі процеси і відносини навколо нього, тим більш здатним він стає до визнання того, коли умови змінилися або коли невизначеність вимагає ескалації.

Як близька, на вашу думку, галузь до розгортання систем штучного інтелекту, які можуть真正но покращуватися через безперервну взаємодію з реальними операційними середовищами?

Ми все ще на ранній стадії будівництва основних механізмів навчання, необхідних для надійного безперервного навчання і самопокращення, але галузь набагато ближче до цього переходу, ніж багато людей розуміють. Ми живемо у стиснутому графіку. Інгредієнти для наступного технологічного прориву готові. Це може статися досить скоро.

Що має значення, це не просто самопокращення в абстрактному сенсі, а структуроване спеціалізація всередині реальних середовищ. Це означає вивчення робочих процесів, обмежень, відносин і моделей успішної поведінки способами, які є стабільними, керованими і стійкими до катастрофічного забуття. Це проблема, на яку ми зосереджені у NeoCognition.

Оглядаючи вперед кілька років, що, на вашу думку, в кінцевому підсумку відокремить довірчі підприємства штучного інтелекту від хвилі експериментальних систем, які зараз заповнюють ринок?

Системи, які успішно пройдуть, будуть тими, які будуть відчуватися менше як іграшки і більше як надійні оператори.

Самі по собі можливості моделі не будуть достатніми. Підприємства в кінцевому підсумку будуть турбуватися про те, чи можуть агенти діяти послідовно всередині їх фактичних середовищ, розуміти місцеві робочі процеси і обмеження, поважати межі і дозволи, адаптуватися безпечно з часом і доставляти повторювані результати.

Майбутні переможці у сфері підприємств штучного інтелекту не будуть просто системами, які можуть відповісти на найбільший діапазон питань. Вони будуть системами, які можуть вивчити певний операційний світ достатньо глибоко, щоб діяти з реальною майстерністю, судженням і надійністю всередині нього.

Дякуємо за велике інтерв’ю, читачам, які бажають дізнатися більше, слід відвідати NeoCognition.