Рікі Коста, генеральний директор Quantum Stat – Інтерв’ю

Рікі Коста – генеральний директор Quantum Stat, компанії, яка пропонує бізнес-рішення для NLP та ініціатив штучного інтелекту

Що спочатку вас зацікавило в штучному інтелекті?

Випадковість. Я читав книгу про теорію ймовірностей, коли наткнувся на знамениту теорему. На той час я наївно запитував себе, чи можна застосувати цю теорему до природної мови, яку я намагався вирішити на роботі. Як виявилося, алгоритм уже існував, але я про це не знав, це був так званий Наївний Баєс, дуже відомий і простий генеративний модель, який використовується в класичному машинному навчанні. Ця теорема була теоремою Баєса. Я відчув, що ця збіг є ознакою, і посадив зерно цікавості, щоб дізнатися більше.

Ви є генеральним директором Quantum Stat, компанії, яка пропонує рішення для обробки природної мови. Як ви опинилися на цій посаді?

Коли відбувається революція в новій технології, деякі компанії більш осторожні, ніж інші, коли стикаються з невідомим. Я створив свою компанію, тому що追ування невідомого є для мене розвагою. Я також відчував, що це правильний час, щоб зайнятися галуззю NLP, враховуючи всі чудові дослідження, які з’явилися за останні 2 роки. Спільнота NLP має можливість досягти значно більше з меншими витратами, завдяки появі нових методів NLP, які вимагають менше даних для масштабування продуктивності.

Для читачів, які можуть бути незнайомі з цією галуззю, можете розповісти нам, що таке обробка природної мови?

NLP – це підгалузь штучного інтелекту та аналітики, яка намагається зрозуміти природну мову в тексті, мовленні або багатомодальному навчанні (текст і зображення/відео) і обчислювати її до тих пір, поки ви не отримуєте уявлення чи не надаєте цінну послугу. Цінність може походити з різних напрямків, від пошуку інформації в внутрішній системі компанії до класифікації настрою в новинах або GPT-2 твітер-бота, який допомагає з вашим соціальним маркетингом (як той, який ми побудували кілька тижнів тому).

У вас є ступінь бакалавра мистецтв у коледжі Хантера за експериментальну психологію. Чи вважаєте ви, що розуміння людського мозку та людської психології є активом, коли справа стосується розуміння та розширення галузі обробки природної мови?

Це контрінтуїтивно, але, на жаль, ні. Аналогія нейронів і глибоких нейронних мереж використовується просто для ілюстрації та створення інтуїції. Можна дізнатися значно більше з комплексної науки та інженерії. складність з розумінням того, як працює мозок, полягає в тому, що ми маємо справу з складною системою. “Інтелект” – це емерджентне явище мозку, яке взаємодіє зі своєю довкіллям, і дуже важко його визначити. Психологія та інші соціальні науки, які залежать від “редукціонізму” (зверху вниз), не працюють під цією складною парадигмою. Ось інтуїція: уявіть собі людину, яка намагається звести пісню “Let it Be” до гамми до мажор. Немає нічого в цій гаммі, що передбачає, що “Let it Be” виникне з неї. Те ж саме стосується людини, яка намагається звести поведінку до нейронної активності в мозку.

Чи можете ви розповісти нам, чому великі дані так важливі для глибокого навчання та, зокрема, обробки природної мови?

Станом на зараз, оскільки моделі глибокого навчання інтерполюють дані, чим більше даних ви надаєте моделі, тим менше випадків вона побачить при висновку в дикій природі. Ця архітектура “стимулює” великі набори даних, щоб моделі могли обчислити їх для підвищення точності висновку. Однак, якщо ми хочемо досягти більш інтелектуальної поведінки моделей штучного інтелекту, нам потрібно дивитися за межі кількості даних, які у нас є, і більше до того, як ми можемо покращити здатність моделі розуміти більш ефективно, що, інтуїтивно, не повинно вимагати великої кількості даних. З точки зору складності, експерименти з клітинними автоматами, проведені фізиками Джоном фон Нейманом і Стівеном Вольфрамом у минулому столітті, показують, що складність може виникнути з простих початкових умов і правил. Що ці умови/правила повинні бути щодо штучного інтелекту, це те, що кожен шукає.

Ви недавно запустили “Велику погану базу даних NLP”. Що це за база даних і чому вона важлива для тих, хто працює в галузі штучного інтелекту?

Ця база даних була створена для того, щоб розробники NLP мали безперешкодний доступ до всіх відповідних наборів даних у галузі. Ця база даних допомагає індексувати набори даних, що має приємний побічний ефект у вигляді можливості запитів від користувачів. Передобробка даних займає більшу частину часу в процесі розгортання, і ця база даних намагається мінімізувати цю проблему якомога більше. Крім того, це безкоштовна платформа для будь-кого, незалежно від того, чи ви академічний дослідник, практикант чи незалежний гуру штучного інтелекту, який хоче ознайомитися з даними NLP. Посилання

Quantum Stat зараз пропонує рішення “від початку до кінця”. Які це рішення?

Ми допомагаємо компаніям впроваджувати свій трубопровід моделей NLP, пропонуючи розвиток на будь-якій стадії. Ми можемо покрити широкий спектр послуг, від очищення даних на стадії передобробки до розгортання моделі на сервері у виробництві (ці послуги також виділені на нашій домашній сторінці). Не всі проекти штучного інтелекту реалізуються через невідомість того, як ваші конкретні дані/архітектура проекту працюють із моделлю штучного інтелекту. Ураховуючи цю невизначеність, наші послуги дають компаніям можливість ітерувати свій проект за фракцію вартості найму повноцінного інженера-розробника штучного інтелекту.

Яка остання розробка в галузі штучного інтелекту вам здається найбільш цікавою?

Найважливішим досягненням останнім часом є модель трансформера, про яку ви, можливо, чули: BERT, RoBERTa, ALBERT, T5 і так далі. Ці моделі трансформера дуже привабливі, оскільки вони дозволяють досліднику досягти найвищої продуктивності з меншими наборами даних. До появи трансформерів розробник потребував дуже великого набору даних, щоб тренувати модель з нуля. Оскільки ці трансформери надходять попередньо натренованими на мільярдах слів, це дозволяє швидше ітерувати проекти штучного інтелекту, і це те, чим ми зараз займаємося.

Чи є щось ще, що ви хотіли б поділитися про Quantum Stat?

Ми працюємо над новим проектом, пов’язаним з аналізом настрою фінансового ринку, який буде випущений скоро. Ми використали кілька трансформерів, щоб надати безпрецедентний погляд на те, як фінансові новини розгортаються в реальному часі. Слідкуйте за нами!

Дізнатися більше про Quantum Stat або прочитати нашу статтю про Велику погану базу даних NLP.