Андреа Ваттані, співзасновник та головний науковий співробітник Spiketrap – Серія інтерв’ю

Андреа Ваттані – співзасновник та головний науковий співробітник компанії Spiketrap, яка займається контекстуалізацією та забезпечує розуміння аудиторії та медійної ефективності для творців, платформ та брендів. Пропріетарний штучний інтелект Clair витягує сигнал із шуму неструктурованих даних, забезпечуючи неперевершену ясність та контекст, особливо у високошвидкісних онлайн-середовищах.

Що спочатку привернуло вашу увагу до комп’ютерних наук та штучного інтелекту?

Це була комбінація щасливих обставин. Я прийшов до Римського університету, щоб скласти вступний іспит на спеціальність “Статистика”, але виявилося, що я запізнився на один день! Мене порадили подати заяву на спеціальність “Комп’ютерні науки” та перевестись на спеціальність “Статистика” через рік. Я пішов на вступний іспит на спеціальність “Комп’ютерні науки” (який відбувався того дня!) і пройшов його… і ніколи не переводився на спеціальність “Статистика”! Мій інтерес до штучного інтелекту почався з того, що я зрозумів, як комп’ютери можуть допомогти автоматизувати речі, а штучний інтелект – це кінцевий механізм автоматизації. Крім того, природна мова та те, як люди її використовують, завжди цікавили мене: у школі я вивчав класичні студії, вивчаючи старогрецьку та латинську мови, що, ймовірно, схоже на те, як машина відчуває себе, коли їй подають потік слів.

Раніше ви працювали старшим провідним інженером-програмістом у компанії Amazon (AMZN ) Goodreads. Які проекти ви реалізовували та які були основні висновки з цього досвіду?

Під час роботи у Goodreads я працював над кількома проектами з машинного навчання, які включали виявлення спаму та масштабування системи рекомендації книг. Мої висновки з цього досвіду полягають у тому, що визначення метрик машинного навчання, які відповідають бізнес-цілям та цілям клієнтів, є важливим. Наприклад, системи рекомендації існують уже давно. Ви пам’ятаєте конкурс “Netflix (NFLX ) Prize” у 2009 році, метою якого було розробити кращу систему рекомендації фільмів? Деякі висновки з переможних рішень свідчили про те, що ймовірність того, що ви дивитиметеся фільм, не залежить від того, чи вам він сподобається, а радше від того, чи він схожий на ваші інтереси. Це може працювати для фільмів, оскільки це короткий 90-хвилинний комітет, але для книг це не так. Інтеграція правильної мети у ваші метрики є важливою.

Іншим висновком, який я застосував у Spiketrap, є те, що потрібно будувати команди штучного інтелекту, які орієнтовані на доставку та інтегровані з дорожньою картою продукту, а не ізольовані команди, які займаються лише дослідженнями та розробкою. Це призводить до кращого визначення цілей, термінів та розуміння ROI. Це також природно сприяє тому, щоб команда фокусувалася на швидкості та практичності моделі, а не лише на точності. Повертаючись до прикладу конкурсу Netflix, моделі переможців ніколи не інтегрувалися через те, що вони були недостатньо практичними, незважаючи на їхню покращену точність.

Ваші дослідження були опубліковані у численних журналах. На вашу думку, яка робота була найважливішою?

Під час свого докторантуру я мав можливість співпрацювати з кількома дослідниками з різних областей, включаючи машинне навчання, “біг-дати”, аналіз соціальних даних та теорію ігор. Робота, яку я вважаю найважливішою за свою простоту та застосовність, – це “Scalable K-Means++“. K-Means++ – це широко використовуваний метод кластеризації, який дозволяє розділити набір даних на K згрупованих кластерів. Це робиться шляхом додавання одного кластеру за раз, тому коли у вас є великі дані та кластери, це стає надто повільним. У цій роботі ми показуємо, як можна досягти тієї ж, якщо не кращої, точності шляхом паралелізації методу. Наша методологія дуже проста та була реалізована у кількох бібліотеках машинного навчання.

Чи можете ви розповісти про історію створення Spiketrap?

Після роботи у Goodreads мої співзасновники Spiketrap, Кіран та Вірджиліо, та я зрозуміли, що у галузі існує пробіл у доступі до передових бренд-інсайтів з нішевих соціальних платформ. Застосування технологій штучного інтелекту дозволило нам адресувати цю проблему ефективно.

У сучасній економіці компанії повинні слухати своїх клієнтів та відповідну галузь у цілому. Однак багато того, що клієнти говорять про бренди, залишається невідомим. Міліони людей відкрито висловлюють свої думки щодня на платформах, таких як Twitter, Reddit, Twitch та інших. Це доволі цінний ресурс для будь-якого ринку дослідника, якщо вміти контекстуалізувати дані у масштабі. Проблема полягає в тому, що галузь інсайтів не впоралася з еволюцією цифрових поведінок та мови.

Інструменти для прослуховування залишаються залежними від ключових слів та булевих пошуків, пропускаючи більшу частину розмови, яка могла б бути віднесена до конкретного бренду. Тоді як компанії з дослідження ринку опинилися у все більш складному балансуванні, намагаючись отримати якісні інсайти з квантитативних та обмежених методів.

У короткому, людям бракує інструментів для розуміння своєї аудиторії у масштабі. Дані про продажі та кількість переглядів відповідають на питання “що” щодо поведінки аудиторії, але не на питання “чому”. Без контексту визначення того, що є кореляцією, а що є причиною, – це гра в гадання. Розпізнавши цю порожнину, ми почали шукати рішення для контекстуального розуміння, і так з’явилася Spiketrap.

Які технології машинного навчання використовуються у Spiketrap?

Ми використовуємо різноманітні технології, від звичайних Scikit-learn до бібліотек глибокого навчання, таких як Pytorch. Окрім бібліотек, методології, моделі та набори даних, які ми використовуємо, переважно пропріетарні. Ми зрозуміли, що готові методи та моделі можуть привести вас лише так далеко, але щоб справді розв’язати проблему, потрібно вкласти свою роботу, починаючи від цілей та закінчуючи архітектурою моделі та наборами даних. Наприклад, тематичне моделювання – це завдання витягування тем з колекції текстів. Наш інструмент “Spiketrap Convos” надає нашим клієнтам важливі інсайти про їхню аудиторію та використовує тематичне моделювання як один із сигналів. Ваш звичайний метод тематичного моделювання – LDA (Latent Dirichlet Allocation), але на жаль, він надто непостійний та непередбачуваний і просто не достатньо потужний. З іншого боку, ви можете спробувати сучасну попередньо натреновану модель, таку як Bert-Topics, яка, хоча й потужна та всебічна, також досить жорстка та повільна. NLP та мовний штучний інтелект зробили великі кроки за останні десять років, але перетворення існуючих моделей у продукти все ще далеко від оптимального та ризикованого.

Чи можете ви розповісти, як Spiketrap забезпечує миттєве розуміння аудиторії для творців, платформ та брендів?

Рекламодавці та агентства використовують наші таблиці лідерів інфлюенсерів та інструменти бренд-афінності, щоб ідентифікувати творців, чиї спільноти є бренд-безпечними у різних категоріях, включаючи оцінки токсичного, непристойного та сексуального контенту, а також загальну безпеку спільноти бренду.

Творці можуть використовувати інструмент, щоб заглибитися у окремі стріми та побачити, які розмови були найбільш або найменш безпечними, які спонукали позитивну взаємодію для їхніх спонсорів, та де вони можуть поліпшити свої зусилля з модерації.

Нещодавно була опублікована робота під назвою “FeelsGoodMan: Інферування семантики неологізмів Twitch“. Чи можете ви коротко описати цю роботу?

Способи, якими люди спілкуються та виражають себе онлайн, стають все більш складними та складними для розшифровки. Спочатку з’явилися емоджі :-). Потім з’явилися емоджі. Потім меми… та тепер “емоти” – новий вид іконографічного спілкування, який став дуже популярним на платформі Twitch. Це нагадує емоджі за їхнім змішаним використанням з звичайним текстом, але вони представляють подібні складності, як і меми, оскільки вони генеруються користувачами та їхнє криптичне значення не має очевидної зв’язку з зображенням. Є понад 8 мільйонів різних емотів на сьогодні, з яких понад 400 тисяч використовуються щотижня. Все ж таки, люди ефективно спілкуються, використовуючи їх, щоб виразити будь-які почуття, такі як радість, нудота, збудження чи сарказм. Наша робота – це кулінарна книга штучного інтелекту для інферування семантичного значення емотів. Наш підхід не потребує підтримки та оновлення ручної бази даних та здатний самозатверджуватися до появи нових емотів, а також до еволюції значення популярних емотів. Це особливо важливо, коли емotify стають політично чи расово завантаженими, що ми бачили з дуже популярними емotify, такими як “TriHard”, “PogChamp” та “FeelsGoodMan”. Динамічне використання мови та зміни значення представляють величезні проблеми для систем модерації чи фреймворків аналізу настрою, тому ми пишаємося тим, що ми вирішуємо цю проблему правильно у Spiketrap.

Чи є щось ще, що ви хотіли б поділитися про Spiketrap?

Оглядаючи майбутній рік, Spiketrap працює над розробкою та досконалізацією нового інструменту, який надасть глибше розуміння бренд-настрою для наших клієнтів. Новий інструмент Spiketrap – це інтерактивний та інтуїтивний спосіб визначення та кількісної оцінки аудиторних афінностей серед творців, брендів, ігор та іншого. Для будь-якого запиту інструмент генерує індексні оцінки афінностей, які вказують, наскільки добре дана сутність позитивно корелює з іншою. Багатьох контекстних сигналів складає оцінку, включаючи частоту та настрій пов’язаних згадувань. Технологічна база Spiketrap унікально позиціонована для індексації афінностей між іграми, брендами та творцями. Пропріетарний NLP-штучний інтелект Clair обробляє мільйони публічно опублікованих повідомлень користувачів щодня, відносячи інакше двозначний контент до сутностей у розширеному графі знань, ідентифікуючи теми розмови, визначення настрою та моніторинг безпеки. Додання нового інструменту афінності надає розробникам, творцям, брендам та іншим можливість краще зрозуміти свою аудиторію та вплив бренду.

Дякуємо за чудовий інтерв’ю. Читачам, які бажають дізнатися більше, рекомендуємо відвідати Spiketrap.