Омрі Кохл, генеральний директор та співзасновник Pyramid Analytics – Серія інтерв’ю

Омрі Кохл є генеральним директором і співзасновником Pyramid Analytics. Платформа прийняття рішень Pyramid Analytics надає дані, керуючись інсайтами для того, щоб кожен міг приймати швидші та більш інтелектуальні рішення. Він очолює стратегію компанії та операції на ринку даних та аналітики, який швидко зростає. Кохл має глибоке розуміння аналітики та технологій штучного інтелекту, цінний досвід управління та природну здатність поставити під сумнів традиційне мислення. Кохл є досвідченим підприємцем з доведеним послужним списком у розробці та управлінні компаніями, які швидко зростають. Він вивчав економіку, фінанси та бізнес-менеджмент у Університеті Бар-Ілан та має ступінь магістра міжнародного бізнес-менеджменту у Школі бізнесу імені Леонарда Н. Стерна Нью-Йоркського університету.

Чи можете ви почати з пояснення того, що таке GenBI, і як воно інтегрує генеративний штучний інтелект з бізнес-аналітикою для покращення процесів прийняття рішень?

GenBI – це рамки та механіка для того, щоб принести силу генеративного штучного інтелекту, великих мовних моделей та загального штучного інтелекту в аналітику, бізнес-інтелект та прийняття рішень.

Наразі не практично використовувати генеративний штучний інтелект самостійно для отримання інсайтів з наборів даних. Це може зайняти понад тиждень, щоб завантажити достатньо даних до інструменту генеративного штучного інтелекту, щоб отримати значущі результати. Це просто не працює, оскільки бізнес-дані надто динамічні та надто чутливі, щоб використовувати їх таким чином. З GenBI кожен може витягнути цінні інсайти з своїх даних, просто запитавши питання природною мовою та побачивши результати у вигляді панелі бізнес-інтелекту. Це займає всього 30 секунд, щоб отримати відповідь, яка є актуальною та корисною.

Які ключові технологічні інновації стоять за GenBI, які дозволяють йому розуміти та виконувати складні завдання бізнес-інтелекту через природну мову?

Ну, не розкриваючи всі наші секрети, існує три основних компоненти. По-перше, GenBI підказує великим мовним моделям всі елементи, які їм потрібні для виробництва правильних аналітичних кроків, які дадуть запитаний інсайт. Це дозволяє користувачеві формувати запити, використовуючи природну мову, навіть у невизначених термінах, не знаючи точно, який тип діаграми, розслідування чи формату запитати.

Далі, рішення GenBI від Pyramid Analytics застосовує ці кроки до даних вашої компанії, незалежно від особливостей вашої ситуації. Ми говоримо про базові набори даних та прості запити, а також про складні випадки використання та складні бази даних.

Третє, Pyramid може виконувати ці запити на основі даних та маніпулювати результатами на льоту. Велика мовна модель сама по собі не може провести глибокий аналіз бази даних. Вам потрібен роботизований елемент, щоб знайти всю необхідну інформацію, інтерпретувати запит користувача для отримання інсайтів та передати його до панелі бізнес-інтелекту, щоб артикулювати результати або у вигляді простої мови, або у вигляді динамічної візуалізації, яку можна пізніше уточнити за допомогою подальших запитів.

Як GenBI демократизує аналіз даних, особливо для нек-технічних користувачів?

Дуже просто, GenBI дозволяє кожному отримувати інсайти, яких їм потрібно, незалежно від рівня їхньої кваліфікації. Традиційні інструменти бізнес-інтелекту вимагають від користувача знати, яка техніка маніпулювання даними найкраще підходить для отримання необхідних результатів. Але більшість людей не думають у термінах діаграм, розсіювання чи таблиць. Вони не хочуть мати справу з тим, яку візуалізацію використовувати для своєї ситуації – вони просто хочуть відповіді на свої питання.

GenBI надає ці відповіді кожному, незалежно від рівня його кваліфікації. Користувачеві не потрібно знати всі професійні терміни чи визначати, яка діаграма найкраще підходить для його ситуації, і він не повинен знати, як кодувати запити до бази даних. Він може досліджувати дані, використовуючи свою власну мову у природній розмові.

Ми думаємо про це як про різницю між використанням паперової карти для планування маршруту та використанням Google Maps чи іншого навігаційного додатка. З традиційною картою вам потрібно визначити найкращі дороги, подумати про потенційні затори та порівняти різні можливості маршруту. Сьогодні люди просто вводять пункт призначення у додаток та вирушають у дорогу – є так багато довіри до алгоритмів, що ніхто не сумнівається у запропонованому маршруті. Ми хотіли б подумати, що GenBI приносить такий же магічний автоматизм до корпоративних наборів даних.

Який відгук був від ранніх користувачів щодо легкості використання та кривої навчання?

Ми отримали надзвичайно позитивний відгук. Найкращим чином ми можемо це підсумувати як “Вау!” Користувачі та тести високо оцінюють легкість використання, потужні функції та значущі інсайти Pyramid.

Pyramid Analytics практично не має кривої навчання, тому нічого не стримує людей від прийняття його на місці. Приблизно три чверті всіх бізнес-команд, які протестували нашу систему, прийняли її та використовують сьогодні, оскільки це так легко та ефективно.

Чи можете ви поділитися тим, як GenBI змінив процеси прийняття рішень у організаціях, які його реалізували? Чи є конкретні випадки чи приклади?

Хоча ми розробляли це протягом довгого часу, ми тільки нещодавно випустили GenBI, тому я впевнений, що ви зрозумієте, що у нас ще немає повністю сформованих випадків чи прикладів клієнтів, яких ми можемо поділитися. Однак я можу сказати, що організації з тисячами користувачів раптом стають真正 дані-орієнтованими, оскільки кожен може отримувати інсайти. Користувачі тепер можуть розблокувати справжню цінність усіх своїх даних.

GenBI має трансформаційний вплив на галузі, такі як страхування, банківська справа, фінанси, а також роздрібна торгівля, виробництво та багато інших вертикальних ринків. Раптом фінансовим радникам, наприклад, можна миттєво отримувати пропозиції щодо оптимізації портфеля клієнта.

Які були деякі з найбільших викликів, з якими ви зіштовхнулися під час розробки GenBI, і як ви їх подолали?

Pyramid Analytics вже протягом багатьох років використовував штучний інтелект для аналітики до запуску нового рішення, тому більшість викликів були вже вирішені.

Основним новим елементом є додання технології генерації запитів, яка працює з будь-якою великою мовною моделлю для отримання точних результатів, зберігаючи дані приватними. Ми досягли цього, від’єнявши дані від запиту (ще про це згодом).

Іншим великим викликом, з яким нам довелося справитися, була проблема швидкості. Ми говоримо про епоху Google, де люди очікують відповідей зараз, а не через годину чи навіть півгодини. Ми зробили усе, щоб прискорити обробку та оптимізувати всі робочі процеси для зменшення тертя.

Потім є необхідність запобігти галюцинаціям. Чат-боти схильні до галюцинацій, які викривлюють результати та підірвають надійність. Ми працювали над тим, щоб уникнути цих галюцинацій, зберігаючи при цьому динамічні результати.

Як ви обробляєте питання, пов’язані з безпекою даних та конфіденційністю?

Це велике питання, оскільки конфіденційність даних та безпека є найбільшим перепоною для успішної аналітики генеративного штучного інтелекту. Кожен – цілком справедливо – стурбований ідеєю розкриття високочутливих корпоративних даних третім сторонам штучного інтелекту, але вони також хочуть можливостей інтерпретації мови та інсайтів, які ці двигуни можуть надати.

Це саме тому ми ніколи не ділимося справжніми даними з великими мовними моделями, з якими ми працюємо. Pyramid перевертає все на голову, діючи як посередник між інформацією вашої компанії та великою мовною моделлю. Ми дозволяємо вам подати запит, а потім передаємо його великій мовній моделі разом з описами того, що ми називаємо “інгредієнтами”, тобто просто метаданими.

Велика мовна модель потім повертає “рецепт”, який пояснює, як перетворити запит користувача на підказку аналітики даних. Потім Pyramid запускає цей рецепт на даних, які ви вже підключили безпечно на своєму локальному встановленні, так що жодні дані ніколи не досягають великої мовної моделі. Ми об’єднуємо результати, щоб повернути їх вам у зрозумілій візуальній формі. Зрештою, нічого, що могло б скомпрометувати вашу безпеку та конфіденційність, не розкривається чи не виходить за межі вогневої стіни вашої організації.

Для організацій, які хочуть інтегрувати GenBI у свої існуючі інфраструктури даних, що виглядає процес реалізації?

Процес реалізації Pyramid Analytics не може бути простішим чи швидшим. Користувачам потрібно дуже мало попередніх умов та підготовки, і ви можете запустити все за менш ніж за годину. Вам не потрібно переміщувати дані у нову структуру чи змінювати щось у своїй стратегії даних, оскільки Pyramid запитує ваші дані безпосередньо там, де вони знаходяться.

Не потрібно пояснювати ваші дані рішенню чи визначати колонки. Це так просто, як завантажити набір даних у форматі CSV або підключити свою базу даних SQL. Те ж саме стосується будь-якої реляційної бази даних будь-якого типу. Це займає лише кілька хвилин, щоб підключити ваші дані, а потім ви можете задати своє перше питання за секунди пізніше.

Те ж стосується структури, якщо ви хочете її змінити, наприклад, змінити модель приєднання чи переозначити колонки. Це займає деякий час та зусилля, але ми говоримо про хвилини, а не про місяці розробки. Наші клієнти часто шоковані тим, що Pyramid запущений на їхньому класичному складі даних чи озері даних за п’ять хвилин чи близько того.

Вам також не потрібно складати дуже конкретні, точні чи навіть розумні питання, щоб отримати потужні результати. Ви можете робити орфографічні помилки та використовувати неправильну фразуцію, і Pyramid розгорне їх та надасть значущу та цінну відповідь. Що вам потрібно, це знання про дані, про які ви запитуєте.

Як ви бачите стратегічну візію Pyramid Analytics за наступні п’ять років? Як ви бачите, як ваші рішення будуть розвиватися, щоб задовольнити зміни ринку?

Наступним великим фронтиром є підтримка масштабованих, високоспецифічних запитів. Користувачі хочуть мати можливість задавати дуже точні питання, наприклад, питання про персоналізовані сутності, і великі мовні моделі ще не можуть надати розумні відповіді в цих випадках, оскільки вони не мають такого детального розуміння вашої бази даних.

Ми стикаємося з викликом того, як використовувати мовні моделі для запитів про деталі ваших даних без негайного підключення всієї вашої величезної бази даних до великої мовної моделі. Як ви можете налаштувати свою мовну модель щодо даних, які оновлюються кожні дві секунди? Ми можемо керувати цим для фіксованих точок, таких як країни, місця чи дати, але не для чогось ідіосинкратичного, як імена, хоча ми вже дуже близько до цього сьогодні.

Іншим викликом є дозволити користувачам задавати свої власні математичні інтерпретації даних, застосовуючи свої власні формули. Це складно не тому, що формула складна для виконання, а тому, що зрозуміти, чого хоче користувач, та отримати правильну синтаксис є складним. Ми працюємо над вирішенням цих двох викликів, і коли ми це зробимо, ми перейдемо до наступної точки еureka.

Дякуємо за велике інтерв’ю, читачам, які хочуть дізнатися більше, слід відвідати Pyramid Analytics.