Omri Kohl, CEO i współzałożyciel Pyramid Analytics – seria wywiadów

Omri Kohl jest CEO i współzałożycielem Pyramid Analytics. Platforma Pyramid Decision Intelligence dostarcza dane napędzane przez wnioski, dzięki którym każdy może podejmować szybsze i bardziej inteligentne decyzje. Kieruje on strategią i operacjami spółki na dynamicznie rozwijającym się rynku danych i analiz. Kohl posiada głębokie zrozumienie technologii analitycznych i sztucznej inteligencji, cenne doświadczenie menedżerskie oraz naturalną zdolność do kwestionowania myślenia konwencjonalnego. Kohl jest doświadczonym przedsiębiorcą z udokumentowanym rekordem w tworzeniu i zarządzaniu firmami o szybkim wzroście. Studiował ekonomię, finanse i zarządzanie biznesem na Bar-Ilan University i posiada tytuł MBA w zakresie zarządzania międzynarodowego z Nowy Jork Uniwersytet, Leonard N. Stern Szkoła Biznesu.

Czy mógłbyś zacząć od wyjaśnienia, co to jest GenBI i jak łączy ono generatywną sztuczną inteligencję z inteligencją biznesową, aby poprawić procesy podejmowania decyzji?

GenBI to ramy ​i mechanizmy ​wprowadzające moc ​generatywnej sztucznej inteligencji, modeli językowych ​i ogólnej sztucznej inteligencji ​do analiz, ​inteligencji biznesowej ​i podejmowania decyzji​.

W tej chwili nie jest praktyczne korzystanie z GenAI samodzielnie, aby uzyskać dostęp do wniosków z zestawów danych. Mogłoby to potrwać ponad tydzień, aby przesłać wystarczające dane do narzędzia GenAI, aby uzyskać znaczące wyniki. To po prostu nie jest wykonalne, ponieważ dane biznesowe są zbyt dynamiczne i zbyt wrażliwe, aby korzystać z nich w ten sposób. Z GenBI każdy może wyodrębnić cenne wnioski ze swoich danych, po prostu zadając pytanie w języku naturalnym i widząc wyniki w postaci pulpitu analitycznego. Może to potrwać tylko 30 sekund, aby otrzymać istotną i przydatną odpowiedź.

Jakie są kluczowe innowacje technologiczne za GenBI, które pozwalają mu zrozumieć i wykonać złożone zadania inteligencji biznesowej za pomocą języka naturalnego?

No, nie zdradzając wszystkich naszych sekretów, istnieją podstawowo trzy komponenty. Po pierwsze, GenBI uruchamia model językowy z wszystkimi elementami, których potrzebuje, aby wyprodukować poprawne kroki analityczne, które wyprodukują żądany wgląd. To pozwala użytkownikowi sformułować zapytania przy użyciu języka naturalnego, nawet w niejasnych warunkach, bez konieczności dokładnego określenia, jaki rodzaj wykresu, dochodzenie lub format jest wymagany.

Następnie rozwiązanie GenBI firmy Pyramid Analytics stosuje te kroki do danych Twojej firmy, niezależnie od szczegółów Twojej sytuacji. Mówimy o najbardziej podstawowych zestawach danych i prostych zapytaniach, aż do najbardziej zaawansowanych przypadków użycia i złożonych baz danych.

Trzeci, Pyramid może wykonywać te zapytania na podstawie danych i manipulować wynikami na żywo. Sam model językowy nie może wyprodukować głębokiej analizy bazy danych. Potrzebny jest element robota, aby znaleźć wszystkie niezbędne informacje, zinterpretować żądanie użytkownika, aby wyprodukować wnioski, i przekazać je do platformy BI, aby sformułować wyniki albo w języku zwykłym, albo jako dynamiczną wizualizację, którą można później uszczegółowić za pomocą kolejnych zapytań.

Jak GenBI demokratyzuje analitykę danych, szczególnie dla użytkowników niebędących specjalistami?

Po prostu, GenBI pozwala każdemu uzyskać dostęp do wniosków, których potrzebują, niezależnie od ich poziomu ekspertyzy. Tradycyjne narzędzia BI wymagają, aby użytkownik wiedział, jaka jest najlepsza technika manipulacji danymi, aby otrzymać niezbędne wyniki. Ale większość ludzi nie myśli w postaci wykresów, tabel lub wykresów. Nie chcą musieć stwierdzić, jaka wizualizacja jest najbardziej skuteczna w ich sytuacji – po prostu chcą odpowiedzi na swoje pytania.

GenBI dostarcza te odpowiedzi każdemu, niezależnie od ich ekspertyzy. Użytkownik nie musi znać wszystkich profesjonalnych terminów ani stwierdzić, czy wykres rozproszenia czy wykres kołowy jest najlepszą opcją, i nie musi wiedzieć, jak kodować zapytania do bazy danych. Mogą oni eksplorować dane, używając własnych słów w naturalnej rozmowie.

Myślimy o tym jako o różnicy między korzystaniem z mapy papierowej, aby zaplanować trasę, a korzystaniem z Google Maps lub innego aplikacji nawigacyjnej. Z tradycyjną mapą musisz stwierdzić, które drogi są najlepsze, pomyśleć o potencjalnych korkach i porównać różne możliwości tras. Dziś ludzie po prostu wpisują swój cel w aplikacji i ruszają – jest tak wiele zaufania do algorytmów, że nikt nie kwestionuje sugerowanej trasy. Chcielibyśmy sądzić, że GenBI wprowadza taki sam rodzaj automatycznej magii do zbiorów danych korporacyjnych.

Jakie było opinie wczesnych użytkowników na temat łatwości użycia i krzywej uczenia się?

Otrzymujemy przytłaczająco pozytywne opinie. Najlepszym sposobem, aby to podsumować, jest „Wow!”. Użytkownicy i testerzy bardzo doceniają łatwość użycia Pyramid Analytics, potężne funkcje i znaczące wnioski.

Pyramid Analytics ma praktycznie zerową krzywą uczenia się, więc nie ma nic, co mogłoby powstrzymać ludzi przed przyjęciem go na miejscu. Około trzech czwartych wszystkich zespołów biznesowych, które przetestowały nasze rozwiązanie, przyjęło je i używa go dzisiaj, ponieważ jest tak łatwe i skuteczne.

Czy mógłbyś podzielić się tym, jak GenBI przekształcił procesy podejmowania decyzji w organizacjach, które go wdrożyły? Czy są jakieś konkretnie studium przypadku lub przykłady?

Chociaż rozwijaliśmy to przez długi czas, wdrożyliśmy GenBI tylko kilka tygodni temu, więc z pewnością zrozumiesz, że nie mamy jeszcze pełnych studiów przypadku, które moglibyśmy podzielić, ani przykładów klientów, które moglibyśmy wymienić. Mogę jednak powiedzieć, że organizacje, które mają tysiące użytkowników, stają się naprawdę oparte na danych, ponieważ każdy może uzyskać dostęp do wniosków. Użytkownicy mogą teraz odblokować prawdziwą wartość wszystkich swoich danych.

GenBI ma przełomowy wpływ na branże takie jak ubezpieczenia, bankowość i finanse, a także handel detaliczny, produkcję i wiele innych pionów. Nagle możliwe jest, aby doradcy finansowi, na przykład, uzyskali natychmiastowe sugestie dotyczące najlepszego sposobu optymalizacji portfela klienta.

Jakie były największe wyzwania, z którymi się zetknąłeś przy tworzeniu GenBI, i jak je pokonałeś?

Pyramid Analytics wykorzystywał już sztuczną inteligencję do analiz przez wiele lat przed uruchomieniem nowego rozwiązania, więc większość wyzwań została już dawno rozwiązana.

Głównym nowym elementem jest dodanie zaawansowanej technologii generowania zapytań, która współpracuje z dowolnym modelem językowym, aby wyprodukować dokładne wyniki, przy jednoczesnym zachowaniu prywatności danych. Osiągnęliśmy to, odłączając dane od zapytania (więcej na ten temat za chwilę).

Innym dużym wyzwaniem, z którym musieliśmy się zmierzyć, było to, że chodzi o prędkość. Mówimy o erze Google, gdzie ludzie oczekują odpowiedzi teraz, a nie za godzinę czy nawet pół godziny. Upewniliśmy się, że przyspieszyliśmy przetwarzanie i zoptymalizowaliśmy wszystkie przepływy pracy, aby zmniejszyć tarcie.

Potem jest potrzeba zapobiegania halucynacjom. Często chatboty są podatne na halucynacje, które zniekształcają wyniki i podważają niezawodność. Pracowaliśmy ciężko, aby uniknąć tych, jednocześnie zachowując dynamiczne wyniki.

Jak radzisz sobie z kwestiami związanymi z bezpieczeństwem i prywatnością danych?

To jest świetne pytanie, ponieważ prywatność i bezpieczeństwo danych są największą przeszkodą w przypadku udanych analiz GenAI. Każdy jest – słusznie – zaniepokojony pomysłem udostępnienia bardzo wrażliwych danych korporacyjnych silnikom AI, ale chcą również możliwości interpretacji języka i wniosków z danych, które te silniki mogą dostarczyć.

Dlatego nigdy nie udostępniamy rzeczywistych danych silnikom językowym, z którymi współpracujemy. Pyramid odwraca całą zasadę, służąc jako pośrednik między danymi Twojej firmy a modelem językowym. Pozwalamy Ci przesłać żądanie, a następnie przekazujemy je modelowi językowemu wraz z opisami tego, co nazywamy „składnikami”, czyli po prostu metadanymi.

Model językowy zwraca wtedy „przepis”, który wyjaśnia, jak przekształcić pytanie użytkownika w wskazówkę analityczną. Następnie Pyramid uruchamia ten przepis na danych, które już bezpiecznie połączyłeś w swojej instalacji hostowanej samodzielnie, tak aby żadne dane nie dotarły do modelu językowego. Scalamy wyniki, aby podać je w łatwo zrozumiałym, wizualnym formacie. Podstawą jest to, że nic, co mogłoby naruszyć Twoje bezpieczeństwo i prywatność, nie jest narażone ani nie opuszcza zabezpieczeń Twojej organizacji.

Dla organizacji, które chcą zintegrować GenBI z ich istniejącą infrastrukturą danych, jaki wygląda proces wdrożenia? Czy są jakieś wymagania wstępne lub przygotowania?

Proces wdrożenia Pyramid Analytics nie mógłby być prostszy ani szybszy. Użytkownicy potrzebują bardzo niewielu wymagań wstępnych i przygotowań, a można go uruchomić w ciągu moins niż godziny. Nie musisz przenosić danych do nowej ramy ani zmieniać czegokolwiek w swojej strategii danych, ponieważ Pyramid zapytuje Twoje dane bezpośrednio tam, gdzie się znajdują.

Nie ma również potrzeby wyjaśniania swoich danych rozwiązaniu ani definiowania kolumn. Jest to tak proste, jak przesłanie zestawu danych CSV lub połączenie bazy danych SQL. To samo dotyczy dowolnej relacyjnej bazy danych. Trwa to tylko kilka minut, aby połączyć swoje dane, a następnie można zadać pierwsze pytanie sekundami później.

Można również dostosować strukturę, jeśli się chce, jak zmiana modelu łączenia lub ponowne zdefiniowanie kolumn. To wymaga trochę czasu i wysiłku, ale mówimy o minutach, a nie o miesiącach projektu developerskiego. Nasi klienci są często zaskoczeni, że Pyramid jest uruchomiony i działa na ich klasycznym magazynie danych lub jeziorze danych w ciągu pięciu minut lub mniej.

Nie musisz również wymyślać bardzo konkretnych, dokładnych lub nawet inteligentnych pytań, aby uzyskać potężne wyniki. Możesz popełnić błędy pisarskie i użyć niepoprawnego sformułowania, a Pyramid rozplącze je i wyprodukuje znaczącą i przydatną odpowiedź. To, czego potrzebujesz, to pewna wiedza o danych, o które pytasz.

Spójrzając w przyszłość, jaka jest Twoja strategiczna wizja dla Pyramid Analytics w ciągu najbliższych pięciu lat? Jak widzisz ewolucję swoich rozwiązań, aby spełnić zmieniające się wymagania rynkowe?

Następna wielka granica to obsługa skalowalnych, bardzo specyficznych zapytań. Użytkownicy chcą móc zadawać bardzo precyzyjne pytania, takie jak pytania o spersonalizowane jednostki, a modele językowe nie mogą jeszcze wyprodukować inteligentnych odpowiedzi w tych przypadkach, ponieważ nie mają takiego szczegółowego wglądu w szczegóły Twojej bazy danych.

Stajemy przed wyzwaniem, jak użyć modeli językowych, aby zapytać o szczegóły Twoich danych, bez natychmiastowego połączenia całego, ogromnego jeziora danych z modelem językowym. Jak można dostosować model językowy do danych, które są odświeżane co dwie sekundy? Możemy to zarządzać dla punktów stałych, takich jak kraje, lokalizacje i nawet daty, ale nie dla czegoś idiomatycznego, jak nazwy, chociaż jesteśmy bardzo blisko tego dziś.

Innym wyzwaniem jest umożliwienie użytkownikom zadawania własnych interpretacji matematycznych danych, stosując własne formuły. To trudne nie dlatego, że formuła jest trudna do wykonania, ale dlatego, że zrozumienie, czego chce użytkownik, i uzyskanie poprawnej składni jest wyzwaniem. Pracujemy nad rozwiązaniem obu tych wyzwań, a kiedy je rozwiążemy, przekroczymy następny punkt eureka.

Dziękuję za wspaniały wywiad, czytelnicy, którzy chcą dowiedzieć się więcej, powinni odwiedzić Pyramid Analytics.