Rob Clark, Prezes i Dyrektor ds. Technologii Seekr – Seria wywiadów

Rob Clark jest Prezesem i Dyrektorem ds. Technologii (CTO) Seekr. Rob ma ponad 20 lat doświadczenia w inżynierii oprogramowania, zarządzaniu produktem, operacjach oraz rozwoju najnowocześniejszych technologii sztucznej inteligencji i skalowalnych technologii internetowych. Przed dołączeniem do Seekr, kierował kilkoma rozwiązaniami sztucznej inteligencji i wyszukiwania dla niektórych z największych firm telekomunikacyjnych, wydawniczych i handlowych na świecie.

Seekr to firma sztucznej inteligencji, tworząca godne zaufania duże modele językowe (LLM), które identyfikują, oceniają i generują wiarygodną treść w skali.

Począwszy od wyszukiwania internetowego, ciągłe innowacje Seekr doprowadziły do opracowania opatentowanych technologii, które poprawiają bezpieczeństwo i wartość internetu. Ich modele, opracowane z udziałem ludzi i z uwzględnieniem wyjaśnialności, odpowiadają na potrzeby klientów w zakresie oceny treści, generatywnej sztucznej inteligencji oraz wiarygodnego szkolenia i walidacji LLM.

Czy możesz opisać podstawową misję Seekr i jak się różni od innych firm sztucznej inteligencji?

Założyliśmy Seekr na prostym, lecz ważnym założeniu, że każdy powinien mieć dostęp do wiarygodnych, godnych zaufania informacji – niezależnie od ich formy czy źródła. Nie ma znaczenia, czy jesteś konsumentem online, czy firmą, która wykorzystuje te informacje do podejmowania decyzji – odpowiedzialne systemy sztucznej inteligencji pozwalają nam wszystkim lepiej zrozumieć informacje, ponieważ musimy upewnić się, że to, co pochodzi z generatywnej sztucznej inteligencji, jest dokładne i wiarygodne.

Gdy informacje są niewiarygodne, obejmują one cały zakres, od mniej szkodliwego sensacji do gorszego przypadku koordynowanych nieautentycznych zachowań, mających na celu wprowadzenie w błąd lub manipulację zamiast informowanie. Podejście Seekr do sztucznej inteligencji polega na zapewnieniu użytkownikowi pełnej przejrzystości treści, w tym pochodzenia, linii i obiektywności, oraz możliwości budowania i wykorzystywania sztucznej inteligencji, która jest przejrzysta, godna zaufania, posiada wyjaśnialność i posiada wszystkie zabezpieczenia, aby konsumenci i firmy mogły ją zaufać.

Ponadto Seekr rozpoczął budowę modeli podstawowych, które różnią się większą przejrzystością i dokładnością, z mniejszymi błędami i uprzedzeniami, w tym wszystkimi narzędziami walidacyjnymi. Jest to możliwe dzięki współpracy Seekr z Intel (INTC ), aby wykorzystać ich najnowsze przyspieszacze AI Gaudi w najlepszej możliwej relacji ceny do wydajności. Nie zdecydowaliśmy się na oparcie się na zewnętrznych modelach podstawowych, gdzie dane szkoleniowe były nieznane i wykazywały błędy i wrodzone uprzedzenia, zwłaszcza, że często są szkolone na popularnych danych, a nie najbardziej wiarygodnych i godnych zaufania danych. Oczekujemy, że te modele zostaną wydane pod koniec roku.

Naszym podstawowym produktem jest SeekrFlow, kompletna platforma końca do końca, która szkoli, waliduje, wdraża i skaluje godną zaufania sztuczną inteligencję. Pozwala firmom na bezpieczne wykorzystanie swoich danych, szybkie rozwijanie sztucznej inteligencji, którą mogą polegać, zoptymalizowaną dla ich branży.

Jakie są kluczowe cechy SeekrFlow, i jak upraszcza proces rozwoju i wdrożenia sztucznej inteligencji dla firm?

SeekrFlow stosuje podejście od góry do dołu, skupiając się na wynikach, umożliwiając firmom rozwiązywanie problemów za pomocą sztucznej inteligencji, zarówno pod względem wydajności operacyjnej, jak i nowych możliwości generowania przychodu, wszystko to za pomocą jednej spójnej platformy. Ta integracja obejmuje bezpieczny dostęp do danych, automatyczną przygotowanie danych, dostrajanie modeli, inferencję, zabezpieczenia, narzędzia walidacyjne i skalowanie, eliminując potrzebę wielu rozproszonych narzędzi i redukując złożoność talentów technicznych w firmie, które zarządzają różnymi aspektami rozwoju sztucznej inteligencji oddzielnie.

Dla firm personalizacja jest kluczem, ponieważ podejście “jeden model pasuje do wszystkiego” nie rozwiązuje unikalnych problemów biznesowych. SeekrFlow pozwala klientom na efektywne i bezpieczne wykorzystanie danych przedsiębiorstwa, dostosowując je do potrzeb ich branży. Jest to szczególnie ważne w branżach regulowanych, takich jak finanse, opieka zdrowotna i rząd.

Podejście Seekr do szkolenia sztucznej inteligencji znacznie redukuje koszty, czas i potrzebę nadzoru ludzkiego związanego z etykietowaniem i pozyskiwaniem danych, syntetyzując wysokiej jakości i specyficzne dla branży dane przy użyciu zasad specyficznych dla branży, takich jak dokumenty polityki, wytyczne lub dane przedsiębiorstwa dostarczone przez użytkownika.

Zobowiązanie Seekr do niezawodności i wyjaśnialności jest wbudowane w SeekrFlow. Żadna firma nie chce wdrożyć modelu do produkcji i odkryć, że jest on “halucynujący”, dostarczający błędne informacje lub co gorsza, dający produkty i usługi za darmo! SeekrFlow zawiera narzędzia niezbędne do walidacji modeli pod kątem niezawodności, redukcji błędów i umożliwiające użytkownikowi przejrzyste zrozumienie, co wpływa na dane wyjściowe modelu, aż do danych szkoleniowych. W ten sam sposób, w jaki inżynierowie oprogramowania i QA mogą skanować, testować i walidować swój kod, zapewniamy te same możliwości dla modeli sztucznej inteligencji.

To wszystko jest dostarczane przy optymalnym koszcie dla firm. Nasza współpraca z Intel, korzystająca z chmury AI Intel, pozwala Seekr na uzyskanie najlepszej relacji ceny do wydajności, którą przekazujemy naszym klientom.

Jak SeekrFlow rozwiązuje powszechne problemy, takie jak koszt, złożoność, dokładność i wyjaśnialność w adopcji sztucznej inteligencji?

Wysokie ceny i niedostatek sprzętu sztucznej inteligencji to dwa z największych barier wejścia dla firm. Dzięki wcześniej wspomnianej współpracy z Intel, SeekrFlow ma dostęp do ogromnych ilości najnowszego sprzętu sztucznej inteligencji, wykorzystując chmurę AI Intel. Zapewnia to klientom skalowalne i efektywne zasoby obliczeniowe, które mogą obsłużyć duże obciążenia sztucznej inteligencji, wykorzystując przyspieszacze AI Gaudi Intel oraz procesory Xeon zoptymalizowane pod kątem AI.

Ważne jest, aby zauważyć, że SeekrFlow jest agnostyczny wobec dostawców chmury i platformy, oraz działa na najnowszych chipach AI od Intel, Nvidia (NVDA ) i innych. Naszym celem jest abstrahowanie złożoności sprzętu sztucznej inteligencji i unikanie zamykania się w jednej platformie, jednocześnie odblokowując wszystkie unikalne wartości każdego z chipów, oprogramowania, narzędzi i ekosystemu. Obejmuje to zarówno działanie w chmurze, jak i w środowiskach lokalnych i zarządzanych.

Gdy budowaliśmy SeekrFlow, wyraźnie zobaczyliśmy brak możliwości kwestionowania, jaki istniał w innych narzędziach. Możliwość kwestionowania jest niezwykle ważna w Seekr, ponieważ chcemy upewnić się, że użytkownik ma prawo powiedzieć, że coś nie jest dokładne i ma łatwy sposób na rozwiązanie problemu. Z innymi modelami i platformami często jest trudno lub nie wiadomo, jak naprawić błędy. Naprawy punktowe po fakcie są często nieskuteczne, na przykład manipulowanie wejściowym podpowiedzeniem nie gwarantuje, że odpowiedź zostanie poprawiona za każdym razem lub w każdym scenariuszu. Zapewniamy użytkownikowi wszystkie narzędzia do przejrzystości, wyjaśnialności i łatwy sposób nauczania i poprawiania modelu w czytelnym interfejsie. Od budowania na podstawie wiarygodnych modeli podstawowych po łatwe w użyciu narzędzia testowe i pomiarowe, SeekrFlow zapewnia dokładne wyniki, które mogą być zrozumiane i zwalidowane. Jest to niezwykle ważne, aby zrozumieć, że zabezpieczenia sztucznej inteligencji nie są tylko czymś, co jest miłe lub o czym się później myśli – oferujemy klientom proste w użyciu narzędzia wyjaśnialności i możliwości kwestionowania od samego początku wdrożenia.

Jak platforma integruje przygotowanie danych, dostrajanie, hosting i inferencję, aby umożliwić szybsze eksperymentowanie i adaptację dużych modeli językowych?

SeekrFlow integruje proces rozwoju sztucznej inteligencji od końca do końca, na jednej platformie. Od obsługi etykietowania i formatowania danych za pomocą podejścia asystowanego przez agenta AI, po dostrajanie modelu podstawowego, aż do obsługi inferencji i monitorowania dostrajanego modelu. Ponadto, narzędzia wyjaśnialności SeekrFlow pozwalają modelom sztucznej inteligencji odkryć luki w wiedzy modelu, zrozumieć, dlaczego występują błędy i halucynacje, i bezpośrednio działać na nich. To zintegrowane podejście umożliwia szybkie eksperymentowanie i iteracje modeli.

Jakie inne unikalne technologie lub metodyki opracował Seekr, aby zapewnić dokładność i niezawodność swoich modeli sztucznej inteligencji?

Seekr opracował opatentowaną technologię sztucznej inteligencji do oceny jakości, niezawodności, uprzedzeń, toksyczności i prawdziwości treści, niezależnie od tego, czy jest to tekst, obraz, czy sygnał audio. Ta technologia zapewnia bogate dane i wiedzę, które mogą być wprowadzone do dowolnego modelu sztucznej inteligencji, w postaci danych szkoleniowych, algorytmów lub zabezpieczeń modelu. Ostatecznie, technologia Seekr do oceny treści może być wykorzystana do zapewnienia bezpieczeństwa, faktualności, przydatności, bezstronności i sprawiedliwości modeli sztucznej inteligencji. Przykładem tego jest SeekrAlign, który pomaga markom i wydawcom zwiększyć zasięg i przychody dzięki odpowiedzialnej sztucznej inteligencji, która patrzy na kontekst treści za pomocą naszego opatentowanego systemu oceny cywilności.

Podejście Seekr do wyjaśnialności zapewnia, że odpowiedzi modeli sztucznej inteligencji są zrozumiałe i można je śledzić. Im bardziej modele sztucznej inteligencji są zaangażowane w decyzje o konsekwencjach, tym bardziej ważne staje się, aby modelerzy sztucznej inteligencji zrozumieli i zakwestionowali decyzje modelu, staje się coraz bardziej ważne.

Jak agent wyrównywania zasad SeekrFlow pomaga deweloperom wyrównywać modele sztucznej inteligencji z wartościami i regulacjami branżowymi ich przedsiębiorstwa?

Agent wyrównywania zasad SeekrFlow jest kluczową funkcją, która pomaga deweloperom i firmom zmniejszyć ogólny koszt systemów opartych na RAG i wydajnie wyrównać swoją sztuczną inteligencję z unikalnymi zasadami, wartościami i regulacjami branżowymi, bez potrzeby gromadzenia i przetwarzania strukturalnych danych.

Agent Seekr wykorzystuje zaawansowane algorytmy wyrównywania, aby upewnić się, że zachowanie modeli LLM jest zgodne z tymi unikalnymi i wcześniej zdefiniowanymi standardami, intencjami, zasadami lub wartościami. Podczas fazy szkolenia i inferencji, agent wyrównywania zasad prowadzi użytkownika przez cały proces przygotowania danych i dostrajania, jednocześnie integrując ekspertowe dane wejściowe i wytyczne etyczne. Zapewnia to, że nasze modele sztucznej inteligencji działają w ramach akceptowalnych granic.

Poprzez zapewnienie narzędzi do dostosowania i egzekwowania tych zasad, SeekrFlow upoważnia firmy do utrzymania kontroli nad swoimi aplikacjami sztucznej inteligencji, zapewniając, że odzwierciedlają one wartości firmy i przestrzegają wymogów prawnych i branżowych. Ta zdolność jest niezwykle ważna do budowania zaufania z klientami i interesariuszami, ponieważ demonstruje zobowiązanie do odpowiedzialnej sztucznej inteligencji.

Czy możesz omówić współpracę z OneValley i jak technologia Seekr napędza platformę Haystack AI?

OneValley jest zaufanym źródłem dla dziesiątków tysięcy przedsiębiorców i małych oraz średnich firm na całym świecie. Powszechnym problemem, z którym borykają się ci liderzy, jest znalezienie odpowiednich porad, produktów i usług, aby rozpocząć i rozwinąć swoją firmę. Modele LLM specyficzne dla branży Seekr napędzają najnowszy produkt OneValley, Haystack AI, który oferuje klientom dostęp do ogromnych baz danych dostępnych produktów, ich atrybutów, cen, zalet i wad, oraz więcej. Haystack AI inteligentnie doradza użytkownikom i odpowiada na ich pytania, wszystko to dostępne za pośrednictwem wewnętrznej czatbot.

Jakie konkretnie korzyści oferuje Haystack AI startupom i MŚP, oraz jak sztuczna inteligencja Seekr zwiększa te korzyści?

Niezależnie od tego, czy użytkownik potrzebuje szybkiej odpowiedzi, aby wiedzieć, jaka karta kredytowa biznesowa oferuje najwyższe nagrody gotówkowe z najniższymi opłatami na użytkownika i najniższym APR, czy aby porównać dwa systemy CRM, które rozważa jako rozwiązanie, Haystack AI napędzany przez Seekr zapewnia im odpowiedzi, na które mogą polegać, szybko i w najbardziej efektywny sposób.

Jak Seekr zapewnia, że jego rozwiązania sztucznej inteligencji pozostają skalowalne i efektywne pod względem kosztów dla firm wszystkich rozmiarów?

Prosta odpowiedź brzmi: aby zapewnić skalowalność i niski koszt, potrzebna jest strategiczna współpraca w celu uzyskania dostępu do obliczeń w skali. Dostarczanie skalowalnych, efektywnych i niezawodnych rozwiązań sztucznej inteligencji wymaga połączenia najlepszych oprogramowań sztucznej inteligencji z wiodącymi generacjami sprzętu. Nasza współpraca z Intel obejmuje wieloletnie zobowiązanie do uzyskania dostępu do coraz większej ilości sprzętu sztucznej inteligencji, w tym uaktualnień przez generacje od bieżącego Gaudi 2 do Gaudi 3 na początku 2025 roku i dalej na kolejne innowacje chipowe. Postawiliśmy na to, że najlepsza dostępność i cena obliczeń pochodzić będą od samego producenta krzemowego, z których Intel jest jednym z dwóch na świecie, produkujących własne chipy. To rozwiązuje wszelkie problemy związane z niedoborem, zwłaszcza gdy my i nasi klienci skalujemy i zapewniamy najlepszą możliwą relację ceny do wydajności, która korzysta klientom.

Klienci Seekr, którzy korzystają z własnej usługi hostowanej, płacą tylko za rzeczywiste użycie. Nie pobieramy opłat za bezczynne GPU. SeekrFlow ma bardzo konkurencyjny model cenowy w porównaniu z innymi firmami w branży, który wspiera wdrożenia od najmniejszych do największych.

Dziękujemy za wspaniały wywiad, czytelnicy, którzy chcą dowiedzieć się więcej, powinni odwiedzić Seekr.