Rob Clark, prezident a technický ředitel Seekr – Interview Series

Rob Clark je prezident a chief technology officer (CTO) společnosti Seekr. Rob má více než 20 let zkušeností v oblasti softwarového inženýrství, produktového managementu, operací a vývoje předních umělých inteligencí a technologií škálovatelnosti na webu. Předtím, než se připojil k Seekr, vedl několik umělých inteligencí a vyhledávacích řešení pro některé z největších telekomunikačních, vydavatelských a e-commerce společností na světě.

Seekr je společnost pro umělou inteligenci, která vytváří důvěryhodné velké jazykové modely (LLM), které identifikují, hodnotí a generují spolehlivý obsah ve velkém měřítku.

Začínaje webovým vyhledáváním, Seekrův neustálý inovační vývoj vyprodukoval patentované technologie, které zlepšují webovou bezpečnost a hodnotu. Jejich modely, vyvinuté s odborným lidským vstupem a vysvětlitelností, řeší potřeby zákazníků v oblasti hodnocení obsahu, generativní AI a důvěryhodné LLM školení a validace.

Můžete popsat hlavní misi Seekr a jak se snaží odlišit v konkurenčním prostředí AI?

Založili jsme Seekr na jednoduchém, ale důležitém principu, že každý by měl mít přístup k spolehlivým, důvěryhodným a pravdivým informacím – bez ohledu na jejich formu nebo umístění. Není důležité, zda jste online spotřebitelem nebo podnikem, který používá tyto informace pro důležité rozhodnutí – zodpovědné AI systémy umožňují nám všem plně a lépe rozumět informacím, protože je třeba zajistit, aby co vychází z Generativní AI bylo přesné a spolehlivé.

Když jsou informace nespolehlivé, sahají celým spektrem, od více benigní senzace až po horší případ koordinovaných neautentických chování, která mají za cíl oklamat nebo ovlivnit místo informovat. Seekrův přístup k AI je zajištění, aby uživatel měl plnou transparentnost do obsahu, včetně původu, linie a objektivity, a možnost budovat a využívat AI, která je transparentní, důvěryhodná, vysvětlitelná a má všechny bezpečnostní prvky, aby spotřebitelé a podniky mohli důvěřovat.

Kromě poskytování optimalizovaných velkých jazykových modelů (LLM) pro průmysl, Seekr začal budovat Foundation Modely, které se liší větší transparentností a přesností, sníženými chybami a přediais, včetně všech validačních nástrojů. To je možné díky Seekrův spolupráci s Intel na využití jeho nejnovější generace Gaudi AI akcelerátorů za nejlepší možnou cenu a výkon. Nevhodili jsme se spoléhat na externí foundation modely, kde byl tréninkový data neznámý a ukazoval chyby a vrozené předpojatosti, zejména proto, že jsou často trénovány na populárních datech místo nejvěrohodnějších a nejspolehlivějších dat. Očekáváme, že tyto modely uvolníme ke konci roku.

Náš hlavní produkt se jmenuje SeekrFlow, kompletní platforma, která trénuje, validační, nasazuje a škáluje důvěryhodné AI. Umožňuje podnikům využívat svá data bezpečně, rychle vyvíjet AI, na které se mohou spolehnout, optimalizované pro jejich průmysl.

Jaké jsou kritické funkce SeekrFlow a jak zjednodušuje proces vývoje a nasazení AI pro podniky?

SeekrFlow používá top-down, outcome-first přístup, který umožňuje podnikům řešit problémy pomocí AI s operačními eficencemi a novými obchodními příležitostmi prostřednictvím jedné kohezní platformy. Tato integrace zahrnuje zabezpečený přístup k datům, automatizovanou přípravu dat, jemné doladění modelu, inference, bezpečnostní prvky, validační nástroje a škálování, eliminuje potřebu několika rozdílných nástrojů a snižuje složitost interního technického talentu, který spravuje různé aspekty vývoje AI samostatně.

Pro podniky je klíčová přizpůsobitelnost, protože jeden model se nehodí pro všechny. SeekrFlow umožňuje zákazníkům nákladově efektivně využívat svá podniková data bezpečně a přizpůsobit se specifickým potřebám jejich průmyslu. To je zejména důležité v regulovaných odvětvích, jako je finance, zdravotnictví a vláda.

Seekrův přístup k AI asistovanému tréninku výrazně snižuje náklady, čas a potřebu lidského dohledu spojeného s označováním a získáváním dat, syntetizujícím vysokokvalitní a doménově specifické údaje pomocí doménově specifických principů, jako jsou dokumenty politiky, směrnice nebo uživatelská podniková data.

Seekrův závazek k spolehlivosti a vysvětlitelnosti je zakořeněn v SeekrFlow. Žádný podnik nechce nasadit model do produkce a zjistit, že halucinuje, vydává špatné informace nebo nejhorší scénář, jako je poskytování svých produktů a služeb zdarma! SeekrFlow zahrnuje nástroje potřebné k validaci modelů pro spolehlivost, snížení chyb a transparentnímu umožnění uživateli vidět, co ovlivňuje výstup modelu zpět k původním tréninkovým datům. Stejně jako softwaroví inženýři a QA mohou skenovat, testovat a validační svůj kód, poskytujeme stejné schopnosti pro AI modely.

To je vše poskytováno za optimální náklady pro podniky. Naše spolupráce s Intel, běžící v Intelově AI cloudu, umožňuje Seekr získat nejlepší cenu a výkon, který předáváme našim zákazníkům.

Jak SeekrFlow řeší běžné problémy, jako jsou náklady, složitost, přesnost a vysvětlitelnost při přijímání AI?

Vysoké cenové body a nedostatek AI hardwaru jsou dva z největších bariér pro podniky. Díky výše uvedené spolupráci s Intel, SeekrFlow má přístup k velkému množství příští generace AI hardwaru, využívající Intelovu AI Cloud. To poskytuje zákazníkům škálovatelné a nákladově efektivní výpočetní zdroje, které mohou zpracovat velké AI úkoly, využívající Intel Gaudi AI akcelerátorů a AI optimalizovaných Xeon CPU.

Je důležité poznamenat, že SeekrFlow je poskytovatel cloudu a platforma agnostická a běží na nejnovější generaci AI čipů od Intel, Nvidia a dalších. Naším cílem je abstrahovat složitost AI hardwaru a vyhnout se uzamčení dodavatele, zatímco stále odemykáme veškerou jedinečnou hodnotu každého čipu, softwaru, nástrojů a ekosystému. To zahrnuje běh v cloudu nebo v místních datových centrech.

Když jsme stavěli SeekrFlow, jasně jsme viděli nedostatek soutěžitelnosti, který existoval v jiných nástrojích. Soutěžitelnost je zásadní pro Seekr, protože chceme zajistit, aby uživatel měl právo říci, že něco není přesné a měl snadný způsob, jak to vyřešit. S jinými modely a platformami je často obtížné nebo neznámé, jak opravovat chyby. Bodové opravy po faktu jsou často neúčinné, například manipulace s vstupním podnětem nezajišťuje, že odpověď bude opravena každý čas nebo ve všech scénářích. Poskytujeme uživateli všechny nástroje pro transparentnost, vysvětlitelnost a snadný způsob, jak učit a opravovat model v čistém uživatelském rozhraní. Od budování na základě důvěryhodných základních modelů na základně až po snadné použití testovacích a měřicích nástrojů, SeekrFlow zajišťuje přesné výsledky, které lze pochopit a ověřit. Je zásadní pochopit, že AI bezpečnostní prvky nejsou jen něčím, co je hezké mít nebo přemýšlet o nich později – spíše nabízíme zákazníkům snadné použití vysvětlitelnosti a soutěžitelnosti nástrojů od samého začátku implementace.

Jak platforma integruje přípravu dat, jemné doladění, hostování a inference, aby umožnila rychlejší experimentování a adaptaci LLM?

SeekrFlow integruje celý proces vývoje AI, na jedné platformě. Od zpracování označení a formátování dat s jeho AI asistovaným generativním přístupem, až po jemné doladění základního modelu, vše až po službu pro inference a monitorování jemně doladěného modelu. Kromě toho SeekrFlowova vysvětlitelnost nástrojů umožňuje AI modelérům objevit mezery v znalostech modelu, pochopit, proč se vyskytují chyby a halucinace, a přímo jednat na nich. Tento integrovaný, komplexní přístup umožňuje rychlé experimentování a modelové iterace.

Jaké další jedinečné technologie nebo metodologie Seekr vyvinul, aby zajistil přesnost a spolehlivost svých AI modelů?

Seekr vyvinul patentovanou AI technologii pro hodnocení kvality, spolehlivosti, předpojatosti, toxicity a pravdivosti obsahu, ať už se jedná o text, vizuální nebo audio signál. Tato technologie poskytuje bohatá data a znalosti, které lze融ovat do každého AI modelu, ve formě tréninkových dat, algoritmů nebo modelových bezpečnostních prvků. Nakonec, Seekrův technologii pro hodnocení obsahu lze využít k zajištění bezpečnosti, faktičnosti, užitečnosti, nezávislosti a spravedlnosti AI modelů. Příkladem toho je SeekrAlign, který pomáhá značkám a vydavatelům růst dosahu a příjmů s odpovědnou AI, která se dívá na kontext obsahu prostřednictvím našeho patentovaného Civility Scoring.

Seekrův přístup k vysvětlitelnosti zajišťuje, že odpovědi AI modelů jsou srozumitelné a sledovatelné. Jakmile se AI modely zapojí do rozhodnutí s důsledky, potřeba pro AI modeléry pochopit a zpochybnit modelová rozhodnutí se stává stále důležitější.

Jak SeekrFlowův princip alignační agent pomáhá vývojářům sladit AI modely s hodnotami a předpisy jejich podniku?

SeekrFlowův princip alignační agent je kritickou funkcí, která pomáhá vývojářům a podnikům snížit celkové náklady na jejich RAG-založené systémy a efektivně sladit jejich AI s jejich jedinečnými principy, hodnotami a předpisy bez potřeby shromažďovat a zpracovávat strukturovaná data.

Seekrův agent používá pokročilé alignační algoritmy, aby zajistil, že chování LLM odpovídá těmto jedinečným a předdefinovaným standardům, záměrům, pravidlům nebo hodnotám. Během fáze tréninku a inference Seekrův agent vede uživatele celým procesem přípravy dat a jemného doladění, zatímco neustále integruje odborný vstup a etické směrnice. To zajišťuje, že naše AI modely fungují v rámci přijatelných hranic.

Poskytováním nástrojů pro přizpůsobení a vynucení těchto principů, SeekrFlow umožňuje podnikům udržet kontrolu nad svými AI aplikacemi, zajišťuje, že odrážejí hodnoty společnosti a dodržují právní a regulační požadavky. Tato schopnost je zásadní pro budování důvěry s zákazníky a stakeholdery, protože demonstruje závazek k odpovědné AI.

Můžete diskutovat o spolupráci s OneValley a jak Seekrův technologii pohání platformu Haystack AI?

OneValley je důvěryhodný zdroj pro desítky tisíc podnikatelů a malých a středních podniků (SMB) po celém světě. Společný problém, se kterým se tyto lídry setkávají, je najít správnou radu, produkty a služby pro zahájení a růst jejich podnikání. Seekrův průmyslově specifický LLM pohání OneValleyovu nejnovější produkt Haystack AI, který nabízí zákazníkům přístup k rozsáhlým databázím dostupných produktů, jejich atributů, cen, pro a proti a další. Haystack AI inteligentně doporučuje uživatelům a odpovídá na otázky, vše dostupné prostřednictvím chatbota v aplikaci.

Jaké konkrétní výhody nabízí Haystack startupům a SMB, a jak Seekrův AI tyto výhody zvyšuje?

Buď uživatel potřebuje rychlou odpověď, aby věděl, která podniková kreditní karta nabízí nejvyšší cashback s nejnižšími poplatky na uživatele a nejnižší APR, nebo aby srovnal a porovnal dva CRM systémy, které zvažují jako správné řešení, Haystack AI poháněný Seekrem poskytuje jim správné odpovědi rychle.

Haystack AI odpovídá na otázky uživatelů rychle a nejlevněji. Muset čekat na a zeptat se člověka na odpověď a veškerý výzkum, který je spojen s tímto procesem, je neúnosný pro extrémně zaneprázdněné podnikové lídry. Zákazníci chtějí přesné odpovědi, na které se mohou spolehnout, rychle, bez nutnosti procházet výsledky (a sponzorované odkazy!) vyhledávacího engine. Jejich čas je nejlépe využitý při řízení jejich jádrového podnikání. To je skvělý příklad, kde Seekr AI řeší skutečnou podnikovou potřebu.

Jak Seekr zajišťuje, aby jeho AI řešení zůstala škálovatelná a nákladově efektivní pro podniky všech velikostí?

Jednoduchá odpověď je, že aby byla zajištěna škálovatelnost a nízké náklady, je třeba strategické spolupráce pro přístup k výpočtu ve velkém měřítku. Poskytování škálovatelných, nákladově efektivní a spolehlivých AI vyžaduje spojení nejlepších AI softwarů, běžících na nejnovější generaci hardwaru. Naše spolupráce s Intel zahrnuje víceletý závazek pro přístup k neustále se zvyšujícímu množství AI hardwaru, včetně přechodu na novější generace od aktuálního Gaudi 2 na Gaudi 3 na začátku roku 2025 a dále na další čipové inovace. Vsadili jsme se, že nejlepší dostupnost a cena výpočtu budou pocházet od skutečného výrobce křemíku, z nichž Intel je jeden ze dvou na světě, který vyrábí自己的 čipy. To řeší jakékoli problémy se škálou, zejména když my a naši zákazníci škálujeme a zajišťujeme nejlepší možný poměr ceny a výkonu, který prospěje zákazníkovi.

Zákazníci Seekr, kteří běží na svém vlastním hostovaném službě, platí pouze za skutečné využití. Nemáme poplatky za nečinné GPU. SeekrFlow má vysoce konkurenceschopný cenový model ve srovnání s současníky v tomto prostoru, který podporuje nejmenší až největší nasazení.

Děkuji za skvělý rozhovor, čtenáři, kteří chtějí se dozvědět více, by měli navštívit Seekr.