Rob Clark, President en CTO van Seekr – Interviewreeks

Rob Clark is de President en Chief Technology Officer (CTO) van Seekr. Rob heeft meer dan 20 jaar ervaring in software engineering, product management, operaties en de ontwikkeling van baanbrekende kunstmatige intelligentie en web-schaal technologieën. Voordat hij bij Seekr kwam, leidde hij verschillende kunstmatige intelligentie- en zoekoplossingen voor enkele van ‘s werelds grootste telecommunicatie-, uitgeverij- en e-commercebedrijven.

Seekr is een kunstmatige intelligentiebedrijf dat betrouwbare grote taalmodellen (LLM’s) creëert die betrouwbare inhoud identificeren, scoren en genereren op grote schaal.

Seekr is begonnen met webzoekopdrachten en heeft doorlopend innovatieve technologieën ontwikkeld die de websveiligheid en -waarde verbeteren. De modellen zijn ontwikkeld met expert-menselijke input en verklarende mogelijkheden, en komen tegemoet aan de behoeften van klanten op het gebied van inhoudsevaluatie, generatieve AI en betrouwbare LLM-training en validatie.

Kunt u de kernmissie van Seekr beschrijven en hoe het zich onderscheidt in de concurrerende AI-landschap?

We hebben Seekr opgericht op het eenvoudige maar belangrijke principe dat iedereen toegang moet hebben tot betrouwbare, geloofwaardige en betrouwbare informatie – ongeacht de vorm of locatie. Het maakt niet uit of u een online consument bent of een bedrijf dat deze informatie gebruikt om belangrijke beslissingen te nemen – verantwoorde AI-systemen stellen ons allemaal in staat om informatie volledig en beter te begrijpen, en ervoor te zorgen dat wat uit generatieve AI komt accuraat en betrouwbaar is.

Wanneer informatie onbetrouwbaar is, kan dit een spectrum aan problemen veroorzaken, van sensatiezucht tot georganiseerd oneigenlijk gedrag dat bedoeld is om te misleiden of te beïnvloeden in plaats van te informeren. Seekr’s aanpak van AI is erop gericht om de gebruiker volledige transparantie te bieden in de inhoud, inclusief herkomst, afstamming en objectiviteit, en de mogelijkheid om AI te bouwen en te gebruiken die transparant, betrouwbaar en verklarend is, en alle noodzakelijke waarborgen heeft zodat consumenten en bedrijven het kunnen vertrouwen.

Naast het aanbieden van branche-geoptimaliseerde grote taalmodellen, is Seekr begonnen met het bouwen van foundation models met grotere transparantie en nauwkeurigheid, met minder fouten en vooroordelen, inclusief alle validatietools. Dit is mogelijk gemaakt door Seekr’s samenwerking met Intel (INTC ) om hun laatste generatie Gaudi AI-versnellers te gebruiken tegen de beste prijs-prestatie. We hebben ervoor gekozen om niet te vertrouwen op externe foundation models waarvan de trainingsdata onbekend waren en fouten en inherente vooroordelen vertoonden, vooral omdat ze vaak getraind worden op populaire data in plaats van de meest geloofwaardige en betrouwbare data. We verwachten deze tegen het einde van het jaar uit te brengen.

Ons kernproduct heet SeekrFlow, een complete eind-tot-eind-platform dat betrouwbare AI traint, valideert, implementeert en schaalt. Het stelt bedrijven in staat om hun data veilig te gebruiken, om snel AI te ontwikkelen die ze kunnen vertrouwen, geoptimaliseerd voor hun branche.

Wat zijn de kritieke functies van SeekrFlow, en hoe vereenvoudigt het de AI-ontwikkelings- en implementatieproces voor bedrijven?

SeekrFlow neemt een top-down, resultaatgerichte aanpak, waardoor bedrijven problemen kunnen oplossen met AI met zowel operationele efficiëntie als nieuwe inkomstenmogelijkheden via één samenhangend platform. Deze integratie omvat veilige toegang tot data, geautomatiseerde datavoorbereiding, modelafstemming, waarborgen, validatietools en schaling, waardoor de noodzaak voor meerdere afzonderlijke tools en de complexiteit van in-huistalent dat verschillende aspecten van AI-ontwikkeling afzonderlijk beheert, wordt geëlimineerd.

Voor bedrijven is aanpassing cruciaal, omdat een aanpak van “één model past allemaal” geen unieke bedrijfsproblemen oplost. SeekrFlow stelt klanten in staat om hun bedrijfsdata veilig en tegen lage kosten te gebruiken en aan te passen aan de specifieke behoeften van hun branche. Dit is vooral belangrijk in gereguleerde branches zoals financiën, gezondheidszorg en overheid.

Seekr’s AI-gestuurde trainingsaanpak vermindert aanzienlijk de kosten, tijd en behoefte aan menselijke supervisie die samenhangt met datalabeling en -acquisitie, door hoge kwaliteit en domeinspecifieke data te synthetiseren met behulp van domeinspecifieke principes zoals beleidsdocumenten, richtlijnen of door de gebruiker verstrekte bedrijfsdata.

Seekr’s toewijding aan betrouwbaarheid en verklarende mogelijkheden is ingebed in SeekrFlow. Geen enkel bedrijf wil een model in productie implementeren en ontdekken dat het hallucineert, verkeerde informatie verstrekt of erger, zijn producten en diensten gratis weggeeft! SeekrFlow bevat de tools die nodig zijn om modellen te valideren voor betrouwbaarheid, om fouten te verminderen en om de gebruiker transparantie te bieden in de factoren die de uitvoer van een model beïnvloeden, rechtstreeks terug naar de oorspronkelijke trainingsdata. Op dezelfde manier kunnen software-ingenieurs en QA hun code scannen, testen en valideren, bieden wij dezelfde mogelijkheden voor AI-modellen.

Dit alles wordt aangeboden tegen een optimaal tarief voor bedrijven. Onze samenwerking met Intel, die draait in Intel’s AI-cloud, stelt Seekr in staat om de beste prijs-prestatie te bieden die we doorgeven aan onze klanten.

Hoe lost SeekrFlow gemeenschappelijke problemen op zoals kosten, complexiteit, nauwkeurigheid en verklarende mogelijkheden in AI-adoptie?

Hoge prijspunten en schaarste aan AI-hardware zijn twee van de grootste toegangsbarrières voor bedrijven. Dankzij de eerder genoemde samenwerking met Intel, heeft SeekrFlow toegang tot een grote hoeveelheid volgende generatie AI-hardware, waardoor klanten schaalbare en kosteneffectieve rekenbronnen hebben die grote AI-werklasten aankunnen met zowel Intel Gaudi AI-versnellers als AI-geoptimaliseerde Xeon-processors.

Het is belangrijk op te merken dat SeekrFlow onafhankelijk is van cloudproviders en platforms en draait op de nieuwste generatie AI-chips van Intel, Nvidia (NVDA ) en verder. Ons doel is om de complexiteit van de AI-hardware af te schermen en vendor-lock-in te vermijden, terwijl we tegelijkertijd alle unieke waarde van elke chip, software, tools en ecosysteem ontsluiten. Dit omvat zowel het draaien in de cloud als op eigen locatie en geopereerde datacenters.

Bij het bouwen van SeekrFlow zagen we duidelijk het gebrek aan betwistbaarheid dat bestond in andere tools. Betwistbaarheid is van cruciaal belang bij Seekr, omdat we ervoor willen zorgen dat de gebruiker het recht heeft om te zeggen dat iets niet accuraat is en een eenvoudige manier heeft om het op te lossen. Met andere modellen en platforms is het vaak moeilijk of onbekend hoe fouten te corrigeren. Puntfixes na afloop zijn vaak ineffectief, bijvoorbeeld door de invoervraag te manipuleren, waardoor de antwoord niet elke keer of in elke situatie wordt gecorrigeerd. We geven de gebruiker alle tools voor transparantie, verklarende mogelijkheden en een eenvoudige manier om de fouten te corrigeren in een schone gebruikersinterface. Van het bouwen op betrouwbare foundation models tot eenvoudig te gebruiken test- en meettools, SeekrFlow garandeert nauwkeurige resultaten die kunnen worden begrepen en gevalideerd. Het is essentieel om te begrijpen dat AI-waarborgen niet alleen iets zijn dat leuk is om te hebben of later te overwegen – maar we bieden klanten eenvoudig te gebruiken verklarende en betwistbare tools vanaf het begin van de implementatie.

Hoe integreert het platform datavoorbereiding, fijnafstemming, hosting en inferentie om snellere experimenten en aanpassing van LLM’s mogelijk te maken?

SeekrFlow integreert het eind-tot-eind AI-ontwikkelingsproces in één platform. Van het afhandelen van de labeling en formatting van de data met zijn AI-agent-gestuurde generatiebenadering, tot het fijnafstemmen van een basismodel, en het serveren voor inferentie en het bewaken van het fijnafgestemde model. Bovendien biedt SeekrFlow’s verklarende tooling AI-modellen de mogelijkheid om kennislacunes in de kennis van het model te ontdekken, te begrijpen waarom fouten en hallucinaties optreden, en rechtstreeks te handelen. Deze geïntegreerde, eind-tot-eind-benadering maakt snelle experimenten en modeliteraties mogelijk

Welke unieke technologieën of methoden heeft Seekr ontwikkeld om de nauwkeurigheid en betrouwbaarheid van zijn AI-modellen te garanderen?

Seekr heeft gepatenteerde AI-technologie ontwikkeld voor het beoordelen van de kwaliteit, betrouwbaarheid, vooroordeel, giftigheid en waarheid van inhoud, of het nu gaat om tekst, visueel of audi signaal. Deze technologie biedt rijke data en kennis die kunnen worden gefuseerd met elk AI-model, in de vorm van trainingsdata, algoritmes of modelwaarborgen. Uiteindelijk kan Seekr’s technologie voor inhoudsbeoordeling worden gebruikt om de veiligheid, feitelijkheid, behulpzaamheid, onpartijdigheid en rechtvaardigheid van AI-modellen te garanderen. Een voorbeeld hiervan is SeekrAlign, dat merken en uitgevers helpt om hun bereik en inkomsten te vergroten met verantwoorde AI die naar de context van inhoud kijkt via onze gepatenteerde Civility Scoring.

Seekr’s aanpak van verklarende mogelijkheden garandeert dat AI-modelreacties begrijpelijk en traceerbaar zijn. Naarmate AI-modellen betrokken raken bij beslissingen met consequenties, wordt de noodzaak voor AI-modellen om modelbeslissingen te begrijpen en te betwisten, steeds belangrijker.

Hoe helpt SeekrFlow’s principe-alignment-agent ontwikkelaars om AI-modellen aan te passen aan de waarden en industrienormen van hun bedrijf?

SeekrFlow’s principe-alignment-agent is een cruciale functie die ontwikkelaars en bedrijven helpt om de totale kosten van hun RAG-gebaseerde systemen te verminderen en efficiënt hun AI aan te passen aan hun unieke principes, waarden en industrienormen zonder dat ze gestructureerde data hoeven te verzamelen en te verwerken.

De Seekr-agent gebruikt geavanceerde alignment-algoritmes om ervoor te zorgen dat LLM’s zich houden aan deze unieke en vooraf gedefinieerde standaarden, intenties, regels of waarden. Tijdens de trainings- en inferentiefases gidst de principe-alignment-agent de gebruiker door het gehele datavoorbereidings- en fijnafstemmingsproces, terwijl het voortdurend expertinput en ethische richtlijnen integreert. Dit garandeert dat onze AI-modellen binnen aanvaardbare grenzen opereren.

Door tools te bieden om deze principes aan te passen en af te dwingen, stelt SeekrFlow bedrijven in staat om de controle over hun AI-toepassingen te behouden, waardoor ze ervoor zorgen dat deze de waarden van het bedrijf weerspiegelen en voldoen aan wettelijke en industrienormen. Deze mogelijkheid is essentieel om vertrouwen op te bouwen met klanten en stakeholders, omdat het een toewijding aan verantwoorde AI demonstreert.

Kunt u de samenwerking met OneValley bespreken en hoe Seekr’s technologie de Haystack AI-platform aandrijft?

OneValley is een vertrouwde bron voor tienduizenden ondernemers en kleine tot middelgrote bedrijven (SMB’s) wereldwijd. Een veelvoorkomend probleem dat deze leiders tegenkomen, is het vinden van de juiste adviezen, producten en diensten om hun bedrijf te starten en te laten groeien. Seekr’s branche-specifieke LLM’s drijven OneValley’s nieuwste product Haystack AI aan, dat klanten toegang biedt tot uitgebreide databases met beschikbare producten, hun kenmerken, prijzen, voor- en nadelen en meer. Haystack AI maakt intelligent aanbevelingen aan gebruikers en beantwoordt vragen, allemaal toegankelijk via een in-app chatbot.

Welke specifieke voordelen biedt Haystack aan startups en SMB’s, en hoe versterkt Seekr’s AI deze voordelen?

Of een gebruiker nu snel antwoord nodig heeft op een vraag over welke zakelijke creditcard de hoogste contantkorting biedt met de laagste kosten per gebruiker en laagste rente, of om twee CRM-systemen te vergelijken die ze overwegen als de juiste oplossing, Haystack AI, aangedreven door Seekr, biedt hen de juiste antwoorden snel en tegen lage kosten.

Haystack AI beantwoordt gebruikersvragen snel en tegen lage kosten. Het wachten op en vragen aan een mens om vragen te beantwoorden en alle onderzoek dat hierbij komt kijken, is onbeheersbaar voor extreem drukke zakelijke leiders. Klanten willen nauwkeurige antwoorden die ze kunnen vertrouwen, snel en zonder dat ze door de resultaten (en gesponsorde links!) van een webzoekmachine moeten bladeren. Hun tijd is het beste besteed aan het runnen van hun kernbedrijf. Dit is een goed voorbeeld van hoe Seekr AI een echt zakelijk probleem oplost.

Hoe zorgt Seekr ervoor dat zijn AI-oplossingen schaalbaar en kosteneffectief blijven voor bedrijven van alle maten?

Het eenvoudige antwoord is om schaal en lage kosten te garanderen, heb je een strategische samenwerking nodig voor toegang tot rekenkracht op grote schaal. Het leveren van schaalbare, kosteneffectieve en betrouwbare AI vereist de combinatie van de beste AI-software die draait op toonaangevende hardware. Onze samenwerking met Intel omvat een meerjarige toezegging voor toegang tot een steeds groter wordende hoeveelheid AI-hardware, waaronder het upgraden naar de volgende generatie van Gaudi 2 naar Gaudi 3 in het begin van 2025 en verder naar de volgende chip-innovaties. We hebben ingezet op de beste beschikbaarheid en prijs van rekenkracht, die zou komen van de feitelijke fabrikant van het silicium, waarvan Intel een van de twee in de wereld is die zijn eigen chips produceert. Dit lost elk probleem op rond schaarste, vooral als we en onze klanten schalen en de beste mogelijke prijs-prestatie garanderen die ten goede komt aan de klant.

Seekr-klanten die op hun eigen gehoste service draaien, betalen alleen voor daadwerkelijk gebruik. We berekenen geen kosten voor idle GPU’s. SeekrFlow heeft een zeer concurrerend prijsmodel in vergelijking met tijdgenoten in de ruimte, dat de kleinste tot de grootste inzet ondersteunt.

Bedankt voor het geweldige interview, lezers die meer willen leren, moeten Seekr bezoeken.