Rob Clark, President och CTO på Seekr – Intervjuserie

Rob Clark är President och Chief Technology Officer (CTO) på Seekr. Rob har över 20 års erfarenhet av programvaruteknik, produktledning, drift och utveckling av ledande artificiell intelligens och webbaserade teknologier. Innan han gick med i Seekr ledde han flera artificiella intelligens- och söklösningar för några av världens största telekommunikations-, publicerings- och e-handelsföretag.

Seekr är ett företag inom artificiell intelligens som skapar tillförlitliga stora språkmodeller (LLM) som identifierar, poängsätter och genererar tillförlitligt innehåll i stor skala.

Seekrs pågående innovation, som började med webbsökning, har producerat patenterade teknologier som förbättrar webbsäkerhet och värde. Deras modeller, som utvecklats med expertmänsklig inmatning och förklarbarhet, tillgodoser kundernas behov av innehållsutvärdering, generativ AI och tillförlitlig LLM-utbildning och validering.

Kan du beskriva Seekrs kärnuppdrag och hur det avser att differentiera sig i den konkurrensutsatta AI-landskapet?

Vi grundade Seekr på den enkla men viktiga principen att alla ska ha tillgång till tillförlitlig, trovärdig och tillförlitlig information – oavsett form eller var den finns. Det spelar ingen roll om du är en onlinekonsument eller ett företag som använder den informationen för att fatta viktiga beslut – ansvarsfulla AI-system låter alla förstå informationen fullständigt och bättre, eftersom du måste säkerställa att det som kommer ut från generativ AI är korrekt och tillförlitligt.

När informationen är otillförlitlig kan den omfatta allt från mer harmlös sensationism till värre fall av samordnade oäkta beteenden som är avsedda att vilseleda eller påverka i stället för att informera. Seekrs tillvägagångssätt för AI är att säkerställa att användaren har full insyn i innehållet, inklusive ursprung, härstamning och objektivitet, och möjligheten att bygga och utnyttja AI som är transparent, tillförlitlig, har förklarbarhet och alla skyddsanordningar så att konsumenter och företag kan lita på den.

Utöver att tillhandahålla branschoptimerade stora språkmodeller (LLM) har Seekr börjat bygga grundmodeller som differentieras av större transparens och noggrannhet med minskad fel och bias, inklusive alla valideringsverktyg. Detta görs möjligt genom Seekrs samarbete med Intel (INTC ) för att använda deras senaste generation Gaudi AI-acceleratorer till det bästa möjliga prisprestanda. Vi valde att inte förlita oss på yttre grundmodeller där utbildningsdata var okänd och visade fel och inbyggd bias, särskilt eftersom de ofta tränas på populär data snarare än den mest trovärdiga och tillförlitliga data. Vi förväntar oss att släppa dessa mot slutet av året.

Vårt kärnprodukt heter SeekrFlow, en komplett plattform från början till slut som tränar, validerar, distribuerar och skalar tillförlitlig AI. Den låter företag utnyttja sin data säkert, för att snabbt utveckla AI som de kan lita på, optimerad för deras bransch.

Vilka är de kritiska funktionerna i SeekrFlow, och hur förenklar det AI-utvecklings- och distributionsprocessen för företag?

SeekrFlow tar ett topp-ned-tillvägagångssätt, som låter företag lösa problem med AI med både operativa effektiviteter och nya intäktsmöjligheter genom en sammanhållen plattform. Denna integration inkluderar säker dataåtkomst, automatiserad dataförberedning, modellfinjustering, inferens, skyddsanordningar, valideringsverktyg och skala, vilket eliminerar behovet av flera disparata verktyg och minskar komplexiteten i in-house-teknisk talang som hanterar olika aspekter av AI-utveckling separat.

För företag är anpassning nyckeln, eftersom en modell som passar alla inte löser unika affärsproblem. SeekrFlow låter kunderna både kostnadseffektivt utnyttja sin företagsdata säkert och anpassa sig till deras branschs specifika behov. Detta är särskilt viktigt i reglerade branscher som finans, hälsovård och regering.

Seekrs AI-assisterade utbildningsmetod minskar avsevärt kostnaden, tiden och behovet av mänsklig övervakning som är förknippad med dataetikettering och förvärv, genom att syntetisera högkvalitativ och domänspecifik data med hjälp av domänspecifika principer som policydokument, riktlinjer eller användarangiven företagsdata.

Seekrs åtagande för tillförlitlighet och förklarbarhet är inbyggt i SeekrFlow. Inget företag vill distribuera en modell till produktion och upptäcka att den hallucinerar, ger felaktig information eller i värsta fall ger bort sina produkter och tjänster gratis! SeekrFlow inkluderar verktygen som behövs för att validera modeller för tillförlitlighet, för att minska fel och för att transparent låta användaren se vad som påverkar en modells utdata ända tillbaka till den ursprungliga utbildningsdata. På samma sätt som programvarutekniker och QA kan skanna, testa och validera sin kod, tillhandahåller vi samma funktioner för AI-modeller.

Detta tillhandahålls till optimal kostnad för företag. Vårt samarbete med Intel, som körs i Intels AI-moln, låter Seekr få det bästa prisprestanda som vi vidarebefordrar till våra kunder.

Hur hanterar SeekrFlow vanliga problem som kostnad, komplexitet, noggrannhet och förklarbarhet i AI-antagande?

De höga prispunkterna och bristen på AI-hårdvara är två av de största barriärerna för företag. Tack vare det ovannämnda samarbetet med Intel har SeekrFlow tillgång till stora mängder nästa generations AI-hårdvara, som kan hantera storskaliga AI-arbetsbelastningar med hjälp av både Intels Gaudi AI-acceleratorer och AI-optimerade Xeon-processorer.

Det är viktigt att notera att SeekrFlow är molnleverantörsoberoende och plattformsoberoende och körs på senaste generationens AI-chip från Intel, Nvidia (NVDA ) och andra. Vårt mål är att abstrahera komplexiteten i AI-hårdvaran och undvika leverantörsbunden, samtidigt som vi låser upp allt unikt värde av varje chips programvara, verktyg och ekosystem. Detta inkluderar både att köras i molnet eller på plats och opererade datacenter.

När vi byggde SeekrFlow såg vi tydligt bristen på kontestabilitet som fanns i andra verktyg. Kontestabilitet är av största vikt på Seekr, eftersom vi vill säkerställa att användaren har rätt att säga att något inte är korrekt och har en enkel väg att lösa det. Med andra modeller och plattformar är det ofta svårt eller okänt hur man ska korrigera fel. Punktfixeringar efteråt är ofta ineffektiva, till exempel genom att manipulera indataprompten garanterar inte att svaret kommer att korrigeras varje gång eller i varje scenario. Vi ger användaren alla verktyg för transparens, förklarbarhet och en enkel väg att lära och korrigera modellen i ett rent användargränssnitt. Från att bygga på tillförlitliga grundmodeller i grunden till enkla att använda test- och mätningsverktyg, ser SeekrFlow till att korrekta resultat kan förstås och valideras. Det är av största vikt att förstå att AI-skyddsanordningar inte bara är något som är trevligt att ha eller att tänka på senare – utan vi erbjuder kunderna enkla att använda förklarbarhets- och kontestabilitetsverktyg från början.

Hur integrerar plattformen dataförberedning, finjustering, hosting och inferens för att möjliggöra snabbare experiment och anpassning av LLM?

SeekrFlow integrerar den övergripande AI-utvecklingsprocessen i en plattform. Från att hantera etikettering och formatering av data med dess AI-assisterade generationsmetod, till finjustering av en basmodell, hela vägen till servering för inferens och övervakning av den finjusterade modellen. Utöver detta låter SeekrFlows förklarbarhetsverktyg AI-modellerna upptäcka luckor i modellens kunskap, förstå varför misstag och hallucinationer uppstår och direkt agera på dem. Detta integrerade, övergripande tillvägagångssätt möjliggör snabb experiment och modelliterationer.

Vilka andra unika teknologier eller metoder har Seekr utvecklat för att säkerställa noggrannheten och tillförlitligheten i dess AI-modeller?

Seekr har utvecklat patenterad AI-teknologi för att bedöma kvaliteten, tillförlitligheten, bias, toxicitet och sanningsenligheten i innehåll, oavsett om det är en text, en visuell eller en ljudsignal. Denna teknik tillhandahåller rik data och kunskap som kan fusioneras i vilken AI-modell som helst, i form av utbildningsdata, algoritmer eller modellskyddsanordningar. I slutändan kan Seekrs teknik för innehållsbedömning utnyttjas för att säkerställa säkerheten, fakticiteten, nyttan, opartiskheten och rättvisan i AI-modeller. Ett exempel på detta är SeekrAlign, som hjälper varumärken och utgivare att växa och öka intäkterna med ansvarsfull AI som tittar på innehållets sammanhang genom vår patenterade Civility Scoring.

Seekrs tillvägagångssätt för förklarbarhet säkerställer att AI-modellens svar är förståeliga och spårbara. När AI-modeller blir involverade i beslut med konsekvenser, blir behovet av att AI-modellerna förstår och kontesterar modellbeslut allt viktigare.

Hur hjälper SeekrFlows principaligneringsagent utvecklare att anpassa AI-modeller till företagets värderingar och branschregler?

SeekrFlows principaligneringsagent är en kritisk funktion som hjälper utvecklare och företag att minska den totala kostnaden för deras RAG-baserade system och effektivt anpassa sin AI till deras unika principer, värderingar och branschregler utan att behöva samla in och bearbeta strukturerad data.

Seekr-agenten använder avancerade anpassningsalgoritmer för att säkerställa att LLM:s beteende följer dessa unika och fördefinierade standarder, avsikter, regler eller värderingar. Under utbildnings- och inferensfasen guidar principaligneringsagenten användarna genom hela dataförberednings- och finjusteringsprocessen medan den kontinuerligt integrerar expertinmatning och etiska riktlinjer. Detta säkerställer att våra AI-modeller fungerar inom acceptabla gränser.

Genom att tillhandahålla verktyg för att anpassa och verkställa dessa principer, ger SeekrFlow företagen möjlighet att behålla kontrollen över sina AI-applikationer, vilket säkerställer att de återspeglar företagets värderingar och följer lagliga och branschkrav. Denna funktion är av största vikt för att bygga förtroende med kunder och intressenter, eftersom det visar ett åtagande för ansvarsfull AI.

Kan du diskutera samarbetet med OneValley och hur Seekrs teknologi driver Haystack AI-plattformen?

OneValley är en betrodd resurs för tiotusentals entreprenörer och små till medelstora företag (SMB) över hela världen. Ett vanligt problem som dessa ledare står inför är att hitta rätt råd, produkter och tjänster för att starta och växa sitt företag. Seekrs branschspecifika LLM:er driver OneValleys senaste produkt Haystack AI, som erbjuder kunderna tillgång till stora databaser med tillgängliga produkter, deras attribut, priser, för- och nackdelar och mer. Haystack AI gör intelligenta rekommendationer till användare och svarar på frågor, allt tillgängligt via en in-app-chatbot.

Vilka specifika fördelar erbjuder Haystack till startups och SMB, och hur förbättrar Seekrs AI dessa fördelar?

Oavsett om en användare behöver ett snabbt svar för att veta vilken affärskreditkort som erbjuder den högsta kontantbelöningen med de lägsta avgifterna per användare och den lägsta räntan eller för att jämföra och kontrastera två CRM-system som de överväger som rätt lösning, tillhandahåller Haystack AI, som drivs av Seekr, dem rätt svar snabbt och på ett kostnadseffektivt sätt.

Haystack AI svarar på användarnas frågor snabbt och på ett kostnadseffektivt sätt. Att behöva vänta på och fråga en människa för att få svar på dessa frågor och all den forskning som krävs för denna typ av process är omöjlig för extremt upptagna affärsledare. Kunder vill ha korrekta svar som de kan lita på snabbt, utan att behöva tråla igenom resultaten (och sponsrade länkar!) från en webbsökmotor. Deras tid är bäst tillbringad med att driva sitt kärnverksamhet. Detta är ett utmärkt exempel på hur Seekr AI löser ett verkligt affärsbehov.

Hur säkerställer Seekr att dess AI-lösningar förblir skalbara och kostnadseffektiva för företag av alla storlekar?

Det enkla svaret är att för att säkerställa skala och låg kostnad, behöver man ett strategiskt samarbete för att få tillgång till beräkningar i stor skala. Att leverera skalbara, kostnadseffektiva och tillförlitliga AI-lösningar kräver äktenskapet mellan bästa klassens AI-programvara som körs på ledande generationens hårdvara. Vårt samarbete med Intel innebär ett flerårigt åtagande för att få tillgång till en alltmer ökande mängd AI-hårdvara, inklusive uppgradering genom generationer från nuvarande Gaudi 2 till Gaudi 3 i början av 2025 och vidare till nästa chipinnovation. Vi satte ett vad på att den bästa tillgängligheten och priset på beräkningar skulle komma från den faktiska tillverkaren av silikon, som Intel är en av bara två i världen som producerar sin egen chip. Detta löser alla problem med knapphet, särskilt när vi och våra kunder skalar och säkerställer den bästa möjliga prisprestanda som gynnar kunden.

Seekr-kunder som körs på sin egen värdtjänst betalar endast för faktisk användning. Vi tar inte betalt för GPU:er som är inaktiva. SeekrFlow har en högt konkurrenskraftig prismodell jämfört med samtida i branschen, som stöder de minsta till största distributionerna.

Tack för den utmärkta intervjun, läsare som vill lära sig mer bör besöka Seekr.