Rob Clark, præsident og CTO i Seekr – Intervju-serie

Rob Clark er præsident og Chief Technology Officer (CTO) i Seekr. Rob har mere end 20 års erfaring inden for software-udvikling, produktledelse, drift og udvikling af førende kunstig intelligens og web-skala teknologier. Før han kom til Seekr, ledede han flere kunstig intelligens- og søgeløsninger for nogle af verdens største telekommunikations-, publikations- og e-handelsvirksomheder.

Seekr er et kunstig intelligens-selskab, der skaber troværdige store sprogmodeller (LLM’er), der kan identificere, score og generere pålidelig indhold i stor skala.

Seekrs løbende innovation har resulteret i patenterede teknologier, der forbedrer websikkerheden og værdien. Deres modeller, der er udviklet med ekspert-menneskelig input og forklarbarhed, tilgår kundens behov inden for indholdsvurdering, generativ AI og pålidelig LLM-træning og validering.

Kan du beskrive Seekrs kerneformål og hvordan det søger at differentiere sig i den konkurrerende AI-landsby?

Vi grundlagde Seekr på den simple, men vigtige princip, at alle skal have adgang til pålidelig, troværdig og pålidelig information – uanset form eller hvor den findes. Det er ikke vigtigt, om du er en online-forbruger eller en virksomhed, der bruger denne information til at træffe vigtige beslutninger – ansvarlige AI-systemer giver os alle mulighed for at forstå information fuldt ud og bedre, samt sikre, at hvad der kommer ud af generativ AI er nøjagtigt og pålideligt.

Når informationen er utilfredsstillende, kan det føre til en række problemer, fra mere harmløs sensation til værre tilfælde af koordinerede uægte adfærd, der er designet til at mislede eller påvirke i stedet for at informere. Seekrs tilgang til AI er at sikre, at brugeren har fuld gennemsigtighed i indholdet, herunder proveniens, linje og objektivitet, samt evnen til at bygge og udnytte AI, der er gennemsigtig, troværdig, har forklarbarhed og har alle de nødvendige sikkerhedsforanstaltninger, så både forbrugere og virksomheder kan stole på det.

Ud over at levere industrioptimerede store sprogmodeller (LLM’er), har Seekr også påbegyndt udviklingen af Foundation Models, der er differentieret af større gennemsigtighed og nøjagtighed med reduceret fejl og bias, herunder alle valideringstools. Dette er muligt takket være Seekrs samarbejde med Intel (INTC ) om at bruge deres seneste generation Gaudi AI-acceleratorer til den bedste mulige pris-ydelse. Vi valgte ikke at afhænge af eksterne grundmodeller, hvor træningsdata var ukendt og viste fejl og indbygget bias, især da de ofte er trænet på populær data i stedet for de mest troværdige og pålidelige data. Vi forventer at udgive disse modeller i løbet af året.

Vores kerneprodukt hedder SeekrFlow, en komplet end-to-end-platform, der træner, validerer, deployer og skalerer troværdig AI. Den giver virksomheder mulighed for at udnytte deres data sikkert, hurtigt udvikle AI, de kan stole på, og optimere det til deres branche.

Hvad er de kritiske funktioner i SeekrFlow, og hvordan simplificerer det AI-udviklings- og implementeringsprocessen for virksomheder?

SeekrFlow tager en top-down-tilgang, hvor virksomheder kan løse problemer med AI ved at kombinere operationel effektivitet og nye revenue-muligheder gennem én samlet platform. Dette inkluderer sikker adgang til data, automatiseret dataforberedning, model-finetuning, guardrails, valideringstools og skalerbarhed, hvilket eliminerer behovet for multiple, separate værktøjer og reducerer kompleksiteten af internt teknisk talent, der skal håndtere forskellige aspekter af AI-udvikling separat.

For virksomheder er tilpasning nøglefaktoren, da en “one-size-fits-all”-tilgang ikke løser unikke forretningsproblemer. SeekrFlow giver kunderne mulighed for at udnytte deres virksomhedsdata på en omkostningseffektiv måde og tilpasse det til deres branche-specifikke behov. Dette er særligt vigtigt i regulerede brancher som finans, sundhed og regering.

Seekrs AI-assisterede træningsmetode reducerer omkostningerne, tiden og behovet for menneskelig overvågning i forbindelse med data-mærkning og -erhvervelse ved at syntetisere højkvalitets- og domænespecifik data ved hjælp af domænespecifikke principper som politikdokumenter, retningslinjer eller brugerdefineret virksomhedsdata.

Seekrs engagement i pålidelighed og forklarbarhed er indbygget i SeekrFlow. Ingen virksomhed ønsker at implementere en model i produktion og opdage, at den hallucinerer, giver forkert information eller i værste tilfælde giver produkter og tjenester væk gratis! SeekrFlow inkluderer værktøjerne til at validerer modeller for pålidelighed, reducere fejl og give brugeren mulighed for at se, hvad der påvirker en models output lige tilbage til den oprindelige træningsdata. På samme måde som software-udviklere og QA kan scanne, teste og validerer deres kode, giver vi samme muligheder for AI-modeller.

Dette tilbydes til optimal omkostning for virksomhederne. Vores samarbejde med Intel giver os den bedste pris-ydelse, som vi videregiver til vores kunder.

Hvordan løser SeekrFlow problemerne med omkostning, kompleksitet, nøjagtighed og forklarbarhed i AI-adoptionsprocessen?

De høje prisniveauer og manglen på AI-hardware er to af de største barrierer for virksomheder. Takket være samarbejdet med Intel har SeekrFlow adgang til store mængder af næste generations AI-hardware, herunder Intel Gaudi AI-acceleratorer og AI-optimerede Xeon-processorer.

Det er vigtigt at bemærke, at SeekrFlow er uafhængig af cloud-leverandører og platforme og kan køre på seneste generation af AI-chips fra Intel, Nvidia (NVDA ) og andre. Vores mål er at abstrahere kompleksiteten af AI-hardwaren og undgå vendor-lock-in, samtidig med at vi udnytter værdien af hver enkelt chips software, værktøjer og økosystem. Dette inkluderer både kørsel i cloud og på-premise-datacenter.

Når vi byggede SeekrFlow, så vi tydeligt manglen på kontestabilitet i andre værktøjer. Kontestabilitet er afgørende for Seekr, da vi ønsker at sikre, at brugeren har retten til at sige, at noget ikke er nøjagtigt, og har en nem måde at løse det på. Med andre modeller og platforme er det ofte svært eller ukendt, hvordan man kan korrigere fejl. Punktfix efterfølgende er ofte ineffektive, f.eks. kan manipulation af inputprompten ikke garantere, at svaret bliver korrekt hver gang eller i hver situation. Vi giver brugeren alle værktøjerne til gennemsigtighed, forklarbarhed og en nem måde at undervise og korrigere modellen på en ren brugerflade. Fra at bygge på troværdige grundmodeller til at give letanvendelige test- og målingsværktøjer, sikrer SeekrFlow nøjagtige resultater, der kan forstås og valideres. Det er essentiel at forstå, at AI-guardrails ikke er noget, man kan have eller tænke på senere – vi tilbyder kunderne simple at bruge forklarbarheds- og kontestabilitetsværktøjer fra starten af implementeringen.

Hvordan integrerer platformen dataforberedning, finetuning, hosting og inferens for at muliggøre hurtigere eksperimentering og tilpasning af LLM’er?

SeekrFlow integrerer hele AI-udviklingsprocessen i én platform. Fra håndtering af data-mærkning og -formatering med dens AI-agent-assisterede genereringsmetode til finetuning af en basis-model, og herefter serving til inferens og overvågning af den finetuned model. SeekrFlows forklarbarhedsværktøjer giver AI-modellørerne mulighed for at opdage huller i modellens viden, forstå, hvorfor fejl og hallucinationer opstår, og direkte handle på dem. Denne integrerede, end-to-end-tilgang muliggør hurtig eksperimentering og model-iterationer.

Hvilke andre unikke teknologier eller metoder har Seekr udviklet for at sikre nøjagtigheden og pålideligheden af dens AI-modeller?

Seekr har udviklet patenteret AI-teknologi til at vurdere kvaliteten, pålideligheden, bias, giftigheden og sandheden af indhold, uanset om det er tekst, billed eller lydsignal. Denne teknologi giver rig data og viden, der kan fusioneres ind i enhver AI-model, i form af træningsdata, algoritmer eller model-guardrails. Seekrs teknologi til at vurdere indhold kan udnyttes til at sikre sikkerheden, sandheden, nyttigheden, upartiskheden og retfærdigheden af AI-modeller. Et eksempel herpå er SeekrAlign, der hjælper mærker og udgivere med at øge deres rækkevidde og omsætning med ansvarlig AI, der ser på indholdets kontekst gennem vores patenterede Civility Scoring.

Seekrs tilgang til forklarbarhed sikrer, at AI-modellernes svar er forståelige og kan spores. Da AI-modeller bliver involveret i beslutninger med konsekvenser, bliver behovet for AI-modellører at forstå og kontestere model-beslutninger stadig vigtigere.

Hvordan hjælper SeekrFlows princip-alignment-agent udviklere med at tilpasse AI-modeller til virksomhedens værdier og brancheregler?

SeekrFlows princip-alignment-agent er en kritisk funktion, der hjælper udviklere og virksomheder med at reducere den samlede omkostning af deres RAG-baserede systemer og effektivt tilpasse deres AI til deres unikke principper, værdier og brancheregler uden at skulle indsamle og behandle struktureret data.

Seekr-agenten bruger avancerede alignmentsalgoritmer til at sikre, at LLM’ernes adfærd overholder disse unikke og foruddefinerede standarder, intentioner, regler eller værdier. Under trænings- og inferensfaserne guider agenten brugeren gennem hele dataforberednings- og finetuningsprocessen, mens den kontinuerligt integrerer ekspert-input og etiske retningslinjer. Dette sikrer, at vores AI-modeller opererer inden for acceptable grænser.

Ved at give værktøjer til at tilpasse og gennemtvinge disse principper, giver SeekrFlow virksomheder mulighed for at opretholde kontrol over deres AI-anvendelser, sikre, at de reflekterer virksomhedens værdier og overholder lovmæssige og branchekrav. Denne evne er afgørende for at opbygge tillid hos kunder og interessenter, da det demonstrerer et engagement i ansvarlig AI.

Kan du diskutere samarbejdet med OneValley og hvordan Seekrs teknologi driver Haystack AI-platformen?

OneValley er en troværdig ressource for titusinder af iværksættere og små til mellemstore virksomheder (SMB’er) verden over. Et almindeligt problem, disse ledere står over for, er at finde den rigtige rådgivning, produkter og tjenester til at starte og udvikle deres virksomhed. Seekrs branchspecifikke LLM’er driver OneValleys seneste produkt, Haystack AI, der giver kunder adgang til store databaser over tilgængelige produkter, deres attributter, priser, fordele og ulemper og mere. Haystack AI giver brugeren intelligente anbefalinger og svarer på spørgsmål via en in-app-chatbot.

Hvilke specifikke fordele tilbyder Haystack til startups og SMB’er, og hvordan forbedrer Seekrs AI disse fordele?

Uanset om brugeren har brug for et hurtigt svar for at vide, hvilken forretningskreditkort, der tilbyder den højeste kontanttilbagebetaling med de laveste gebyrer per bruger og lavest rente, eller til at sammenligne to CRM-systemer, de overvejer som den rigtige løsning, giver Haystack AI, drevet af Seekr, brugeren det rigtige svar hurtigt og omkostningseffektivt.

Haystack AI svarer brugernes spørgsmål hurtigt og omkostningseffektivt. At skulle vente på og spørge en menneskelig ekspert om at svare på disse spørgsmål og den research, der følger med, er uhåndterligt for ekstremt travle forretningsledere. Kunderne ønsker nøjagtige svar, de kan stole på, hurtigt og uden at skulle gennemgå resultaterne (og sponsorerede links!) fra en web-søgemaskine. Deres tid er bedst brugt på at drive deres kerneforretning. Dette er et godt eksempel på, hvor Seekr AI løser et virkeligt forretningsbehov.

Hvordan sikrer Seekr, at dens AI-løsninger forbliver skalerbare og omkostningseffektive for virksomheder af alle størrelser?

Det simple svar er, at man for at sikre skala og lav omkostning, har brug for et strategisk samarbejde for adgang til beregning i stor skala. At levere skalerbare, omkostningseffektive og pålidelige AI-løsninger kræver ægteskabet mellem topklasse AI-software og førende generation af hardware. Vores samarbejde med Intel indebærer en flerårig aftale om adgang til en stadig voksende mængde AI-hardware, herunder opgradering til næste generation fra nuværende Gaudi 2 til Gaudi 3 i begyndelsen af 2025 og herefter til næste chip-innovationer. Vi satte vores bud på, at den bedste tilgængelighed og pris på beregning ville komme fra selve silicium-producenten, som Intel er en af de to i verden, der producerer deres egne chips. Dette løser eventuelle problemer med knaphed, især når vi og vores kunder skalerer og sikrer den bedste mulige pris-ydelse, der gavner kunden.

Seekr-kunder, der kører på deres egen hosted service, betaler kun for den faktiske brug. Vi chargerer ikke for inaktive GPU’er. SeekrFlow har en højkonkurrerende prismodel i forhold til andre i branchen, der understøtter både små og store installationer.

Tak for det gode interview, læsere, der ønsker at lære mere, skal besøge Seekr.