Rob Clark, President og CTO i Seekr – Intervju-serie

Rob Clark er president og chief technology officer (CTO) i Seekr. Rob har over 20 års erfaring med programvareutvikling, produktledelse, drift og utvikling av ledende kunstig intelligens og web-skala teknologier. Før han ble med i Seekr, ledet han flere kunstig intelligens- og søkeløsninger for noen av verdens største telekommunikasjon-, publisering- og e-handelsbedrifter.

Seekr er et kunstig intelligens-selskap som lager pålitelige store språkmodeller (LLM) som identifiserer, scorer og genererer pålitelig innhold i stor skala.

Seekrs pågående innovasjon har produsert patenterte teknologier som forbedrer websikkerhet og verdi, med utgangspunkt i websøk. Deres modeller, utviklet med ekspertmenneskelig innputt og forklarbarhet, møter kundens behov i innholdsvurdering, generativ AI og pålitelig LLM-trening og validering.

Kan du beskrive Seekrs kjerneoppdrag og hvordan det skiller seg fra andre i det konkurranseutsatte AI-landskapet?

Vi etablerte Seekr på den enkle, men viktige prinsippet at alle skal ha tilgang til pålitelig, troverdig og pålitelig informasjon – uansett form eller hvor den eksisterer. Det spiller ingen rol om du er en online-forbruker eller et bedrift som bruker informasjonen til å ta viktige beslutninger – ansvarlige AI-systemer lar oss alle forstå informasjonen bedre, og sikre at det som kommer ut av generativ AI er nøyaktig og pålitelig.

Når informasjonen er upålitelig, kan det føre til en rekke problemer, fra mer harmløs sensasjonalisme til verre tilfeller av koordinert uekte atferd som er ment å misle eller påvirke i stedet for å informere. Seekrs tilnærming til AI er å sikre at brukeren har full transparens i innholdet, inkludert proveniens, linje og objektivitet, og mulighet til å bygge og utnytte AI som er transparent, pålitelig, forklarbar og har alle nødvendige sikkerhetstiltak, slik at både forbrukere og bedrifter kan stole på det.

I tillegg til å levere bransjeoptimaliserte store språkmodeller (LLM), har Seekr startet å bygge foundation-modeller med større transparens og nøyaktighet, og mindre feil og bias, inkludert alle valideringsverktøy. Dette er mulig takket være Seekrs samarbeid med Intel (INTC ) for å bruke deres siste generasjons Gaudi AI-akseleratorer til best mulig pris-ytelsesforhold. Vi valgte å ikke stole på utenfor foundation-modeller hvor treningsdataene var ukjente og viste feil og innebygget bias, spesielt siden de ofte er trenet på populær data i stedet for mest troverdig og pålitelig data. Vi forventer å lansere disse mot slutten av året.

Vårt kjerneprodukt heter SeekrFlow, en komplett plattform som trener, validerer, distribuerer og skalerer pålitelig AI. Den lar bedrifter bruke sine data trygt, og raskt utvikle AI de kan stole på, optimalisert for deres bransje.

Hva er de kritiske funksjonene i SeekrFlow, og hvordan forenkler det AI-utviklings- og distribusjonsprosessen for bedrifter?

SeekrFlow tar en topp-ned-tilnærming, og lar bedrifter løse problemer med AI med både operasjonelle effektiviteter og nye inntektsmuligheter gjennom én samlet plattform. Denne integreringen inkluderer sikker data-tilgang, automatisert data-forberedning, modell-finetuning, inferens, sikkerhetstiltak, valideringsverktøy og skalerbarhet, og eliminerer behovet for flere separate verktøy og reduserer kompleksiteten ved å ha interne tekniske talenter som håndterer ulike aspekter av AI-utvikling separat.

For bedrifter er tilpasning nøkkel, da en modell som passer alle ikke løser unike forretningsproblemer. SeekrFlow lar kundene både kostnadseffektivt utnytte sine bedriftsdata trygt og tilpasse seg deres bransjes spesifikke behov. Dette er spesielt viktig i regulerte bransjer som finansielle tjenester, helse og regjering.

Seekrs AI-assisterte treningsmetode reduserer kraftig kostnadene, tiden og behovet for menneskelig tilsyn forbundet med data-merking og -henting, ved å syntetisere høykvalitets- og domenespesifikke data ved hjelp av domenespesifikke prinsipper som policydokumenter, retningslinjer eller bruker-providert bedriftsdata.

Seekrs forpliktelse til pålitelighet og forklarbarhet er innarbeidet gjennom hele SeekrFlow. Ingen bedrift ønsker å distribuere en modell til produksjon og finne ut at den hallucinerer, gir feil informasjon eller i verste fall gir bort sine produkter og tjenester gratis! SeekrFlow inkluderer verktøyene som trengs for å validere modeller for pålitelighet, redusere feil og åpne mulighet for brukeren å se hva som påvirker en modells utgang, helt tilbake til den opprinnelige treningsdataen. På samme måte som programvare-utviklere og QA kan scannere, teste og validere sin kode, tilbyr vi de samme mulighetene for AI-modeller.

Dette tilbys til optimal kostnad for bedrifter. Vårt samarbeid med Intel, som kjører i Intels AI-sky, lar Seekr få best mulig pris-ytelsesforhold, som vi videreformidler til våre kunder.

Hvordan løser SeekrFlow vanlige problemer som kostnad, kompleksitet, nøyaktighet og forklarbarhet i AI-tilpasning?

Høye prispoeng og mangel på AI-hardware er to av de største hindrene for bedrifter. Takket være samarbeidet med Intel, har SeekrFlow tilgang til store mengder nyeste generasjons AI-hardware, inkludert Intels AI-Cloud. Dette gir kundene skalerbare og kostnadseffektive beregningsressurser som kan håndtere store AI-arbeidsbelastninger, både med Intels Gaudi AI-akseleratorer og AI-optimerte Xeon-prosessorer.

Det er viktig å merke seg at SeekrFlow er uavhengig av skytjeneste og plattform, og kjører på nyeste generasjons AI-chip fra Intel, Nvidia (NVDA ) og andre. Vårt mål er å abstrahere kompleksiteten i AI-hardware og unngå leverandør-lås, samtidig som vi låser opp all den unike verdien av hver chips programvare, verktøy og økosystem. Dette inkluderer både å kjøre i skyen eller på egen drift og opererte datasentre.

Når vi bygde SeekrFlow, så vi tydelig mangelen på kontestabilitet som fantes i andre verktøy. Kontestabilitet er avgjørende for Seekr, da vi ønsker å sikre at brukeren har retten til å si at noe ikke er nøyaktig og har en enkel måte å løse det på. Med andre modeller og plattformer er det ofte vanskelig eller ukjent hvordan man kan korrigere feil. Punktfeil etter faktum er ofte ineffektive, for eksempel å manipulere innputt-prompten garanterer ikke at svaret blir korrigert hver gang eller i hver situasjon. Vi gir brukeren alle verktøyene for transparens, forklarbarhet og en enkel måte å lære og korrigere modellen i et rent brukergrensesnitt. Fra å bygge på pålitelige foundation-modeller ved basis til enkelt å bruke testing- og målingsverktøy, sikrer SeekrFlow nøyaktige resultater som kan forstås og validert. Det er essensielt å forstå at AI-sikkerhetstiltak ikke bare er noe som er hyggelig å ha eller å tenke på senere – vi tilbyr kundene enkle å bruke forklarbarhets- og kontestabilitetsverktøy fra starten av implementeringen.

Hvordan integrerer plattformen data-forberedning, finjustering, hosting og inferens for å muliggjøre raskere eksperimentering og tilpasning av LLM?

SeekrFlow integrerer hele AI-utviklingsprosessen i én plattform. Fra å håndtere merking og formatering av data med sin AI-assisterte genereringsmetode, til finjustering av en basis-modell, og helt til å servere for inferens og overvåking av den finjusterte modellen. I tillegg lar SeekrFlows forklarbarhetsverktøy AI-modellører oppdage hull i modellens kunnskap, forstå hvorfor feil og hallucinasjoner skjer, og handle direkte på dem. Denne integrerte, helhetlige tilnærmingen muliggjør rask eksperimentering og modell-iterasjoner.

Hva andre unike teknologier eller metoder har Seekr utviklet for å sikre nøyaktigheten og påliteligheten av sine AI-modeller?

Seekr har utviklet patenterer AI-teknologi for å vurdere kvaliteten, påliteligheten, bias, giftighet og sannhetsgehalten i innhold, enten det er tekst, bilde eller lydsignal. Denne teknologien gir rik data og kunnskap som kan fusjoneres inn i enhver AI-modell, i form av treningsdata, algoritmer eller modell-sikkerhetstiltak. Til slutt kan Seekrs teknologi for å vurdere innhold brukes til å sikre sikkerheten, faktualiteten, nyttigheten, upartiskheten og rettferdigheten av AI-modeller. Et eksempel på dette er SeekrAlign, som hjelper merker og utgivere å øke rekkevidde og inntekt med ansvarlig AI som ser på konteksten av innhold gjennom vår patenterede Civility Scoring.

Seekrs tilnærming til forklarbarhet sikrer at AI-modell-responsene er forståelige og sporbare. Ettersom AI-modeller blir involvert i beslutninger med konsekvenser, blir behovet for AI-modellører å forstå og kontestere modell-beslutninger stadig viktigere.

Hvordan hjelper SeekrFlows prinsipp-tilpasningsagent utviklere med å tilpasse AI-modeller med bedriftens verdier og bransjereguleringer?

SeekrFlows prinsipp-tilpasningsagent er en kritisk funksjon som hjelper utviklere og bedrifter å redusere den totale kostnaden av deres RAG-baserte systemer og effektivt tilpasse sin AI til sine unike prinsipper, verdier og bransjereguleringer uten å måtte samle inn og prosessere strukturert data.

Seekr-agenten bruker avanserte tilpasningsalgoritmer for å sikre at LLM-er oppfører seg i henhold til disse unike og forhåndsdefinerte standardene, intensjoner, regler eller verdier. Under trenings- og inferens-fasene, guider prinsipp-tilpasningsagenten brukerne gjennom hele data-forberednings- og finjusteringsprosessen, samtidig som den integrerer ekspert-innputt og etiske retningslinjer. Dette sikrer at våre AI-modeller opererer innen akseptable grenser.

Ved å tilby verktøy for å tilpasse og påtvinge disse prinsippene, gir SeekrFlow bedrifter mulighet til å beholde kontroll over sine AI-applikasjoner, og sikre at de reflekterer bedriftens verdier og overholder lovmessige og bransjekrav. Denne evnen er essensiell for å bygge tillit hos kunder og interessenter, da den demonstrerer en forpliktelse til ansvarlig AI.

Kan du diskutere samarbeidet med OneValley og hvordan Seekrs teknologi støtter Haystack AI-plattformen?

OneValley er en pålitelig ressurs for titusener av entreprenører og små til mellomstore bedrifter (SMB) verden over. Et vanlig problem disse lederne møter, er å finne riktig råd, produkter og tjenester for å starte og vokse sine bedrifter. Seekrs bransjespesifikke LLM-er støtter OneValleys nyeste produkt, Haystack AI, som tilbyr kundene tilgang til store databaser med tilgjengelige produkter, deres attributter, priser, for- og ulemper og mer. Haystack AI gir kundene intelligente anbefalinger og svarer på spørsmål, alt tilgjengelig gjennom en chatbot i appen.

Hva spesifikke fordeler tilbyr Haystack til startup-bedrifter og SMB-er, og hvordan støtter Seekrs AI disse fordelene?

Uansett om en bruker trenger et raskt svar for å vite hvilken forretningskort som tilbyr høyest kontant-tilbakebetaling med lavest avgift per bruker og lavest APR, eller å sammenligne to CRM-systemer de vurdere som riktige løsninger, tilbyr Haystack AI, støttet av Seekr, riktige svar raskt og på en kostnadseffektiv måte. Å måtte vente på og spørre en menneskelig ekspert for å svare på disse spørsmålene og all forskningen som følger med, er uhåndterlig for ekstremt travle bedriftsledere. Kundene ønsker nøyaktige svar de kan stole på, raskt, uten å måtte gjennomføre resultater (og sponsorerte lenker!) fra en websøkemotor. Deres tid er best brukt på å drive sine kjernebedrifter. Dette er et godt eksempel på hvor Seekr AI løser et reelt bedriftsbehov.

Hvordan sikrer Seekr at sine AI-løsninger forblir skalerbare og kostnadseffektive for bedrifter av alle størrelser?

Det enkle svaret er å sikre skala og lav kostnad, trenger man et strategisk samarbeid for å få tilgang til beregning i stor skala. Å levere skalerbare, kostnadseffektive og pålitelige AI-løsninger, krever ekteskapet mellom beste-in-class AI-programvare som kjører på ledende generasjons-hardware. Vårt samarbeid med Intel omfatter en flerårig forpliktelse til å få tilgang til en stadig voksende mengde AI-hardware, inkludert oppgradering gjennom generasjoner fra nåværende Gaudi 2 til Gaudi 3 i begynnelsen av 2025 og utover på neste chip-innovasjoner. Vi satset på at den beste tilgjengeligheten og prisen på beregning ville komme fra den faktiske produsenten av silikon, som Intel er ett av bare to i verden som produserer sine egne chip. Dette løser alle problemer rundt mangel, spesielt når vi og våre kunder skalerer og sikrer best mulig pris-ytelsesforhold som fordeler kunden.

Seekr-kunder som kjører på sine egne tjenester, betaler bare for faktisk bruk. Vi tar ikke betalt for idle GPU-er. SeekrFlow har en høyt konkurranseutsatt prismodell sammenlignet med andre i bransjen, som støtter de minste til de største utøyninger.

Takk for det flotte intervjuet, lesere som ønsker å lære mer, bør besøke Seekr.