Rob Clark, Președinte și CTO al Seekr – Seria de interviuri

Rob Clark este Președintele și Directorul Tehnologic (CTO) al Seekr. Rob are peste 20 de ani de experiență în inginerie software, management de produs, operațiuni și dezvoltare de tehnologii de inteligență artificială și web-scale de ultimă generație. Înainte de a se alătura Seekr, el a condus mai multe soluții de inteligență artificială și căutare pentru unele dintre cele mai mari companii de telecomunicații, publicare și comerț electronic din lume.

Seekr o companie de inteligență artificială, creează modele de limbaj mari (LLM) de încredere care identifică, punctează și generează conținut fiabil la scară.

Începând cu căutarea web, inovația continuă a Seekr a produs tehnologii brevetate care îmbunătățesc siguranța și valoarea web. Modelele lor, dezvoltate cu input uman expert și explicabilitate, abordează nevoile clienților în evaluarea conținutului, inteligență generativă și antrenarea și validarea LLM-urilor de încredere.

Puteți descrie misiunea de bază a Seekr și cum se diferențiază în peisajul competitiv al inteligenței artificiale?

Am fondat Seekr pe principiul simplu, dar important, că toată lumea ar trebui să aibă acces la informații de încredere, credibile și fiabile – indiferent de forma sau locul în care există. Nu contează dacă sunteți un consumator online sau o afacere care folosește aceste informații pentru a lua decizii cheie – sistemele de inteligență artificială responsabile permit tuturor să înțeleagă pe deplin informațiile, asigurându-se că ceea ce rezultă din inteligența generativă este exact și fiabil.

Când informațiile sunt nefiabile, ele acoperă întregul spectru, de la sensaționalismul mai benign până la cazurile mai grave de comportamente inautentice coordonate, destinate să înșele sau să influențeze, în loc să informeze. Abordarea Seekr față de inteligența artificială asigură că utilizatorul are transparență deplină asupra conținutului, inclusiv proveniență, linie de timp și obiectivitate, și capacitatea de a construi și de a utiliza inteligență artificială transparentă, de încredere, cu explicabilitate și cu toate gardurile de protecție, astfel încât consumatorii și afacerile să poată avea încredere în ea.

Pe lângă furnizarea de modele de limbaj mari (LLM) optimizate pentru industrie, Seekr a început să construiască modele de bază diferențiate prin transparență și acuratețe mai mare, cu erori și prejudecăți reduse, inclusiv toate instrumentele de validare. Acest lucru este posibil prin colaborarea Seekr cu Intel pentru a utiliza acceleratoarele de inteligență artificială Gaudi de ultimă generație la cel mai bun raport preț-performanță. Am ales să nu ne bazăm pe modele de bază externe, unde datele de antrenare erau necunoscute și arătau erori și prejudecăți inerente, mai ales că acestea sunt adesea antrenate pe date populare, în loc de datele cele mai credibile și fiabile. Ne așteptăm să lansăm acestea spre sfârșitul anului.

Produsul nostru principal se numește SeekrFlow, o platformă completă de la capăt la capăt care antrenează, validează, implementează și escaladează inteligență artificială de încredere. Permite întreprinderilor să-și utilizeze datele în mod securizat, pentru a dezvolta rapid inteligență artificială pe care se pot baza, optimizată pentru industria lor.

Care sunt caracteristicile cheie ale SeekrFlow, și cum simplifică procesul de dezvoltare și implementare a inteligenței artificiale pentru întreprinderi?

SeekrFlow adoptă o abordare de sus în jos, cu rezultate prioritare, permițând întreprinderilor să rezolve probleme utilizând inteligență artificială, atât prin eficiențe operaționale, cât și prin oportunități de venituri noi, prin intermediul unei platforme coezive. Această integrare include acces securizat la date, pregătire automată a datelor, fine-tuning a modelului, garduri de protecție, instrumente de validare și escaladare, eliminând nevoia de multiple instrumente disparate și reducând complexitatea talentului tehnic intern care gestionează diferitele aspecte ale dezvoltării inteligenței artificiale în mod separat.

Pentru întreprinderi, personalizarea este cheia, deoarece o abordare “un model se potrivește tuturor” nu rezolvă problemele unice de afaceri. SeekrFlow permite clienților să-și utilizeze datele de întreprindere în mod securizat și să se alinieze nevoilor specifice ale industriei lor. Acest lucru este deosebit de important în industrii reglementate, cum ar fi finanțe, sănătate și guvern.

Abordarea Seekr de antrenare asistată de inteligență artificială reduce semnificativ costurile, timpul și nevoia de supraveghere umană asociate cu etichetarea și achiziționarea datelor, prin sintetizarea de date de înaltă calitate și specifice domeniului, utilizând principii specifice domeniului, cum ar fi documente de politică, ghiduri sau date furnizate de întreprindere.

Angajamentul Seekr față de fiabilitate și explicabilitate este înrădăcinat în SeekrFlow. Nicio întreprindere nu dorește să implementeze un model în producție și să descopere că acesta “halucinează”, oferind informații greșite sau, în cel mai rău caz, oferind produse și servicii gratuite! SeekrFlow include instrumentele necesare pentru a valida modelele pentru fiabilitate, pentru a reduce erorile și pentru a permite utilizatorului să vadă ce afectează ieșirea unui model, înapoi la datele de antrenare originale. La fel cum inginerii de software și QA pot scana, testa și valida codul, oferim aceleași capacități pentru modelele de inteligență artificială.

Acest lucru este oferit la un cost optim pentru întreprinderi. Colaborarea noastră cu Intel, care rulează în cloud-ul de inteligență artificială al Intel, permite Seekr să aibă cel mai bun raport preț-performanță, pe care îl transmitem clienților noștri.

Cum abordează SeekrFlow problemele comune, cum ar fi costul, complexitatea, acuratețea și explicabilitatea în adoptarea inteligenței artificiale?

Punctele de preț ridicate și lipsa de inteligență artificială hardware sunt două dintre cele mai mari bariere la intrare cu care se confruntă întreprinderile. Datorită colaborării menționate anterior cu Intel, SeekrFlow are acces la cantități uriașe de hardware de inteligență artificială de ultimă generație, care pot gestiona sarcini de lucru mari de inteligență artificială, utilizând atât acceleratoarele de inteligență artificială Gaudi ale Intel, cât și procesoarele Xeon optimizate pentru inteligență artificială.

Este important de remarcat că SeekrFlow este agnostic față de furnizorul de cloud și platformă și rulează pe cele mai recente generații de procesoare de inteligență artificială de la Intel, Nvidia și alții. Scopul nostru este de a abstractiza complexitatea hardware-ului de inteligență artificială și de a evita blocarea furnizorului, permițând în același timp deblocarea întregii valori unice a fiecărui software, instrument și ecosistem al acestor procesoare. Acest lucru include atât rulează în cloud, cât și în centre de date operate pe teren.

Când am construit SeekrFlow, am văzut clar lipsa de contestabilitate care exista în alte instrumente. Contestabilitatea este esențială la Seekr, deoarece dorim să ne asigurăm că utilizatorul are dreptul de a spune că ceva nu este exact și are o modalitate ușoară de a rezolva această problemă. Cu alte modele și platforme, adesea este dificil sau necunoscut cum să corectezi erorile. Reparațiile punctuale ulterioare nu sunt adesea eficiente, de exemplu, manipularea promptului de intrare nu garantează că răspunsul va fi corectat de fiecare dată sau în fiecare scenariu. Oferta noastră include toate instrumentele pentru transparență, explicabilitate și o modalitate simplă de a preda și corecta modelul într-un interfață de utilizator curat. De la construirea pe baza modelelor de bază de încredere până la instrumentele ușor de utilizat de testare și măsurare, SeekrFlow asigură rezultate exacte care pot fi înțelese și validate. Este esențial să înțelegem că gardurile de protecție ale inteligenței artificiale nu sunt doar ceva frumos de avut sau de gândit ulterior – oferim clienților noștri instrumente simple de utilizat pentru explicabilitate și contestabilitate de la începutul implementării.

Cum integrează platforma pregătirea datelor, fine-tuning-ul, găzduirea și inferența pentru a permite experimentarea și adaptarea mai rapidă a modelelor de limbaj mari?

SeekrFlow integrează procesul de dezvoltare a inteligenței artificiale de la capăt la capăt, pe o singură platformă. De la gestionarea etichetării și formatarea datelor cu abordarea sa asistată de inteligență artificială, până la fine-tuning-ul unui model de bază, și până la servirea pentru inferență și monitorizarea modelului fine-tuning-uit. În plus, instrumentele de explicabilitate ale SeekrFlow permit modelatorilor de inteligență artificială să descopere lacunele în cunoașterea modelului, să înțeleagă de ce apar greșeli și “halucinații” și să acționeze direct asupra lor. Această abordare integrată, de la capăt la capăt, permite experimentarea și iterarea rapidă a modelelor.

Care sunt alte tehnologii sau metodologii unice pe care Seekr le-a dezvoltat pentru a asigura acuratețea și fiabilitatea modelelor sale de inteligență artificială?

Seekr a dezvoltat tehnologie de inteligență artificială brevetată pentru evaluarea calității, fiabilității, prejudecății, toxicității și veracității conținutului, indiferent dacă este vorba de text, imagine sau semnal audio. Această tehnologie oferă date și cunoștințe bogate care pot fi integrate în orice model de inteligență artificială, sub formă de date de antrenare, algoritmi sau garduri de protecție ale modelului. În cele din urmă, tehnologia Seekr pentru evaluarea conținutului poate fi utilizată pentru a asigura siguranța, factualitatea, utilitatea, imparțialitatea și corectitudinea modelelor de inteligență artificială. Un exemplu în acest sens este SeekrAlign, care ajută brandurile și editorii să crească audiența și veniturile cu inteligență artificială responsabilă, care examinează contextul conținutului prin intermediul scorării noastre de civilitate brevetate.

Abordarea Seekr față de explicabilitate asigură că răspunsurile modelului de inteligență artificială sunt inteligibile și trăsnete. Pe măsură ce modelele de inteligență artificială sunt implicate în decizii cu consecințe, nevoia modelatorilor de inteligență artificială de a înțelege și a contesta deciziile modelului devine din ce în ce mai importantă.

Cum ajută agentul de aliniere a principiilor SeekrFlow dezvoltatorilor să alinieze modelele de inteligență artificială cu valorile și reglementările industriei lor?

Agentul de aliniere a principiilor SeekrFlow este o caracteristică critică care ajută dezvoltatorii și întreprinderile să reducă costul general al sistemelor bazate pe RAG și să alinieze eficient inteligența artificială la principiile, valorile și reglementările industriale unice, fără a necesita colectarea și prelucrarea datelor structurate. Agentul Seekr utilizează algoritmi avansați de aliniere pentru a asigura că comportamentul modelelor de limbaj mari se conformează acestor standarde unice și predefinite, intenții, reguli sau valori. În timpul fazei de antrenare și inferență, agentul de aliniere a principiilor ghidă utilizatorii prin întregul proces de pregătire a datelor și fine-tuning, integrând în mod constant inputuri expert și ghiduri etice. Acest lucru asigură că modelele noastre de inteligență artificială funcționează în limite acceptabile.

Prin furnizarea de instrumente pentru personalizarea și impunerea acestor principii, SeekrFlow împuternicește întreprinderile să mențină controlul asupra aplicațiilor lor de inteligență artificială, asigurându-se că acestea reflectă valorile companiei și se conformează cerințelor legale și de industrie. Această capacitate este esențială pentru a construi încredere cu clienții și stakeholderii.

Puteți discuta colaborarea cu OneValley și cum tehnologia Seekr alimentează platforma Haystack AI?

OneValley este o resursă de încredere pentru zeci de mii de antreprenori și întreprinderi mici și mijlocii (IMM) din întreaga lume. O problemă comună cu care se confruntă acești lideri este găsirea sfaturilor, produselor și serviciilor potrivite pentru a începe și a dezvolta afacerile lor. Modelele de limbaj mari (LLM) specifice industriei Seekr alimentează cel mai recent produs al OneValley, Haystack AI, care oferă clienților acces la baze de date uriașe de produse disponibile, atribute, prețuri, avantaje și dezavantaje și multe altele. Haystack AI oferă recomandări inteligente utilizatorilor și răspunde la întrebări, toate accesibile prin intermediul unui chatbot din aplicație.

Care sunt beneficiile specifice pe care Haystack le oferă startup-urilor și IMM-urilor, și cum îmbunătățește inteligența artificială Seekr aceste beneficii?

Indiferent dacă un utilizator are nevoie de un răspuns rapid pentru a ști care este cartea de credit pentru afaceri care oferă cea mai mare recompensă în numerar, cu cele mai mici taxe pe utilizator și cel mai mic APR, sau pentru a compara și a contrasta două sisteme CRM pe care le ia în considerare ca soluție potrivită, Haystack AI, alimentat de Seekr, oferă utilizatorilor răspunsuri rapide și în cel mai eficient mod posibil. Având în vedere timpul și efortul necesare pentru a obține un răspuns de la un expert uman și pentru a efectua cercetările necesare, Haystack AI oferă clienților răspunsuri exacte și rapide, fără a fi nevoie să parcurgă rezultatele (și link-urile sponsorizate!) unui motor de căutare. Timpul lor este mai bine cheltuit pentru a-și conduce afacerea. Acesta este un exemplu excelent în care inteligența artificială Seekr rezolvă o nevoie reală de afaceri.

Cum asigură Seekr ca soluțiile sale de inteligență artificială să rămână scalabile și rentabile pentru afaceri de toate dimensiunile?

Răspunsul simplu este să asigurăm scalabilitatea și costurile reduse, este nevoie de o colaborare strategică pentru acces la computere la scară. Furnizarea de inteligență artificială scalabilă, rentabilă și fiabilă necesită combinarea celor mai bune tehnologii de inteligență artificială cu hardware-ul de ultimă generație. Colaborarea noastră cu Intel implică un angajament pe termen lung pentru acces la o cantitate în creștere de hardware de inteligență artificială, inclusiv actualizarea prin generații de la Gaudi 2 la Gaudi 3 în primăvara anului 2025 și ulterior pe următoarele inovații ale procesoarelor. Am făcut o pariu că cea mai bună disponibilitate și preț al computației va veni de la producătorul de siliciu, Intel fiind unul dintre cei doi din lume care produce propriile cipuri. Acest lucru rezolvă orice probleme legate de lipsa de computație, mai ales pe măsură ce noi și clienții noștri ne extindem și asigurăm cel mai bun raport preț-performanță, care beneficiază clientul.

Clienții Seekr care rulează pe propriul serviciu găzduit plătesc doar pentru utilizarea reală. Nu taxăm pentru GPU-uri inactivi. SeekrFlow are un model de preț foarte competitiv comparativ cu contemporanii din domeniu, care susține implementări de la cele mai mici la cele mai mari.

Mulțumim pentru acest interviu minunat, cititorii care doresc să afle mai multe despre Seekr ar trebui să viziteze Seekr.