Rob Clark, Presidente e CTO di Seekr – Serie di Interviste

Rob Clark è il Presidente e Amministratore Delegato (CTO) di Seekr. Rob ha oltre 20 anni di esperienza nell’ingegneria del software, nella gestione dei prodotti, nelle operazioni e nello sviluppo di tecnologie di intelligenza artificiale e web-scale all’avanguardia. Prima di unirsi a Seekr, ha guidato diverse soluzioni di intelligenza artificiale e di ricerca per alcune delle più grandi aziende di telecomunicazioni, editoria e commercio elettronico del mondo.

Seekr è un’azienda di intelligenza artificiale che crea modelli linguistici di grandi dimensioni (LLM) affidabili che identificano, valutano e generano contenuti attendibili su larga scala.

L’innovazione continua di Seekr, a partire dalla ricerca web, ha prodotto tecnologie brevettate che migliorano la sicurezza e il valore web. I modelli, sviluppati con l’input di esperti umani e spiegabilità, affrontano le esigenze dei clienti nella valutazione dei contenuti, nell’intelligenza artificiale generativa e nella formazione e convalida di LLM attendibili.

Può descrivere la missione principale di Seekr e come si distingue nel competitivo panorama dell’intelligenza artificiale?

Abbiamo fondato Seekr sul principio semplice ma importante che tutti dovrebbero avere accesso a informazioni attendibili, credibili e affidabili – indipendentemente dalla loro forma o dalla loro origine. Non importa se si è un consumatore online o un’azienda che utilizza quelle informazioni per prendere decisioni importanti – i sistemi di intelligenza artificiale responsabili consentono a tutti di comprendere appieno le informazioni e di assicurarsi che ciò che esce dall’intelligenza artificiale generativa sia accurato e affidabile.

Quando le informazioni sono inaffidabili, possono avere conseguenze che vanno dal sensazionalismo più benigno al caso peggiore di comportamenti inautentici coordinati volti a ingannare o influenzare invece di informare. L’approccio di Seekr all’intelligenza artificiale garantisce che l’utente abbia una completa trasparenza sui contenuti, compresa la provenienza, la discendenza e l’obiettività, e la capacità di costruire e sfruttare intelligenza artificiale trasparente, affidabile, con spiegabilità e con tutte le garanzie necessarie affinché i consumatori e le aziende possano fidarsi.

In aggiunta alla fornitura di modelli linguistici di grandi dimensioni (LLM) ottimizzati per l’industria, Seekr ha iniziato a costruire modelli di base differenziati per una maggiore trasparenza e accuratezza, con ridotti errori e pregiudizi, compresi tutti gli strumenti di convalida. Ciò è reso possibile grazie alla collaborazione di Seekr con Intel (INTC ) per utilizzare i suoi acceleratori AI di ultima generazione Gaudi al miglior prezzo possibile. Non abbiamo scelto di affidarci a modelli di base esterni dove i dati di formazione erano sconosciuti e mostravano errori e pregiudizi intrinseci, soprattutto poiché sono spesso formati su dati popolari piuttosto che sui dati più credibili e affidabili. Ci aspettiamo di rilasciarli verso la fine dell’anno.

Il nostro prodotto principale si chiama SeekrFlow, una piattaforma completa end-to-end che forma, convalida, distribuisce e scala intelligenza artificiale affidabile. Consente alle aziende di sfruttare i propri dati in modo sicuro, per sviluppare rapidamente intelligenza artificiale su cui possono fare affidamento, ottimizzata per il loro settore.

Quali sono le caratteristiche fondamentali di SeekrFlow e come semplifica il processo di sviluppo e distribuzione dell’intelligenza artificiale per le aziende?

SeekrFlow adotta un approccio dall’alto verso il basso, concentrandosi prima sui risultati, consentendo alle aziende di risolvere problemi utilizzando l’intelligenza artificiale con efficienze operative e nuove opportunità di ricavo attraverso una piattaforma coesa. Questa integrazione include l’accesso sicuro ai dati, la preparazione automatica dei dati, la fine-tuning dell’inferenza, le garanzie, gli strumenti di convalida e la scalabilità, eliminando la necessità di strumenti disparati e riducendo la complessità del talento tecnico interno che gestisce gli aspetti dell’intelligenza artificiale in modo separato.

Per le aziende, la personalizzazione è fondamentale, poiché un approccio “uno modello si adatta a tutti” non risolve problemi aziendali unici. SeekrFlow consente ai clienti di sfruttare i propri dati aziendali in modo sicuro e di allinearsi alle esigenze specifiche del loro settore. Ciò è particolarmente importante in settori regolamentati come finanza, sanità e governo.

L’approccio di Seekr all’addestramento assistito dall’intelligenza artificiale riduce notevolmente i costi, il tempo e la necessità di supervisione umana associati all’etichettatura e all’acquisizione dei dati, sintetizzando dati di alta qualità e specifici del dominio utilizzando principi specifici del dominio come documenti di politica, linee guida o dati aziendali forniti dagli utenti.

Il impegno di Seekr per l’affidabilità e la spiegabilità è radicato in SeekrFlow. Nessuna azienda vuole distribuire un modello in produzione e scoprire che sta “hallucinando”, fornendo informazioni errate o, nel peggiore dei casi, regalando i propri prodotti e servizi gratuitamente! SeekrFlow include gli strumenti necessari per convalidare i modelli per l’affidabilità, ridurre gli errori e consentire all’utente di vedere cosa influenza l’output di un modello, tornando ai dati di formazione originali. Allo stesso modo in cui gli ingegneri del software e i tester possono esaminare, testare e convalidare il loro codice, forniamo le stesse capacità per i modelli di intelligenza artificiale.

Tutto ciò è fornito al costo ottimale per le aziende. La nostra collaborazione con Intel, che utilizza il cloud AI di Intel, consente a Seekr di ottenere il miglior rapporto prezzo-prestazioni che possiamo trasferire ai nostri clienti.

Come SeekrFlow affronta problemi comuni come costi, complessità, accuratezza e spiegabilità nell’adozione dell’intelligenza artificiale?

I punti di prezzo elevati e la scarsità di hardware per l’intelligenza artificiale sono due delle più grandi barriere all’ingresso che le aziende devono affrontare. Grazie alla collaborazione menzionata con Intel, SeekrFlow ha accesso a grandi quantità di hardware per l’intelligenza artificiale di prossima generazione, sfruttando il cloud AI di Intel. Ciò fornisce ai clienti risorse di calcolo scalabili e a costo efficace che possono gestire carichi di lavoro di intelligenza artificiale su larga scala, sfruttando sia gli acceleratori AI Gaudi di Intel che i processori Xeon ottimizzati per l’intelligenza artificiale.

È importante notare che SeekrFlow è agnostico rispetto al fornitore di servizi cloud e alla piattaforma, ed esegue il codice sulle ultime generazioni di chip AI di Intel, Nvidia (NVDA ) e altri. Il nostro obiettivo è quello di astrare la complessità dell’hardware per l’intelligenza artificiale e evitare il lock-in del fornitore, sbloccando al contempo tutto il valore unico del software, degli strumenti e dell’ecosistema di ciascun chip. Ciò include l’esecuzione nel cloud o in datacenter gestiti localmente.

Quando abbiamo costruito SeekrFlow, abbiamo chiaramente visto la mancanza di contestabilità che esisteva in altri strumenti. La contestabilità è fondamentale per Seekr, poiché vogliamo assicurarci che l’utente abbia il diritto di dire che qualcosa non è accurato e di avere un modo semplice per risolverlo. Con altri modelli e piattaforme, spesso è difficile o sconosciuto come correggere gli errori. Le correzioni puntuali dopo il fatto sono spesso inefficaci, ad esempio, la manipolazione del prompt di input non garantisce che la risposta sarà corretta ogni volta o in ogni scenario. Forniamo all’utente tutti gli strumenti per la trasparenza, la spiegabilità e un modo semplice per insegnare e correggere il modello in un’interfaccia utente pulita. Dalla costruzione di modelli di base affidabili alla base fino a strumenti di test e misurazione facili da usare, SeekrFlow garantisce risultati accurati che possono essere compresi e convalidati. È essenziale capire che le garanzie dell’intelligenza artificiale non sono solo qualcosa di carino da avere o da pensare in un secondo momento – piuttosto, offriamo ai clienti strumenti di spiegabilità e contestabilità semplici da usare fin dall’inizio dell’implementazione.

Come la piattaforma integra la preparazione dei dati, la fine-tuning, l’hosting e l’inferenza per consentire un’esperimentazione e un adattamento più rapidi dei modelli linguistici di grandi dimensioni?

SeekrFlow integra l’intero processo di sviluppo dell’intelligenza artificiale in una sola piattaforma. Dalla gestione dell’etichettatura e del formato dei dati con il suo approccio di generazione assistita dall’intelligenza artificiale, alla fine-tuning di un modello di base, fino alla distribuzione per l’inferenza e al monitoraggio del modello fine-tunato. Inoltre, gli strumenti di spiegabilità di SeekrFlow consentono agli sviluppatori di modelli di intelligenza artificiale di scoprire lacune nella conoscenza del modello, comprendere perché si verificano errori e allucinazioni e agire direttamente su di essi. Questo approccio integrato e end-to-end consente un’esperimentazione e un’iterazione rapida dei modelli.

Quali altre tecnologie o metodologie uniche ha sviluppato Seekr per garantire l’accuratezza e l’affidabilità dei suoi modelli di intelligenza artificiale?

Seekr ha sviluppato tecnologie di intelligenza artificiale brevettate per valutare la qualità, l’affidabilità, il pregiudizio, la tossicità e la veridicità dei contenuti, che siano testo, immagini o segnali audio. Questa tecnologia fornisce dati e conoscenze ricchi che possono essere fusi in qualsiasi modello di intelligenza artificiale, sotto forma di dati di formazione, algoritmi o garanzie del modello. In ultima analisi, la tecnologia di Seekr per la valutazione dei contenuti può essere sfruttata per garantire la sicurezza, la fattualità, l’utilità, l’imparzialità e l’equità dei modelli di intelligenza artificiale. Un esempio di ciò è SeekrAlign, che aiuta i marchi e gli editori a crescere e a aumentare i ricavi con intelligenza artificiale responsabile che esamina il contesto dei contenuti attraverso il nostro punteggio di civiltà brevettato.

L’approccio di Seekr alla spiegabilità garantisce che le risposte dei modelli di intelligenza artificiale siano comprensibili e tracciabili. Man mano che i modelli di intelligenza artificiale sono coinvolti in decisioni importanti, la necessità per gli sviluppatori di modelli di intelligenza artificiale di comprendere e contestare le decisioni del modello diventa sempre più importante.

Come l’agente di allineamento dei principi di SeekrFlow aiuta gli sviluppatori ad allineare i modelli di intelligenza artificiale con i valori e le norme dell’azienda?

L’agente di allineamento dei principi di SeekrFlow è una funzione critica che aiuta gli sviluppatori e le aziende a ridurre il costo complessivo dei sistemi basati su RAG e ad allineare efficientemente la loro intelligenza artificiale con i propri principi, valori e norme del settore unici, senza dover raccogliere e elaborare dati strutturati.

L’agente di Seekr utilizza algoritmi di allineamento avanzati per garantire che il comportamento dei modelli linguistici di grandi dimensioni (LLM) si conformi a questi standard, intenzioni, regole o valori predefiniti. Durante le fasi di formazione e inferenza, l’agente di allineamento dei principi guida gli utenti attraverso l’intero processo di preparazione e fine-tuning dei dati, integrando continuamente input di esperti e linee guida etiche. Ciò garantisce che i nostri modelli di intelligenza artificiale operino all’interno di limiti accettabili.

Facendo fornire strumenti per personalizzare e applicare questi principi, SeekrFlow consente alle aziende di mantenere il controllo sulle loro applicazioni di intelligenza artificiale, garantendo che riflettano i valori dell’azienda e si conformino ai requisiti legali e del settore. Questa capacità è essenziale per costruire la fiducia con i clienti e gli stakeholder, poiché dimostra un impegno per l’intelligenza artificiale responsabile.

Può discutere la collaborazione con OneValley e come la tecnologia di Seekr alimenta la piattaforma Haystack AI?

OneValley è una risorsa affidabile per decine di migliaia di imprenditori e piccole e medie imprese (PMI) in tutto il mondo. Un problema comune che questi leader affrontano è trovare il consiglio, i prodotti e i servizi giusti per avviare e far crescere la loro attività. I modelli linguistici di grandi dimensioni (LLM) specifici del settore di Seekr alimentano l’ultimo prodotto di OneValley, Haystack AI, che offre ai clienti l’accesso a vasti database di prodotti disponibili, attributi, prezzi, pro e contro e altro, tutto accessibile attraverso un chatbot in-app.

Quali sono i benefici specifici che Haystack offre alle startup e alle PMI, e come l’intelligenza artificiale di Seekr potenzia questi benefici?

Indipendentemente dal fatto che un utente abbia bisogno di una risposta rapida per sapere quale carta di credito aziendale offre i più alti ricavi in contanti con le commissioni più basse per utente e il tasso di interesse più basso o per confrontare e contrapporre due sistemi CRM che stanno considerando come la soluzione giusta, Haystack AI alimentato da Seekr fornisce loro le risposte giuste in modo rapido e nel modo più economico.

Haystack AI risponde alle domande degli utenti rapidamente e nel modo più economico. Dovere aspettare e chiedere a un essere umano di rispondere a queste domande e condurre tutta la ricerca necessaria per questo tipo di processo è ingestibile per leader aziendali estremamente impegnati. I clienti vogliono risposte accurate su cui possono fare affidamento rapidamente, senza dover sfogliare i risultati (e i link sponsorizzati!) di un motore di ricerca web. Il loro tempo è meglio speso gestendo il loro business di base. Questo è un ottimo esempio di come l’intelligenza artificiale di Seekr risolve un reale bisogno aziendale.

Come Seekr garantisce che le sue soluzioni di intelligenza artificiale rimangano scalabili e a costo efficace per aziende di tutte le dimensioni?

La risposta semplice è che, per garantire la scalabilità e il basso costo, è necessaria una collaborazione strategica per accedere al calcolo su larga scala. La fornitura di soluzioni di intelligenza artificiale scalabili, a costo efficace e affidabili richiede il matrimonio del miglior software di intelligenza artificiale con l’hardware di ultima generazione. La nostra collaborazione con Intel prevede un impegno pluriennale per accedere a una quantità sempre crescente di hardware per l’intelligenza artificiale, inclusa l’aggiornamento attraverso le generazioni dall’attuale Gaudi 2 al Gaudi 3 all’inizio del 2025 e oltre, fino alle prossime innovazioni dei chip. Abbiamo scommesso che la migliore disponibilità e il miglior prezzo del calcolo sarebbero venuti dal vero produttore del silicio, di cui Intel è uno dei due al mondo che produce i propri chip. Ciò risolve qualsiasi problema di scarsità, soprattutto poiché noi e i nostri clienti scaliamo e garantiamo il miglior rapporto prezzo-prestazioni che beneficia il cliente.

I clienti di Seekr che eseguono il servizio ospitato autonomamente pagano solo per l’uso effettivo. Non addebitiamo per le GPU inattive. SeekrFlow ha un modello di prezzi molto competitivo rispetto ai contemporanei nello spazio, che supporta i più piccoli e i più grandi dispiegamenti.

Grazie per la grande intervista, i lettori che desiderano saperne di più possono visitare Seekr.