Rob Clark, Président et Directeur Technique de Seekr – Série d’entretiens

Rob Clark est le Président et le Directeur Technique (CTO) de Seekr. Rob a plus de 20 ans d’expérience dans l’ingénierie logicielle, la gestion de produits, les opérations et le développement de technologies d’intelligence artificielle et de technologies à grande échelle. Avant de rejoindre Seekr, il a dirigé plusieurs solutions d’intelligence artificielle et de recherche pour certaines des plus grandes entreprises de télécommunications, d’édition et de commerce électronique du monde.

Seekr est une entreprise d’intelligence artificielle qui crée des modèles de langage à grande échelle (LLM) fiables qui identifient, notent et génèrent du contenu fiable à grande échelle.

En commençant par la recherche sur le Web, l’innovation continue de Seekr a produit des technologies brevetées qui améliorent la sécurité et la valeur du Web. Ses modèles, développés avec l’input d’experts humains et l’explicabilité, répondent aux besoins des clients en termes d’évaluation de contenu, d’intelligence artificielle générative et de formation et de validation de LLM fiables.

Pouvez-vous décrire la mission principale de Seekr et comment elle se différencie dans le paysage concurrentiel de l’IA ?

Nous avons fondé Seekr sur le principe simple mais important que tout le monde devrait avoir accès à des informations fiables, crédibles et dignes de confiance – quelle que soit leur forme ou leur origine. Que vous soyez un consommateur en ligne ou une entreprise utilisant ces informations pour prendre des décisions clés, des systèmes d’IA responsables nous permettent à tous de comprendre pleinement et mieux les informations, car il est essentiel de s’assurer que ce qui ressort de l’IA générative est précis et fiable.

Lorsque les informations sont peu fiables, cela peut aller d’un sensationnalisme plus bénin à des comportements inauthentiques coordonnés destinés à tromper ou à influencer plutôt qu’à informer. L’approche de Seekr en matière d’IA vise à garantir que l’utilisateur a une transparence totale sur le contenu, y compris la provenance, la lignée et l’objectivité, ainsi que la capacité de construire et de tirer parti d’une IA transparente, fiable, explicative et dotée de garde-fous pour que les consommateurs et les entreprises puissent lui faire confiance.

En plus de fournir des modèles de langage à grande échelle (LLM) optimisés pour l’industrie, Seekr a commencé à construire des modèles de base différenciés par une plus grande transparence et une plus grande précision, avec une réduction des erreurs et des biais, y compris tous les outils de validation. Cela est rendu possible grâce à la collaboration de Seekr avec Intel pour utiliser les derniers accélérateurs d’IA Gaudi à un rapport performances/prix optimal. Nous n’avons pas choisi de nous reposer sur des modèles de base externes dont les données de formation étaient inconnues et présentaient des erreurs et des biais inhérents, en particulier car ils sont souvent formés sur des données populaires plutôt que sur les données les plus crédibles et les plus fiables. Nous prévoyons de les publier vers la fin de l’année.

<p Notre produit principal s'appelle SeekrFlow, une plate-forme complète qui forme, valide, déploie et met à l’échelle une IA fiable. Elle permet aux entreprises de tirer parti de leurs données de manière sécurisée, de développer rapidement une IA sur laquelle elles peuvent compter et optimisée pour leur industrie.

Quels sont les principaux éléments de SeekrFlow, et comment simplifie-t-il le processus de développement et de déploiement de l’IA pour les entreprises ?

SeekrFlow adopte une approche descendante, axée sur les résultats, qui permet aux entreprises de résoudre des problèmes en utilisant l’IA avec à la fois des efficacités opérationnelles et de nouvelles opportunités de revenus grâce à une plate-forme cohérente. Cette intégration comprend l’accès sécurisé aux données, la préparation automatisée des données, le réglage fin du modèle, les garde-fous, les outils de validation et la mise à l’échelle, éliminant ainsi le besoin d’outils disparates multiples et réduisant la complexité du talent technique interne gérant les différents aspects du développement de l’IA séparément.

Pour les entreprises, la personnalisation est essentielle, car une approche « un modèle pour tous » ne résout pas les problèmes commerciaux uniques. SeekrFlow permet aux clients de tirer parti de leurs données d’entreprise de manière sécurisée et efficace, tout en s’alignant sur les besoins spécifiques de leur industrie. C’est particulièrement important dans les industries réglementées comme la finance, les soins de santé et le gouvernement.

L’approche d’entraînement assisté par l’IA de Seekr réduit considérablement le coût, le temps et le besoin de supervision humaine associés à l’étiquetage et à l’acquisition des données, en synthétisant des données de haute qualité et spécifiques au domaine en utilisant des principes spécifiques au domaine tels que des documents de politique, des directives ou des données d’entreprise fournies par l’utilisateur.

L’engagement de Seekr en faveur de la fiabilité et de l’explicabilité est ancré dans SeekrFlow. Aucune entreprise ne souhaite déployer un modèle en production et découvrir qu’il hallucine, fournit de fausses informations ou, dans le pire des cas, donne gratuitement ses produits et services ! SeekrFlow comprend les outils nécessaires pour valider les modèles en termes de fiabilité, réduire les erreurs et permettre à l’utilisateur de voir ce qui impacte la sortie d’un modèle, remontant jusqu’aux données de formation originales. De la même manière que les ingénieurs logiciels et les testeurs peuvent analyser, tester et valider leur code, nous fournissons les mêmes capacités pour les modèles d’IA.

Ceci est fourni à un coût optimal pour les entreprises. Notre collaboration avec Intel, qui s’exécute dans le cloud d’IA d’Intel, permet à Seekr d’obtenir le meilleur rapport performances/prix que nous transmettons à nos clients.

Comment SeekrFlow aborde-t-il les problèmes courants tels que le coût, la complexité, la précision et l’explicabilité dans l’adoption de l’IA ?

Les points de prix élevés et la rareté du matériel d’IA sont deux des principaux obstacles à l’entrée pour les entreprises. Grâce à la collaboration mentionnée avec Intel, SeekrFlow a accès à d’immenses quantités de matériel d’IA de nouvelle génération, en tirant parti des accélérateurs d’IA Gaudi d’Intel et des processeurs Xeon optimisés pour l’IA. Cela fournit aux clients des ressources de calcul évolutives et rentables qui peuvent gérer des charges de travail d’IA à grande échelle, en exploitant à la fois les accélérateurs d’IA Gaudi d’Intel et les processeurs Xeon optimisés pour l’IA.

Il est important de noter que SeekrFlow est agnostique en termes de fournisseur de cloud et de plate-forme et s’exécute sur les derniers processeurs d’IA de Intel, Nvidia et au-delà. Notre objectif est d’abstraire la complexité du matériel d’IA et d’éviter le verrouillage du fournisseur, tout en débloquant toute la valeur unique du logiciel, des outils et de l’écosystème de chaque processeur. Cela inclut à la fois l’exécution dans le cloud ou dans des datacenters exploités sur site.

Lors de la construction de SeekrFlow, nous avons clairement vu le manque de contestabilité qui existait dans d’autres outils. La contestabilité est primordiale chez Seekr, car nous voulons nous assurer que l’utilisateur a le droit de dire que quelque chose n’est pas précis et a un moyen facile de le résoudre. Avec d’autres modèles et plate-formes, il est souvent difficile ou inconnu de savoir comment corriger les erreurs. Les corrections ponctuelles après coup sont souvent inefficaces, par exemple, la manipulation de la invite d’entrée ne garantit pas que la réponse sera corrigée chaque fois ou dans chaque scénario. Nous fournissons à l’utilisateur tous les outils pour la transparence, l’explicabilité et un moyen simple d’enseigner et de corriger le modèle dans une interface utilisateur propre. De la construction sur des modèles de base fiables à la base jusqu’aux outils de test et de mesure faciles à utiliser, SeekrFlow garantit des résultats précis qui peuvent être compris et validés. Il est essentiel de comprendre que les garde-fous d’IA ne sont pas seulement quelque chose de sympathique ou à considérer plus tard – nous offrons aux clients des outils d’explicabilité et de contestabilité simples à utiliser dès le début de la mise en œuvre.

Comment la plate-forme intègre-t-elle la préparation des données, le réglage fin, l’hébergement et l’inférence pour permettre une expérimentation et une adaptation plus rapides des LLM ?

SeekrFlow intègre le processus de développement d’IA de bout en bout, sur une plate-forme. De la gestion de l’étiquetage et du formatage des données avec son approche d’agent d’IA assisté, au réglage fin d’un modèle de base, en passant par le service pour l’inférence et la surveillance du modèle réglé. De plus, les outils d’explicabilité de SeekrFlow permettent aux concepteurs de modèles d’IA de découvrir les lacunes dans les connaissances du modèle, de comprendre pourquoi des erreurs et des hallucinations se produisent et d’agir directement à ce sujet. Cette approche intégrée, de bout en bout, permet une expérimentation et des itérations de modèles rapides.

Quelles autres technologies ou méthodologies uniques Seekr a-t-il développées pour garantir la précision et la fiabilité de ses modèles d’IA ?

Seekr a développé une technologie d’IA brevetée pour évaluer la qualité, la fiabilité, les biais, la toxicité et la véracité du contenu, qu’il s’agisse d’un texte, d’une image ou d’un signal audio. Cette technologie fournit des données et des connaissances riches qui peuvent être fusionnées dans n’importe quel modèle d’IA, sous forme de données de formation, d’algorithmes ou de garde-fous de modèle. En fin de compte, la technologie de Seekr pour évaluer le contenu peut être utilisée pour garantir la sécurité, la factualité, l’utilité, la non-bias et l’équité des modèles d’IA. Un exemple de cela est SeekrAlign, qui aide les marques et les éditeurs à accroître leur portée et leurs revenus avec une IA responsable qui examine le contexte du contenu grâce à notre notation de civilité brevetée.

L’approche de Seekr en matière d’explicabilité garantit que les réponses des modèles d’IA sont compréhensibles et traçables. À mesure que les modèles d’IA sont impliqués dans des décisions à conséquences, le besoin pour les concepteurs de modèles d’IA de comprendre et de contester les décisions de modèles devient de plus en plus important.

Comment l’agent d’alignement de principes de SeekrFlow aide-t-il les développeurs à aligner les modèles d’IA sur les valeurs et les réglementations de l’entreprise ?

L’agent d’alignement de principes de SeekrFlow est une fonctionnalité essentielle qui aide les développeurs et les entreprises à réduire le coût global de leurs systèmes basés sur les principes et à aligner efficacement leur IA sur leurs principes, leurs valeurs et leurs réglementations uniques sans avoir besoin de collecter et de traiter des données structurées.

L’agent de Seekr utilise des algorithmes d’alignement avancés pour garantir que le comportement des LLM se conforme à ces normes, intentions, règles ou valeurs prédéfinies. Au cours des phases de formation et d’inférence, l’agent d’alignement de principes guide les utilisateurs tout au long du processus de préparation et de réglage des données, tout en intégrant en permanence l’input d’experts et les lignes directrices éthiques. Cela garantit que nos modèles d’IA fonctionnent dans des limites acceptables.

En fournissant des outils pour personnaliser et appliquer ces principes, SeekrFlow donne aux entreprises les moyens de conserver le contrôle sur leurs applications d’IA, en garantissant qu’elles reflètent les valeurs de l’entreprise et se conforment aux exigences légales et sectorielles. Cette capacité est essentielle pour établir la confiance avec les clients et les parties prenantes, car elle démontre un engagement en faveur d’une IA responsable.

Pouvez-vous discuter de la collaboration avec OneValley et de la manière dont la technologie de Seekr alimente la plate-forme d’IA Haystack ?

OneValley est une ressource de confiance pour des dizaines de milliers d’entrepreneurs et de petites et moyennes entreprises (PME) dans le monde entier. Un problème courant que ces dirigeants rencontrent est de trouver les conseils, les produits et les services appropriés pour lancer et développer leur entreprise. Les modèles de langage à grande échelle (LLM) spécifiques à l’industrie de Seekr alimentent le dernier produit de OneValley, Haystack AI, qui offre aux clients l’accès à d’immenses bases de données de produits disponibles, de leurs attributs, de leurs prix, de leurs avantages et de leurs inconvénients, et bien plus encore. Haystack AI fait des recommandations intelligentes aux utilisateurs et répond à leurs questions, le tout accessible via un chatbot dans l’application.

Quels sont les avantages spécifiques que Haystack offre aux startups et aux PME, et comment l’IA de Seekr améliore-t-elle ces avantages ?

Que l’utilisateur ait besoin d’une réponse rapide pour savoir quelle carte de crédit professionnelle offre les récompenses en espèces les plus élevées avec les frais les plus bas par utilisateur et le taux d’intérêt annuel le plus bas, ou pour comparer et contraster deux systèmes de gestion de la relation client (CRM) qu’il envisage comme la bonne solution, Haystack AI alimenté par Seekr fournit les bonnes réponses rapidement.

Haystack AI répond aux questions des utilisateurs de manière rapide et rentable. Attendre et poser une question à un humain, ainsi que toute la recherche qui accompagne ce type de processus, est ingérable pour les dirigeants d’entreprise extrêmement occupés. Les clients veulent des réponses précises sur lesquelles ils peuvent compter rapidement, sans avoir à parcourir les résultats (et les liens sponsorisés !) d’un moteur de recherche. Leur temps est mieux employé à gérer leur entreprise principale. C’est un excellent exemple de la manière dont l’IA de Seekr résout un véritable besoin commercial.

Comment Seekr garantit-elle que ses solutions d’IA restent évolutives et rentables pour les entreprises de toutes tailles ?

La réponse simple est de s’assurer de l’évolutivité et du faible coût, vous avez besoin d’une collaboration stratégique pour accéder au calcul à grande échelle. La fourniture de solutions d’IA évolutives, rentables et fiables nécessite le mariage de logiciels d’IA de classe mondiale exécutés sur du matériel de pointe. Notre collaboration avec Intel implique un engagement pluriannuel pour accéder à une quantité croissante de matériel d’IA, y compris la mise à niveau à travers les générations, du Gaudi 2 actuel au Gaudi 3 en 2025, et au-delà, sur les prochaines innovations de puces. Nous avons parié que la meilleure disponibilité et le meilleur prix du calcul proviendraient du fabricant réel du silicium, dont Intel est l’un des deux seuls au monde à produire ses propres puces. Cela résout tout problème de rareté, en particulier à mesure que nous et nos clients évoluons et nous assurons du meilleur rapport performances/prix qui profite au client.

Les clients de Seekr qui exécutent leur propre service hébergé ne paient que pour l’utilisation réelle. Nous ne facturons pas pour les GPU inactifs. SeekrFlow a un modèle de tarification très compétitif par rapport à ses concurrents dans l’espace, qui prend en charge les déploiements allant des plus petits aux plus grands.

Je vous remercie pour cette excellente interview. Les lecteurs qui souhaitent en savoir plus peuvent visiter Seekr.