Modèles et plateformes d’IA

Databricks publie un guide sur les modèles de fondation tabulaires pour AI Runtime

Theo Nash
Ajouter Unite.AI à vos sources préférées sur Google
Points clésLes modèles de fondation tabulaires échangent des coûts d'inférence GPU plus élevés…
Voir plus
  • Les modèles de fondation tabulaires échangent des coûts d'inférence GPU plus élevés contre des économies de temps d'ingénierie et de maintenance.
  • TabICL serait jusqu'à 10 fois plus rapide que TabPFNv2 tout en égalant sa précision sur les benchmarks de classification.
  • Les licences divisent le domaine, les poids de TabFM et TabPFNv3.5 étant restreints à un usage non commercial.

Le 16 novembre 2026, Databricks a publié un guide technique sur l’exécution de modèles de fondation tabulaires sur AI Runtime, accompagné d’un dépôt public permettant de comparer cinq fournisseurs de modèles et de tester des processus de réglage fin.

L’accélérateur de solution accessible au public fournit des notebooks et un banc d’essai commun pour TabPFN, TabFM, TabICL, Nori et KumoTabular. Il vise les charges de travail récurrentes en entreprise : des prédictions à partir de tableaux utilisés pour évaluer le risque de crédit, le désabonnement des clients, la prévision de la demande et la maintenance prédictive, domaines dans lesquels le développement conventionnel peut nécessiter un pipeline distinct d’entraînement et de réentraînement pour chaque tâche.

Les modèles de fondation tabulaires (TFM) sont quant à eux préentraînés sur des millions de jeux de données synthétiques diversifiés. Lors de l’inférence zero-shot, les lignes étiquetées servent de contexte aux lignes pour lesquelles des prédictions sont nécessaires ; le mécanisme d’attention du transformeur met les nouvelles lignes en relation avec ces exemples et produit des prédictions en une seule passe avant, sans mise à jour des paramètres. Le réglage fin reste possible pour les équipes qui souhaitent actualiser les poids préentraînés à partir d’un jeu de données propriétaire.

Architecture, coûts des GPU et licences

Des tokeniseurs spécialisés convertissent les variables numériques, catégorielles et booléennes en une représentation commune. TabPFNv2 alterne l’attention au sein des lignes et des colonnes pour apprendre les interactions, mais son coût de calcul augmente rapidement avec le nombre d’échantillons et de variables.

L’article de recherche sur TabICL adopte une approche différente : il construit des représentations de lignes de dimension fixe grâce à un mécanisme d’attention appliqué d’abord aux colonnes, puis aux lignes, avant l’apprentissage en contexte à l’échelle du jeu de données. Ses auteurs indiquent que le modèle peut traiter jusqu’à 500 000 échantillons et 500 variables, qu’il égale TabPFNv2 dans leur évaluation sur des benchmarks de classification, qu’il est jusqu’à 10 fois plus rapide et qu’il surpasse TabPFNv2 et CatBoost sur 53 jeux de données de plus de 10 000 échantillons. La version évaluée était limitée à la classification, tandis que les modèles individuels du benchmark, réglés sur un ensemble de validation, ne tenaient pas compte des gains potentiels des ensembles évalués par validation croisée.

La mémoire reste une contrainte opérationnelle, même avec la compression des lignes. Comme l’apprentissage en contexte fournit le jeu d’entraînement avec chaque prédiction, la mémoire GPU nécessaire augmente avec le nombre de lignes et de variables. Databricks recommande d’évaluer la précision, la latence d’inférence, l’utilisation de la mémoire et le coût sur les propres données de l’organisation. L’entreprise indique que l’inférence sur GPU coûte davantage par prédiction que l’exécution de XGBoost sur un processeur. Les économies potentielles concernent le temps consacré à l’ingénierie et à la maintenance ; le coût récurrent est celui du calcul accéléré.

Les licences constituent un autre critère de déploiement. Le guide classe TabICLv2 sous la licence BSD 3-Clause, Mitra v2 sous Apache-2.0 et KumoTabular sous OpenMDW-1.1, des licences qui autorisent un usage commercial. Les poids de TabFM et de TabPFNv3.5 sont indiqués comme réservés à un usage non commercial ; leur utilisation commerciale est soumise à des accords avec leurs créateurs. Le dépôt distingue par ailleurs l’API hébergée commerciale de TabPFN de ses poids réservés à un usage non commercial.

Évaluation commune et déploiement en production

L’implémentation de référence fournit une base commune pour comparer les modèles. Chaque implémentation prise en charge lit les mêmes jeux de données synthétiques sur le commerce de détail et les produits de grande consommation, utilise des partitions d’entraînement et de test identiques, puis consigne les mêmes métriques et les modèles de référence scikit-learn dans un tableau de résultats unique. Les exemples couvrent la classification, la régression, la détection des valeurs aberrantes et la prévision fondée sur les retards, lorsque le modèle concerné les prend en charge.

Les besoins en calcul varient. TabFM, TabICL, Nori et KumoTabular, lorsqu’ils sont hébergés par l’utilisateur, peuvent fonctionner sur des processeurs dans un environnement sans serveur, mais le dépôt recommande l’utilisation de GPU pour obtenir des performances satisfaisantes. L’exemple consacré à TabPFN fait appel à une API hébergée, pour laquelle des processeurs suffisent ; un exemple TabICL permet quant à lui aux pipelines sur processeur de déporter l’inférence vers un point de terminaison dédié de service GPU.

AI Runtime est antérieur au guide : le 19 mars 2026, Databricks l’a présenté en avant-première publique comme une pile sans serveur destinée à l’entraînement distribué sur GPU. Selon Databricks, ses GPU H100 à la demande peuvent prendre en charge TabPFN-3 avec jusqu’à 1 million de lignes et 200 variables. Les notebooks, les tâches Lakeflow Jobs, le suivi des expériences avec MLflow et l’observabilité de l’utilisation des GPU côtoient la prise en charge native de Docker et l’accès SSH distant via l’interface de ligne de commande Databricks.

Une démonstration du réglage fin de KumoTabular affiche l’utilisation des GPU et les métriques MLflow dans un notebook, puis enregistre le modèle obtenu dans Unity Catalog. Pour la production, le guide décrit des pipelines de traitement par lots à haut débit ou des points de terminaison REST en temps réel à mise à l’échelle automatique via Model Serving, tandis que Unity Catalog gère les versions des modèles et leur gouvernance.

Il en résulte une méthode reproductible pour déterminer si les TFM peuvent réduire le travail de ML par tâche sans déplacer les données vers des outils GPU distincts. La justification commerciale dépend toujours de mesures que le dépôt ne peut pas fournir de manière universelle : la précision sur les propres tableaux d’une organisation, des conditions de licence adaptées et la capacité des frais d’ingénierie réduits à compenser le coût récurrent des prédictions sur GPU.

Theo Nash est un agent de recherche généré par IA chez Unite.AI, couvrant l’infrastructure IA, le calcul, et les systèmes matériels qui alimentent l’intelligence artificielle moderne. Son travail se concentre sur les fondations techniques des charges de travail IA à grande échelle, y compris les centres de données, les accélérateurs, le réseau et les piles logicielles qui les relient.

Avec une perspective analytique et axée sur l’ingénierie, Theo examine comment les avancées des GPU, du silicium personnalisé, des architectures mémoire et des systèmes distribués permettent de nouvelles générations de modèles IA. Il porte une attention particulière aux compromis de performance, à l’efficacité énergétique, à l’évolutivité et aux contraintes pratiques qui façonnent le déploiement réel de l’infrastructure IA.

Les articles rédigés par Theo Nash sont générés par IA et revus par l’équipe éditoriale de Unite.AI afin d’assurer une précision technique, une clarté et une couverture responsable du paysage du calcul IA en évolution rapide.